اكتشف باحثون في دراسة حديثة الثغرات الموجودة في مزودي الخدمات الذكاء الاصطناعي (AI-as-a-service)، حيث أبرزوا مخاطرين حرجين يمكن استغلالهما من قبل مهاجمي التهديد. وهذا يثير مخاوف بشأن أمان أنظمة الذكاء الاصطناعي وحماية البيانات الحساسة.
المخاطر المحددة في الدراسة تتضمن الإمكانية التي يمكن لمهاجمي التهديد أن يحصلوا من خلالها على امتيازات والوصول إلى نماذج العملاء الآخرين، وحتى السيطرة على أنابيب التكامل المستمر ونشر التكامل المستمر. وهذا يعني أن المهاجمين يمكنهم تلاعب نماذج الذكاء الاصطناعي لتنفيذ هجمات بين المستأجرين، مما يشكل تهديدا كبيرا لمزودي خدمات الذكاء الاصطناعي. ويمكن أن تكون عواقب مثل تلك الهجمات مدمرة، حيث يمكن التسلل إلى ملايين النماذج والتطبيقات الخاصة بالذكاء الاصطناعي المخزنة داخل مزودي الخدمات.
تنشأ هذه المخاطر في سياق أنابيب تعلم الآلة التي أصبحت هدفًا جديدًا لهجمات سلسلة التوريد. منصات مثل Hugging Face، التي تستضيف مستودعات للنماذج الذكاء الاصطناعي، أصبحت أهدافا جذابة لمهاجمي التهديد الذين يسعون لاستخراج معلومات حساسة والحصول على وصول غير مصرح إلى بيئات الهدف.
الثغرات المحددة في الدراسة نتيجة للاستيلاء على البنية التحتية لعمليات الاستنتاج المشتركة واستيلاء على عمليات التكامل المستمر والنشر المستمر المشتركة. وهذا يسمح لمهاجمي التهديد بتحميل نماذج غير موثوقة بتنسيق الـ pickle وتنفيذ هجوم سلسلة التوريد من خلال السيطرة على أنبوب التكامل المستمر. ومن خلال استغلال هذه الثغرات، يمكن للمهاجمين اختراق الخدمة التي يعمل عليها النماذج المخصصة، والتآمر في المجمل على النظام والحصول على وصول غير مصرح إلى نماذج عملاء آخرين.
أسئلة متكررة:
- ماهي مخاطر الذكاء الاصطناعي كخدمة وكيف يمكن استغلالها؟
- ما هي الإجراءات التي يمكن اتخاذها لتقليل مخاطر استخدام النماذج الذكاء الاصطناعي في تنسيق الـ pickle؟
- كيف يمكن لمهاجمي التهديد الاستفادة من مشكلات التهيئة الخاطئة في خدمة Amazon Elastic Kubernetes؟
The source of the article is from the blog toumai.es