تطوّر مجموعة من الباحثين في جامعة شيكاغو “Nightshade 1.0″، أداة تسمم البيانات الهجومية المتطورة التي تهدف إلى مكافحة الاستخدام غير المصرح به لنماذج التعلم الآلي. تعمل هذه الأداة بالتعاون مع أداة الحماية الدفاعية “Glaze” والتي تمت مناقشتها سابقًا في The Register.
صمم “Nightshade” خصيصًا لاستهداف ملفات الصور وهدفه الرئيسي هو إجبار نماذج التعلم الآلي على إحترام حقوق منشئي المحتوى. من خلال تسميم البيانات الخاصة بالصور، يكون “Nightshade” يسبب إخلالًا في عمل النماذج التي تتناول المحتوى غير المصرح به. تقوم الأداة بتقليل التغييرات المرئية على الصورة الأصلية بحيث لا يمكن لعين الإنسان إلا أن يلاحظ تلك التغييرات، في حين يُحير النماذج الذكاء الاصطناعي عبر تفسيرها للصورة بطرق مختلفة. على سبيل المثال، قد تظهر الصورة كصورة مظللة لبقرة على حقل أخضر للإنسان، ولكن يمكن أن يقوم الذكاء الاصتناعي بتفسيرها بأنها حقيبة يد ملقاة على العشب.
يضم فريق “Nightshade” الطلاب الدكتوراه شون شان، وشينين دينغ، وجوزفين باسانتي، بالإضافة إلى الأساتذة هيذر زينغ وبن زهاو. قد قدم الفريق تفاصيل “Nightshade” في ورقة بحث نشرت في أكتوبر 2023. تعتمد تقنية “Nightshade” على هجوم تلويث محدّد الاستدعاء، حيث تتم معالجة الصور بشكل متعمد لتتداخل حدود التوصيف الصحيح في النموذج أثناء التدريب.
جاءت فكرة “Nightshade” استجابةً للقلق المتزايد بشأن جمع البيانات غير المصرح به، مما أدى إلى العديد من النزاعات القانونية بين منشئي المحتوى والشركات التي تعتمد على الذكاء الاصطناعي. يعتقد الباحثون أن “Nightshade” يمكن أن تكون أداة قوية لأصحاب المحتوى لحماية الملكية الفكرية لهم من مدربي النماذج الذين يتجاهلون إشعارات حقوق النشر وغيرها من أشكال الإذن.
من الجدير بال mرة إلى أن “Nightshade” لها بعض القيود، فقد يؤدي استخدام البرنامج إلى تغييرات طفيفة في الصورة الأصلية، وخصوصًا الأعمال الفنية التي تحتوي على ألوان مسطحة وخلفيات سلسة. بالإضافة إلى ذلك، قد يتم تطوير طرق لمجابهة “Nightshade” في المستقبل، ولكن يعتقد الباحثون أنهم قادرون على تكييف برامجهم بناءً على ذلك.
يقترح الفريق أيضًا استخدام “Glaze” بالتزامن مع “Nightshade” لحماية أنماط العرض البصرية للفنانين. في حين يركز “Nightshade” على بيانات الصور، يُعد “Glaze” تطبيقًا يقوم بتعديل الصور لمنع النماذج من تكرار أسلوب العرض البصري للفنان. من خلال حماية المحتوى وأسلوب عملهم الفني، يمكن للفنانين الحفاظ على سمعتهم العلامت التجارية ورفض إنتاج أعمالهم الفنية بطريقة غير مصرح بها.
على الرغم من أن “Nightshade” و”Glaze” يتطلبان حاليًا عمليات تحميل وتثبيت منفصلة، إلا أنه يعمل الفريق على تطوير نسخة مدمجة لتبسيط العملية بالنسبة لمنشئي المحتوى.
أسئلة متكررة حول “Nightshade”:
س: ما هو “Nightshade 1.0″؟
ج: “Nightshade 1.0” هي أداة لتسميم البيانات الهجومية تم تطويرها من قبل باحثين من جامعة شيكاغو لمكافحة الاستخدام غير المصرح به لنماذج التعلم الآلي.
س: ما هو الغرض من “Nightshade”؟
ج: تم تصميم “Nightshade” لإجبار نماذج التعلم الآلي على إحترام حقوق منشئي المحتوى من خلال تسميم البيانات الخاصة بالصور وخلق اضطرابات في عمل النماذج التي تتناول المحتوى غير المصرح به.
س: كيف يعمل “Nightshade”؟
ج: يقلل “Nightshade” من التغييرات المرئية على الصورة الأصلية في حين يحير نماذج الذكاء الاصطناعي. يعدل الأداة بيانات الصور بطريقة يمكن أن يتصورها البشر على أنها شيء واحد، بينما يفسر نماذج الذكاء الاصطناعي ذلك بشكل مختلف.
س: من طور “Nightshade”؟
ج: يتضمن فريق “Nightshade” الطلاب الدكتوراه شون شان، وشينين دينغ، وجوزفين باسانتي، بالإضافة إلى الأساتذة هيذر زينغ وبن زهاو من جامعة شيكاغو.
س: هل هناك ورقة بحث حول “Nightshade”؟
ج: نعم، لقد قام الباحثون بنشر ورقة بحث توضح تفاصيل “Nightshade” في أكتوبر 2023.
س: ما هو هجوم التسميم محدد الاستدعاء؟
ج: يستخدم “Nightshade” تقنية هجوم التسميم محدد الاستدعاء لتلاعب الصور أثناء تدريب النموذج، وذلك بإغاظة حدود التوصيف الصحيح لها.
س: ما هي المشكلة التي يهدف “Nightshade” إلى حلها؟
ج: تم تطوير “Nightshade” كاستجابة للقلق المتزايد بشأن جمع البيانات غير المصرح به، مما أدى إلى نزاعات قانونية بين منشئي المحتوى وشركات الذكاء الاصطناعي.
س: ما هي قيود “Nightshade”؟
ج: قد يؤدي استخدام “Nightshade” إلى تغييرات طفيفة في الصورة الأصلية، خصوصًا للأعمال الفنية التي تحتوي على ألوان مسطحة وخلفيات سلسة. قد يتم أيضًا تطوير طرق مضادة لـ “Nightshade” في المستقبل.
س: ما هو “Glaze”؟
ج: “Glaze” هي أداة حماية دفاعية تعمل بالتعاون مع “Nightshade”. يعدل “Glaze” الصور لمنع النماذج من تكرار أسلوب العرض البصري للفنان.
س: كيف يمكن للفنانين حماية أعمالهم باستخدام “Nightshade” و”Glaze”؟
ج: من خلال استخدام “Nightshade” و”Glaze” معًا، يمكن للفنانين حماية المحتوى وأسلوبه البصري، والحفاظ على سمعتهم العلامت التجارية ورفض إنتاج أعمالهم الفنية بطريقة غير مصرح بها.
التعريفات:
1. نماذج التعلم الآلي: هي خوارزميات ونماذج إحصائية تمكن الحواسيب من التعلم واتخاذ توقعات أو قرارات دون أن تبرمج صراحة.
2. التسميم البيانات: تقنية يقوم فيها المهاجمون الخبيثون بتلاعب البيانات لضليل نما
The source of the article is from the blog kunsthuisoaleer.nl