קבוצת חוקרים מאוניברסיטת שיקגו השיקה את Nightshade 1.0, כלי חדירת מידע מתקדם שנוצר להילחם בשימוש בלתי מורשה של מודלים ללמידת מכונה בחיבור עם Glaze, כלי הגנה הגנית שכבר אוחזר מאתר The Register.
Nightshade מותאם באופן מיוחד לקבצי תמונה ומטרתו לכפות על מודלים ללמידת מכונה להקפיד על זכויות מייצרי התוכן. על ידי רעלות למערכת מידע המתאימות לתמונה, Nightshade יוצר מסיכות עבור מודלים הסופגים תוכן בלתי מורשה. הכלי מקטין שינויים נראים לעין האנוש על התמונה המקורית ובמקביל מבלבל מודלים מבינים מלאכותיים. לדוגמה, תמונה עשויה להראות לבני אדם כתמונה מוצלת של פרה בשדה ירוק, אך מודל מבין זה עשוי לתרגם אותה כתיק נשק הנמצא בחציה.
הצוות מאחורי Nightshade מורכב מתלמידי דוקטורט מאוניברסיטת שיקגו, שון שאן, ונקסין דינג וג'וזפין פסננטי, ומהמרים התומכים בהם, התקשורת המובילה ובן זאו. פרטי Nightshade נמסרו במאמר מחקר שפורסם באוקטובר 2023. הטכניקה שמשמשת Nightshade היא התקפת הרעלת הזחות ספציפיות, שבה תמונות מונועות במתכווננות כדי להטשים את גבולות התגיות הנכונות שלהן במהלך האימון על מודלים.
הכרזת Nightshade היא תשובה לדאגה הגוברת על פעילות התפש בלתי מורשה של מידע, הביאה למספר תביעות משפטיות בין מייצרי תוכן לעסקים באמצעות למידת מכונה. החוקרים טוענים ש-Nightshade יכול להפוך לכלי חזק לבעלי תוכן להגן על הרכוש הרוחני שלהם מאילתורי מודלים שמתעלמים מהודעות זכויות יוצרים ואישורים אחרים.
חשוב לציין ש-Nightshade יכול להציג מגבלות. תוכנה זו עשויה לגרום לשינויים אטומים בתמונה המקורית, במיוחד כאשר מדובר ביצירות אומנות עם צבעים שטוחים ורקעים חלקים. בנוסף, יתכנו שיטות להתמודד עם Nightshade בעתיד, אך החוקרים מאמינים שהם יכולים להתאים את התוכנה שלהם בהתאם.
הצוות מציע לאמנים להשתמש גם ב-Glaze יחד עם Nightshade כדי לשמור על סגנון הוויזואלי שלהם. כאשר Nightshade דואג לנתונים תמונתיים, Glaze משנה את התמונות כדי למנוע מהמודלים לשכפל את הסגנון הוויזואלי של האמן. על ידי הגנה על התוכן והסגנון של יצירתם, אמנים יכולים לשמור על שם המותג שלהם ולמנוע את השכפול בלתי מורשה של הזהות האמנותית שלהם.
למרות ש-Nightshade ו-Glaze דורשות הורדה והתקנה נפרדות לעת זו, הצוות עובד על פיתוח גרסה משולבת כדי לאפשר ליצרני תוכן לתהליך בצורה יעילה יותר.
שאלות נפוצות:
ש: מה זה Nightshade 1.0?
ע: Nightshade 1.0 הוא כלי הרעבת נתונים המיועד להתמודדות עם שימוש בלתי מורשה של מודלים למידת מכונה, שפותח על ידי חוקרים מאוניברסיטת שיקגו.
ש: מה מטרתו של Nightshade?
ע: Nightshade מתוכנן כך שיכול לאלץ מודלים למידת מכונה להתייחס לזכויות של יוצרי התוכן על ידי הרעלת נתוני תמונה ויצירת הפרעות עבור מודלים שמסתובבים תוכן בלתי מורשה.
ש: איך עובד Nightshade?
ע: הכלי ממזער את השינויים הגלויים בתמונה המקורית כשמבלבל את מודלים המלמדים. הוא משנה את מידע התמונה לפרספקטיבה שיכולה להציגו לאדם כדבר אחד, ולמודלים מלמדים לסבת השני.
ש: מי פיתח Nightshade?
ע: הצוות אחרי Nightshade כולל את התלמידים לתואר דוקטור, ותנך בן הון שאם ונקסין דינג וג'וזפין פסננטי, וכן ההורים החולות, התקשרה הצ׳נג ובן זאו באוניברסיטת שיקגו.
ש: האם יש מאמר מחקר על Nightshade?
ע: כן, החוקרים פרסמו מאמר מחקר המסדיר את פרטי Nightshade באוקטובר 2023.
ש: מה זה התקפת הרעלת הזחות ספציפית?
ע: Nightshade משתמשת בטכניקת התקפת הרעלת הזחות ספציפית כדי לשנות תמונות ולערב את גבולות התגיות הנכונות שלהם בזמן האימון של המודלים.
ש: איזה בעיה מנסה לפתור Nightshade?
ע: Nightshade פותח בתגובה לחששות גוברים להפקת הדאטה בלתי מורשית, שהובילו לקרבות משפטיות בין מייצרי התוכן ועסקים מתמודדים בנושא למידת המכונה.
ש: מהם המגבלות של Nightshade?
ע: Nightshade עשויה לגרום לשינויים אטומים בתמונה המקורית, במיוחד עבור יצירות אומנות עם צבעים
The source of the article is from the blog procarsrl.com.ar