התפתחות של AI ביצירת תוכן פגיעה מינית לילדים מהווה אתגר לגופי עיקול חוק. מורכבות התוקפנות של הפגיעה הדיגיטלית בילדים מתעצמת כשבידי חוקרים באוניברסיטת סטנפורד העלו בדו"ח חדש שיצא ב־22 באפריל 2024 לאור הטרנד מזעזע של יצירת תוכן פגיעה מינית לילדים באמצעות AI. הכותבים של המחקר גילו חששות על רמות הקושי המוגברות שטכנולוגיות וחוקים ישנים מעניקים לגופי אכיפת חוקים.
שלבי גידול התוכן שנוצר באמצעות AI, והרבה שמוקסי עומס הנתונים הלא תפוסים, מהווים אתגר חמור למערכות האכיפה. גורסמן, מומחית מובהקת, דוגלת באתגרים הקרובים שנעוצים בתכני AI, ומתראי על עליית זרימה של תמונות ריאליסטיות שיבלו במערכות הנוכחיות של גילוי. כאשר המרכז הלאומי לילדים נעדרים ונשקפים בקושי במשא ומתן עם משאבים לא ראויים, המאבק שלהם נגד בעיה זו מאוחר, כפי שהוצג לאחרונה במאמר בניו יורק טיימס.
כפי שהסביר סטמוס, עוד כותב של הדו"ח, המכשירים החוקיים הם סימן קריא במחסור עבור מרכז הלאומי לילדים נעדרים ונשקפים. אילומיות הניהול מונעת את השימוש בשירותי חיץ, דורשת איחס את תמונות פגיעה מינית ילדים במחשבים מקומיים. זה מגביל במשמעותיות את היכולת של המרכז להשתמש בחומרה מתמחה באימון ופיתוח המודלים של AI שלהם.
כאשר תחרות הציבור בגליית תמונות עימות ברשת מתרחבת, החוקרים קוראים לאחריות גדולה יותר מחברות הטכנולוגיה. בדיון עם קצינים מפלטפורמות שונות, כולל מטא וטיקטוק, נחקרו במהלך האזנה נציאות את החברות על כך שהן לא עושות מספיק על מנת להגן על הקטנים.
הדו"ח המגושם מסטנפורד מבליט את הצורך הדחיק בחקיקה חדשה שתעלה את מימון המרכז לילדים נעדרים ונשקפים ותאפשר גישה לטכנולוגיות מתקדמות יותר. הוא גם דגיש על המעבר לפתרונות טכנולוגיים מתקדמים בתהליך בקו הסייברי להגנת הילדים בצורה יעילה ולחזות בפושעים.
שאלות חשובות הקשורות להתפשטות תוכן פגיעה בילדים שנוצר על ידי AI:
1. מהן האתגרים העיקריים שמול גופי אכיפת החוקים בהתמודדות עם תוכן CSAM שיצר AI? – האתגרים העיקריים כוללים את המורכבות הגוברת של חומרים שנוצרו באמצעות AI והממסרים הנמצאים בתוך גרירה של הנתונים, והמשאבים והטכנולוגיה המוגבלים הזמינים לגופים כמו המרכז הלאומי לילדים נעדרים ונשקפים.
2. למה טכנולוגיות נוכחיות וחוקים אינם ספיקים להתמודד עם CSAM שנוצר AI? – הטכנולוגיות הנוכחיות חסרות את היכולת הדרושה לזיהוי והבחנה של סוגי תוכן שנוצרו באמצעות AI. בנוסף, חוקים קיימים עשויים לא לכסות בצורה קטגורית את הפרטיות של החומר שנוצר AI או למנוע את השימוש בטכנולוגיות מתקדמות עקב החוגגות בפסקלט.
3. מהן התגובות החקיקתיות האפשריות לבעיה? – התגובות החקיקתיות האפשריות כוללות עידוד חוקים לעידוד היווצרות והתפשטות של CSAM שנוצר AI, התייחסות המרכז לילדים נעדרים ונשקפים והקלה על המכשירים החוקיים להרשות שימוש במשאבי מחשוב מתקדמים ובAI במאמצי הגילוי.