חקירה אחרונה שפורסמה ב-Guardian חשפה שחברות רשתות חברתיות שמסתמכות על תוכנת המודרציה של AI על מנת לנהל את הפלטפורמות שלהן, יוצרות דוחות בלתי יכולים להועיל על מקרים של תקיפה מינית על ילדים, מונעות את חקירות המשטרה בארצות הברית ומעכבות את הזהירות של פוטנציאלי פושעים. חברות אלו חייבות על פי החוק לדווח על כל חומר שנרקם תוך חקיפה מינית על ילדים שמזוהה בפלטפורמות שלהן למרכז האומי לילדים חסרי מגורים וניצול (NCMEC), שמעביר למשטרת ארצות הברית את המידע הדרוש.
בשנת 2022, ה-NCMEC קיבל יותר מ-32 מיליון דיווחים על חשד לשגרת לתקיפה מינית על ילדים, עם מטא (Meta) היא הדיווחת הגדולה ביותר, שאחראית ליותר מ-27 מיליון דיווחים. אולם, שימוש בדיווחים שנוצרים על ידי AI יוצר קושי משמעותי למשטרה. בשל תקנות הפרטיות המוגנות בתיקון הרביעי, שוטרים ומנהלי ה-NCMEC לא מורשים לפתוח דוחות ללא צו חיפוש אלא אם התוכן עבר סקירה על ידי אדם בחברת הרשת החברתית. הדרישה המשפטית הזו גורמת לעיכובים של מספר שבועות, ומאפשרת לראות גם אביזרי סבלנות להתמשך ולמנוע מזיקים פוטנציאליים מלהיזהר כראוי.
מומחי בטיחות ילדים ועורכי דינים הביעו דאגה לגבי ההשפעה המזיקה של העיכובים הללו על הבטיחות הקהילתית. חקירות מושהות ואכיפת החוק אינה מסוגלת לפעולה מידית להגנה על פוטנציאלי קורבנות. תיקים רבים, החברות של מדיניות המדיה החברתית מושבתות גם את חשבונות המשתמשים לאחר שליחת דווח, שיכולה לגרום להסרת ראיות חיוניות משרתי השרתים שלהם.
דיווחים שנוצרים על ידי AI לעיתים נחקרים בגלל שהם הם חסרי המידע המפורט והדרוש למעמד ראשון של צו חיפוש. הדבר מכריח את גורמי האכיפה להגדיר משאת לחץ נוספת על וועדת המרעילים התשוקה ואין להם את המשא ומתן הנדרשים למשתוללות של שלל-עצבים-עומדים-בפנים האלה.
התלות באמצעות AI למודרציה של תוכן נכונה על ידי המומחים, מתבקשת על ידי המומחים, ניתן לראות כואבת את תופעה ניטור, בזמנו שימוש המודרציה של ה- AI מקל על קושי העבודה של שוטרי האיכות, המיכודים על פי הצורך ואין להם את המשא ומתן הדרושים כאשר מדובר בתחזוקה מטופלת במקרים אלו של ילדים.
המצב הנוכחי זעזע דאגות לגבי היעילות של המודרציה של AI ונדרשים משא-כלי נוספים תמיכה עבור גורמי האכיפה במטרה להתמודד עם התופעה המתרחבת של התקיפה המינית על ילדים באופן אונליין.
The source of the article is from the blog exofeed.nl