שימוש לא נכון של טכנולוגיית AI מביא למעצר של מורה מרילנד
בשימוש מבלבל של טכנולוגיה, מורה לחינוך גופני נעצר בחשד ליצירת הקלטת קול פייק עמוק. ההקלטה המטעה עשתה שימוש במודלים של חדק כדי לחקות את קולו של המנהל של בית הספר ולהפיץ הערות שנאה לעבר חברים אפריקאיים ויהודים בבית הספר.
דזון דאריאן, ששימש גם כמנהל הספורט של הבית הספר, לפי הדיווחים תכנתה צליל קטע שהציג את המנהל, אריק איסוורט, כאדם לא רגיש לנושא הגזענות. הקטע המזויף הזה העיד שהמנהל פגע ביכולות הלימוד של תלמידים שחורים ונתן ביטויים אנטי-סמייטיים לגברים יהודים, כולל שני מורים במוסד החינוך.
הקלט הוויראלי, שהועבר ברחבי לאורחי הרשת, גרם לטענות מיידיות. אך לאחר חקירה, שטוטגרייסו החוקי של מחוז בולטימור הצליח לאשר את חוסר האונים של ההקלטה, אישר את הייצור המלאכותי שלה.
איסוורט, שתקף שאי הגיר קיום קודם של דאריאן, מצא עצמו ביחס נגדי עם המורה, וכן הנועם שלו בפעלולים הנקמיים שלו. העבר המורכב של דאריאן עם בית הספר כלל ביקורת במשיכה של כספים והחלטות דירות מורכבות.
האירוע הסקנדלוזי הזה פגע בסביבת החינוך בבית הספר התיכון פייקסוויל, גורם לצרות לכל הקהילה.
לאחר מכן נעצר בשדה תעופה מקומי, דאריאן נתקל בתקפים לא רק בגלל הפייק, אלא גם בגניבות והטרדה. האירוע גרם לחששות לגבי הדילמות האתיות של טכנולוגיה של יישומים.
טכנולוגיית הפייק עמוק וחששות אתיים
טכנולוגיית הפייק עמוק, המשתמשת ב- AI כדי ליצור מימון סמוי או וידיאו, יש לה פוטנציאל רחב לשימוש לא נכון. במקרה המורה המרילנדי דזון דאריאן, הטענות על שימוש בטכנולוגיה זו לשקר קולו של המנהל בית הספר גרמו לשאלות חשובות אתיות ומשפטיות.
שאלות חשובות ותשובות:
– אילו השלכות משפטיות כלולות ביצירת פייק עמוק? בהתאם לשטח סמכות, יצירת פייק עמוק עם מכוון לשקר או לגרום נזק עשוי להוביל להטרדה, איומים, שקר זהות או אפילו להטמעה של תביעות פליליות יותר קשות אם התוכן מסית אלימות או גורם נזק רב.
– איך ניתן לקבוע אם קליפ אודיו הוא פייק עמוק? הרשויות והמומחים נהגים להפעיל ניתוח טכני, לחפש חריגים או תנאי התאמה באודיו, או על ידי השוואה אליו בין הקלטים אותנטיים מוכרים של האדם.
– אילו יכול להיות התנועה ליצירת פייק כזה? נראה שהתנועה מתפשטת מתקומות קודמות ואולי תודעות שנשא דאריאן נגד פרינסיפל איסוורט.
אתגרים וסותרים:
אחד האתגרים העיקריים הקשורים עם סוג זה של שימוש לא נכון של AI הוא הזיהוי ואימות של מדיה אמיתית. פייק עמוק נהיים יותר מורכבים, מה שהופך קשה יותר לזהות את האמת. בנוסף, קיים עיסוק משפטי ואתי הנוגע להרגולציה של טכנולוגיות אלו ומאזן בין חדשנות וסיכון לפרטיות/בטיחות.
יתרונות וחסרונות:
שימוש ב- AI יש לו את היתרון של הפעלת חדשנות, תורמת הזדמנויות ליצירתיות, וממציאה תפקידה של טכנולוגיה בחיינו היומיומיים. אבל, החסרון, כפי שנראה במקרה הזה, הוא שניתן להשתמש בו באמצעים נגד כדי להכליל, לשקר מבחבר הציבור, ולגרום נזק חברתי כאשר נעשה שימוש לא נכון.
למידע נוסף על AI ומסגרת משפטית קשורה, נכון לבקר בדומיינים כשהם aclu.org לשיחות על זכויות אזרחים או ai-global.org לסטנדרטים גלובליים על AI. כדאי גם להסתכל על eff.org לנקודות מבט על איך טכנולוגיה משפיעה על פרטיות, ביטחון וחופש.
לסיכום, שימוש המורה מרילנד ב- AI דרך יצירת פייק של קול מציג דוגמה חזקה לבלתי סבירות האתיות והמשפטיות העומדות בפני טכנולוגיות חדשות. החברה צריכה לנקות עם יצירת מניעים יעילים ומסגרות משפטיות למניעה לכודת כזאת, וכאשר אפשר גם לאמץ את הקידמה החיובית שהטכנולוגיות האלה מציעות.
[הטמעה]https://www.youtube.com/embed/uW13BzNcy-k[/embed]