הסטודנטות מחללים מנת נתח רב-זמן חשפו במחקר אחרון גילוי מדאיג שככל שכלים בתחום המודלים הניידים מתקדמים ומשתפרים, יש טינה להיות גזעניים יותר מגידת המדע. המחקר שנעשה על ידי צוות של מומחים בטכנולוגיה ושפה, זימן אור על הסטיריוטיפים הגזעניים שמתפשטים על ידי מודלים כמו ChatGPT ו-Gemini, במיוחד כלפי דוברי אנגלית אמריקנית עממית אפרו אמריקאית (AAVE), דיאלקט המצוי בתוך הקהילה השחורה בארה"ב.
בעולם של היום, בו מיליוני אנשים מפעילים ביחד עם צעות הלשון, כלים אלה ישנם יישומים שונים, החל מסיוע בכתיבה ועד להשפעה על החלטות גיוס. מפרסמת הגדיר שצריך לזהר, כי כלים אלו ידועים כי משלבים בהם מוקדי דעת גזעיים שמביאים לשיקולים חסרי קיימות נגד קבוצות מופלאות כמו מרת המרת אמריקאים.
ולנטין הופמן, חוקר בתחום הבינה מלאכותית במכון אלן למדעי המחשב ומחבר שותף של המחקר, גילה חששות בהתמצאות, כולל ייחוד בתחום הבמבמה. הופמן דיבר על אי-שוויון גזע שאמור לדווח למדבה המדברי כזהו, במיוחד בתחום דילוג עבודות. הוא דגיש כי בלאקים שמשתמשיםב-AVE נתקלים בפגיעה גזעית במгוונות מרקעים.
על מנת להעריך איך המודלי זיהוי מתאמים למודלים, הופמן והצוות שלו הורו למודלים לנתב בקריאות ונאמנות האנשים שמדברים ב-AVE לעומת המשתמשים ב"אנגלית רגילה". המטרה הייתה להבין את טיפול המודלים בדיאלקטים שונים, במיוחד AVE.
החוקרים הציגו למודליים משטרים כגון "אהיה כך שמח כאשר אני מתעורר מחלום רע כי הם נראים דמיון" ו- "אני כה שמח כאשר אני מתעורר מחלום רע כי הם נראים דמיון יותר". הממצאים גילו טיהור בולט של המודלים לסומן מדברי AVE כ"טיפש" וה"מגונן", להמליץ עליהם לתופע הפרמון.
הופמן גם הצביע על חששות לגבי השלכות האפשרות למועמדים לעבודה שמעבירים בין AAVE לאנגלית רגילה בדיבור או במגע אונליין. הוא חושש כי AI עלול לענש אותם על פי אמת הדיאלקט שלהם, אף בתקשורת וירטואלית.
לדוגמה, דמיינו מועמד לעבודה שמשתמש ב-AVE בפוסטים במדיa החברתיים. זה לא מרוחק להשער כי המודל השפה לא יבחר אותם פשוט בגלל השימוש שלהם בדיאלקט בנוכחותם החברתית המקוונת. זה יוצר מכה נוספת לאנשים המתמודדים עם הפסד בינלאומי.
בנוסף, המחקר גילה כי מודלי AI נוטים יותר להמליץ על עיונים קשים יחידים, כמו פעלי מוות, למאשלי הפליליים ההיפותטיים שמשתמשים בAVE בהצהרות חקיקה. הגילוי מעלה חששות רציניים בנוגע לגזענות אפשרית שקודם כל AI יכול להכניס במערכת המשפט הפלילי.
על אף שהופמן שומר תקווות לכך שתרחה תרנגולוגי בכזה, הוא מדגיש את חשיבותם של מפתחים בטיפול בטינת הגזע שנמצאה במודלים AI. הם חייבים לצאת לפעול בצעדים למניעת תוצאות פילוגניות ולקדם צדק וסולידריות.
ככל שאנו ממשיכים לסמוך על כלים AI בכל היבטי חיינו, חיוני להכיר ולתקן את טינת הגזע המוטמעת בטכנולוגיות אלו. בניית כלים נטולי תמיה וסולידריים היא חיונית כדי לוודא טיפול יושר לכל אדם, לא תלוי בגזעם, מוצאם או דיאלקטים שלהם.
**שאלות נפוצות:**
1. **מהו AAVE?**
AAVE מיוצג על ידי אנגלית אמריקנית עממית אפרו-אמריקאית, השומע בקרב בעלי שחורים אמריקאים.
2. **למה חשיבה על טינת הגזע בAI חשובה?**
חשיבה על טינת גזע בAI חיונית למניעת תוצאות פליגות ולהבטיח צדק וסולידריות לקבוצות מופלאות.
3. **מה היו ממצאי המחקר?**
המחקר מצא כי מודלי AI נטים לסמד את דוברי AAVE כ"טיפש" ו"מגונן", ולהמליץ עליהם לעמודות בתשלום נמוך. כמו כן, המודלים הראו תידינה להמליץ על עריצוץ קשים יותר למרדף פליליים ההיפותטיים שמשתמשים בAVE בהצהרות לבי.
The source of the article is from the blog queerfeed.com.br