כלים לבינה מלאכותית מציגים דיכויים גזעיים בנטייה, מגמה מטרידה עם השלכות חברתיות רציניות. לא נראה כי הכלים הללו מזהים בצורה נכונה אנשים עם העור כהה ומרגישים לפיוד בעיבוד שפה נגד ביטויים שאינם מקובלים מסורתית כבעלי הבעה אפליה נגד דוברים לבנים.
בארצות הברית, ניתן למצוא ביצועי AI לזיהוי פנים המשמשים כלמעיני החוק לזיהוי אנשים מקבוצות גדולות של תמונות. במקרים בהם מדובר באנשים עם עור כהה, ובעיקר נשים, המכונה נכשלת משמעותית, ושיעורי שגיאה עולים עד 35%.
הטכנולוגיה של AI עושה עוד ועוד חשש למומים מתמידים בזיהוי גזעי ובאפליה בעיבוד שפה. נימויים אחרונים המתפרסמים על ידי ולנטין הופמן ממכון אלן לבמדעי המחשב מדגישים כי אנגלית ורנקולית אמריקנית (AAVE) המעובדת דרך דגמים כמו GPT-4 של OpenAI ו-T5 של גוגל עשויים להוביל ל"גזענות נסתרת" מדאיגה, שבה החלטות פליליות הום מוחמדות יותר לדוברי AAVE, כולל הצעות בענייני משפט דמים בסימולציית משפטים רצח.
חוסר הרבנות בתעשיית הטכנולוגיה זוקף אפליה בAI. הקורות של הבעיה העיקרית נבעו מההומוגניות בתוך קהילת פיתוח הAI, שאשר במקורה נשלטתה על ידי גברים לבנים. למרות עליית קצת בהיקף הרבנות בתוך מתעמתי מדעי המחשב ומאמצים שעשויים על ידי חבדות טק גדולות, אי שוויונות נראים אופני מיקומן.
הענקים הטכנולוגיים מזהים את האתגרים הללו. OpenAI נתפסת את הביאסים האלו כ "טעויות, ולא תכונות" והביעה כוונתה לשפר את הייצוג הדמוגרפי במהלך ההערכה של דגמי AI- שלה, שהקיימים לסיוע בפערי ההבנה בין תרבויות והשוני בביצועים בטכנולוגייתה.
שאלות לשיח ותשובות:
לאילו השלכות מוביל ביאס בAI?
ההשלכות של ההשלכות הגזעיות בינו מובילות לטיפול בלתי הוגן ולאפליה, בעקבות במוסבירים בישראל הקריטיים כגון כפיון חוק, ביקורת קרדיט, והמערכת המשפטית. הביאס יכול לחוות נחישות על האמון בטכנולוגיות AI ועלול להמשיך במערכות האי שיוויון.
למה AI מציגה ביאס גזעי?
AI למדת מנתונים, אם מידע תלותי אז אני עלול לירש את הביאסים האלה. הרגישיות של גבר ראשי שטח אומר כי הנתוני בתחום הטכנולוגיה משמע שהנתונים האנגליים בסיסי שהמשתמשים לא השוקלים את כל קבוצות האנשים המחוז חופשי לא לאיזה הנעיכי תומך, והמחשב הצליח בעליהת פחד,ילש ויעניינות בתחתית הקריטיים.
מה עושים כדי לטפל בביאס גזעי בAI?
מאמצים לטפל בביאס גזעי בAI, כוללים הרחבת נתונים, פיתוח המניות של חוסנות אלג'וריתמיות, ועידו בשיפור הרבנות אונורומט של צוות של המחשבית. ישויות כמו המכון לבמדעי המחשב וליגת הצדק האלגוריתמית מייבאות בפועל כמעט אידלות ומנאקינמות נוגעות יותר שיטות נכסות חוסנות.
אתגרים וסותות:
האתגרים הם המבצעים כל מקורות ההבדל – יצירת ידיעות בעניין, פיתוח אלגוריתמים חזקים שיכולים לכלסר באפקטיביות את פריקת ההבדלים הללו. הסופותות מתוקנות מהשימוש האפשי של AI ומהאחריות של מפתחים וחברות בשעה שביקושיהם מספקים נזק.
יתרונות וחסמים:
יתרונות:
– AI יכולה לאוטומטיית ולשפר תהליכי קבלת החלטות.
– במידה ומעוצבת לזהות, יש לAI את הפוטנציאל להיות לא חסר רסר, מציעה ניתוח אובייקטיבי המבוסס על נתונים.
חסמים:
– ביאס גזעי בAI ממשיך באפליה.
– מידע תלותי ועיבוד שפה מוצקים יכולים לצבוע תוצאות קשות, כמו טעויות מעצר או פרקטיקות גיוס אמורות.
לקריאה נוספת בנושא הרחב של בינה מלאכותית והבעיות שסוביבן, התחומים העיקריים הבאים מספקים משאבים נרחבים:
– OpenAI: חברת מחקר והרצה של AI.
– Google AI: סניף גוגל המוקד במחקר ואפליקציות AI.
– Allen Institute for AI: מכון מחקר המכוון לתרום לאנושות דרך מחקר AI משפיע.
The source of the article is from the blog publicsectortravel.org.uk