האלגוריתמים של המבואת הבינה המלאכותית (AI) הפכו לחלק בלתי נפרד מחיינו, עוצבו בדרך שונה את החוויה שלנו בעולם הדיגיטלי. עם זאת, קיימת דאגה גוברת לגבי השפעתם של אלגוריתמים אלו על הקהילות המוחלשות, במיוחד האנשים עם עור כהה. לאחרונה חזקו לאור מקרים המעוררים רגשות הביש, שהובילו Google להפסיק את השימוש ב- Gemini AI.
דיגימת במשבר דנון בגין פלילים כישלוניים. החברה בחרה להסיר את מוצרו על מנת לפנות עצמה מאשמה אפשרית על ידי בנית הפערים המקוריים. פעולה זו עיקשה מכורכת את הבעיה העמוקות שבידינו – הדיכוי הסיסטמטי הנמצא באלגוריתמים.
כלים אלגוריתמיים שמחזקים שקרים, סטריאוטיפים ודיכוי אינם מפוארים חדש. ספיג'ה נובל, במחקרה המולחם משנת 2018, הדגישה כיצד חיפושים אחר "בנות נגרים (Black girls)" ב-Google הביאו לחיפוש תכנים פורנוגרפיים ובזבותיים במידה מדאיגה. בנוסף, נמצא כי אלגוריתמי בריאות של AI המליצו על טיפול רפואי פחות עבור מטופלים שחורים בהשוואה לאחרים.
דוגמה חסומה של דיכוי קורה עם פלטפורמות AI חזותיות כמו Gemini. כאשר מתבקשת להמחיש אישים עם עור כהה מזוויות שונות, האלגוריתם באופן קבוע מואיר את פנייהם בתמונות הרצופות. זה מוביל לתמונה סופית עם מאפיינים לבנים. הפלטים אלו מדגימים באופן בורך רצף של הוצאה לפועל וטעון תמונת יצירה שיוצרת מיתוג ואי-התייחסות, אף על פי שהחברות הטכנולוגיות האחראיות עושות מעט כדי לתקן את המצב.
חברות טכנולוגיות גדולות תמיד עתידות להגיב לתביעות אודות גזענות אלגוריתמית על ידי הכפלת טכנולוגיה קיימת. למרות שתיקות נעשות לעיתים תכתיריות, הן נכותרות לעיתים כדי לשרת ליק כמסינון לקראת פשעים חולפים, כמו דיכוי של אישים היסטוריים או גיבורי קומיקס.
ההשלכות של הדיכויים האלגוריתמיים הלכודים עבר הרגשות ה׳מתרחשים. חקירת ProPublica בשנת 2017 חשפה כיצד האלגוריתמים המזהמים של פייסבוק תוו התכניות השפהות של ילדים שחורים כאשר אישרו תתכנים גועלי-נפש מגברים לבנים. לחייב, המריכו הדיווח ב- 2021 על חוקי החסימה של גוגל ביוטיוב שפונים להודעות לניתון לגבות לדברי "חיים משניים שחורים" או "יציבות שחורה".
בספרה "יותר מפרעוש: מתעמת עם אי-התאימות בנושא מין, גודל ויכולות טכנולוגיות", פרופסור מרדית ברוסארד מציינת כיצד תעשיית הטכנולוגיות מייצגת, מסטנדת, ומייצגת את הקהילות המוחלשות באופן שונה. זה נכון במיוחד בדיוק לאנשים שחורים. חשוב לזהות את הנזק שנגרם על ידי ההטיות האלו ולדרוש אחריות מהחברות הטכנולוגיות.
חשוב שלנציבים תהייה פעילית לגבי ההטיות האלגוריתמיות המגיעות לפלטפורמות בחובלים השחורים. ספרתי למכור תציג למכור תוך 2025 שמנות סיכויי הערכה של הערכים במדיות. צמצום זה דוחף פועל אחר חריפה לתעוזה של מנותי הא-שי בתחומים כמו בריאות, פיננסים, רכב וקמעונות.
אפשרי המודעות ליצור של אלגוריתמים על החווה יותר מסורתי. מניפע למילה כי השמות אחוזים קפצים על ההשפעה של לתלמת של אלגוריתמים על הקהילות במקודש, ומחזיקת אדם עם היקום השחור. מקריו העובתים והמחזקים ל- AI מצאו ביפית המניף שלגוגל חשקי את הנכסים המודחים בי. פועם נשאת רחבות השול של אשרי האלגוריתמים כאן.
The source of the article is from the blog japan-pc.jp