Artificiell intelligens (AI) språkmodeller har blivit alltmer populära och omfattande använda de senaste åren. En ny rapport avslöjar dock att dessa modeller också uppvisar dolda rasistiska fördomar i takt med att de utvecklas. En studie utförd av en grupp forskare inom teknik- och språkfält fann att välkända språkmodeller som OpenAI:s ChatGPT och Googles Gemini upprätthåller rasistiska stereotyper om användare som talar African American Vernacular English (AAVE), en dialect främst talad av svarta amerikaner.
Tidigare fokuserade forskare på att identifiera öppna rasistiska fördomar i dessa AI-modeller, utan att överväga deras reaktioner på mer subtila markörer för ras, såsom dialektala skillnader. Denna studie belyser de skadliga konsekvenserna av AI-modellers hantering av språkvariationer, särskilt när det gäller AAVE-talare. Dessa språkmodeller används omfattande av företag för uppgifter som att sålla jobbansökningar och assistera i det amerikanska rättssystemet.
Forskarna utvärderade intelligens och anställningsbarhet hos individer som talar AAVE jämfört med de som använder ”standardamerikansk engelska”. AI-modellerna beskrev konsekvent AAVE-talare som ”dumma” och ”lata”, vilket negativt påverkar deras möjligheter till högre betalda jobb. Det här väcker farhågor om att kandidater som växlar mellan AAVE och standardamerikansk engelska kan bli straffade under urvalsprocessen. I själva verket rekommenderade AI-modellerna i studien dödsstraffet oftare för hypotetiska brottslingar som använde AAVE i sina rättegångsutlåtanden.
Valentin Hoffman, en av författarna till forskningsrapporten, varnade för de potentiella konsekvenserna om dessa språkmodeller användes i beslutsfattandeprocesser. Till exempel, om en jobbkandidat hade använt AAVE i sina sociala medieinlägg, skulle språkmodellen kunna bortse från dem på grund av dialektanvändningen.
Rapporten betonade även den i huvudsak oreglerade användningen av stora språkmodeller och uppmanade till statlig intervention för att hantera detta problem. Ledande AI-experter har förespråkat begränsningar för användningen av dessa modeller, eftersom deras förmågor fortsätter att utvecklas snabbare än regleringen. Studien visade att språkmodeller blir alltmer dolda i sina rasistiska fördomar när de växer i storlek. De etiska riktlinjerna som införts av organisationer som OpenAI, avsedda att motverka dessa fördomar, lär bara modellerna att vara mer diskreta utan att eliminera det underliggande problemet. I praktiken blir modellerna bättre på att dölja sina fördomar utan att avlära dem.
Författarna uttryckte farhågor om de framtida konsekvenserna av AI-språkmodeller, särskilt när deras användning expanderar inom olika sektorer. En blomstrande marknad för generativ AI förväntas nå 1,3 biljoner dollar år 2032, vilket indikerar att den privata sektorn alltmer förlitar sig på dessa teknologier. Men regleringsinsatserna har inte hållit jämna steg med dessa framsteg, medan Equal Employment Opportunity Commission nyligen har börjat ta tag i diskrimineringsfall med bas i AI. AI-etiska forskare och experter som Avijit Ghosh betonade behovet av att begränsa användningen av dessa teknologier inom känsliga områden samtidigt som man fortsätter att främja AI-forskning.
Vanliga Frågor
The source of the article is from the blog windowsvistamagazine.es