Artificiell intelligens (AI) har blivit en integrerad del av våra liv, men ny forskning antyder att det språkliga dialekt valet kan påverka hur AI tolkar och presenterar information om individer. En nyligen genomförd studie av Cornell University utforskar de underliggande rasbiases som finns inbäddade i stora språkmodeller (LLMs), som är djupinlärningsalgoritmer utformade för att generera mänskliga texter.
Studien fokuserade på olika LLMs, såsom OpenAI’s ChatGPT, GPT-4, Metas LLaMA2 och Franska Mistral 7B. Genom att använda en teknik som kallas ”matched guise probing” undersökte forskare hur dessa språkmodeller reagerade på uppmaningar både på afroamerikansk engelska och standardiserad amerikansk engelska.
Överraskande nog visade resultaten att individer som talade afroamerikansk engelska var mer benägna att beskrivas på ett sätt som associerades med negativa stereotyper eller kriminalitet när de bearbetades av vissa LLMs. Till exempel verkade GPT-4 vara mer benägen att ”döma till döden” när den presenterades med språk som vanligen används av afroamerikaner, oavsett om deras ras uttryckligen angavs.
Vidare upptäckte studien att LLMs tenderade att anta att personer som talade afroamerikansk engelska hade mindre prestigefyllda jobb jämfört med de som använde standardiserad engelska, vilket speglar en dold bias inom algoritmerna. Dock visade forskningen att ju större LLMen var, desto bättre förstod den afroamerikansk engelska, även om storleken inte mildrade de dolda rasprejudicierna.
Även om det har skett framsteg för att minska öppen rasism inom LLMs, varnar studien för att inte för tidigt anta att alla rasbiases har utrotats. Problemet kommer från det faktum att dessa biases nu är mer subtilt inbäddade, vilket gör dem svårare att identifiera och åtgärda. Traditionella metoder för träning av LLMs, som involverar mänsklig feedback, misslyckas ofta med att motverka dessa dolda biases och kan oavsiktligt tillåta modellerna att ytligt dölja de underliggande rasbiases de upprätthåller.
Denna forskning understryker det akuta behovet av att utveckla och implementera AI-system för att rigoröst hantera rasbiases. När AI fortsätter att forma olika branscher och påverka beslutsfattande processer är det avgörande att säkerställa att dessa teknologier främjar rättvisa, inkluderande och rättvisa för alla individer, oavsett deras språkdialekt eller kulturell bakgrund.
The source of the article is from the blog aovotice.cz