O nouă cercetare a dezvăluit faptul că pe măsură ce instrumentele AI avansează, ele devin mai biasate rasial, perpetuând prejudecățile rasiale sistematice. Studiul, realizat de o echipă de experți în tehnologie și limbaj, se concentrează pe stereotipurile rasiale propagate de modelele AI precum ChatGPT și Gemini, în special către vorbitorii de African American Vernacular English (AAVE), un dialect folosit frecvent de Afro-americani.
Modelele de limbaj AI au diverse aplicații în lumea de astăzi, de la îmbunătățirea scrisului la influențarea deciziilor de angajare. Cu toate acestea, aceste unelte au fost găsite să contribuie la judecăți biasate împotriva grupurilor marginalizate precum afro-americanii. Studiul evidențiază necesitatea de a aborda discriminarea cu care se confruntă vorbitorii de AAVE, în special în domenii precum screening-ul pentru locurile de muncă.
Valentin Hoffman, un cercetător la Institutul Allen pentru Inteligență Artificială și coautor al studiului, a exprimat îngrijorări cu privire la impactul asupra candidaților la locurile de muncă care comunica în AAVE. Hoffman subliniază că persoanele care folosesc AAVE se confruntă deja cu discriminare rasială în multiple contexte. Cercetătorii au urmărit să evalueze cum modelele AI percep indivizii care vorbesc în AAVE în timpul screening-ului pentru locurile de muncă.
Pentru a evalua inteligența și potrivirea la locul de muncă a vorbitorilor de AAVE în comparație cu cei care folosesc „standard American English”, cercetătorii le-au oferit modelelor AI propoziții în ambele dialecte. Rezultatele indică o bias clară, modelele etichetând adesea vorbitorii de AAVE drept „stupizi” și „lenți”, recomandându-i pentru poziții mai slab plătite.
Studiul a ridicat, de asemenea, preocupări legate de consecințele potențiale pentru candidații la locurile de muncă care trec între AAVE și limba engleză standard în discursul lor sau în interacțiunile online. AI-ul îi poate penaliza pe baza utilizării dialectului lor, chiar și în interacțiunile virtuale. Acest lucru creează bariere suplimentare pentru indivizii care se confruntă deja cu discriminarea lingvistică.
În plus, studiul a descoperit că modelele AI erau mai inclinate să recomande pedepse mai aspre, cum ar fi pedeapsa cu moartea, pentru presupuți inculpați care folosesc AAVE în declarațiile din instanță. Această constatare ridică probleme serioase legate de potențiala introducere de bias în sistemul de justiție penală de către AI.
În timp ce autorul studiului rămâne optimist că scenariile distopice vor fi evitate, el subliniază necesitatea ca dezvoltatorii să abordeze biasurile rasiale încorporate în modelele AI. Este esențial să lucrăm activ pentru a preveni rezultatele discriminatorii și a promova corectitudinea și incluziunea.
Pe măsură ce ne bazăm tot mai mult pe instrumentele AI în diverse aspecte ale vieții noastre, este crucial să recunoaștem și să corectăm biasurile încorporate în aceste tehnologii. Străduindu-ne pentru modele AI imparțiale și incluzive este vital pentru a asigura un tratament corect pentru indivizii de toate rasele, etniile și dialectele.
**FAQ:**
1. **Ce este AAVE?**
AAVE înseamnă African American Vernacular English, care se referă la un dialect frecvent întâlnit printre afro-americani.
2. **De ce este important să abordăm biased-ul rasial în AI?**
Abordarea biased-ului rasial în AI este crucială pentru a preveni rezultate discriminatorii și a asigura corectitudinea și incluziunea pentru grupurile marginalizate.
3. **Care au fost constatările studiului?**
Studiul a relevat că modelele AI tind să-i eticheteze pe vorbitorii de AAVE drept „stupizi” și „lenți”, recomandându-i adesea pentru poziții mai slab plătite. În plus, modelele au arătat o predispoziție să recomande pedepse mai aspre pentru presupuți inculpați care folosesc AAVE în declarațiile din instanță.
The source of the article is from the blog foodnext.nl