Umetna inteligenca (AI) je postala nepogrešljiv del našega vsakdanjega življenja, vendar nove raziskave kažejo, da lahko narečje uporabljenega jezika vpliva na to, kako AI interpretira in predstavlja informacije o posameznikih. Nedavna študija, ki jo je izvedla Univerza Cornell, raziskuje vgrajene rasne predsodke v velikih jezikovnih modelih (LLM), ki so globoke učne algoritme, zasnovane za generiranje človeško podobnih besedil.
Študija se je osredotočila na različne LLM, kot so OpenAI ChatGPT, GPT-4, Meta LLaMA2 in francoski Mistral 7B. S tehniko, imenovano prekrivanje oblikovnega preverjanja, so raziskovalci preučili, kako so ti jezikovni modeli odzivali na vprašanja v afriško-ameriški angleščini in standardizirani ameriški angleščini.
Presenetljivo so rezultati pokazali, da so bili posamezniki, ki so govorili afriško-ameriško angleščino, bolj verjetno opisani na način, povezan z negativnimi stereotipi ali kriminaliteto, ko so bili obdelani s strani določenih LLM. Na primer, GPT-4 se je zdel bolj nagnjen k “obsojanju obtožencev na smrt”, ko je bil soočen z jezikom, ki ga običajno uporabljajo afriški Američani, ne glede na njihovo raso, ki ni bila izrecno navedena.
Poleg tega je študija odkrila, da so LLM predpostavljali, da posamezniki, ki govorijo afriško-ameriško angleščino, opravljajo manj ugledna dela v primerjavi s tistimi, ki uporabljajo standardno angleščino, kar odraža prikriti predsodek znotraj algoritmov. Vendar pa je raziskava pokazala, da večji ko je LLM, bolje razume afriško-ameriško angleščino, vendar velikost ni izničila skritih rasnih predsodkov.
Čeprav so bile dosežene določene napovedi pri zmanjševanju očitnega rasizma znotraj LLM, študija opozarja, da ni priporočljivo predpostavljati, da so bile vse rasne predsodke povsem odpravljene. Skrb izhaja iz dejstva, da so ti predsodki zdaj bolj subtilno vdelani, kar otežuje njihovo prepoznavanje in obravnavanje. Tradicionalne metode usposabljanja LLM, ki vključujejo povratno informacijo ljudi, pogosto ne uspejo odpraviti teh prikritih predsodkov in lahko nepričakovano omogočijo modelom površno prikrivanje vgrajenih rasnih predsodkov, ki jih ohranjajo.
Ta raziskava poudarja nujno potrebo po razvoju in uvedbi AI sistemov za dosledno obravnavo rasnih predsodkov. Medtem ko AI nadaljuje oblikovanje različnih industrij in vpliva na procese odločanja, je ključno zagotoviti, da te tehnologije spodbujajo poštenost, vključenost in pravičnost za vse posameznike, ne glede na njihovo jezikovno narečje ali kulturno ozadje.
The source of the article is from the blog girabetim.com.br