Jezični modeli su postali transformirajuća snaga u raznim područjima naših života, od obrazovanja do posla. Ovi programi umjetne inteligencije temeljeni na dubokom učenju, poput ChatGPT-a tvrtke OpenAI, posjeduju sposobnost generiranja tekstova sličnih ljudskima na različite teme. Međutim, postoji temeljni problem koji zahtijeva pažnju – kulturne pretpostavke utkane u ove modele.
Jezični modeli se treniraju analizom velike količine tekstualnih podataka, ponajviše na engleskom jeziku. S obzirom na to da je internet dominiran engleskim sadržajem, pri čemu 59 posto svih web stranica koristi engleski jezik, podaci za treniranje su snažno usmjereni prema iskustvima i perspektivama govornika engleskog jezika, posebno onih u Sjedinjenim Američkim Državama.
Ova pristranost sve više postaje očigledna prilikom promatranja načina na koji jezični modeli interpretiraju određene situacije. Na primjer, ChatGPT bi ranije pretpostavljao štedljivost ili nezadovoljstvo kada bi par u Madridu ostavio napojnicu od četiri posto u restoranu, zanemarujući španjolsku kulturnu normu da se ne napojnjava. Međutim, kontinuirani ažuriranja i dodatno treniranje su poboljšali sposobnost ChatGPT-a da uzima u obzir kulturne razlike prilikom procjene prikladnosti napojnice.
Ipak, i dalje postoje druge situacije koje otkrivaju urođene kulturne pretpostavke jezičnih modela. Na primjer, kada se predstavi priča o gostima koji dolaze na večeru u 20:30, ChatGPT će nagađati razloge njihovog kašnjenja, pretpostavljajući standardno vrijeme večere u Sjevernoj Americi u 18 sati. To ističe ograničen široki zapadni, sjevernoamerički pogled na svijet koji ovi modeli zauzimaju.
Studije koje su proveli istraživači sa Sveučilišta u Kopenhagenu i startup tvrtka Anthropic kvantificirali su ovu kulturnu pristranost u jezičnim modelima. Potičući ove modele anketama koje mjere ljudske vrijednosti u različitim zemljama, zaključeno je da oni pokazuju snažnu usklađenost s američkom kulturom.
Ovaj problem nije ograničen samo na ChatGPT. Čak i DALL-E 3, model za generiranje slika, odražava slične pristranosti. Treniran na slikama uglavnom iz zapadnih zemalja, generira slike doručka koje odgovaraju zapadnim kulturnim normama.
Da bi se riješile implicitne kulturne pretpostavke, ključno je proširiti skup podataka za treniranje kako bi se uključio veći broj jezika i kulturnih perspektiva. Uključivanjem raznovrsnijih perspektiva možemo osigurati da jezični modeli odražavaju šire razumijevanje svijeta i izbjegavaju perpetuiranje pristranosti.
FAQ:
P1: Što su jezični modeli?
O1: Jezični modeli su programi umjetne inteligencije temeljeni na dubokom učenju koji imaju sposobnost generiranja tekstova sličnih ljudskima na različite teme.
P2: U čemu je problem s kulturnim pretpostavkama u jezičnim modelima?
O2: Temeljni problem je taj što se jezični modeli, poput ChatGPT-a tvrtke OpenAI, treniraju na prevladavajućim tekstualnim podacima na engleskom jeziku, što dovodi do kulturnih pristranosti i pretpostavki temeljenih na iskustvima i perspektivama govornika engleskog jezika, uglavnom iz Sjedinjenih Američkih Država.
P3: Kako se ove pristranosti manifestiraju u jezičnim modelima?
O3: Pristranost se može primijetiti u načinu na koji jezični modeli interpretiraju određene situacije. Na primjer, ChatGPT može krivo pretpostaviti štedljivost ili nezadovoljstvo kada par u Madridu ostavi napojnicu od četiri posto u restoranu, ne uzimajući u obzir španjolsku kulturnu normu koja nalaže da se ne ostavlja napojnica.
P4: Jesu li ove pristranosti riješene?
O4: Kontinuirana ažuriranja i dodatno treniranje su poboljšali sposobnost ChatGPT-a da uzima u obzir kulturne razlike, ali pristranosti i dalje postoje. Na primjer, kada se predstavi priča o gostima koji dolaze na večeru u 20:30, ChatGPT može nagađati razloge njihovog kašnjenja, pretpostavljajući standardno vrijeme večere u Sjevernoj Americi u 18 sati.
P5: Jesu li i drugi jezični modeli pogođeni kulturnim pristranostima?
O5: Da, i drugi jezični modeli poput DALL-E 3, modela za generiranje slika, također odražavaju slične pristranosti. DALL-E 3, treniran na slikama uglavnom iz zapadnih zemalja, generira slike doručka koje odgovaraju zapadnim kulturnim normama.
Definicije:
– LLM-ovi: Jezični modeli
– ChatGPT: Chatbot kompanije OpenAI temeljen na dubokom učenju umjetne inteligencije
– DALL-E 3: Model za generiranje slika
– Kulturna pristranost: Sklonost jezičnog modela da favorizira ili odražava kulturne perspektive i pretpostavke određenih skupina, u ovom slučaju govornika engleskog jezika i zapadnih zemalja
Povezane veze:
– ChatGPT tvrtke OpenAI
– DALL-E
– Sveučilište u Kopenhagenu
– Anthropic
The source of the article is from the blog dk1250.com