Zadnja raziskava prinaša osvežujoč pogled na vplive, ki jih imajo umetno inteligentni chatboti na uporabnike glede na njihova imena. Raziskava, ki jo je izvedla ekipa raziskovalcev na sodni fakulteti Stanford, je razkrila pomembne pristranskosti, prisotne pri chatbotih pri odzivanju na uporabniška vprašanja, ki temeljijo na rasnih in spolnih konotacijah imen.
V nedavno objavljenem raziskovalnem članku so poudarjeni potencialni tveganji, povezani s temi pristranostmi, saj podjetja vse pogosteje vključujejo tehnologije umetne inteligence v svoje vsakodnevno delovanje. Soavtor raziskave, profesor pravne fakultete Stanford Julian Nyarko, izpostavlja potrebo po učinkovitih varovalnih ukrepih znotraj modelov umetne inteligence, da bi preprečili pristranske odzive.
Raziskava je ocenila pet različnih scenarijev, vključno z odločitvami o nakupih, šahovskimi dvoboji, napovedmi javnih uradov, rangiranjem športnikov in ponudbami za plačilo. V večini primerov so bile ugotovljene pristranskosti v škodo temnopoltih posameznikov in žensk. Posebej je treba omeniti, da je bila edina dosledna izjema pri rangiranju košarkarjev, kjer je pristranskost koristila temnopoltim športnikom.
Raziskava zaključuje, da umetniški modeli pogosto kodirajo splošne stereotipe na podlagi podatkov, uporabljenih za njihovo usposabljanje, kar nato vpliva na njihove odzive. To nakazuje sistemsko težavo, ki jo je treba nasloviti.
Pogosta vprašanja
- Kakšne so bile glavne ugotovitve študije?
Študija je razkrila pomembne pristranskosti v odzivih AI chatbotov na podlagi rasnih konotacij uporabniških imen. Ugotovljene so bile stalne slabosti imen, povezanih z manjšinami in ženskami, razen pri ocenjevanju košarkarjev. - Ali te pristranskosti obstajajo pri različnih AI modelih?
Da, pristranskosti so bile najdene pri več različnih AI modelih, pri čemer je bilo ocenjenih 42 vzorcev spodbud. - Kakšni koraki podjetja AI so v teku, da bi naslovili te pristranskosti?
OpenAI je priznal problem pristranskosti in omenil, da njihova varnostna ekipa aktivno dela na zmanjševanju pristranskosti in izboljšanju delovanja. Vendar Google še ni odgovoril na to vprašanje. - Ali naj se nasveti razlikujejo glede na socio-ekonomske skupine?
Medtem ko študija priznava potencialno argumentacijo za prilagajanje nasvetov glede na socio-ekonomske dejavnike, kot so premoženje in demografija, poudarja potrebo po zmanjšanju pristranskosti v primerih, kjer so pristranski izidi nezaželeni.
Ta nova perspektiva na temo pristranskosti AI chatbotov poudarja pomembnost priznavanja in naslavljanja pristranskosti v sistemih umetne inteligence. S prepoznavanjem teh pristranskosti lahko podjetja AI storijo potrebne korake za zagotovitev poštene in nepristranske odzive njihovih chatbotov, kar prispeva k bolj enakopravni uporabi umetne inteligence v družbi.
The source of the article is from the blog coletivometranca.com.br