Dirbtinis intelektas (AI) tapo integralia mūsų gyvenimo dalimi, tačiau nauji tyrimai rodo, kad naudojamos kalbos dialektas gali paveikti tai, kaip AI interpretuoja ir pateikia informaciją apie individus. Neseniai atliktas Cornell University tyrimas tyrinėja pagrindines rasines išankstinio nusistatymo užkoduotas biases, įbetovėtus dideliuose kalbos modeliuose (LLM), kurie yra giliųjų mokymosi algoritmai, skirti generuoti žmoniškai panašius tekstus.
Tyrimas sutelkė dėmesį į įvairius LLM, tokius kaip OpenAI’s ChatGPT, GPT-4, Meta’s LLaMA2 ir prancūzų Mistral 7B. Taikydami techniką, vadinamą „matched guise probing”, tyrėjai ištirti, kaip šie kalbos modeliai reaguoja į skatinančias frazes tiek Afrikos Amerikos Anglų, tiek Standartizuotais Amerikiečių anglų kalbomis.
Nustebėtinai rezultatai parodė, kad individai, kalbėję Afrikos Amerikos anglų kalba, buvo labiau linkę būti aprašyti būdais, siejant su neigiamais stereotipais ar kriminaline veikla, kai juos apdorojo tam tikri LLM. Pavyzdžiui, GPT-4 atrodė labiau linkęs „atsiųsti nuteistuosius į mirtį”, gavus kalbą, dažnai naudojamą Afrikos Amerikos kalbos, nepaisant to, jog jų rasė išreikšta aiškiai.
Be to, tyrime nustatyta, kad LLM linkę manyti, jog individai, kalbantys Afrikos Amerikos anglų kalba, užima mažiau prestižinių darbų, palyginti su Standartizuoto anglų kalba kalbančiais asmenimis, atspindinti slaptą nusistatymą, esantį algoritmuose. Tačiau tyrimas nurodė, kad kuo didesnis LLM, tuo geriau jis suprato Afrikos Amerikos anglų kalbą, nors dydis nešalino paslėtų rasinių prietarų.
Nors buvo padaryta pažanga mažinant iš išorės rasizmo LLM, tyrimas įspėja neper anksti manyti, kad visi rasiniai išankstiniai nusistatymai buvo išnaikinti. Susirūpinimas kyla iš to, kad šie nusistatymai dabar yra subtiliau įtvirtinti, todėl juos sunku nustatyti ir spręsti. Tradiciniai LLM mokymo metodai, kurie apima žmogaus grįžtamąjį ryšį, dažnai nepajėgia priešintis šiems slaptiems nusistatymams ir gali netikėtai leisti modeliams paviršutiniškai slėpti pagrindinius rasinius nusistatymus, kuriuos jie skatina.
Šis tyrimas pabrėžia skubų poreikį įdiegti ir plėtoti AI sistemas, kad būtų tvirtai kovojama su rasiniais nusistatymais. Kadangi AI ir toliau formuoja įvairias pramonės šakas ir daro įtaką sprendimų priėmimo procesams, svarbu užtikrinti, kad šios technologijos skatina sąžiningumą, įtrauktį ir teisingumą visiems individams, nepaisant jų kalbos dialekto ar kultūrinės kilmės.
The source of the article is from the blog girabetim.com.br