Mākslīgā intelekta (AI) kļuvis par neatņemamu mūsu dzīves sastāvdaļu, bet jaunā pētījumu liecina, ka izmantotās valodas dialekts var ietekmēt to, kā AI interpretē un prezentē informāciju par indivīdiem. Nesen veiktā pētījumā, ko veica Kornela Universitāte, tiek izpētītas pamatinformācijas saistītās rases tendences, kas iestrādātas lielos valodas modeļos (LLM), kas ir dziļās mācīšanās algoritmi, paredzēti, lai ģenerētu cilvēka līdzīgu tekstu.
Pētījums koncentrējās uz dažādiem LLM, piemēram, OpenAI ChatGPT, GPT-4, Meta LLaMA2 un Francis Mistral 7B. Izmantojot tehnoloģiju, ko sauc par “matched guise probing”, pētnieki izskatīja, kā šie valodas modeļi reaģē uz impulsu gan Afroamerikāņu angļu valodā, gan Standartizētā Amerikas angļu valodā.
Pārsteidzoši, rezultāti atklāja, ka Afrikāņu amerikāņu angļu valodu runājošiem indivīdiem bija lielāka varbūtība tikt aprakstītiem veidā, kas saistīti ar negatīvām stereotipiem vai noziedzību, kad to apstrādāja noteikti LLM. Piemēram, GPT-4 šķita vairāk noskaņots “nosūtīt izmisumu nodaļai”, kad tas tika priekšā izmantotā valoda, kas bieži tiek lietota Afroamerikāņu angļu valodā, neatkarīgi no tā, vai viņu rase tika norādīta skaidri.
Turklāt pētījums atklāja, ka LLM tendēja pieņemt, ka indivīdi, kas runāja Afroamerikāņu angļu valodas dialektā, ieņēma mazāk prestižas amatus, salīdzinot ar tiem, kas izmantoja Standartizēto angļu valodu, atspoguļojot slēpto tendenci algoritmos. Tomēr pētījums norādīja, ka jo lielāks LLM, jo labāk tas saprata Afroamerikāņu angļu valodu, lai gan izmērs nemitēja slēptās rases priekšnoteikumus.
Lielā mērā, lai arī ir sasniegts progress saistībā ar izteiktu rasismu LLM, pētījums brīdina pret priekšlaicīgu pieņēmumu, ka visi rases tendences ir izskaustas. Uztraukums rodas no fakta, ka šīs tendences tagad ir subtili iestrādātas, tādējādi padarot tās grūtāk identificējamas un risināmas. Tradicionālās LLM apmācības metodes, kurās iesaistīts cilvēku atsauksmes, bieži nespēj pretoties šīm slēptajām tendencēm un var nejūtīgi ļaut modeļiem pavirši paslēpt tās pamatā esošās rases tendences, ko tie uztur.
Šis pētījums uzsvēra steidzamu vajadzību izstrādāt un izvietot AI sistēmas, lai stingri risinātu rases tendences. Kamēr AI turpina veidot dažādas nozares un ietekmēt lēmumu pieņemšanas procesus, ir būtiski nodrošināt, ka šīs tehnoloģijas veicina taisnīgumu, iekļautību un taisnīgumu visiem indivīdiem neatkarīgi no viņu valodas dialekta vai kultūras fona.
The source of the article is from the blog elektrischnederland.nl