Jazykový model spoločnosti OpenAI, ChatGPT, sa nedávno ocitol pod dohľadom kvôli svojmu odlišnému prístupu k vtipom o rôznych etnických a náboženských skupinách. Zatiaľ čo umelá inteligencia odmieta zdieľať vtipy o muslimoch s poukazom na možnosť urážky a nesprávneho výkladu, ochotne rozpráva vtipy o Židoch, vrátane tých obsahujúcich antisemitské stereotypy.
Tento zvláštny skresľovací vplyv vyvolal otázky zo strany používateľov, ktorí sa obrátili na sociálne médiá s vyjadrením svojich obáv. Ako na to upozorňuje Itamar Golan, generálny riaditeľ kybernetickej spoločnosti Prompt Security, je to skutočne odrazom skreslení prítomných v údajoch, ktoré boli použité na výučbu novšieho jazykového modelu GPT-4.
Jazykové modely ako ChatGPT sa učia z obrovských súborov dát, čo znamená, že predsudky prítomné v textoch používaných na ich výučbu môžu nevedome pretrvávať. Golan vysvetľuje, že keď je model vystavený viacerým textom, ktoré zobrazujú muslimov ako menšinovú skupinu, ktorá by mala byť ošetrovaná citlivo, stáva sa pravdepodobnejšie, že generuje texty zlučujúce sa s týmito predsudkami.
Aj keď je tento skresľovací vplyv znepokojujúci, zároveň poukazuje na ochotu OpenAI reagovať na spätnú väzbu od používateľov a upravovať správanie modelu. Golan poukazuje na to, že OpenAI sa rozhodlo zámerne spraviť GPT-4 menej opatrným ako jeho predchodca GPT-3.5, ktorý bol kritizovaný za prílišný sklony k extrémnej ľavici politického spektra.
Golan napriek tomu zostáva optimistický, že OpenAI rýchlo napraví túto chybu. Verí, že OpenAI sa svojou povinnosťou voči bezpečnosti a zodpovednému používaniu umelej inteligencie povzbudí k prijatiu vhodných opatrení na riešenie skreslení v správaní ChatGPT.
Vzhľadom na neustále pokroky v oblasti AI technológií je kľúčové uprednostňovať etické úvahy a zabezpečiť, aby boli AI systémy navrhnuté s pevnými bezpečnostnými mechanizmami. Reakcia spoločnosti OpenAI na túto kontroverziu bude dôležitým testom ich odhodlania vytvárať AI modely, ktoré sú nestranné, úctivé a citlivé voči všetkým kultúram a náboženstvám.
The source of the article is from the blog jomfruland.net