Kevin TopolskyNauja analizė atskleidė potencialius šališkumus AI kalbos modeliuose, ypač kaip jie elgiasi su politiškai jautriais klausimais. Tai seka po Media Research Center (MRC) ataskaitos, kuri nagrinėjo George’o Soroso finansavimo įtaką Amerikos prokurorams. Pasak ataskaitos, yra daugybė prokurorų, finansuojamų Soroso, ir jie prisideda prie kairiųjų politiškai orientuotos agendos plėtojimo JAV.
MRC tyrėjai ieškojo įžvalgų iš OpenAI sukurtos AI modelio ChatGPT, tačiau nustatė, kad atsakymai nebuvo naudingi konkrečių klausimų apie Soroso finansuojamus pareigūnus atžvilgiu. Vietoje to, kad pasiūlytų konkrečius skaičius ar išteklius, AI nuolat nukreipė vartotojus į kairiąsias šaltinius. Tai apėmė rekomendacijas kreiptis į gerai žinomus žiniasklaidos kanalus ir faktų patikrinimo svetaines, kurios turi ryšių su Sorosu, stiprindamos susirūpinimą dėl galimų šališkumų.
Pavyzdžiui, kai buvo klausiama, kur rasti informaciją apie Soroso finansuojamus prokurorus, ChatGPT pirmiausia pasiūlė kairiosios orientacijos žiniasklaidą, tokią kaip The New York Times ir CNN, visiškai praleisdama konservatyvias perspektyvas. Šis modelis sukėlė klausimų dėl AI atsakymų nešališkumo politiškai įtemptose diskusijose ir pabrėžė poreikį subalansuotam požiūriui AI mokyme, kad būtų išvengta aecho kamerų.
Šių išvadų pasekmės gali būti svarbios žiniasklaidos vartotojams, siekiantiems išsamiau suprasti politiškai jautrius klausimus. Tolimesni tyrimai ir diskusijos yra būtini, kad AI įrankiai būtų naudingi visiems vartotojams sąžiningai ir be šališkumo.
Susirūpinimas dėl AI šališkumo politinėje žiniasklaidoje: giliau pažvelkime
Kadangi dirbtinis intelektas toliau integruojamas į įvairias sektorius, susirūpinimas dėl jo šališkumo, ypač politinėje žiniasklaidoje, tampa vis ryškesnis. Nors ankstesnės analizės rodo AI modelių polinkį link kairiųjų naratyvų, yra platesnės pasekmės ir kompleksiški klausimai.
Kokie pagrindiniai susirūpinimai, susiję su AI šališkumu politinėje žiniasklaidoje?
Viena didžiausių problemų yra ta, kad šališki AI atsakymai gali formuoti viešąją nuomonę, ypač tarp vartotojų, kurie labai remiasi AI naujienomis ir informacija. Šis šališkumas gali kilti ne tik iš mokymo duomenų, bet ir iš algoritmų, kurie teikia pirmenybę tam tikriems šaltiniams, palyginti su kitais. Pavyzdžiui, jei AI yra daugiausiai mokomas remiantis žiniasklaidos kanalais, kurie pateikia konkretų politinį požiūrį, jis gali netyčia sustiprinti tas pažiūras ir apriboti eksponavimą įvairioms perspektyvoms.
Kokie iššūkiai ir ginčai?
Pagrindiniai iššūkiai yra AI algoritmų skaidrumas ir duomenys, kuriais jiems mokoma. Be skaidrumo sunku įvertinti, kaip šališkumas atsiranda ar išlieka. Be to, kyla ginčų dėl AI kūrėjų atsakomybės mažinant šiuos šališkumus. Ar technologijų įmonės turi būti laikomos atsakingomis už jų AI sistemų rezultatus? Be to, kyla susirūpinimas dėl potencialaus atsako iš abiejų politinių pusės—kol jedni gali teigti, kad reikia subalansuotos atstovybės, kiti gali teigti, kad bet kokios koregavimo priemonės gali pažeisti laisvę žodžiui arba sukelti cenzūrą.
Kokie praktiniai privalumai sprendžiant AI šališkumą?
Siekiant nešališkumo AI valdomoje politinėje žiniasklaidoje, platformos gali sustiprinti savo patikimumą, skatinti labiau informuojančių piliečių bendruomenę ir palengvinti sveikesnį viešą diskursą. Subalansuotesnės AI sistemos taip pat gali paskatinti vartotojus užsiimti platesniu informacijos šaltinių spektru, taip skatindamos kritinį mąstymą ir mažindamos polarizaciją.
Priešingai, kokie trūkumai bandant eliminuoti šališkumą?
Vienas galimas neigiamas aspektas yra tas, kad pastangos subalansuoti perspektyvas gali sukelti vadinamąjį „netikrą lygiavertį” (false equivalence), kai nepagrįstoms ar ekstremalioms pažiūroms suteikiama tokia pati svarba kaip ir faktiniams pranešimams. Tai galėtų galiausiai supainioti vartotojus dėl tam tikrų teiginių galiojimo. Be to, išsamūs bandymai ištaisyti šališkumą gali reikalauti didelių resursų ir nuolatinės priežiūros, kas gali sukelti kliūtis mažesnėms organizacijoms, siekiančioms įgyvendinti etinius AI praktikų sprendimus.
Kokie svarbiausi klausimai, į kuriuos reikia atsakyti ateityje?
Kai kurie esminiai klausimai yra:
– Kaip suinteresuotos šalys gali užtikrinti skaidrumą AI mokyme ir duomenų šaltiniuose?
– Kokia vaidmenį turėtų atlikti reguliavimo institucijos, prižiūrėdamos AI sukurtą turinį politinėje žiniasklaidoje?
– Kaip mes galime efektyviai šviesti vartotojus atpažinti ir kritiškai vertinti AI rezultatus?
Kadangi visuomenė toliau nagrinėja technologijos ir politikos sąveiką, šių klausimų sprendimas bus labai svarbus. Tinkama yra tai, kad kūrėjai, politikos formuotojai ir vartotojai turėtų likti budrūs vertindami AI sistemų vientisumą ir neutralumą.
Dėl tolesnės informacijos apie šią temą, apsvarstykite galimybę pasinerti į MIT Technology Review arba CNN’s Amanpour, kad gautumėte įžvalgas apie etinius AI žurnalistikos aspektus.
