Umjetna inteligencija (AI) pokazuje se kao moćna snaga u suzbijanju dezinformacija, prema nedavnom istraživanju Instituta za tehnologiju Massachusetts (MIT). Analitičari su primijetili da AI sustavi mogu utjecati na uvjerenja učinkovitije od ljudi, pogotovo kada ovi sustavi pružaju sažete, strukturirane informacije.
Ovo posebno istraživanje s MIT-a pozvalo je preko dvije tisuće osoba koje su imale uvjerenja u zavjere da komuniciraju s AI chatbotom pokretanim najnovijim javno dostupnim jezičnim modelom tvrtke OpenAI. Njihovo povjerenje u teorije zavjera navodno se smanjilo u prosjeku za 20% nakon ovih kratkih chat interakcija, a promjena uvjerenja trajala je dva mjeseca.
Iako tvrtke poput Googlea i Meta Platformsa mogu iskorištavati uvjerljive AI chatbote u svrhu oglašavanja, njihova trenutna primjena čini se više etički orijentiranom. Istraživači s MIT-a sugeriraju da generativni AI sustavi odlično uspijevaju u rastavljanju tzv. “Gish galopiranja”, retoričke taktike nazvane po kreacionisti Duaneu Gishu. Ova tehnika preplavljuje protivnike u debati bombardirajući ih velikim brojem stavova i argumenata, često s malo dokaza.
U istraživanju su sudionici stupili u interakciju s AI botom koji je opremljen s OpenAI GPT-4 Turbo u raspravama o različitim teorijama zavjera. Jedna osoba sumnjajući u službenu naraciju o napadima 11. rujna razgovarala je s botom, koji je odgovorio empatičnim, ali racionalnim pobijanjima, što je dovelo do značajnog smanjenja osobe s punog uvjerenja na 40% povjerenja.
Snaga AI u ovom kontekstu leži u strpljivom, činjenično argumentiranom odbacivanju zavjera—svojstvima koje većina ljudi ima problema konzistentno posjedovati. Online platforme u vlasništvu tvrtki poput Alphabet-a (koji posjeduje YouTube) i Meta-e (vlasnik Facebooka) mogu razmotriti integraciju takvih AI sustava za suzbijanje raširene dezinformacije na njihovim platformama, unatoč potencijalnim kontroverzama oko odluka o cenzuri sadržaja.
Uloga AI-a u opovrgavanju teorija zavjera crpi iz njegove sposobnosti da obradi velike količine informacija i izloži argumente na logičan, bezosjećajan način, što može biti uvjerljivo tamo gdje emocionalni ljudski razgovori često ne uspijevaju. To dovodi do niza važnih pitanja o uvjerljivoj moći AI:
Može li AI pouzdano razlikovati teorije zavjera i legitimne informacije koje se suprotstavljaju glavnoj naraciji?
AI sustavi ovise o podacima na kojima su obučeni, što znači da njihova sposobnost razlikovanja između teorija zavjera i legitimnih divergentnih mišljenja ovisi o kvaliteti i objektivnosti podataka. Postaje izazovno osigurati da AI sustavi nisu nenamjerno pristrani protiv manjinskih stavova koji se slučajno pokažu istinitim.
Kako spriječiti širenje AI-generirane dezinformacije dok se koristi AI za opovrgavanje laži?
Kako se tehnologija poboljšava, rizik da će se AI koristiti za stvaranje uvjerljive dezinformacije povećava. Potrebni su snažni upravni i etički standardi za AI sustave kako bi se osiguralo da su dio rješenja, a ne doprinose problemu.
Koje su etičke implikacije uvjerljivog AI-a koji mijenja uvjerenja pojedinaca?
Učinkovitost AI u promjeni uvjerenja postavlja etička pitanja o manipulaciji i suglasnosti. Ravnoteža između ispravljanja dezinformacija i poštovanja individualne autonomije mora se pažljivo upravljati.
Prednosti:
– AI može pružiti brze, skalabilne odgovore za opovrgavanje dezinformacija na globalnim digitalnim platformama.
– Obrađuje velike količine informacija i može neprestano komunicirati s korisnicima, što je podvig nedostupan ljudima.
– AI sustav može ostati neutralan i dosljedan, izbjegavajući pristranost i emocionalne reakcije koje bi mogle eskalirati sukobe.
Mane:
– Moglo bi doći do prekomjerne ovisnosti o AI-u, što potencijalno može dovesti do cenzure ili suzbijanja valjanih manjinskih mišljenja.
– AI sustavi mogu biti manipulirani da šire dezinformacije umjesto da se bore protiv njih.
– Pojavljuju se etički problemi oko suglasnosti i manipulacije kada se AI koristi za mijenjanje uvjerenja.
S obzirom na složenost ovih pitanja, rješavanje dezinformacija dok se očuva otvoreni dijalog zahtijeva pažljivo razmatranje uloge koju AI igra u našem informacijskom ekosustavu.
Za čitatelje zainteresirane za širu istraživačku djelatnost AI-a i primjene, posjetite glavnu web stranicu Instituta za tehnologiju Massachusetts preko ovog linka ili istražite najnovija dostignuća u AI provjerom glavne web stranice tvrtke OpenAI preko ovog linka.
The source of the article is from the blog elektrischnederland.nl