Roman RemberNedavna istraživanja koja je provela Democracy Reporting International (DRI) osvijetlila su kritičnu napomenu umjetne inteligencije – chatbotovi se koriste za širenje netočnih informacija o glasovanju. Iako politički nepristrani, ovi chatbotovi često su prenosili pogrešne datume glasovanja i pružali zavaravajuće detalje o procesu glasovanja. Istraživanje je otkrilo nekoliko slučajeva u kojima su chatbotovi dijelili veze s irelevantnim sadržajem ili materijalima koje su, problematično, sami izmislili – fenomen koji su istraživači identificirali kao “AI halucinacije”.
Te halucinacije, kako je objasnio suosnivač i izvršni direktor DRI-a Michael Meyer-Resende, čini se da proizlaze iz nepravilnih ulaznih podataka, ugrađenih pristranosti i pogrešnih pretpostavki. Unatoč uočenim neslaganjima u odgovorima chatbotova, studija je proglašena reprezentativnom za šire probleme AI-a u političkim kontekstima.
Kao odgovor na ova saznanja, predstavnici tehnoloških divova poput Googlea i Microsofta priznali su netočnosti u odgovorima svojih alata za AI i istaknuli njihove nastojanja za ispravak takvih pogrešaka. Mjere se kontinuirano provode radi ublažavanja dezinformacija, što je ilustrirano ograničenjima Googleovog bota Gemini, usmjeravajući korisnike prema svojem pretraživaču za upite vezane uz izbore.
Ovo istraživanje ističe rastuće zabrinutosti zbog širenja dezinformacija, posebno s ključnim političkim događajima poput izbora za Europski parlament i predsjedničkih izbora u SAD-u na vidiku. DRI-jevo istraživanje ističe nepouzdanost AI generiranog sadržaja, potvrđujući potrebu za pažljivim nadzorom u digitalnoj sferi.
