Technologické spoločnosti bojujú s rozširovaním dezinformácií štvrtenými umelou inteligenciou počas volieb
Nová štúdia zistila, že väčšina technologických spoločností nevykonala dostatočné aktualizácie svojich platforiem s cieľom zabrániť šíreniu dezinformácií. Umelé inteligentné chatboty, využívané široko v Európe, úmyselne šírili falošné informácie o voľbách, čo poukázalo na naliehavú potrebu reformy platforiem.
Rola umelých inteligentných chatbotov v integrite volieb
Democracy Reporting International (DRI) analyzovalo, ako reagujú chatboty, vrátane Google Gemini, OpenAI ChatGPT4, ChatGPT4-o a Microsoft Copilot, na otázky týkajúce sa volieb. Medzi 22. a 24. májom, výskumníci kladli otázky týkajúce sa volebného procesu v 10 európskych jazykoch týmto botom. Zistenia ukázali, že veľa odpovedí bolo čiastočne alebo úplne nepravdivých.
Napríklad Google Gemini odmietol odpovedať na všetky otázky týkajúce sa volieb v testovaných jazykoch, čo správa naznačuje ako zodpovedný prístup k zabráneniu šírenia dezinformácií. Naopak, Microsoft Copilot niekedy zvolil neodpovedať, predovšetkým v angličtine a portugalčine, smerujúc používateľov na jeho vyhľadávací stroj Bing pre dôveryhodné informácie.
Nedostatočná reakcia na dezinformácie
Následná štúdia predstavuje rozšírenie predchádzajúcej správy DRI z apríla, ktorá dospela k záveru, že chatboty nedokázali poskytnúť „spoľahlivé a dôveryhodné“ odpovede na štandardné otázky o voľbách. Výkonný riaditeľ DRI, Michael-Meyer Resende, zdôraznil, že tam, kde informácie neboli ľahko dostupné online, chatboty mali tendenciu fabricovať odpovede.
Rozmanité odpovede v rôznych jazykoch
V iných jazykoch EÚ Microsoft Copilot nezobrazil „žiadny zjavný vzor“ pri rozhodovaní, kedy sa pokúsiť o odpoveď a kedy sa zdržať, čo nasvedčuje snahám obmedziť jeho „halucinácie,“ ale nie nejednotne vo všetkých jazykoch. Keď bot odpovedal, výskumníci zistili, že viac ako tretina odpovedí bola v nejakej miere chybná.
Snahy Microsoftu a požadované kroky OpenAI
Microsoft predstavil svoje iniciatívy v oblasti bezpečnosti volieb v Euronews Next, ktoré zahŕňajú poskytovanie „autoritatívnych volebných informácií“ na Bingu. Avšak, štúdia naliehavo vyzýva OpenAI, aby „naliehavo pretrénovala“ svoje ChatGPT boty s cieľom zabrániť takýmto dezinformáciám, pričom OpenAI zdôrazňuje svoje záväzky zlepšiť presnosť obsahu týkajúceho sa volieb na svojej platforme.
Štúdia zdôrazňuje potrebu, aby vývojári umelých inteligentných chatbotov aktívne bojovali proti šíreniu volebnej dezinformácie a zvýšili spoľahlivosť týchto stále vplyvných digitálnych asistentov.