Umetno inteligentna (UI)-orodja za ustvarjanje slik, razvita s strani podjetij kot sta OpenAI in Microsoft, imajo potencial prispevati k dezinformacijam pred volitvami kljub politikam platform, ki nasprotujejo ustvarjanju zavajajočih vsebin, je razkril poročilo Centra za boj proti digitalni sovražnosti (CCDH). Čeprav ta orodja ciljajo na generiranje realističnih slik iz besedilnih spodbud, je CCDH uporabilo generativna UI-orodja za ustvarjanje zavajajočih slik, kot je na primer predsednik ZDA Joe Biden, kako leži v bolniški postelji, ter delavci na volitvah uničujejo volilne stroje. To dviguje skrbi glede širjenja lažnih trditev in integritete volitev.
CCDH je preizkusil več UI-orodij, vključno s ChatGPT Plus podjetja OpenAI, Image Creator podjetja Microsoft, Midjourney in DreamStudio podjetja Stability AI. Študija je ugotovila, da so UI-orodja generirala slike v 41 % preizkusov raziskovalcev, predvsem takrat, ko so zahtevali slike, ki prikazujejo volilno goljufijo. Vendar so orodja, kot je ChatGPT Plus in Image Creator, uspešno blokirala zahteve po slikah določenih kandidatov. Po drugi strani je Midjourney opravil najslabše, saj je ustvaril zavajajoče slike v 65 % preizkusov.
Porocilo je prav tako izpostavilo, da so nekatere slike Midjourney javno dostopne in obstajajo dokazi, da ljudje uporabljajo to orodje za ustvarjanje zavajajoče politične vsebine. Ustanovitelj Midjourney, David Holz, je omenil, da povezane posodobitve glede prihajajočih volitev v ZDA prihajajo, in slike, ustvarjene lani, ne predstavljajo trenutnih praks moderiranja orodja. Stabilnost AI je posodobila svoje politike, da bi preprečila goljufije ter ustvarjanje ali promocijo dezinformacij.
Čeprav podjetja, kot je OpenAI, delajo na preprečevanju zlorabe svojih UI-orodij, ostajajo skrbi glede možnosti izkoriščanja teh orodij za dezinformacijske kampanje, povezane z volitvami. Ključnega pomena je, da tehnološka podjetja dajejo prednost integriteti volitev in nenehno izboljšujejo svoje prakse moderiranja za boj proti širjenju zavajajočih vsebin.
The source of the article is from the blog dk1250.com