Umetna inteligenca (UI)-omogočena orodja za ustvarjanje slik, razvita s strani podjetij kot OpenAI in Microsoft, imajo potencial prispevati k volilni dezinformaciji kljub politikam platform proti ustvarjanju zavajajočih vsebin, je razkril poročilo Centra za boj proti digitalni sovražnosti (CCDH). Medtem ko ta orodja ciljajo na generiranje realističnih slik iz besedilnih vprašanj, je CCDH uporabilo generativna orodja UI za ustvarjanje zavajajočih slik, kot je npr. ameriški predsednik Joe Biden, ki leži v bolniški postelji, ter delavci na volitvah, ki uničujejo volilne stroje. To vzbuja skrbi glede širjenja lažnih trditev in integritete volitev.
CCDH je preizkusil več UI orodij, vključujoč ChatGPT Plus podjetja OpenAI, Image Creator podjetja Microsoft, Midjourney in DreamStudio podjetja Stability AI. Študija je ugotovila, da so UI orodja ustvarila slike v 41% preizkusov raziskovalcev, predvsem ob zahtevah po slikah, ki prikazujejo volilne goljufije. Vendar orodji ChatGPT Plus in Image Creator uspešno blokirata zahteve po slikah določenih kandidatov. Po drugi strani je Midjourney izvajal najslabše, saj je ustvaril zavajajoče slike v 65% preizkusov.
Poročilo je prav tako poudarilo, da so nekatere slike iz Midjourneyja javno dostopne in obstajajo dokazi, da ljudje uporabljajo to orodje za ustvarjanje zavajajoče politične vsebine. Ustanovitelj Midjourneyja, David Holz, je omenil, da bodo kmalu na voljo posodobitve v zvezi z bližajočimi se ameriškimi volitvami, in da ustvarjene slike iz prejšnjega leta ne odražajo trenutnih praks moderoanja orodja. Podjetje Stability AI je posodobilo svoje politike, da prepove goljufije in ustvarjanje ali spodbujanje dezinformacij.
Kljub temu, da podjetja kot OpenAI delajo na preprečevanju zlorabe svojih UI orodij, ostajajo skrbi glede možnosti izkoriščanja teh orodij za volilno povezane kampanje dezinformacij. Pomembno je, da tehnološka podjetja postavijo integriteto volitev na prvo mesto in nenehno izboljšujejo svoje prakse moderoanja za boj proti širjenju zavajajočih vsebin.
The source of the article is from the blog enp.gr