Instrumentele de creație a imaginilor cu inteligență artificială (IA), dezvoltate de companii precum OpenAI și Microsoft, au potențialul de a contribui la dezinformarea electorală, în ciuda politicilor platformelor împotriva creării de conținut înșelător, conform unui raport al Centrului de Combatere a Urații Digitale (CCDH). În timp ce aceste instrumente își propun să genereze imagini realiste din prompturile textuale, CCDH a folosit instrumente de IA generative pentru a crea imagini înșelătoare, cum ar fi cea în care președintele american Joe Biden zace într-un pat de spital și lucrători electorali distrug mașinile de vot. Acest lucru ridică îngrijorări cu privire la răspândirea afirmațiilor false și integritatea alegerilor.
CCDH a testat mai multe instrumente AI, inclusiv ChatGPT Plus de la OpenAI, Image Creator de la Microsoft, Midjourney și DreamStudio de la Stability AI. Studiul a descoperit că instrumentele IA au generat imagini în 41% dintre testele cercetătorilor, în special atunci când au fost provocate cu solicitări de imagini ce ilustrează fraudarea alegerilor. Cu toate acestea, instrumente precum ChatGPT Plus și Image Creator au blocat cu succes prompturile care solicitau imagini ale unor candidați specifici. În schimb, Midjourney a obținut cele mai slabe rezultate, generând imagini înșelătoare în 65% dintre testele efectuate.
Raportul a subliniat, de asemenea, că unele imagini create cu Midjourney sunt disponibile public, existând dovezi că oamenii folosesc acest instrument pentru a crea conținut politic înșelător. Fondatorul Midjourney, David Holz, a menționat că vor exista actualizări legate de viitoarele alegeri din SUA și că imaginile create anul trecut nu reprezintă practicile actuale de moderare ale instrumentului. Stability AI și-a actualizat politicile pentru a interzice fraudarea și crearea sau promovarea de dezinformații.
În timp ce companii precum OpenAI lucrează la prevenirea abuzului instrumentelor lor AI, preocupările persistă cu privire la potențialul de exploatare a acestor instrumente pentru campanii de dezinformare legate de alegeri. Este crucial ca companiile de tehnologie să prioritizeze integritatea alegerilor și să își îmbunătățească în mod continuu practicile de moderare pentru a combate răspândirea conținutului înșelător.
The source of the article is from the blog hashtagsroom.com