Umelá inteligencia (AI)-poháňané nástroje na tvorbu obrázkov, vyvinuté spoločnosťami ako OpenAI a Microsoft, majú potenciál prispieť k šíreniu dezinformácií o voľbách napriek politikám týchto platforiem proti vytváraniu zavádzajúceho obsahu, upozorňuje správa od Center for Countering Digital Hate (CCDH). Zatiaľ čo tieto nástroje majú za cieľ generovať realistické obrázky z textových podnetov, CCDH použila generatívne nástroje AI na vytvorenie zavádzajúcich obrázkov, ako je napríklad americký prezident Joe Biden ležiaci v nemocnici alebo pracovníci volieb ničiaci volebné stroje. To vyvoláva obavy o šírenie nepravdivých tvrdení a integritu volieb.
CCDH testovala niekoľko nástrojov AI, vrátane ChatGPT Plus od OpenAI, Image Creator od Microsoftu, Midjourney a DreamStudio od Stability AI. Štúdia zistila, že AI nástroje generovali obrázky vo 41 % testov výskumníkov, najmä pri požiadavkách na obrázky znázorňujúce volebnú podvodnosť. Nástroje ako ChatGPT Plus a Image Creator však úspešne zablokovali požiadavky na obrázky konkrétnych kandidátov. Naopak, Midjourney dosiahol najhorší výsledok, generujúc zavádzajúce obrázky vo 65 % testov.
Správa tiež zdôraznila, že niektoré obrázky od Midjourney sú verejne dostupné a existujú dôkazy o používaní tohto nástroja na tvorbu zavádzajúceho politického obsahu. Zakladateľ Midjourney, David Holz, uviedol, že aktualizácie súvisiace s nadchádzajúcimi voľbami v USA budú čoskoro k dispozícii a obrázky vytvorené minulý rok nereprezentujú súčasné moderátorské postupy nástroja. Stability AI aktualizovala svoje politiky s cieľom zakázať podvody a tvorbu alebo propagáciu dezinformácií.
Aj keď spoločnosti ako OpenAI pracujú na predchádzaní zneužívania svojich nástrojov AI, stále existujú obavy o možnú exploatáciu týchto nástrojov voči dezinformačným kampaňam súvisiacim s voľbami. Pre technologické spoločnosti je dôležité dávať prioritu integrite voľieb a neustále zlepšovať svoje moderátorské postupy na boj proti šíreniu zavádzajúceho obsahu.
The source of the article is from the blog papodemusica.com