V posledných dňoch ohlásila populárna aplikácia na tvorbu obrázkov pomocou umelej inteligencie, Midjourney, že dočasne zablokuje možnosť vytvárať falošné obrázky prezidenta Joea Bidena a bývalého prezidenta Donalda Trumpa. Táto rozhodnutie prišlo v čase trvajúcich amerických prezidentských volieb a má za cieľ zabrániť zneužitiu nástroja pre politické účely. CEO spoločnosti Midjourney David Holz oznámil túto zmenu počas eventu digitálnych kancelárskych hodín a zdôraznil, že moderovanie obsahu je náročné a blokovanie je dočasným opatrením na riešenie problému.
Hoci spoločnosť nezverejnila konkrétne detaily o politike zmien, Holz zdôraznil, že cieľom je urobiť ťažším zneužitie AI nástroja. Midjourney zatiaľ nereagoval na žiadosti o ďalšie komentáre k tejto záležitosti.
Zprávy naznačujú, že nová politika je už v platnosti, ako naznačil test novinárov z Associated Press, ktorý vyvolal varovné správy pri pokuse o generovanie obrázkov „Trump a Biden si podávajú ruky na pláži.“ Varovania eskalovali na „upozornenie na zneužitie“ pri druhom pokuse.
Tento krok od Midjourney sa vracia k snahám riešiť obavy spojené s generatívnymi AI nástrojmi a možnosťou šírenia dezinformácii v súvislosti s voľbami. Počas nedávneho rozhovoru Callum Hood, vedúci výskumu v Centre pre potláčanie digitálnej nenávisti, uviedol, že Midjourney mal najmenej kontroly zo všetkých vedúcich generatívnych nástrojov na tvorbu presvedčivých obrázkov politických osobností ako Biden a Trump. Výsledky skupiny tiež ukázali, že Midjourney sa umiestnil najhoršie zo všetkých testovaných nástrojov, zlyhal v 65% prípadov a prispel k dezinformáciám o voľbách.
Stojí za zmienku, že rozhodnutie Midjourney blokovať tvorbu falošných obrázkov Bidena a Trumpa pomáha riešiť významnú slabosť oproti iným populárnym generátorom obrázkov. Avšak, ostáva otázkou, či tieto politické zmeny budú mať trvalý vplyv na šírenie politických deepfakes.
Zaujímavosťou je, že Midjourney funguje inak než iné generátory obrázkov v tom, že jej používatelia môžu verejne zobrazovať a interagovať s vlastnými podnetmi a obrázkami na sociálnej mediálnej platforme Discord. Táto verejná angažovanosť viedla k tomu, že skupina Midjourney sa stala najväčšou na platforme s viac ako 19 miliónmi členov. CEO David Holz často využíva túto platformu na týždenné kancelárske hodiny, kde diskutuje o široké spektre tém týkajúcich sa umelej inteligencie a budúcnosti ľudstva.
Holz v progresívnom vyhlásení vyjadril očakávanie, že scenár falošných obrázkov sa v nasledujúcich rokoch výrazne zmení. Predpovedal, že do roku 2028 budú všetci prezidentskí kandidáti mať skutočne vyzerajúce „deepfake chatboty“ s imitovanými bodmi programu. Napriek dočasnému blokovaniu tvorby falošných obrázkov Holz varoval, že ľudia, ktorí sú odhodlaní vytvoriť deepfakes, nájdu alternatívy ešte sofistikovanejšie a schopnejšie ako súčasné systémy.
Midjourney, založený v roku 2020 a sídliaci blízko San Francisca, sa opisuje ako nezávislý výskumný ústav zameraný na skúmanie nových myslenkových procesov a rozširovanie imaginatívnych schopností ľudstva. Od odhalenia svojho verejného generačného obrázkového nástroja v roku 2022, spoločnosť upútala významnú pozornosť vo sfére generatívnej AI technológie.
Časté otázky
Čo je Midjourney?
Midjourney je umelej inteligencie image-generator vyvinutý nezávislým výskumným ústavom. Umožňuje používateľom generovať realistické obrázky na základe rôznych podnetov.
Prečo Midjourney zablokoval tvorbu falošných obrázkov Bidena a Trumpa?
S americkými prezidentskými voľbami v plnom prúde, Midjourney zaviedol dočasné blokovanie, aby zabránil zneužitiu svojho nástroja na politické účely a zvládol možné šírenie dezinformácií v súvislosti s voľbami.
Ako sa Midjourney líši od iných image-generatorov?
Jedným z kľúčových rozdielov je, že Midjourney funguje na sociálnej mediálnej platforme Discord, kde používatelia môžu verejne zobrazovať a interagovať s vlastnými podnetmi a obrázkami.
Akoá budúcnosť prináša pre falošné obrázky?
David Holz, CEO spoločnosti Midjourney, predpovedá, že scenár falošných obrázkov sa bude nadále vyvíjať, pričom prezidentskí kandidáti môžu v budúcnosti využívať sofistikovanejšie „deepfake chatboty“.
Zdroj: Associated Press.
The source of the article is from the blog scimag.news