Midjourney, populární generátor umělé inteligence pro tvorbu obrázků, nedávno oznámil, že dočasně zablokuje svým uživatelům tvorbu falešných obrázků prezidenta Joea Bidena a bývalého prezidenta Donalda Trumpa. Tato změna nastává v souvislosti s probíhající americkou prezidentskou volbou a má za cíl zabránit zneužití nástroje pro politické účely. Výkonný ředitel Midjourney David Holz tuto změnu oznámil během události „digitální konzultace“, kde uvedl, že moderace takového obsahu je složitá a blokace je dočasné opatření k vyřešení tohoto problému.
I když společnost neposkytla konkrétní informace o změnách politiky, Holz zdůraznil, že cílem je ztížit lidem zneužití nástroje AI. Midjourney neodpověděl na žádosti o další komentář k této záležitosti.
Zprávy naznačují, že nová politika je již implementována, protože testy provedené novináři z Associated Press vedly k varovným zprávám při pokusu o generování obrázků „Trump a Biden třesoucí si ruce na pláži.“ Varování eskalovalo na „upozornění na zneužití“ při druhém pokusu.
Tato akce ze strany Midjourney je v souladu s úsilím o řešení obav ohledně generativních nástrojů AI a potenciálního šíření dezinformací v souvislosti s volbami. Během nedávného rozhovoru uvedl Callum Hood, vedoucí výzkumu v Center for Countering Digital Hate, že Midjourney má nejméně kontrol mezi předními nástroji pro tvorbu obrázků při generování přesvědčivých obrázků politických osobností jako Biden a Trump. Zpráva skupiny také odhalila, že Midjourney se umístil nejhůře mezi testovanými nástroji, selhal v 65 % případů a přispěl k dezinformacím ve volbách.
Je zajímavé si uvědomit, že rozhodnutí Midjourney blokovat tvorbu falešných obrázků Biden a Trump pomáhá řešit významnou slabost ve srovnání s jinými populárními generátory obrázků. Nicméně zatím zůstává otázkou, zda tyto změny v politice budou mít trvalý dopad na šíření politických deepfakes.
Zajímavostí je, že Midjourney funguje odlišně od ostatních generátorů obrázků tím, že jeho uživatelé mohou veřejně prohlížet a interagovat s podněty a obrázky ostatních na sociální mediální platformě Discord. Tento veřejný zájem vedl k tomu, že skupina Midjourney na Discordu se stala největší na platformě s více než 19 miliony členy. Výkonný ředitel David Holz často využívá tuto platformu pro své týdenní konzultace, kde diskutuje o široké škále témat týkajících se umělé inteligence a budoucnosti lidstva.
V předvídajícím prohlášení Holz vyjádřil své očekávání, že krajina falešných obrázků se v příštích letech výrazně změní. Předpověděl, že do roku 2028 budou všichni prezidentská kandidáti mít vypadající „deepfake chatboty“ s simulovanými tématickými body. Navzdory dočasnému blokování tvorby falešných obrázků varoval Holz, že lidé odhodlaní vytvářet deepfakes najdou alternativy, které jsou ještě sofistikovanější a schopnější než stávající systémy.
Midjourney byl založen v roce 2020 a sídlí poblíž San Francisca. Popisuje se jako nezávislý výzkumný ústav zaměřený na průzkum nových myšlenkových procesů a rozšiřování imaginativních schopností lidstva. Od uvedení svého veřejného generátoru obrázků v roce 2022 získala společnost značnou pozornost v oblasti generativní technologie AI.
Časté otázky:
Co je Midjourney?
Midjourney je generátor umělé inteligence pro tvorbu obrázků vyvinutý nezávislým výzkumným ústavem. Umožňuje uživatelům generovat realistické obrázky na základě různých podnětů.
Proč Midjourney zablokoval tvorbu falešných obrázků Biden a Trumpa?
Vzhledem k probíhající americké prezidentské volbě Midjourney zavedl dočasné blokace, aby zabránil zneužití svého nástroje pro politické účely a řešil potenciální šíření volebních dezinformací.
Jak se Midjourney liší od ostatních generátorů obrázků?
Jedním z rozdílů je, že Midjourney operuje na sociální mediální platformě Discord, kde uživatelé mohou veřejně prohlížet a interagovat s podněty a obrázky ostatních.
Co přinese budoucnost falešných obrázků?
Výkonný ředitel Midjourney David Holz očekává, že krajina falešných obrázků bude i nadále evoluovat, a že prezidentské kandidáty by mohli v budoucnu využívat sofistikovanější „deepfake chatboty“.
Zdroj: Associated Press.
Definice:
– Umělá inteligence (AI): Odkazuje na simulaci lidské inteligence v strojích, které jsou programovány tak, aby myslely a učily se jako lidé, což jim umožňuje plnit úkoly, které obvykle vyžadují lidskou inteligenci.
– Generátor obrázků: Nástroj nebo software, který generuje obrázky na základě určitých vstupů nebo podnětů.
– Zneužití: Nenáležité nebo neoprávněné použití něčeho, v tomto případě se jedná o užití generátoru obrázků pro politické účely, které může šířit dezinformace.
– Moderace: Akt monitorování a kontroly obsahu nebo chování k zajištění souladu s určitými standardy nebo pravidly.
– Generativní nástroje AI: AI nástroje, které mohou generovat nový a originální obsah, jako jsou obrázky, na základě určitých vstupů nebo podnětů.
– Deepfakes: Uměle upravená média, obvykle ve formě videí nebo obrázků, která zobrazují osoby říkající nebo dělající věci, které ve skutečnosti nikdy neřekly nebo neudělaly.
– Discord: Sociální mediální platforma, která umožňuje uživatelům vytvářet komunity a interagovat mezi sebou prostřednictvím textových, hlasových a video kanálů.
Související odkazy:
– Midjourney: Oficiální stránka Midjourney, generátoru umělé inteligence pro tvorbu obrázků.
– Deepfakes: Informace od Anti-Defamation League o deepfakes a jejich dopadech.
– Discord: Oficiální stránka Discordu, sociální mediální platformy, kde působí Midjourney.
The source of the article is from the blog radiohotmusic.it