AI-generátor obrázků Midjourney nedávno oznámil provádění dočasných opatření k zabránění vytváření falešných obrázků prezidenta Joea Bidena a bývalého prezidenta Donalda Trumpa. Tato opatření byla učiněna v rámci obav z dezinformace spojené s volbami, jak informovala agentura Associated Press. CEO společnosti Midjourney, David Holz, sdělil tyto informace během digitální kancelářské akce a zdůraznil, že proces moderace byl náročný, ale nutný k zabránění zneužití nástroje.
I když společnost nesdělila konkrétní detaily týkající se změn politiky, pokusy Associated Press vytvořit obrázky „Trumpa a Bidena, kteří si podávají ruce na pláži“ vyvolaly varování o porušení nových pravidel.
Midjourney, relativně malá společnost s pouhými 11 zaměstnanci, si v únoru nevzala na vědomí dobrovolnou dohodu průmyslu technologií, zaměřenou na boj s AI-generovanými deepfaky používanými k manipulaci s voliči. Holz upřesnil, že politická řeč není zaměřením Midjourney a vyjádřil záměr prioritizovat úsilí o moderaci bez nadměrného věnování zdrojů na dohled nad politickým obsahem.
Pokud jde o budoucnost, Holz předpovídá, že počet falešných obrázků ve volbách bude nadále narůstat, varováním, že do roku 2028 budou pravděpodobně všichni kandidáti mít vypadající „deepfake chatboty“. Zatímco byly učiněny kroky k zabránění zneužití, Holz uznává, že jednotlivci motivovaní ke vytváření deepfake pravděpodobně najdou alternativní metody, které budou účinnější a specificky přizpůsobené jejich cílům.
Sociální platforma Discord, kde Midjourney působí, umožňuje uživatelům vidět si navzájem psané podněty a obrázky, což je odlišuje od jiných generátorů obrázků. Holz pravidelně komunikuje s masivní skupinou uživatelů na Discordu, která má přes 19 milionů členů, zdůrazňujíc budoucí dopad deepfake chatbotů a měnící se krajinu politických kampaní.
Podle zakladatele AI-generátoru Midjourney, který spatřil světlo světa v roce 2020, se společnost popisuje jako nezávislý výzkumný ústav, který se snaží rozšířit imaginativní schopnosti lidského druhu. Veřejná verze jejího AI-generátoru obrázků byla odhalena v červenci 2022, což vedlo k zvýšenému zájmu o generativní technologii AI. Holz uvedl, že společnost aktivně zakazuje urážlivý a škodlivý obsah a zaměstnává tým moderátorů k řešení stížností uživatelů.
FAQ:
1. Co je Midjourney?
Midjourney je AI-generátor obrázků, který umožňuje uživatelům generovat realistické obrázky na základě zadání podnětů.
2. Proč Midjourney zablokoval vytváření falešných obrázků Bidena a Trumpa?
Midjourney dočasně zablokoval vytvoření takových obrázků, aby zabránil šíření dezinformací spojených s volbami a zneužití nástroje.
3. Jak se Midjourney liší od jiných generátorů obrázků?
Na rozdíl od ostatních Midjourney působí na sociální platformě Discord, kde uživatelé mohou vidět navzájem psané podněty a obrázky.
4. Co je Středisko proti digitální nenávisti?
Středisko proti digitální nenávisti (CCDH) je organizace, která si klade za cíl bojovat proti digitální nenávisti a dezinformacím.
Zdroje:
– Associated Press: Link not provided
– Center for Countering Digital Hate: [Link not provided]
The source of the article is from the blog mivalle.net.ar