Meta’s nezávislá Kontrolní rada zahajuje vyšetřování po zjištění existence uměle vytvořených explicitních obrázků známých žen na Facebooku a Instagramu. Detailní zkoumání následuje po incidentech týkajících se dvou veřejných osobností, včetně známé indické celebrity a slavné americké ženy, které se staly předměty explicitního obsahu vytvořeného pomocí AI.
Rada, aniž by zveřejnila jména, pravděpodobně odkazuje na událost dříve v tomto roce, kdy se na sociálních médiích šířily sexuálně explicitní, pomocí AI vytvořené obrázky populární americké zpěvačky. Po obavách Bílého domu a výzvách k ochraně žen před tímto typem zneužívání omezily sociální média vyhledávání a šíření těchto pomocí AI manipulovaných pornografických obrázků.
Kontrolní rada se potýká s realitou svých nezávazných doporučení, která jsou veřejně známá, ale postrádají vynutitelnost. Nicméně Meta musí odpovědět do 60 dní. Během průběhu vyšetřování rada žádá veřejnost o zdůvodnění prostřednictvím formuláře, žádající, aby se veřejnost zdržela zmiňování jmen, aby respektovala práva postižených jednotlivců a snížila riziko dalšího obtěžování.
Odpověď Meta na každý incident byla odlišná. V případě indické celebrity byl nahlášen Instagramový příspěvek obsahující její AI generovaný nahý obrázek, ale nebyl zpočátku odstraněn. Po odvolání a zásahu Kontrolní rady Meta přiznalo chybu a příspěvek odstranilo za porušení pravidel proti obtěžování. Naopak AI generovaný obnažený obrázek americké celebrity zveřejněný ve skupině na Facebooku byl promptně smazán Metou a přidán do jejich databáze obrázků pro automatické budoucí detekce, navzdory námitkám původního zveřejnění.
Boj proti zneužívání deepfake v se rozvíjejícím digitálním věku je podle Helle Thorning-Schmidt, spolupředsedkyně Kontrolní rady, klíčový. S nárůstem genderově orientovaného obtěžování se platformy potýkají se moderováním zavádějícího a pomocí AI vytvořeného obsahu. Rada dříve zkoumala upravené video prezidenta Bidena, které uniklo odstranění podle pravidel Mety, i když bylo označeno. Dozor nad těmito otázkami zdůrazňuje složitost a naléhavost adresování zneužití AI při šíření škodlivého obsahu.
Když Meta, prostřednictvím své Kontrolní rady, zahajuje revizi AI vytvořeného explicitního obsahu, existuje několik výzev a kontroverzí týkajících se tématu:
– Definování škodlivého obsahu: Rozlišování toho, co představuje pomocí AI vytvořený explicitní obsah a umění nebo svobodu slova, může být kontroverzní.
– Technická proveditelnost: Identifikace a moderování AI manipulovaných snímků v reálném čase je technicky náročné kvůli rychlosti a rozsahu, jakým je obsah vytvářen a sdílen.
– Ochrana soukromí: Existují obavy z porušení soukromí a potenciálních psychologických dopadů na jednotlivce, jejichž podoba je užívána bez souhlasu.
– Odpovědnost: Nezávazná povaha doporučení Kontrolní rady vytváří otázky ohledně odpovědnosti sociálních mediálních platforem při vynucování pravidel obsahu.
– Cílení na základě pohlaví: Ženy jsou nespravedlivě cíleny pomocí AI vytvořeným explicitním obsahem, což zhoršuje existující problémy sexismu a genderového násilí.
Výhody a nevýhody řešení AI vytvořeného explicitního obsahu:
Výhody:
– Ochrana jednotlivců před obtěžováním a nekonzensuální distribucí explicitních obrázků.
– Dodržování komunitních standardů a prevence normalizace digitálního zneužívání.
– Posílení veřejné důvěry v schopnost platformy chránit práva a důstojnost uživatelů.
Nevýhody:
– Omezení na moderaci obsahu může nechtěně vést k nadměrné cenzuře, což ovlivní svobodu projevu.
– Technologická omezení při přesném detekování a rozlišování zneužívajícího obsahu mohou vést k omylnému odstraňování legitimního obsahu.
– Můžou existovat finanční a zdrojové dopady pro platformy, které musí intenzivně investovat do monitorování a reakčních mechanismů.
Relevantní odkazy související s hlavním tématem, které by mohly posílit porozumění, mohou zahrnovat domovské stránky organizací a subjektů zapojených:
– Meta (Facebook): Pro lepší pochopení perspektivy společnosti, podmínek služby a dalších pravidel obsahu.
– Kontrolní rada: Pro lepší pochopení účelu nezávislého orgánu, struktury a předchozích rozhodnutí v případech.
Problém AI vytvořených explicitních obsahů se nadále vyvíjí, protože se technologické schopnosti i pravidla sociálních médií rychle mění. Výsledek této revize od Kontrolní rady by mohl stanovit precedent pro to, jak sociální média řeší podobné situace v budoucnosti.
The source of the article is from the blog mgz.com.tw