Meta, jako reakci na rostoucí problém s manipulovanými médii, oznámila, že začne označovat širší škálu videí, zvukových a obrazových obsahů jako „Vytvořeno s pomocí AI“ na svých platformách, včetně Facebooku a Instagramu, od května. Tato rozhodnutí následovala zpětnou vazbu od nezávislého dozorčího orgánu Meta, který doporučil aktualizaci stávající politiky.
Označovací proces může probíhat několika způsoby. Uživatelé mohou sami deklarovat, že jejich obsah je vytvořen pomocí AI, zatímco fact-checkeři mohou radit Metě ohledně označování určitého obsahu. Navíc technologie samotného Meta může detekovat neviditelné značky spojené s obsahem vytvořeným pomocí AI.
Meta uznala používání realistických nástrojů vytvořených pomocí AI, včetně zvukových efektů a fotografií, a zdůraznila rychlý vývoj této technologie. Společnost zdůraznila důležitost řešení manipulace, která zahrnuje zobrazování jednotlivců, jak dělají věci, které ve skutečnosti neudělali.
Vzestup nástrojů AI pro tvorbu videí vyvolal obavy z deepfakeů, zejména v kontextu voleb. Experti se obávají, že zlovolníci by mohli využít nástrojů AI ke vytváření deepfakeů, které by mohly zmatit a zmást voliče. Nedávný vydání textově-videového nástroje Sora od OpenAI dále zvýšilo obavy o důsledcích takové technologie.
Během rozhovoru s Billem Gatesem premier Narendra Modi uznal výzvy, které přináší AI, a zdůraznil význam použití vodoznaků na obsahu vytvořeném pomocí AI jako počáteční krok k zvýšení povědomí a prevenci dezinformací. Premiér zdůraznil potřebu rozpoznat vytvořené obsahy pomocí AI tak, jak jsou, aniž by snižovali jejich potenciál.
Zabezpečení dat zůstává prioritou, a Modi zdůraznil kroky, které Indie podnikla k zavedení právního rámce pro ochranu osobních údajů. Důležitost využití technologií k posílení služeb a zlepšení života občanů byla rovněž označena jako klíčový aspekt implementace AI.
Bill Gates rovněž uznal výzvy a příležitosti, které přináší AI. Upozornil, že ačkoli technologie ukázala úžasné schopnosti, stále existují oblasti, kde selhává. Zatímco AI může navrhovat nápady a zvyšovat produktivitu, konečná rozhodnutí vyžadují lidské posouzení.
Aktuální pravidla ohledně „manipulovaných médií“ se vztahují pouze na videa upravená pomocí AI tak, aby vypadala, že osoba něco řekla, co ve skutečnosti neřekla. Meta již začala přidávat štítky „Vytvořeno s pomocí AI“ k fotorealistickým obrazům vytvořeným pomocí Meta AI.
Rozhodnutí Mete označovat obsah vytvořený pomocí AI jako „Vytvořeno s pomocí AI“ je krokem k řešení obav týkajících se manipulovaných médií a k propagaci transparentnosti. Meta si klade za cíl posílit své uživatele, aby mohli činit informovaná rozhodnutí o obsahu, který konzumují.
The source of the article is from the blog foodnext.nl