Meta, gigant sociálních sítí, představil změny svých směrnic týkajících se obsahu vygenerovaného umělou inteligencí a manipulovaných médií. Tato kroky přicházejí jako reakce na kritiku ze strany dozorčí rady společnosti a mají za cíl řešit obavy spojené s klamnou informací a deceptivností.
Od příštího měsíce Meta zavede označení „Vytvořeno s pomocí AI“ pro deepfake videa, což je forma manipulovaného média vytvořená pomocí umělé inteligence. Kromě toho, pokud byl obsah manipulován jiným způsobem, který by mohl vést k dezinformacím o důležitých záležitostech, Meta poskytne uživatelům další kontextové informace.
Tato změna politiky má značné dopady, zejména v roce plném voleb po celém světě. To znamená, že Meta může označit více obsahu, který má potenciál zavádět, zajistí tak transparentnost pro uživatele. Nicméně, označování deepfake videí bude omezeno na obsah, který buď projevuje „standardní AI ukazatele obrazu“ nebo byl uživatelem označen jako vygenerovaný umělou inteligencí.
Tato změna může vést ke zvýšené přítomnosti obsahu generovaného umělou inteligencí a manipulovaných médií na platformách Meta, společnost věří, že poskytnutí transparentnosti a dalšího kontextu je lepší způsob, jak s takovým obsahem zacházet, než ho zcela odstranit.
Pro usnadnění této změny Meta od července přestane odstraňovat obsah pouze na základě své dosavadní politiky manipulovaných videí. Tento časový rámec umožní uživatelům se seznámit s procesem samostatného označování obsahu, než bude obsah odstraňován.
Je pravděpodobné, že změna přístupu je reakcí na rostoucí požadavky kladené na Meta v souvislosti s moderací obsahu a systémovým rizikem. Digitální služby Evropské unie, které uplatňují pravidla na sociální sítě Meta, vedly společnost ke snaze najít citlivou rovnováhu mezi odstraňováním nelegálního obsahu a ochranou svobody projevu.
Kritika Dozorčí rady sehrála klíčovou roli v rozhodnutí Meta revidovat své směrnice. Rada, která je financována Meta, ale funguje nezávisle, zkoumala reakci Meta na obsah vytvořený umělou inteligencí. Zejména Rada upozornila na nekonzistentnost politiky Meta, která se vztahovala pouze na AI vytvořená videa, nechávala tak jiné formy manipulovaných médií nedotčené.
Meta uznala zpětnou vazbu Rady a má v úmyslu rozšířit svůj přístup tak, aby zahrnoval AI-generované zvuky, fotografie a další formy manipulovaných médií. Společnost plánuje využívat signály sdílené v průmyslu k detekci obsahu AI a uživatelé budou mít možnost uvést, zda jejich nahrávky obsahují obsah generovaný umělou inteligencí.
V případech, kdy digitálně vytvořená nebo upravená média představují významné riziko zavádění veřejnost o důležitých záležitostech, může Meta použít nápadnější označení k poskytnutí dalších informací a kontextu. Cílem je vybavit uživatele nezbytnými nástroji k přesnému posouzení obsahu a porozumění jeho kontextu na různých platformách.
Je důležité poznamenat, že Meta nebude odstraňovat manipulovaný obsah, AI-založený nebo jinak, pokud nezakazuje jiné politiky jako je rušení voličů nebo obtěžování. Místo toho, společnost přidá informační štítky a kontext v situacích, které vyvolávají vysoký veřejný zájem.
Pro zajistění přesnosti obsahu spolupracuje Meta s téměř 100 nezávislými ověřovateli faktů, kteří pomohou identifikovat rizika spojená s manipulovanými médii. Tyto externí subjekty budou nadále zkoumat falešné a zavádějící AI-generovaný obsah. Když je obsah označen jako „Falešný nebo Upravený“, Meta provede změny algoritmu k omezení jeho dosahu a zobrazí překryvný štítek s dalšími informacemi pro uživatele, kteří se s ním setkají.
Jak Meta podniká kroky k řešení obav týkajících se AI-generovaného obsahu a manipulovaných médií, usiluje o nalezení rovnováhy mezi ochranou proti dezinformacím a ochranou principů svobody projevu.
Změny v směrnicích Meta týkajících se AI-generovaného obsahu a manipulovaných médií mají značné významy pro průmysl a mají širší důsledky pro prostředí sociálních médií. Tento krok přichází v době, kdy se Meta potýká s rostoucím tlakem ze strany regulatorů, zákonodárců a veřejnosti, aby řešila šíření dezinformací a zavádějícího obsahu na svých platformách.
V posledních letech roste obava o použití AI technologií k vytváření deepfake videí a jiných druhů manipulovaných médií. Zvláště deepfake videa mají potenciál zavádět veřejnost tím, že přesvědčivě upravují nebo superponují obličej někoho na tělo jiné osoby nebo vytvářejí realistický zvuk. Zavedením označení „Vytvořeno s pomocí AI“ pro deepfake videa a poskytováním dodatečných kontextových informací pro manipulovaný obsah chce Meta zvýšit transparentnost a umožnit uživatelům, aby učinili informovaná rozhodnutí o obsahu, se kterým se setkají.
Časování těchto změn je klíčové, jak se několik zemí připravuje na volby. S nárůstem označování a kontextualizace potenciálně zavádějícího obsahu si Meta klade za cíl minimalizovat dopad dezinformací během významných událostí jako jsou volby. Tím, že zveřejňuje informaci, zda je obsah vytvořen umělou inteligencí a poskytuje standardní AI ukazatele obrazu, Meta doufá, že sníží rizika spojená s manipulovanými médii zatímco zajišťuje ochranu svobodného projevu.
Tato změna politiky je také v souladu s digitálním službami Evropské unie, které ukládají regulace sociálním mediím jako je Meta. Akt vyžaduje, aby platformy odstranily nelegální obsah okamžitě, zatímco budou zachována principy svobody projevu. Nový přístup Meta nachází rovnováhu mezi odstraňováním škodlivého obsahu a podporou transparentnosti, což souzní s požadavky na regulaci kladené na společnost.
Kritika Dozorčí rady na předchozí politiku Meta týkající se AI-generovaného obsahu sehrála klíčovou roli v rozhodnutí společnosti revidovat své směrnice. Nezávislé zkoumání Rady zdůraznilo potřebu konzistentnosti a rozšíření oblasti působnosti mimo AI-vytvořená videa. Zahrnutím AI-generovaného zvuku, fotografií a dalších forem manipulovaných médií si Meta klade za cíl vyřešit tuto nekonzistenci a poskytnout komplexnější přístup k zvládání zavádějícího obsahu.
Pro zajištění přesnosti obsahu Meta spolupracuje s nezávislými ověřovateli faktů. Téměř 100 organizací bude Meta pomáhat identifikovat rizika spojená s manipulovanými médii. Využitím znalostí těchto externích subjektů Meta usiluje o zlepšení detekce falešného a zavádějícího AI-generovaného obsahu. Pokud je obsah označen jako „Falešný nebo Upravený“, Meta provede změny algoritmu k omezení jeho dosahu a zobrazí dodatečné informace prostřednictvím překryvných štítků. Tato spolupráce odráží Meta závazek k řešení dezinformací a poskytnutí uživatelům nástrojů ke zhodnocení důvěryhodnosti obsahu, se kterým se setkávají.
Jelikož Meta řeší výzvy spojené s moderováním obsahu a systémovým rizikem, tyto změny politik signalizují angažovanost společnosti k zodpovědnému řešení otázky manipulovaného média. Prioritou Meta je transparentnost, kontextualizace a spolupráce, cílem je nalezení rovnováhy mezi bojem proti dezinformacím a podporou svobody projevu.
The source of the article is from the blog myshopsguide.com