Meta, mateřská společnost Facebooku, Instagramu a Threads, podniká kroky ke identifikaci a označování obrazů generovaných umělou inteligencí na svých platformách. Tento krok je součástí snah Meta bojovat proti klamání a postihovat ty, kteří záměrně klamou ostatní. V současné době jsou již obrazy generované umělou inteligencí na Meta označeny jako takové. Nicméně v nedávném blogovém příspěvku oznámil Nick Clegg, prezident celosvětových záležitostí v Meta, že společnost plánuje rozšířit označování na obrazy generované umělou inteligencí vytvořené na konkurenčních službách.
Zatímco obrazy generované umělou inteligencí od Meta již obsahují metadata a neviditelné vodoznaky, které označují jejich původ, společnost vyvíjí nástroje, které umožní detekovat tyto znaky v případě jejich použití jinými organizacemi, jako jsou Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock. Identifikací a označováním obsahu generovaného umělou inteligencí Meta se snaží zabránit rozmazávání rozhraní mezi lidským a syntetickým obsahem a poskytnout uživatelům transparentnost ohledně technologie, která je za obrazy, se kterými přicházejí do styku.
V následujících měsících chce Meta tyto značky aplikovat ve všech jazycích. Společnost si uvědomuje důležitost tohoto úsilí, zejména vzhledem k významným globálním volbám, které se blíží v příštím roce. Je však třeba poznamenat, že v současné době se označování omezuje pouze na obrazy a obsah generovaný umělou inteligencí ve formě zvuku a videa tyto znaky neobsahuje.
Kromě označování Meta plánuje také umístit výraznější značky na digitálně upravené nebo pozměněné obrazy, videa nebo zvuky, které mají vysoké riziko zavádění veřejnosti. Navíc společnost zkoumá vývoj technologie, která dokáže automaticky detekovat obsah generovaný umělou inteligencí, i když byly odstraněny nebo nejsou přítomny tyto neviditelné znaky.
Clegg uznal adversární povahu tohoto prostoru a potřebu neustálé inovace, aby se předešlo klamání pomocí obsahu generovaného umělou inteligencí. Vzhledem k tomu, že již byly AI deepfake technologie použity během prezidentských voleb ve Spojených státech a objevily se případy kontroverzní úpravy obrazu v Austrálii, jsou snahy Meta o detekci a označování obsahu generovaného umělou inteligencí zásadním prvky pro boj proti klamavým praktikám.
Meta si klade za cíl vytvořit bezpečnější digitální prostředí, kde jednotlivci mohou navigovat a angažovat se s médii zodpovědným způsobem tím, že podporují transparentnost a poskytují uživatelům informace o povaze obsahu, se kterým přicházejí do styku.
Časté dotazy:
Otázka: Jaké kroky Meta podniká ke snaze bojovat proti klamání na svých platformách?
Odpověď: Meta, mateřská společnost Facebooku, Instagramu a Threads, identifikuje a označuje obrazy generované umělou inteligencí na svých platformách. Jedná se o reakci na problém klamavého obsahu a snaží se postavit na pranýř ty, kdo záměrně klamou ostatní.
Otázka: Jsou již obrazy generované umělou inteligencí od Meta označeny jako takové?
Odpověď: Ano, obrazy generované umělou inteligencí od Meta jsou již označeny jako takové, aby označovaly jejich původ od umělé inteligence.
Otázka: Plánuje Meta rozšířit označování obrazů generovaných umělou inteligencí na konkurenční služby?
Odpověď: Ano, podle Nicka Clegga, prezidenta celosvětových záležitostí v Meta, společnost plánuje rozšířit označování na obrazy generované umělou inteligencí vytvořené na konkurenčních službách, jako jsou Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock.
Otázka: Jaké znaky se používají k označení původu umělé inteligence v obrazech od Meta?
Odpověď: Obrazy od Meta obsahují metadata a neviditelné vodoznaky, které označují jejich původ od umělé inteligence.
Otázka: Vyvíjí Meta nástroje k detekci znaků umělé inteligence používaných jinými organizacemi?
Odpověď: Ano, Meta vyvíjí nástroje k detekci znaků označujících původ umělé inteligence, pokud jsou používány jinými organizacemi.
Otázka: Proč Meta identifikuje a označuje obsah generovaný umělou inteligencí?
Odpověď: Meta se snaží řešit rozmazávání rozhraní mezi lidským a syntetickým obsahem tím, že poskytuje transparentnost ohledně technologie za obrazy, se kterými uživatelé přicházejí do styku.
Otázka: Bude Meta aplikovat tato označování ve všech jazycích?
Odpověď: Ano, Meta plánuje aplikovat označování ve všech jazycích v následujících měsících.
Otázka: Obsahují označení také obsah generovaný umělou inteligencí ve formě zvuku a videa?
Odpověď: Ne, v současné době označování omezené pouze na obrazy a nezahrnuje obsah generovaný umělou inteligencí ve formě zvuku a videa.
Otázka: Jaké další opatření Meta přijímá kromě označování?
Odpověď: Meta plánuje také umístit výraznější značky na digitálně upravené nebo pozměněné obrazy, videa nebo zvuky, které mají vysoké riziko klamání veřejnosti. Společnost také zkoumá vývoj technologie, která dokáže detekovat obsah generovaný umělou inteligencí i v případech, kdy byly odstraněny nebo nejsou přítomny tyto neviditelné znaky.
Otázka: Proč jsou snahy Meta detekovat a označovat obsah generovaný umělou inteligencí důležité?
Odpověď: Společnost Meta se snaží protiúčinkovat klamavým praktikám, protože již došlo k použití technologie AI deepfake během prezidentského volebního cyklu ve Spojených státech a v případech kontroverzní úpravy obrazu v Austrálii.
Otázka: Jak Meta plánuje vytvořit bezpečnější digitální prostředí?
Odpověď: Meta se snaží vytvořit bezpečnější digitální prostředí podporou transparentnosti a poskytováním uživatelům informací o povaze obsahu, se kterým přicházejí do styku, a tím umožnit jednotlivcům navigovat a angažovat se s médii zodpovědným způsobem.
The source of the article is from the blog scimag.news