Meta Platforms, mateřská společnost Facebooku a Instagramu, oznámila plány na detekci a označování obrázků generovaných umělou inteligencí (AI) poskytovanou jinými společnostmi. Společnost plánuje použít neviditelné značky vložené do souborů obrázků, aby odlišila mezi skutečnými fotografiemi a digitálně vytvořeným obsahem. Tento označovací systém bude použit u veškerého obsahu s těmito značkami, který je sdílen na Meta platformách.
Zavedení tohoto označovacího systému je snahou řešit rozšířený problém zavádějícího a falešného obsahu generovaného generativními AI technologiemi. Tyto technologie mají schopnost vytvářet realisticky vypadající obrázky na základě jednoduchých instrukcí, což vyvolává obavy o možné škody spojené s jejich zneužitím. Označovací iniciativa Meta je součástí širšího pohybu v rámci technologického průmyslu na stanovení standardů a zmírnění negativního dopadu generativní AI.
Prezident globálních záležitostí Meta, Nick Clegg, vyjádřil důvěru ve společností schopnost spolehlivě označovat obrázky generované AI. Nicméně uznal složitost vývoje podobných nástrojů pro zvukový a video obsah. Zatímco technologie pro označování zvuku a videa ještě není plně zralá, Meta plánuje požadovat od jednotlivců, aby označili svůj vlastní upravený audio a video obsah, s postihy za nedodržování.
Stojí za zmínku, že označovací iniciativa Meta se v současné době nevztahuje na písemný text generovaný pomocí AI nástrojů jako je ChatGPT. Clegg uvedl, že zatím neexistuje žádný životaschopný mechanismus pro označování takového obsahu. Navíc není jasné, zda Meta bude aplikovat označení na generativní AI obsah sdílený na své zakódované zpravodajské službě WhatsApp.
Nedávné zkoumání politiky Meta týkající se zavádějících upravených videí nezávislou radou pro dohled vyvolalo u Clegga uznání potřeby zlepšení opatření. Rada navrhla označení namísto odstranění takového obsahu. Clegg souhlasil s hodnocením rady a uvedl, že stávající politika Meta již není vhodná s ohledem na stále se zvyšující přítomnost syntetického a hybridního obsahu. Meta se tím, že vytvoří označovací partnerství s jinými technologickými společnostmi, snaží demonstrovat svůj závazek vůči těmto obavám.
Závěrem lze říci, že rozhodnutí Meta Platforms označit AI-generované obrázky představuje důležitý krok k boji proti dezinformacím a zvýšení transparency na jejich platformách. Jak technologický průmysl nadále bojuje s výzvami, které přinášejí generativní AI technologie, stávají se společné úsilí, jako je tato označovací iniciativa, klíčovými pro utváření zodpovědného používání AI.
FAQ Sekce:
Otázka: Co je Meta Platforms?
Odpověď: Meta Platforms je mateřskou společností Facebooku a Instagramu.
Otázka: Jaký má Meta plán ohledně obrázků generovaných umělou inteligencí (AI)?
Odpověď: Meta plánuje detekovat a označovat obrázky generované AI službami poskytovanými jinými společnostmi. Budou používat neviditelné značky v souborech obrázků k rozlišení mezi skutečnými fotografiemi a digitálně vytvořeným obsahem.
Otázka: Proč Meta implementuje tento označovací systém?
Odpověď: Meta si klade za cíl řešit rozšířený problém zavádějícího a falešného obsahu produkovaného generativními AI technologiemi.
Otázka: Jaké obavy vyvolávají generativní AI technologie?
Odpověď: Generativní AI technologie mají schopnost vytvářet realisticky vypadající obrázky na základě instrukcí, což vyvolává obavy o možné škody spojené s jejich zneužitím.
Otázka: Má Meta důvěru ve svou schopnost označovat AI-generované obrázky?
Odpověď: Ano, prezident globálních záležitostí Meta, Nick Clegg, vyjádřil důvěru ve schopnost společnosti spolehlivě označovat AI-generované obrázky.
Otázka: Rozšiřuje se označovací systém také na zvukový a video obsah?
Odpověď: V současné době technologie pro označování zvuku a videa ještě není plně zralá. Meta plánuje požadovat od jednotlivců, aby označili svůj vlastní upravený audio a video obsah, ale nemá nástroje pro automatické označování takového obsahu.
Otázka: Bude Meta aplikovat označení na generativní AI obsah sdílený na WhatsApp?
Odpověď: Zatím není jasné, zda Meta bude aplikovat označení na generativní AI obsah sdílený na své zakódované zpravodajské službě WhatsApp.
Otázka: Proč Meta rozhodlo implementovat označovací iniciativu?
Odpověď: Meta se dostala pod drobnohled kvůli své politice ohledně zavádějících upravených videí nezávislou radou pro dohled, což vyvolalo potřebu zlepšení opatření. Rada doporučila označení namísto odstranění takového obsahu a Meta souhlasila s tímto hodnocením.
Klíčové termíny/žargon:
– Umělá inteligence (AI): Simulace procesů lidské inteligence pomocí strojů, která zahrnuje učení, odůvodnění a schopnost samoopravných procesů.
– Generativní AI: AI technologie, které mohou vytvářet nový obsah jako obrázky, zvuk nebo video na základě zadání nebo příkladů.
– Zavádějící obsah: Obsah, který je falešný nebo prezentuje zkreslenou realitu za účelem klamání nebo manipulace diváků.
– Označovací systém: Systém, který přiřazuje značky nebo tagy obsahu pro poskytnutí dodatečných informací nebo kontextu.
Navrhované související odkazy:
– Meta
– Facebook
– Instagram
The source of the article is from the blog agogs.sk