Meta Platforms, materská spoločnosť Facebooku a Instagramu, oznámila plány na detekciu a označovanie obrázkov generovaných umelou inteligenciou (AI) poskytovanou inými spoločnosťami. Cieľom spoločnosti je používať neviditeľné značky vložené do súborov obrázkov, aby rozlíšili medzi skutočnými fotografiami a digitálne vytvoreným obsahom. Tento systém označovania sa bude aplikovať na akýkoľvek obsah, ktorý nesie tieto značky a je zdieľaný na platformách Meta.
Zavedenie tohto systému označovania je snaha zaoberať sa rozsiahlym problémom zavádzajúceho a falošného obsahu vytvoreného generatívnymi AI technológiami. Tieto technológie majú schopnosť vytvárať realistické obrázky na základe jednoduchých pokynov, čo vyvoláva obavy o možné škody spojené s ich zneužitím. Iniciatíva označovania od Meta je súčasťou širšieho hnutia v rámci technologického priemyslu na stanovenie noriem a zmierňovanie negatívnych dopadov generatívnej AI.
Nick Clegg, prezident globálnych záležitostí v Meta, vyjadril dôveru vo schopnosť spoločnosti zuverene označovať obrázky generované AI. Avšak pripustil, že je zložité vyvinúť podobné nástroje pre označovanie zvukového a video obsahu. Zatiaľ čo technológia na označovanie zvuku a videa nie je ešte úplne zrelá, Meta má v pláne požadovať od jednotlivcov označovať vlastný upravený zvukový a video obsah, s trestmi za nedodržanie pravidiel.
Je potrebné zdôrazniť, že iniciatíva Meta na označovanie sa momentálne nevzťahuje na písomný obsah generovaný nástrojmi AI ako ChatGPT. Clegg uviedol, že momentálne neexistuje žiadny vhodný mechanizmus na označovanie takéhoto obsahu. Okrem toho zostáva nejasné, či Meta bude aplikovať označenia na generatívny AI obsah zdieľaný na svojej šifrovanej službe WhatsApp.
Nedávna kontrola, ktorej Meta čelila pre svoju politiku týkajúcu sa klamlivých upravených videí zo strany svojej nezávislej dozornej rady, viedla Clegga k uznaniu potreby zlepšenia opatrení. Rada odporučila označovať takýto obsah namiesto jeho odstránenia. Clegg súhlasil s hodnotením rady a uviedol, že s ohľadom na stále sa zvyšujúcu prítomnosť syntetického a hybridného obsahu nie je existujúca politika spoločnosti Meta viac vhodná. Meta si prostredníctvom partnerstva s ďalšími technologickými spoločnosťami želá demonštrovať svoju snahu zaoberať sa týmito obavami.
Záverom, rozhodnutie spoločnosti Meta Platforms označovať obrázky generované AI predstavuje dôležitý krok smerom k boju proti dezinformáciám a zvýšeniu transparentnosti na jej platformách. Vzhľadom na to, že technologický priemysel ďalej rieši výzvy, ktoré generatívne AI technológie predstavujú, spolupracovné úsilie ako táto iniciatíva označovania je kľúčové pre zodpovedné využívanie AI.
Často kladené otázky:
Otázka: Čo je Meta Platforms?
Odpoveď: Meta Platforms je materská spoločnosť Facebooku a Instagramu.
Otázka: Aké má Meta plány týkajúce sa obrázkov vytvorených umelou inteligenciou (AI)?
Odpoveď: Meta plánuje detekovať a označovať obrázky vytvorené AI službami poskytovanými inými spoločnosťami. Budú používať neviditeľné značky v súboroch obrázkov, aby rozlíšili medzi skutočnými fotografiami a digitálne vytvoreným obsahom.
Otázka: Prečo Meta implementuje tento systém označovania?
Odpoveď: Meta si klade za cieľ zaoberať sa rozšíreným problémom zavádzajúceho a falošného obsahu vytvoreného generatívnymi AI technológiami.
Otázka: Aké obavy vznikajú v súvislosti s generatívnymi AI technológiami?
Odpoveď: Generatívne AI technológie majú schopnosť vytvárať realistické obrázky na základe pokynov, čo vyvoláva obavy o potenciálne škodlivé vplyvy ich zneužitia.
Otázka: Je Meta sebaisto vo svojej schopnosti označovať obrázky generované AI?
Odpoveď: Áno, Nick Clegg, prezident globálnych záležitostí v Meta, vyjadril dôveru vo schopnosť spoločnosti Meta spoľahlivo označovať obrázky generované AI.
Otázka: Rozširuje sa systém označovania aj na zvukový a video obsah?
Odpoveď: Momentálne nie je technológia na označovanie zvuku a videa úplne zrelá. Meta má v pláne požadovať od jednotlivcov označovať vlastný upravený zvukový a video obsah, ale nemá nástroje na automatické označovanie takéhoto obsahu.
Otázka: Budú sa aplikovať označenia na generatívny AI obsah zdieľaný na WhatsApp?
Odpoveď: Zatiaľ nie je jasné, či Meta bude aplikovať označenia na generatívny AI obsah zdieľaný na svojej šifrovanej službe WhatsApp.
Otázka: Prečo sa Meta rozhodla implementovať iniciatívu označovania?
Odpoveď: Meta čelila kritike pre svoju politiku týkajúcu sa klamlivých upravených videí, čo vyvolalo potrebu vylepšenia opatrení. Nezávislá dozorná rada odporučila označovať takýto obsah namiesto jeho odstránenia a Meta s týmto hodnotením súhlasila.
Kľúčové pojmy/fachové výrazy:
– Umelá inteligencia (AI): Simulácia procesov ľudskej inteligencie prostredníctvom strojov, zahŕňajúca učenie, úvažovanie a schopnosť autoprávania.
– Generatívna AI: AI technológie, ktoré môžu vytvárať nový obsah, ako sú obrázky, zvuk alebo video, na základe pokynov alebo príkladov.
– Zavádzajúci obsah: Obsah, ktorý je nepravdivý alebo prezentuje skreslenú realitu s cieľom manipulovať alebo klamať divákov.
– Systém označovania: Systém, ktorý priraďuje značky alebo štítky obsahu, aby poskytol dodatočné informácie alebo kontext.
Súvisiace odkazy:
– Meta
– Facebook
– Instagram
The source of the article is from the blog krama.net