Roman RemberMeta, materská spoločnosť Facebooku, Instagramu a Threads, podniká kroky na identifikovanie a označovanie umelé inteligenciou generovaných obrázkov na svojich platformách. Tento krok je súčasťou úsilia Meta bojovať proti klamlivosti a konať proti tým, ktorí zámerne zavádzajú iných. V súčasnosti sú umelou inteligenciou vytvorené fotorealistické obrázky Meta už označené ako také. Avšak v nedávnom blogovom príspevku Nick Clegg, prezident Globálnych záležitostí Mety, oznámil, že spoločnosť plánuje rozšíriť označovanie umelou inteligenciou vytvorených obrázkov vytvorených na súperiacich službách.
Zatiaľ čo umelé inteligencie obrázky Mety už obsahujú metadata a neviditeľné vodotlačové znaky, ktoré naznačujú ich pôvod v AI, spoločnosť vyvíja nástroje na detekciu týchto značiek, keď sú použité inými organizáciami ako Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock. Identifikáciou a označovaním umelou inteligenciou vytvoreného obsahu si Meta stanovuje cieľ adresovať rozmazujúcu sa čiaru medzi ľudským a syntetickým obsahom a poskytnúť používateľom transparentnosť o technológii za obrázkami, s ktorými sa stretávajú.
V nasledujúcich mesiacoch plánuje Meta aplikovať tieto označenia vo všetkých jazykoch. Spoločnosť si uvedomuje dôležitosť tohto úsilia, najmä vzhľadom na významné globálne voľby, ktoré sa uskutočnia v nasledujúcom roku. Dôležité je však poznamenať, že označenie sa v súčasnosti obmedzuje na obrázky a AI vytvorené zvukové a video obsahy tieto značky neobsahujú.
Okrem označovania Meta zamýšľa umiestniť výraznejšie značky na digitálne modifikované alebo upravené obrázky, videá alebo zvuky, ktoré majú vysoké riziko materiálneho zavádzania verejnosti. Okrem toho spoločnosť skúma vývoj technológií, ktoré dokážu automaticky detegovať obsah vytvorený umelou inteligenciou, aj keď tieto neviditeľné značky boli odstránené alebo sú absentujúce.
Clegg uznaný nepriateľský charakter tohto priestoru a potrebu neustálej inovácie, aby sa držali krokov pred tými, ktorí sa snažia zavádzať vytvoreným umelou inteligenciou obsahom. Keďže AI deepfake už sa objavili počas cyklu prezidentských volieb v USA a udalosti ako kontroverzná úprava obrázkov v Austráli, úsilie Mety detegovať a označovať umelou inteligenciou vytvorený obsah je kľúčové v boji proti zavádzajúcim praktikám.
Vytvorením transparentnosti a poskytovaním informácií o povaze obsahu, s ktorým sa stretávajú, si Meta kládne za cieľ vytvoriť bezpečnejšie digitálne prostredie, kde jednotlivci môžu zodpovedne navigovať a angažovať sa s médiom.
