Meta, kas ir Facebook, Instagram un Threads māteskompānija, veic pasākumus, lai identificētu un marķētu ar AI ģenerētus attēlus savos platformās. Šis solis ir daļa no Meta pūlēm cīnīties pret maldināšanu un nodrošināt atbildību tiem, kuri apzināti maldina citus. Šobrīd Meta AI ģenerēti fotoreālistiskie attēli jau ir marķēti kā tādi. Tomēr nesenā bloga ierakstā Meta valdes priekšsēdētājs Niks Kleģs paziņoja, ka uzņēmums plāno paplašināt marķēšanu arī uz konkurentu pakalpojumu izstrādātajiem AI ģenerētajiem attēliem.
Lai gan Meta AI attēli jau satur metadatus un neredzamus ūdenszīmes, kas norāda to AI izcelsmi, uzņēmums attīsta rīkus, lai atpazītu šos marķierus, ja tos izmanto citas organizācijas, piemēram, Google, OpenAI, Microsoft, Adobe, Midjourney un Shutterstock. Identificējot un marķējot ar AI ģenerētu saturu, Meta cenšas risināt robežu izplūšanas problēmu starp cilvēku un sintētisko saturu, nodrošinot lietotājiem skaidrību par attēlu tehnoloģiju.
Nākamajos mēnešos Meta plāno piemērot šos marķierus visās valodās. Uzņēmums atzīst šīs pūles nozīmi, it īpaši svarīgās globālās vēlēšanas, kas notiks nākamajā gadā. Tomēr ir jāņem vērā, ka pašreizējā marķēšana attiecas tikai uz attēliem, un AI ģenerēta audio un video saturs neiekļauj šos marķierus.
Pamatsvītrā ar marķēšanu Meta plāno novietot pamanāmus marķierus uz digitāli manipulētiem vai grozītiem attēliem, video vai audio failiem, kas rada augstu risku maldināt sabiedrību materiāli. Turklāt uzņēmums pēta tehnoloģijas attīstību, kas spēj automātiski atpazīt AI ģenerētu saturu pat tad, ja šīs neredzamās ūdenszīmes ir noņemtas vai nav klāt.
Kleģs atzinīgi vērtē šīs jomas nepieciešamību pēc jauninājumiem, ņemot vērā pretinieku būtību un nepieciešamību turēties soli priekšā tiem, kas mēģina vilcināt ar AI ģenerētu saturu. Jau tagad AI deepfake tehnoloģijas ir bijušas klātesošas ASV prezidenta vēlēšanu ciklā, un incidents, piemēram, kontroversiāla attēla apstrāde Austrālijā, ir noticis. Meta centieni atklāt un marķēt AI ģenerētu saturu ir būtiski pret palīdzībaspratībām.
Fosterot skaidrību un nododot lietotājiem informāciju par satura dabu, ar kuru viņi saskaras, Meta mērķē veidot drošāku digitālo vidi, kur cilvēki var atbildīgi pārvietoties un iesaistīties ar medijiem.
The source of the article is from the blog enp.gr