Pri soočanju z naraščajočim obsegom in vplivom vsebine, generirane s pomočjo umetne inteligence, raziskovalci pri Mozilli poudarjajo, da sedanji načini odkrivanja in razkrivanja vsebine AI niso zadostni za boj proti tveganjem, povezanim z AI-generirano dezinformacijo. V svojem poročilu trdijo, da je popolno zanašanje na tehnične rešitve lahko odvrnilo pozornost od obravnave večjih sistemskih težav. Družbena omrežja, ki služijo kot ključni kanali za kroženje vsebine, ne le olajšajo, ampak tudi povečujejo vpliv AI-generirane vsebine. Poleg tega algoritmična spodbuda čustveno nabiti in vznemirjajoči vsebini povečuje distribucijo sintetične vsebine, kar ustvarja nevaren cikel.
Za reševanje te kompleksne težave se Mozilla zavzema za večplasten pristop, ki združuje tehnične rešitve z večjo preglednostjo, izboljšanim medijskim opismenjevanjem in izvajanjem regulativ. Poudarjajoč Digitalni zakon o storitvah Evropske unije kot pragmatičen korak v pravo smer, Mozilla poudarja, da je pomembno, da platforme sprejmejo ukrepe za obravnavanje te težave, ne da bi predpisovale specifične rešitve.
Na področju odkrivanja AI-generiranih deepfake in dezinformacij podjetja razvijajo lastna orodja za boj proti težavi. Pindrop, ponudnik varnosti AI zvočnih posnetkov, je nedavno izdal orodje za odkrivanje AI zvoka z analizo vzorcev, najdenih v telefonskih klicih. S preučevanjem prostorskih in časovnih anomalij v posnetem zvoku lahko orodje Pindrop razločuje med živimi klici in AI-generiranim zvokom. Čeprav so ti napredki obetavni, Pindrop priznava, da je pomembno držati korak z zlonamernimi akterji, ki nenehno razvijajo nove in izboljšane metode. Preglednost in pojasnjevanje AI orodij sta prav tako ključna za gradnjo zaupanja in učinkovito obvladovanje dezinformacij.
Boj proti AI-generirani dezinformaciji presega tehnične rešitve. Reddit je v svojih predlaganih datotekah za IPO razkril, kako lahko njegova ogromna količina uporabniško ustvarjene vsebine služi za izobraževanje velikih jezikovnih modelov (LLM). Poslovni sporazumi o licenciranju podatkov z drugimi podjetji, kot je nedavni dogovor z Googlom, poudarjajo vrednost Redditovih konverzacijskih podatkov. Vendar Reddit priznava, da bi LLM-i lahko potencialno tekmovali s svojo glavno platformo, saj bi uporabniki morda raje dostopali do informacij prek modelov, usposobljenih z Redditovimi podatki.
Nasploh za učinkovito obravnavo AI-generirane dezinformacije potrebujemo celovit pristop, ki vključuje tehnične napredke, preglednost, medijsko pismenost in regulativne ukrepe. S tehnološkim napredkom bo ključnega pomena ostati pozoren in se prilagajati spreminjajočemu se okolju za omilitev tveganj, povezanih z AI-generirano vsebino.
The source of the article is from the blog jomfruland.net