Watermarking tehnoloģija ir tikuša reklamēta kā risinājums pieaugošajai problēmai ar AI dezinformāciju internetā. Tomēr eksperti un NBC News pārskats ir atklājuši, ka esošās watermarking metodes ir tālu no efektīvām. Kamēr uzņēmumi kā Meta un Adobe ir pievienojušies watermarking standartiem, rezultāti ir bijuši neapmierinoši.
Viena no galvenajām problēmām ar watermarking ir tā ievainojamība pret ignorēšanu. Mūsdienu watermarking tehnoloģijas parasti balstās uz diviem komponentiem: neredzama marķējuma iegulto informāciju attēla metadatos un redzamiem uzlīmēm, kas pārklāj attēlu. Diemžēl gan neredzamie watermarki, gan redzamās uzlīmes ir viegli noņemamas ar vienkāršiem paņēmieniem, piemēram, ekrānuzņēmumu veikšanu un attēla apgriešanu.
Cita problēma ir tā, ka lielie sociālo mediju un tehnoloģiju uzņēmumi nav piespieduši izmantot uzlīmes AI-ģenerētajām vai AI-rediģētajām saturām. Šādas stingras prasības trūkums ir ierobežojis watermarking centienus. Piemēram, kad Meta izpilddirektors Marks Zakerbergs atjaunināja savu Facebook vāka fotoattēlu ar AI-generētu attēlu, uzlīme, kas norādīja tā AI izcelsmi, nebija redzama lietotājiem, ja viņi neklikšķināja uz attēla. Tas parāda esošā watermarking tehnoloģijas trūkumus.
Meta, mēģinot risināt šo problēmu, februārī paziņoja par savu plānu identificēt AI-generētu saturu, izmantojot watermarking tehnoloģiju, un uzlīmēt šādu saturu Facebook, Instagram un Threads platformās. Tomēr pat Meta atzīst, ka watermarking nav nekļūdaina un to var viegli manipulēt. Uzņēmums plāno ieviest stingrākus standartus nākotnē, pieprasot lietotājiem atklāt AI-generētu saturu un uzliekot sankcijas nelikumīgai rīcībai.
Watermarking uzlīmju redzamība arī rada izaicinājumus. Redzamu watermarku noņemšana aizņem tikai dažas sekundes, sabojājot tos nodrošināto drošību. Tas izraisa bažas par watermarking uzticamību pārbaudot īstu saturu un precīzi identificējot AI-ģenerētus medijus.
Turklāt, neskatoties uz pūli no lielajiem tehnoloģiju spēlētājiem kā Meta, Google, Microsoft un Adobe pieņemt kopējus watermarking standartus, ir tūkstošiem AI modeļu, kas ir pieejami lejupielādei un kuri neatbilst šiem standartiem. Tas radīs ievērojamu plaisu efektīvai AI dezinformācijas apkarošanai.
Watermarking ierobežojumi kļūst īpaši acīmredzami ņemot vērā deepfake pieaugumu. Deepfake ir AI-generēti mediji, kas bieži izmanto, lai uzbruktu personām ar manipulētiem attēliem un video, nelūdzot viņu piekrišanu. Watermarking vien nepietiek, lai risinātu sarežģītās un etiskās problēmas, ko rada deepfake.
Kopumā, lai gan watermarking ir parādījis potenciālu kā rīks cīņā pret AI dezinformāciju, praksē tas nav pietiekams. Tās ievainojamības, vieglo noņemamību un universālās ieviešanas trūkums kavē tā efektivitāti. Lai patiešām risinātu AI-generētu mediju izaicinājumus, nepieciešama daudzpusīga pieeja, iekļaujot progresīvas tehnoloģijas, stingrus noteikumus un sabiedrības informētību.
The source of the article is from the blog mgz.com.tw