Vandmærkningsteknologien er blevet præsenteret som en løsning på det stigende problem med AI-desinformation på internettet. Dog har eksperter og en gennemgang foretaget af NBC News fundet, at nuværende vandmærkningsmetoder er langt fra effektive. Mens virksomheder som Meta og Adobe har tilsluttet sig vandmærkningsstandarder, har resultaterne været skuffende.
En af de primære udfordringer med vandmærkning ligger i dens sårbarhed over for omgåelse. Samtidsvandmærkningsteknologier er typisk afhængige af to komponenter: et usynligt tag i et billedes metadata og en synlig etiket overlagt på billedet. Desværre er både usynlige vandmærker og synlige etiketter nemme at fjerne gennem simple metoder som skærmdumpning og beskæring.
En anden problemstilling er, at store sociale medier- og techvirksomheder ikke har håndhævet brugen af etiketter på AI-genereret eller AI-redigeret indhold. Denne mangel på strenge påbud har begrænset effekten af vandmærkningsindsatser. For eksempel, da Meta CEO Mark Zuckerberg opdaterede sit Facebook-coverfoto med et AI-genereret billede, var etiketten, der angav dets AI-oprindelse, ikke synlig for brugerne, medmindre de klikkede på fotoet. Dette demonstrerer svaghederne ved den nuværende vandmærkningsteknologi.
Meta annoncerede i februar et forsøg på at imødegå dette problem ved at identificere AI-genereret indhold gennem vandmærkningsteknologi og etikettere sådant indhold på Facebook, Instagram og Threads. Dog erkender Meta endda, at vandmærkning ikke er vandtæt og let kan manipuleres. Virksomheden planlægger at indføre strengere standarder i de kommende måneder, der kræver, at brugerne skal angive AI-genereret indhold og pålægge straffe for overtrædelse.
Synligheden af vandmærkeetiketter præsenterer også udfordringer. Fjernelse af synlige vandmærker tager kun få sekunder, hvilket underminerer den sikkerhed, de er beregnet til at give. Dette rejser bekymringer om pålideligheden af vandmærkning i at verificere ægte indhold og identificere AI-genereret medie korrekt.
Desuden, til trods for indsatsen fra store techspillere som Meta, Google, Microsoft og Adobe for at vedtage samarbejdsvillige vandmærkningsstandarder, er der tusindvis af AI-modeller tilgængelige til download, som ikke overholder disse standarder. Dette skaber et betydeligt hul i effektiv bekæmpelse af AI-desinformation.
Vandmærkningens begrænsninger bliver særligt tydelige, når man overvejer stigningen i deepfakes. Deepfakes er AI-genereret medie, der ofte bruges til at målrette enkeltpersoner med manipulerede billeder og videoer uden deres samtykke. Vandmærkning alene kan ikke håndtere kompleksiteterne og de etiske udfordringer, der skabes af deepfakes.
Som deepfakes fortsætter med at blive brugt i svindelnumre, politisk desinformation og krænkelser af privatlivet, bliver behovet for omfattende løsninger tydeligt. Vandmærkning, selvom det er et skridt i den rigtige retning, kan ikke udelukkende stole på for at tackle deepfake-problemet.
Afslutningsvis har vandmærkning vist potentiale som et værktøj til at bekæmpe AI-desinformation, men det halter i praksis. Dets sårbarheder, lethed ved fjernelse og mangel på universel håndhævelse hæmmer dets effektivitet. For at virkelig imødegå udfordringerne ved AI-genereret medie kræves en flerstrenget tilgang, der inkorporerer avancerede teknologier, stærke regulativer og offentlig bevidsthed.
FAQ
The source of the article is from the blog radiohotmusic.it