Vannmerkingsteknologi har blitt framheva som ein løysing på det aukande problemet med AI-misinformasjon på internett. Likevel har ekspertar og ein gjennomgang av NBC News funne at gjeldande vannmerkingsmetodar er langt ifrå effektive. Medan selskap som Meta og Adobe har slutta seg til vannmerkingsstandardar, har resultata vore skuffande.
Ei av dei store utfordringane med vannmerking ligg i sårbarheita for å bli omgått. Samtids vannmerkingsteknologiar typisk stolar på to komponentar: ein usynleg tagg i bilettens metadata og ein synleg etikett overlappa på bilett. Dessverre er både usynlege vannmerker og synlege etikettar enkle å fjerne ved hjelp av enkle metodar som skjermbilete og beskjæring.
Eit anna problem er at store sosiale media- og teknologiselskap ikkje har handheva bruken av etikettar på AI-generert eller AI-redigert innhald. Denne mangelen på strenge føresegner har avgrensa verknaden av vannmerkingsinnsats. Til dømes, då Meta-sjef Mark Zuckerberg oppdaterte Facebook-coverfotoet sitt med eit AI-generert bilete, var ikkje etiketten som indikerte at det var AI-opphav synleg for brukarar med mindre dei klikka på bilettet. Dette demonstrerer svakheitane ved dagens vannmerkingsteknologi.
Meta, i eit forsøk på å takle dette, kunngjorde i februar si plan om å identifisere AI-generert innhald gjennom vannmerkingsteknologi og merke slikt innhald på Facebook, Instagram og Threads. Likevel erkjenner til og med Meta at vannmerking ikkje er feilsikker og kan lett manipulerast. Selskapet planlegg å introdusere strengare standardar i månadane som kjem, som krev at brukarar oppgir AI-generert innhald og ilegger straff for brot.
Synleggjeringa av vannmerkeetikettar presenterer òg utfordringar. Å fjerne synlege vannmerker tek berre nokre sekund, og undergraver den tryggingsfunksjonen dei er meint å gi. Dette reiser spørsmål om pålitelegheita av vannmerking i å verifisere ekte innhald og identifisere AI-genererte medium nøyaktig.
Vidare, til trass for innsatsen frå store teknologiselskap som Meta, Google, Microsoft og Adobe for å adoptere samarbeidsvillige vannmerkingsstandardar, er det tusenvis av AI-modellar tilgjengelege for nedlasting som ikkje følger desse standardane. Dette skapar ei betydeleg kløft i effektiv kamp mot AI-misinformasjon.
Begrensingane til vannmerking blir særleg tydelege når ein vurderer framveksten av deepfakes. Deepfakes er AI-genererte medium, ofte brukt til å målrette enkeltpersonar med manipulerte bilete og videoar utan deira samtykke. Vannmerking åleine kan ikkje takle kompleksiteten og etiske utfordringane som deepfakes medfører.
Som deepfakes fortsett å bli brukt i svindel, politisk desinformasjon og brot på personvern, blir behovet for omfattande løysingar tydleg. Vannmerking, sjølv om det er eit steg i riktig retning, kan ikkje berre vere det som er nødvendig for å takle deepfake-problemet.
Oppsummert har vannmerking vist potensiale som eit verktøy for å bekjempe AI-misinformasjon, men kjem til kort i praksis. Sårberheitene, enkelheita i fjerning og mangelen på universell håndheving hindrar effektiviteten. For å verkeleg takle utfordringane med AI-genererte medium er det naudsynt med eit fleirleisert tilnærming, som inkluderer avanserte teknologiar, sterke reglar og allmenn medvit.
FAQ
The source of the article is from the blog agogs.sk