Watermerktechnologie wordt gezien als een oplossing voor het groeiende probleem van AI-desinformatie op het internet. Desondanks hebben experts en een beoordeling door NBC News vastgesteld dat de huidige watermerkmethoden verre van effectief zijn. Terwijl bedrijven zoals Meta en Adobe zich hebben aangesloten bij watermerkstandaarden, zijn de resultaten teleurstellend gebleken.
Een van de belangrijkste uitdagingen bij watermerken ligt in de kwetsbaarheid voor omzeiling. Hedendaagse watermerktechnologieën steunen meestal op twee componenten: een onzichtbare tag in de metadata van een afbeelding en een zichtbaar label dat op de afbeelding is superimposed. Helaas zijn zowel onzichtbare watermerken als zichtbare labels eenvoudig te verwijderen door eenvoudige methoden zoals screenshots en bijsnijden.
Een ander probleem is dat grote sociale media- en techbedrijven het gebruik van labels op door AI gegenereerde of bewerkte inhoud niet hebben afgedwongen. Dit gebrek aan strikte voorschriften heeft de impact van watermerkinspanningen beperkt. Zo was bijvoorbeeld de label die aangaf dat de Facebook-omslagfoto van Meta CEO Mark Zuckerberg AI-gegenereerd was, niet zichtbaar voor gebruikers tenzij ze op de foto klikten. Dit toont de tekortkomingen van de huidige watermerktechnologie aan.
Meta heeft aangekondigd van plan te zijn om dit probleem aan te pakken door AI-gegenereerde inhoud te identificeren via watermerktechnologie en dergelijke inhoud op Facebook, Instagram en Threads te labelen. Echter, zelfs Meta erkent dat watermerken niet waterdicht zijn en gemakkelijk gemanipuleerd kunnen worden. Het bedrijf is van plan om strengere normen in te voeren in de komende maanden, waarbij gebruikers verplicht worden gesteld om AI-gegenereerde inhoud bekend te maken en boetes op te leggen bij niet-naleving.
De zichtbaarheid van watermerklabels brengt ook uitdagingen met zich mee. Zichtbare watermerken kunnen binnen enkele seconden worden verwijderd, waardoor de veiligheid die ze horen te bieden wordt ondermijnd. Dit roept twijfels op over de betrouwbaarheid van watermerken bij het verifiëren van echte inhoud en het nauwkeurig identificeren van door AI gegenereerde media.
Ondanks inspanningen van grote techspelers zoals Meta, Google, Microsoft en Adobe om samenwerkende watermerkstandaarden aan te nemen, zijn er duizenden AI-modellen beschikbaar voor download die niet voldoen aan deze normen. Dit creëert een aanzienlijke kloof in het effectief bestrijden van AI-desinformatie.
De beperkingen van watermerken worden met name duidelijk bij het overwegen van de opkomst van deepfakes. Deepfakes zijn door AI gegenereerde media, vaak gebruikt om individuen te targeten met gemanipuleerde beelden en video’s zonder hun toestemming. Watermerken alleen kunnen niet omgaan met de complexiteiten en ethische uitdagingen die door deepfakes worden gesteld.
Terwijl watermerken laten zien dat ze potentie hebben als instrument om AI-desinformatie te bestrijden, vallen ze in de praktijk tekort. Hun kwetsbaarheden, gemak van verwijdering en gebrek aan universele handhaving belemmeren hun effectiviteit. Om daadwerkelijk de uitdagingen van door AI gegenereerde media aan te pakken, is een veelzijdige aanpak vereist, waarbij geavanceerde technologieën, sterke regelgeving en publieke bewustwording worden gecombineerd.
FAQ
The source of the article is from the blog girabetim.com.br