La technologie de filigrane a été présentée comme une solution au problème croissant de la désinformation par l’IA sur Internet. Cependant, des experts et une revue de NBC News ont constaté que les méthodes actuelles de filigrane sont loin d’être efficaces. Alors que des entreprises comme Meta et Adobe ont adhéré aux normes de filigrane, les résultats ont été décevants.
L’un des principaux défis du filigrane réside dans sa vulnérabilité au contournement. Les technologies de filigrane contemporaines reposent généralement sur deux composants : une balise invisible dans les métadonnées d’une image et une étiquette visible superposée à l’image. Malheureusement, il est facile de supprimer à la fois les filigranes invisibles et les étiquettes visibles par des méthodes simples telles que la capture d’écran et le recadrage.
Un autre problème est que les principales entreprises de médias sociaux et de technologie n’ont pas imposé l’utilisation d’étiquettes sur le contenu généré ou édité par l’IA. Ce manque de mandats stricts a limité l’impact des efforts de filigranage. Par exemple, lorsque le PDG de Meta, Mark Zuckerberg, a mis à jour sa photo de couverture Facebook avec une image générée par l’IA, l’étiquette indiquant son origine IA n’était pas visible pour les utilisateurs à moins qu’ils ne cliquent sur la photo. Cela démontre les limites de la technologie actuelle de filigrane.
Meta, dans une tentative de résoudre ce problème, a annoncé en février son intention d’identifier le contenu généré par l’IA à l’aide de la technologie de filigrane et d’étiqueter ce contenu sur Facebook, Instagram et Threads. Cependant, même Meta reconnaît que le filigrane n’est pas infaillible et peut être facilement manipulé. L’entreprise prévoit d’introduire des normes plus strictes dans les mois à venir, exigeant des utilisateurs qu’ils divulguent le contenu généré par l’IA et imposant des sanctions en cas de non-conformité.
La visibilité des étiquettes de filigrane présente également des défis. Supprimer les filigranes visibles ne prend que quelques secondes, sapant la sécurité qu’ils sont censés fournir. Cela soulève des préoccupations quant à la fiabilité du filigrane pour vérifier le contenu authentique et identifier avec précision les médias générés par l’IA.
De plus, malgré les efforts des principaux acteurs de la technologie tels que Meta, Google, Microsoft et Adobe pour adopter des normes de filigrane coopératives, des milliers de modèles d’IA disponibles en téléchargement ne respectent pas ces normes. Cela crée un écart important dans la lutte efficace contre la désinformation par l’IA.
Les limites du filigrane deviennent particulièrement évidentes lorsqu’on envisage la montée des deepfakes. Les deepfakes sont des médias générés par l’IA, souvent utilisés pour cibler des individus avec des images et des vidéos manipulées sans leur consentement. Le filigrane seul ne peut pas répondre aux complexités et aux défis éthiques posés par les deepfakes.
Alors que les deepfakes continuent d’être utilisés dans des escroqueries, de la désinformation politique et des violations de la vie privée, la nécessité de solutions globales devient évidente. Le filigrane, bien qu’une avancée dans la bonne direction, ne peut pas être la seule solution pour résoudre le problème des deepfakes.
En conclusion, le filigrane a montré un potentiel en tant qu’outil de lutte contre la désinformation par l’IA, mais il reste insuffisant en pratique. Ses vulnérabilités, sa facilité de contournement et le manque d’application universelle entravent son efficacité. Pour vraiment relever les défis des médias générés par l’IA, une approche multidimensionnelle est nécessaire, intégrant des technologies avancées, des réglementations strictes et une sensibilisation du public.
FAQ
The source of the article is from the blog trebujena.net