L’essor de la technologie deepfake marque le début d’une nouvelle ère de désinformation, particulièrement soulignée lors des récentes élections américaines de 2016 et 2020. Anatoly Kvitnitsky, fondateur de AI or Not AI, consacre son travail à identifier ces images et sons trompeurs. Il exprime des inquiétudes face à la sophistication des deepfakes, qui pourraient dépasser les campagnes de désinformation du passé.
Deepfakes, un Mélange Délicat d’IA et de Tromperie
Selon Mário A. T. Figueiredo, professeur à l’Instituto Superior Técnico (IST), le terme « deepfake » comprend deux éléments : la complexité de la détection et l’utilisation de techniques d’intelligence artificielle – notamment l’apprentissage automatique et les réseaux neuronaux profonds. Cette technologie permet la création d’images et de vidéos difficilement distinguables des réelles.
Réalisme Trompeur grâce à l’IA Générative
Avec les avancées de l’IA générative, les méthodes sont devenues aptes à apprendre à partir de nombreux exemples d’images ou de vidéos naturelles. Des outils comme Dall-E et Midjourney ont la capacité de manipuler subtilement des images, comme modifier des visages tout en conservant un aspect naturel. Ces manipulations créent la confusion car la frontière entre contenu capturé par caméra et généré par ordinateur devient floue.
Une Avancée Technologique à Double Tranchant
Figueiredo a des sentiments mitigés à l’égard de ces avancées. Bien que les réalisations techniques soient impressionnantes, il s’inquiète également du potentiel de manipulation et de son impact. Contrairement aux manipulations photographiques du passé, qui nécessitaient de la compétence et du savoir-faire, la création de deepfakes est devenue accessible aujourd’hui, permettant la diffusion d’informations trompeuses convaincantes.
Figueiredo aborde également les aspects émotionnels et sociaux. Si un deepfake correspond aux croyances d’un spectateur, il est plus susceptible de partager le contenu avec moins de vigilance. Il estime que la véritable menace ne réside pas dans la technologie elle-même, mais dans la manière dont elle est diffusée sur les réseaux sociaux, souvent sans regard critique. La facilité avec laquelle des représentations ou des déclarations fausses peuvent être créées et crues est une préoccupation majeure pour l’avenir de la diffusion d’informations crédibles.
La Quête d’Authenticité dans le Discours Politique
L’impact des deepfakes dépasse le domaine de la politique ; cependant, les enjeux sont particulièrement élevés en ce qui concerne les processus démocratiques et la confiance que les citoyens accordent à leurs dirigeants. Les campagnes de désinformation utilisant des deepfakes pourraient non seulement égarer les électeurs, mais aussi compromettre l’intégrité du système politique lui-même.
[…]
The source of the article is from the blog shakirabrasil.info