Les avancées technologiques estompent les frontières entre réalité et fabriqué dans le domaine des médias audiovisuels. La lutte pour identifier les enregistrements authentiques s’intensifie, et à mesure que la technologie évolue, cette tâche ne fera que devenir plus ardue. Un exemple choquant s’est récemment déroulé sur les plateformes de médias sociaux où des enregistrements audio attribués au directeur d’une école secondaire de Baltimore ont émergé. Ces enregistrements contenaient un contenu raciste et antisémite troublant. Cependant, une enquête plus approfondie menée par les forces de l’ordre a révélé la vérité : la voix prétendument appartenant à Erik Eiswert, le directeur réel, avait été reproduite de manière artificielle à l’aide d’un outil sophistiqué de clonage vocal.
Le stratagème d’un enseignant tourne mal, laissant le directeur en tumulte, les incidents ont dégénéré en chaos alors que la communauté scolaire était trompée en croyant que les paroles offensantes étaient effectivement celles d’Eiswert. Le coupable, Dajon Darien – un professeur d’éducation physique – a ingénieusement inclus son propre nom dans l’audio falsifié pour se dépeindre en tant que victime du directeur présumément préjugé.
Ces déclarations incendiaires insinuaient avec véhémence que certains membres du personnel, y compris Darien lui-même, devraient être renvoyés de l’établissement éducatif. Lorsque diffusé sur Internet, l’audio a rapidement pris de l’ampleur, provoquant l’indignation parmi les étudiants, le corps professoral et les familles. Beaucoup ont été initialement trompés par les enregistrements, entraînant des condamnations publiques et même des menaces à l’encontre d’Eiswert et de sa famille, nécessitant l’intervention de la police.
Comment les deepfakes peuvent créer des sensations médiatiques et des conséquences juridiques, l’enquête a conduit à l’arrestation de Darien après la découverte qu’il avait utilisé des ressources scolaires pour réaliser le clonage vocal et était lié au compte e-mail utilisé pour diffuser l’audio frauduleux. Bien qu’il n’ait jamais partagé le contenu directement sur les réseaux sociaux, un e-mail qu’il a envoyé a conduit un collègue enseignant, qui n’a pas été inculpé, à le transmettre à un élève capable de le diffuser en ligne, entraînant une infamie virale.
L’identification de l’origine des médias est un défi croissant en raison de l’avancée rapide des technologies d’intelligence artificielle et d’apprentissage automatique. Les deepfakes, un terme dérivé de « deep learning » et « fake », désignent des contenus médiatiques ayant été manipulés de telle sorte qu’ils paraissent réels. Bien que cette technologie ait un potentiel pour le divertissement et des applications créatives, elle représente également une menace significative dans la propagation de la désinformation et de la diffamation, comme le montre l’incident de l’école secondaire de Baltimore impliquant le directeur faussement accusé.
La nécessité de méthodes de détection renforcées est primordiale pour lutter contre la propagation des deepfakes. Actuellement, les chercheurs développent diverses techniques, telles que le tatouage numérique et la blockchain, pour authentifier les médias. Cependant, à mesure que la technologie pour créer des deepfakes devient plus avancée et accessible, la détection devient un jeu du chat et de la souris. Les modèles d’IA sont déjà en concurrence pour se surpasser mutuellement, un côté générant des deepfakes et l’autre améliorant la détection.
Les préoccupations légales et les implications éthiques sont au premier plan des discussions sur les deepfakes. De nombreux pays luttent toujours avec des réponses législatives appropriées face aux deepfakes, avec des préoccupations allant de la violation de la vie privée aux impacts potentiels sur la démocratie et la sécurité nationale. L’affaire de falsification audiovisuelle impliquant l’usurpation d’identité d’Erik Eiswert souligne le besoin de lois et de réglementations efficaces pour rendre les individus responsables de la création et de la diffusion de faux contenus médiatiques.
Les avantages et inconvénients des deepfakes pivotent sur leurs applications. Bien qu’ils puissent considérablement améliorer le réalisme dans le cinéma et les jeux vidéo ou être utilisés pour des simulations éducatives, le potentiel de préjudice est important. La désinformation peut se propager rapidement, portant atteinte aux réputations, influençant les élections et même mettant des vies en danger. La double nature de la technologie exige une réponse équilibrée qui permet l’innovation tout en atténuant les risques.
Pour en savoir plus sur la technologie deepfake et les implications plus larges sur le paysage médiatique, vous pourriez trouver les sources suivantes utiles :
– Organisation de l’intelligence artificielle
– Agence de cybersécurité et de sécurité des infrastructures