L’intelligence artificielle s’installe dans la propagande extrémiste
Suite à une attaque terroriste en mars dans une salle de concert près de Moscou, l’État islamique a célébré le massacre de plus de 130 personnes à travers une vidéo diffusée en ligne. Cette vidéo, d’une durée légèrement supérieure à quatre-vingt-dix secondes, a émulé le format des premières propagandes mais avec une importante innovation technologique : elle mettait en scène une journaliste entièrement créée à l’aide de l’intelligence artificielle. Avec une apparence photoréaliste et une voix, la journaliste IA a détaillé l’attaque, présentée non pas comme un acte de terrorisme, mais comme une conséquence du conflit entre l’État islamique et ceux qui s’opposent à l’islam.
Le SITE Intelligence Group a révélé que cette vidéo fait partie de l’initiative « News Harvest » conçue pour diffuser les actes terroristes à l’échelle mondiale. Chaque semaine depuis l’attaque en Russie, le programme présente des mises à jour clés. L’IA est devenue un outil indispensable pour l’État islamique, aidant non seulement à la diffusion de nouvelles, mais également à la création de posters et de matériaux de propagande supplémentaires. Rita Katz, la cofondatrice du SITE Intelligence Group, a exprimé que l’IA est un outil incroyable pour une propagande terroriste efficace et répandue.
À son apogée, l’État islamique se vantait d’une équipe audiovisuelle conséquente, produisant des vidéos de haute qualité comparables à des films hollywoodiens. Par exemple, le meurtre du pilote Muath al-Kasasbeh en février 2015 a été dépeint comme une publicité pour la mort, incitant Karima Bennoune, une auteure sur les aspects non dits de la lutte contre le fondamentalisme musulman, à qualifier les vidéos de « pornographie de la grossièreté ».
Vitesse et discrétion : l’IA redéfinit le contenu terroriste
L’IA simplifie considérablement le travail des groupes extrémistes, non seulement en termes de vitesse de diffusion de l’information en ligne, mais aussi en générant du contenu répondant aux normes d’actualités conventionnelles, rendant ainsi extrêmement difficile pour les administrateurs des réseaux sociaux de le distinguer des informations légitimes.
Les discussions au sein des groupes sympathisants privés de l’État islamique révèlent la reconnaissance de l’IA comme un outil puissant. Un utilisateur a réfléchi sur le potentiel d’imiter les médias grand public pour une présentation plus engageante au lieu de la lecture de texte et d’images statiques traditionnelles.
Les progrès rapides de l’IA promettent une encore plus grande simplicité pour la manipulation médiatique, considérée comme aussi cruciale que le combat sur le terrain par certains partisans en raison de son immense impact sur la perception publique.
Steven Stalinsky, directeur exécutif de l’Institut de recherche sur les médias du Moyen-Orient, a expliqué au Washington Post que bien que la production actuelle ne fasse pas officiellement partie de l’aile médiatique de l’État islamique, l’approbation de la haute direction est probable. Les annonces de recrutement sollicitent même de jeunes « médias moudjahidines » compétents en IA et en montage photo et vidéo, affirmant que « les médias attendent votre attaque ».
Al-Qaïda a également montré un intérêt pour les outils de propagande sophistiqués, organisant des ateliers en ligne sur l’IA et fournissant un document de cinquante pages avec des instructions pour créer des images et des textes à l’aide de chatbots avec intelligence artificielle.
Controverse autour de l’utilisation de l’IA par les adeptes
Malgré les avantages évidents, tous les partisans de l’État islamique ne sont pas favorables à l’utilisation de l’IA. Certains le critiquent sur diverses plateformes en ligne pour avoir enfreint la loi islamique interdisant la représentation de figures humaines. Le créateur d’une vidéo de la série « News Harvest » a reçu des menaces de punition dans l’au-delà pour cette transgression. Pourtant, il a sollicité des conseils religieux aboutissant à une solution de contournement : il a modifié ses vidéos en floutant les visages pour se conformer à la doctrine religieuse.
The source of the article is from the blog newyorkpostgazette.com