L’avancée rapide de la technologie a entraîné à la fois des impacts positifs et négatifs sur la société. Une tendance préoccupante qui a émergé est l’utilisation des applications d’intelligence artificielle (IA) par des enfants pour créer des images nues. Un récent rapport gouvernemental a mis en lumière ce problème, mettant en garde contre le fait que non seulement les enfants téléchargent ces applications, mais ils partagent également illégalement les images avec leurs amis. De plus, des gangs criminels organisés exploitent ces applications pour faire chanter les enfants avec des images explicites générées par ordinateur.
Le rapport, rédigé par le Conseil britannique de la sécurité sur Internet, fournit des directives aux enseignants sur la manière de traiter le problème du partage d’images explicites par les élèves. Il souligne la nécessité de traiter les images générées par l’IA, les deepfakes et les cas de « sextorsion » avec la même gravité que les images nues traditionnelles. Cela inclut s’abstenir de regarder ou supprimer les images, contacter immédiatement les autorités et parfois retenir l’information des parents.
Les militants et les experts ont salué ces directives, mais des appels ont été lancés pour que des mesures plus strictes soient prises par des organismes de régulation tels qu’Ofcom, qui supervise la Loi sur la sécurité en ligne de 2023. Les critiques soutiennent qu’une approche plus proactive et globale est nécessaire pour endiguer la prolifération des nus générés par l’IA.
Actuellement, il est illégal de partager du porno deepfake ou des images nues créées par l’IA d’adultes sans leur consentement. Il est également interdit de menacer de partager un tel contenu. Cependant, la création de nus par IA d’adultes reste légale. En revanche, la loi criminalise explicitement la création, la possession et le partage d’images nues ou sexuelles d’enfants, y compris des photos générées par IA, car cela constitue un abus sexuel sur mineur.
Il est intéressant de noter que le partage consensuel d’images explicites entre des individus de moins de 18 ans est désormais catégorisé comme une infraction pénale. De plus, il est illégal pour les mineurs de créer et de partager des nus par IA de leurs camarades de classe. Le but de ces lois est de protéger les jeunes individus de l’exploitation et des abus.
Les experts ont soulevé des préoccupations concernant l’accessibilité des applications de création de nus par IA, qui a contribué à une augmentation de l’exploitation virtuelle des femmes et des filles. Deux scénarios principaux ont été identifiés par la professeure Clare McGlynn de l’Université de Durham : de jeunes garçons utilisant ces applications pour créer de faux nus de leurs camarades féminines à des fins de commerce et de partage, et des escrocs organisés produisant des deepfakes nus et les utilisant comme moyen de chantage. La professeure McGlynn souligne la nécessité d’une plus grande sensibilisation à ce problème et encourage les victimes à signaler leurs expériences sans crainte de reproches.
Alors que le rapport gouvernemental reconnaît la forte augmentation des cas de « sextorsion » alimentés par l’utilisation d’applications d’IA, il assure également le public de son engagement en matière de sécurité en ligne. Selon un porte-parole du gouvernement, la Loi sur la sécurité en ligne offre une protection solide aux enfants et a criminalisé le partage d’images intimes deepfake sans consentement. Les plateformes de médias sociaux se sont également vu confier de nouvelles responsabilités pour empêcher la diffusion de contenu illégal, avec des amendes potentielles atteignant des milliards de livres.
À la lumière de ces développements, des discussions ont lieu sur les mesures potentielles à prendre pour résoudre ce problème. Peter Kyle, secrétaire scientifique de l’opposition travailliste, envisagerait apparemment d’interdire les applications de nudification et la technologie deepfake. Susie Hargreaves, PDG de la Fondation pour la surveillance d’Internet, souligne la menace sérieuse que représente la technologie IA entre les mains des criminels et appelle à une action collective pour protéger les enfants de l’exploitation et des abus.
Foire aux Questions (FAQ)
The source of the article is from the blog toumai.es