Récentes révélations par une association caritative pour enfants ont mis en lumière une tendance inquiétante où des outils d’intelligence artificielle (IA) sont manipulés pour exploiter les enfants. Selon les rapports, une section trouvée sur le dark web est particulièrement connue pour inciter les criminels à utiliser des logiciels pouvant enlever numériquement les vêtements des images.
L’exploitation implique l’altération de photos en apparence innocentes envoyées par des enfants, généralement en sous-vêtements, en images explicites en utilisant les technologies d’IA ‘deepnude’. Ces photos manipulées peuvent ensuite être utilisées pour contraindre l’enfant à envoyer du contenu plus inapproprié, avec des menaces d’une plus grande exposition s’ils ne se conforment pas.
Dans une escalade alarmante, la Fondation pour la surveillance d’internet (IWF) a indiqué que des guides en ligne, circulant sur des canaux cachés et comptant près de 200 pages, fournissent un mode d’emploi aux acteurs malveillants sur la manière d’utiliser efficacement ces outils basés sur l’IA.
Les rapports incluent une proclamation inquiétante d’un auteur de guide anonyme affirmant avoir extorqué avec succès des filles aussi jeunes que 13 ans pour des images dénudées. Cette tactique suscite de graves préoccupations quant à la facilité d’accès aux outils de déshabillage par IA et leur utilisation abusive potentielle.
De plus, l’IWF a documenté qu’en 2023, des niveaux extrêmes d’abus en ligne ont été constatés, avec plus de 275 000 pages web présentant des abus sexuels sur des enfants découvertes l’année dernière. Ce chiffre est le plus élevé enregistré par l’organisation à ce jour, une partie importante de ces pages contenant du contenu de la catégorie A le plus grave, incluant des cas d’abus sexuel et de violence.
L’IWF a découvert des milliers d’images auto-produites de sévices sexuels sur des enfants, où les victimes ont été manipulées ou forcées d’enregistrer leurs abus. Suzie Hargreaves, la PDG de l’IWF, souligne l’urgence d’avoir des discussions appropriées selon l’âge avec les enfants pour les aider à identifier les dangers potentiels.
En réponse à cette menace croissante, le gouvernement britannique envisage des mesures pour protéger les enfants en ligne, y compris la loi sur la sécurité en ligne qui impose aux entreprises de médias sociaux un devoir de protection envers les utilisateurs les plus jeunes. De plus, il est question d’élever l’âge minimum pour l’utilisation des médias sociaux de 13 à 16 ans et d’interdire la vente de smartphones aux enfants de moins de 16 ans.
Questions et Réponses Importantes :
Q: Quelle est la nature de l’exploitation décrite dans l’article ?
R: L’exploitation implique l’utilisation de la technologie IA ‘deepnude’ pour altérer numériquement des photos apparemment innocentes d’enfants afin de créer et diffuser des images explicites. Cela pourrait mener à faire chanter les enfants pour envoyer du contenu plus inapproprié.
Q: Quel est le rôle de la Fondation pour la surveillance d’internet dans cette question ?
R: L’IWF surveille et signale les contenus en ligne mettant en scène des abus sexuels sur des enfants. Ils ont joué un rôle essentiel dans la documentation de la hausse de ces abus et de la mauvaise utilisation de l’IA dans les plans d’exploitation.
Q: Quelles mesures sont prises pour lutter contre cette exploitation ?
R: Le gouvernement britannique envisage d’introduire le projet de loi sur la sécurité en ligne, qui rendrait obligatoire pour les entreprises technologiques de protéger les enfants sur leurs plateformes. Il est également question de relever l’âge minimum pour l’utilisation des médias sociaux et de restreindre la vente de smartphones aux enfants.
Défis Clés et Controverses :
– Avancées Technologiques : À mesure que la technologie IA devient plus sophistiquée et accessible, il est un défi constant de l’empêcher d’être mal utilisée.
– Équilibre Réglementaire : Trouver un équilibre entre préserver les libertés en ligne et établir des réglementations pour protéger les enfants sans étouffer l’innovation est un défi majeur.
– Juridiction Mondiale : Les crimes sur internet n’ont pas de frontières, ce qui complique la juridiction légale et l’application des lois à travers différents pays.
Avantages et Inconvénients :
Avantages :
– L’IA peut être un outil incroyablement utile pour détecter et prévenir l’exploitation des enfants en ligne lorsqu’elle est utilisée éthiquement.
– La sensibilisation et l’éducation sur les capacités et les risques des outils d’IA peuvent permettre aux enfants et aux adultes de se protéger contre une telle exploitation.
– Des mesures réglementaires pourraient inciter les entreprises de médias sociaux à prioriser la sécurité des enfants.
Inconvénients :
– Les outils d’IA peuvent être accessibles et exploités par des acteurs malveillants, facilitant la manipulation d’images à des fins néfastes.
– L’imposition de réglementations pourrait entraîner des préoccupations liées à la vie privée et à la liberté d’expression parmi les adultes utilisateurs des plateformes de médias sociaux.
Pour en savoir plus sur la sécurité en ligne et les efforts pour lutter contre l’exploitation des enfants, voici quelques liens suggérés vers les principaux domaines offrant des informations et des ressources précieuses :
– Fondation pour la surveillance d’internet (IWF)
– NSPCC (Société nationale pour la prévention de la cruauté envers les enfants)
– Gouvernement britannique
– UNICEF
Il est important de noter que tous les liens fournis ci-dessus sont les principaux domaines et vérifiés à la date de coupure des connaissances.
The source of the article is from the blog tvbzorg.com