Les enfants et les adolescents au Brésil ont vu leurs photographies exploitées par des créateurs d’outils d’Intelligence Artificielle (IA), selon une récente déclaration de Human Rights Watch (HRW). Ces images, prises sur le web sans consentement, contribuent à un ensemble de données volumineux que les entreprises technologiques utilisent pour le développement de l’IA.
Le chercheur de HRW spécialisé dans les droits des enfants et la technologie a souligné la gravité de la situation, soulignant la nécessité d’une action gouvernementale immédiate pour protéger les données des mineurs contre les abus liés à l’IA. Les conclusions de HRW ont révélé que LAION-5B, un jeu de données d’entraînement IA populaire, contient des images identifiables de jeunes Brésiliens. Dans certains cas, les noms des enfants apparaissent dans les légendes des photos ou les URL, les rendant facilement traçables.
En fouillant une infime fraction du jeu de données, HRW a découvert 170 photos provenant d’au moins dix États brésiliens. Cependant, cela sous-estime probablement le volume réel des données personnelles des enfants dans le LAION-5B, qui comprend des milliards d’images et de légendes. Fait surprenant, bon nombre de ces photos semblaient avoir des paramètres de confidentialité en place, les rendant non accessibles par des moyens de recherche en ligne conventionnels.
La technologie derrière l’IA a été critiquée pour potentiellement porter atteinte à la vie privée et reproduire du contenu sensible tel que des photographies personnelles. Des cas ont été observés où des outils IA détournés génèrent des contenus explicites à partir d’images innocentes d’enfants, accroissant les préoccupations.
En réponse à ces révélations alarmantes, l’organisme à but non lucratif allemand LAION, qui gère le jeu de données LAION-5B, a confirmé la présence de photos d’enfants et s’est engagé à les supprimer. Ils ont également souligné la responsabilité des enfants et de leurs tuteurs de retirer les images personnelles d’internet pour éviter les abus.
Enfin, HRW a appelé les législateurs brésiliens à interdire l’utilisation non consensuelle de l’IA pour générer des images explicites et à renforcer les protections des données personnelles des enfants. Ils ont souligné l’importance d’une politique nationale de l’environnement numérique pour les droits des enfants et des adolescents, recommandée par le Conseil National des Droits de l’Enfant et de l’Adolescent du Brésil.
Principaux Défis et Controverses:
1. Consentement et Confidentialité: Le principal problème éthique est l’utilisation d’images d’enfants sans consentement, violant leur vie privée. La difficulté à surveiller internet pour de tels abus, compte tenu de la masse de données, crée un défi systémique.
2. Protections Légales: Il existe un défi majeur à aligner les lois internationales, fédérales et étatiques pour protéger adéquatement les droits numériques des enfants, compte tenu de la nature mondiale du développement de l’IA et d’internet.
3. Technologie et Supervision: Un défi est l’établissement de solutions technologiques et de mécanismes de supervision pouvant empêcher l’inclusion de contenus sensibles dans les jeux de données.
4. Gestion des Jeux de Données: La controverse touche également les organisations qui gèrent les jeux de données. Elles sont confrontées à la tâche intimidante de filtrer des milliards d’images pour garantir qu’aucune donnée personnelle sensible, en particulier celle de mineurs, ne soit incluse.
Avantages et Inconvénients:
Avantages:
– L’IA peut offrir des avantages sociétaux dans divers secteurs tels que la santé, l’éducation et la sécurité lorsqu’elle est formée avec des jeux de données larges et variés.
– Le développement de l’IA pourrait conduire à de meilleurs mécanismes de protection en ligne des données sensibles, avec suffisamment d’accent sur une IA éthique.
Inconvénients:
– Il existe un risque inhérent de mauvaise utilisation d’images personnelles, pouvant entraîner des dommages ou une exploitation des individus, en particulier des groupes vulnérables comme les enfants.
– La collecte de telles données sans consentement soulève de graves préoccupations en matière de vie privée et peut entraîner un manque de confiance dans les technologies d’IA et leurs développeurs.
Liens Connexes:
Pour plus d’informations sur l’éthique de l’IA et les droits de confidentialité, vous pouvez visiter les domaines suivants:
– Human Rights Watch
– UNICEF
– Bureau du Haut-Commissaire aux Droits de l’Homme des Nations Unies
Il est essentiel d’inclure uniquement des liens vérifiés à 100 %, car des liens incorrects pourraient propager des informations erronées ou mener à des sites web non sécurisés. Vérifiez toujours la validité de l’URL avant de partager.
The source of the article is from the blog regiozottegem.be