Le développement de technologies d’intelligence artificielle (IA) génératives pose un défi majeur pour l’Irlande dans la protection de sa jeune population en ligne. Le comité pour les enfants d’Oireachtas s’apprête à aborder ce problème pressant, en reconnaissant les limites de la seule action volontaire des sociétés technologiques. Le Dr Johnny Ryan, directeur de l’unité d’application de la Irish Council for Civil Liberties (ICCL), souligne la nécessité de mesures proactives pour protéger les jeunes des dangers potentiels de l’IA.
Tout en reconnaissant le potentiel de l’IA, le Dr Ryan affirme que les sociétés technologiques ont un piètre bilan en matière d’amélioration de soi et de comportement responsable, même dans les situations où des vies sont en jeu. Placer la responsabilité uniquement sur ces entreprises n’est pas une approche réalisable. Au lieu de cela, le Dr Ryan exhorte la société à affronter directement ce problème en adoptant des outils et des stratégies efficaces.
Dans cette optique, la Irish Council for Civil Liberties, ainsi que plus de 60 autres organisations, a récemment fait appel à Coimisiún na Meán, le nouvel organisme de régulation en ligne de l’Irlande. Ils plaident en faveur d’une règle « inévitablement contraignante » qui désactiverait par défaut les systèmes de recommandation basés sur les profils des utilisateurs sur les plateformes vidéo. Le Dr Ryan insiste sur le fait qu’une telle règle bénéficie d’un soutien écrasant de la part du public irlandais.
Cependant, il met également en garde contre l’opposition certaine des grandes sociétés technologiques à la mise en œuvre d’une telle règle. Malgré une résistance potentielle, le Dr Ryan exhorte le comité à exercer une pression sur Coimisiún na Meán pour faire respecter des réglementations strictes qui privilégient la sécurité des utilisateurs.
L’intelligence artificielle est déjà omniprésente sur des plateformes telles que TikTok, YouTube, Snapchat et Instagram, façonnant le contenu consommé quotidiennement par les jeunes. En mettant en évidence les recherches menées par différentes organisations, le Dr Ryan soulève des inquiétudes concernant l’impact négatif des systèmes de recommandation. L’Institut pour le dialogue stratégique a découvert que l’algorithme de YouTube promeut fréquemment du contenu misogyne et haineux auprès des utilisateurs masculins, tandis qu’Amnesty International a constaté que l’algorithme d’IA de TikTok peut glamouriser le suicide pour les enfants qui consultent du contenu sur la santé mentale.
Le Dr Ryan affirme que ces systèmes de recommandation manipulent et rendent accros les jeunes, favorisant les blessures, la haine, le dégoût de soi et même le suicide. En tant que directeur de l’unité d’application de l’ICCL, son plaidoyer devant le comité met l’accent sur l’urgence de résoudre cette crise de manière efficace.
De plus, CyberSafe Kids, une organisation caritative dédiée à la sécurité en ligne, attire l’attention sur l’introduction irresponsable de fonctionnalités d’IA sans prendre en compte les conséquences potentielles. Le directeur général, Alex Mooney, souligne la fonctionnalité « Mon IA » de Snapchat, qui a rapidement fourni des informations inappropriées aux enfants malgré sa présentation initiale comme un ami virtuel utile.
En conclusion, la protection des jeunes en ligne requiert une responsabilité collective et des mesures proactives à la fois de la part des régulateurs et des sociétés technologiques. L’Irlande a l’opportunité de prendre la tête dans la résolution de cette crise et de garantir la sécurité en ligne et le bien-être de sa jeunesse.
The source of the article is from the blog foodnext.nl