El aumento de las tecnologías de inteligencia artificial generativa (IA) plantea un desafío significativo para Irlanda en la protección de su población joven en línea. El comité infantil de Oireachtas abordará este apremiante problema, reconociendo las limitaciones de depender únicamente de la acción voluntaria de las corporaciones tecnológicas. El Dr. Johnny Ryan, director de la unidad de Cumplimiento del Consejo Irlandés de Libertades Civiles, enfatiza la necesidad de medidas proactivas para proteger a los jóvenes de los posibles peligros de la IA.
Si bien reconoce el potencial de la IA, el Dr. Ryan afirma que las corporaciones tecnológicas tienen un historial deficiente cuando se trata de mejorar y comportarse de manera responsable, incluso en situaciones en las que se ponen vidas en juego. Depositar la responsabilidad únicamente en estas empresas no es un enfoque factible. En cambio, el Dr. Ryan insta a la sociedad a enfrentar este problema de frente adoptando herramientas y estrategias efectivas.
Con ese fin, el Consejo Irlandés de Libertades Civiles, junto con otras 60 organizaciones, ha apelado recientemente a Coimisiún na Meán, el nuevo regulador en línea de Irlanda. Abogan por una regla «irresistiblemente vinculante» que deshabilite los sistemas de recomendación basados en perfiles de usuarios de forma predeterminada en las plataformas de video. El Dr. Ryan enfatiza que dicha regla cuenta con un amplio apoyo del público irlandés.
Sin embargo, también advierte que la implementación de dicha regla indudablemente enfrentará oposición por parte de las grandes corporaciones tecnológicas. A pesar de la posible resistencia, el Dr. Ryan insta al comité a ejercer presión sobre Coimisiún na Meán para hacer cumplir regulaciones estrictas que prioricen la seguridad del usuario.
La inteligencia artificial ya es omnipresente en plataformas como TikTok, YouTube, Snapchat e Instagram, dando forma al contenido que los jóvenes consumen a diario. Destacando investigaciones realizadas por diversas organizaciones, el Dr. Ryan plantea preocupaciones sobre el impacto negativo de los sistemas de recomendación. El Instituto para el Diálogo Estratégico descubrió que el algoritmo de YouTube promueve con frecuencia contenido misógino y lleno de odio a los usuarios masculinos, mientras que Amnistía Internacional encontró que el algoritmo de IA de TikTok puede glamorizar el suicidio para los niños que ven contenido de salud mental.
El Dr. Ryan argumenta que estos sistemas de recomendación manipulan y adictan a los jóvenes, promoviendo el dolor, el odio, el autodesprecio e incluso el suicidio. Como director de la unidad de Cumplimiento del ICCL, su súplica al comité se centra en la urgencia de abordar esta crisis de manera efectiva.
Además, CyberSafe Kids, una organización benéfica dedicada a la seguridad en línea, llama la atención sobre la introducción irresponsable de funciones de IA sin considerar las posibles consecuencias. El director ejecutivo, Alex Mooney, destaca la función «My AI» de Snapchat, que rápidamente comenzó a proporcionar información inapropiada a los niños a pesar de haber sido promocionada inicialmente como un amigo virtual útil.
En conclusión, garantizar la seguridad en línea de los jóvenes requiere responsabilidad colectiva y medidas proactivas tanto por parte de los reguladores como de las corporaciones tecnológicas. Irlanda tiene la oportunidad de liderar al mundo en la resolución de esta crisis y garantizar la seguridad y el bienestar en línea de su juventud.
Preguntas frecuentes (FAQ)
The source of the article is from the blog foodnext.nl