La Inteligencia Artificial (IA) está avanzando a un ritmo sin precedentes, y el gobierno federal debe tomar medidas inmediatas para regular esta tecnología, según el pionero de la IA, Yoshua Bengio. Bengio, conocido como el «padrino» de la IA, enfatizó que la trayectoria actual de la IA plantea importantes riesgos sociales y que Ottawa no debería retrasar la implementación de legislación, incluso si no es perfecta.
Una de las principales preocupaciones planteadas por Bengio es el posible mal uso de la IA, especialmente a través de la creación de videos deepfake que pueden propagar desinformación. Estos videos utilizan IA para manipular imágenes y hacer que parezca que las figuras públicas están diciendo o haciendo cosas que en realidad nunca hicieron. Además, la IA puede ser utilizada para engañar a los usuarios de las redes sociales al entablar diálogos que pueden cambiar sus opiniones políticas, lo que podría erosionar los principios democráticos.
Además, Bengio destacó el creciente riesgo de que los sistemas de IA avanzados sean explotados para ciberataques. A medida que la tecnología de IA continúa progresando, estos sistemas pueden volverse lo suficientemente poderosos como para violar las defensas cibernéticas actuales y desestabilizar la infraestructura digital crítica. Si estas capacidades caen en manos equivocadas, las consecuencias podrían ser catastróficas.
En respuesta a estas preocupaciones, el comité de industria de la Cámara de los Comunes está estudiando actualmente un proyecto de ley gubernamental destinado a regular los sistemas de inteligencia artificial. Sin embargo, Bengio enfatizó la necesidad de que algunas disposiciones se implementen de inmediato en lugar de esperar un largo proceso regulatorio. Propuso el establecimiento de un registro que requeriría a las empresas desarrolladoras de sistemas de IA con un nivel de capacidad especificado, reportar al gobierno. Esto transferiría la responsabilidad de garantizar la seguridad de estos sistemas a las empresas de tecnología en lugar de los contribuyentes.
Bengio también abogó por ampliar la definición de «sistemas de IA de alto impacto» en el proyecto de ley para incluir aquellos que representen amenazas a la seguridad nacional y social. Esto incluiría sistemas de IA que podrían ser utilizados para diseñar ciberataques y armas, o aquellos que demuestren una replicación autónoma a pesar de instrucciones de programación en contrario.
La urgencia de que el gobierno regule la IA también fue enfatizada por Catherine Regis, profesora de la Universidad de Montreal. Regis destacó el rápido desarrollo de la IA a nivel mundial, y subrayó que Canadá debe definir su postura sobre la regulación de la IA para tener un papel significativo en las discusiones de gobernanza global.
En conclusión, los rápidos avances en la tecnología de IA requieren una regulación gubernamental inmediata. Al abordar de manera proactiva los riesgos asociados con la IA, el gobierno puede mitigar las posibles amenazas sociales y de seguridad que plantea esta poderosa tecnología.
Preguntas frecuentes:
P: ¿Cuál es la principal preocupación con respecto a la IA según Yoshua Bengio?
R: Yoshua Bengio está preocupado por el posible mal uso de la IA, especialmente a través de la creación de videos deepfake que pueden propagar desinformación.
P: ¿Cómo puede engañar la IA a los usuarios de las redes sociales?
R: La IA puede entablar diálogos con los usuarios de las redes sociales y manipular sus opiniones políticas, lo que potencialmente podría llevar a una erosión de los principios democráticos.
P: ¿Qué otro riesgo destacó Bengio?
R: Bengio también destacó el riesgo de que los sistemas de IA avanzados sean explotados para ciberataques, lo cual podría tener consecuencias catastróficas si caen en manos equivocadas.
P: ¿Cuál es la solución propuesta para regular los sistemas de IA?
R: Bengio propuso el establecimiento de un registro que requeriría a las empresas desarrolladoras de sistemas de IA con un nivel de capacidad especificado, reportar al gobierno, transfiriendo así la responsabilidad de garantizar su seguridad a las empresas de tecnología.
P: ¿Qué enfatiza Catherine Regis con respecto a la regulación de la IA en Canadá?
R: Catherine Regis enfatiza que Canadá debe definir su postura sobre la regulación de la IA para tener un papel significativo en las discusiones de gobernanza global.
Términos clave y definiciones:
1. Inteligencia Artificial (IA): Tecnología que permite a las computadoras realizar tareas que típicamente requieren inteligencia humana, como el reconocimiento de voz, la resolución de problemas y la toma de decisiones.
2. Deepfake: Un tipo de contenido multimedia sintético que utiliza IA para manipular o crear videos, audios o imágenes falsas que pueden parecer reales pero que en realidad están alterados o completamente fabricados.
3. Desinformación: Información falsa o engañosa que se difunde deliberadamente para engañar a las personas y manipular la opinión pública.
4. Ciberataques: Intentos maliciosos de perturbar, dañar o acceder sin autorización a sistemas informáticos, redes o dispositivos digitales.
5. Autonomía: La capacidad de un sistema de IA para actuar de manera independiente, sin intervención humana o dependencia de instrucciones de programación explícitas.
Enlaces relacionados sugeridos:
– Iniciativa de Inteligencia Artificial de la Casa Blanca
– Gobierno del Reino Unido: Consulta sobre la regulación de la Inteligencia Artificial
– AI Laws: Base de datos de regulaciones de IA
– Foro Económico Mundial: Informe de Competitividad Global 2019
The source of the article is from the blog scimag.news