En una decisión histórica, el Parlamento Europeo aprobó hoy una legislación revolucionaria, la Ley de Inteligencia Artificial, que marca el comienzo de una nueva era en la regulación tecnológica. La Ley tiene como objetivo principal equilibrar la protección de los derechos fundamentales, la democracia y el medio ambiente, al mismo tiempo que fomenta la innovación y sitúa a Europa como líder global en el campo de la inteligencia artificial.
La Ley introduce un conjunto integral de obligaciones para los sistemas de inteligencia artificial en función de sus riesgos potenciales y niveles de impacto. Al definir prohibiciones sobre ciertas aplicaciones que infringen los derechos de los ciudadanos, la legislación adopta un enfoque proactivo para proteger las libertades individuales. Por ejemplo, la Ley prohíbe el uso de sistemas de categorización biométrica basados en características sensibles y la recopilación indiscriminada de imágenes faciales de internet o de material de vigilancia para la creación de bases de datos de reconocimiento facial.
Asimismo, la Ley prohíbe el uso de inteligencia artificial para el reconocimiento de emociones en entornos laborales y escolares, la implementación de sistemas de puntuación ciudadana, la vigilancia predictiva basada únicamente en perfiles, y la inteligencia artificial que manipula el comportamiento humano o explota vulnerabilidades.
Manteniendo un compromiso con la protección de los derechos de los ciudadanos, la legislación reconoce excepciones para las autoridades encargadas de hacer cumplir la ley. Los sistemas de identificación biométrica pueden utilizarse bajo estrictas salvaguardias en situaciones específicas y bien definidas. Por ejemplo, la búsqueda dirigida de una persona desaparecida o la prevención de un ataque terrorista pueden requerir el uso de sistemas de identificación biométrica en tiempo real. Sin embargo, su aplicación requiere un tiempo y lugar de uso limitado, así como una autorización judicial o administrativa previa. Cualquier uso retrospectivo de dichos sistemas se considera de alto riesgo y debe estar sujeto a aprobación judicial debido a su asociación con delitos penales.
La Ley también impone claras obligaciones a los sistemas de inteligencia artificial de alto riesgo, que tienen el potencial de impactar significativamente la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho. Desde la infraestructura crítica hasta la educación, la formación profesional y los servicios públicos y privados esenciales como la atención médica y la banca, estos sistemas deben realizar evaluaciones de riesgos, mantener registros de uso, garantizar transparencia y precisión, e incorporar supervisión humana. Además, las personas afectadas por los sistemas de inteligencia artificial tienen derecho a presentar quejas y recibir explicaciones sobre las decisiones tomadas en función de estos sistemas.
Para garantizar la responsabilidad y transparencia, la Ley establece requisitos para los sistemas de inteligencia artificial de propósito general y los modelos subyacentes en los que se basan. Se requiere el cumplimiento de la ley de derechos de autor de la UE, la divulgación de resúmenes detallados del contenido utilizado para el entrenamiento de los modelos de inteligencia artificial, y el etiquetado claro de imágenes, audio o contenido de video artificial o manipulado para su fácil identificación.
Con el propósito de apoyar la innovación y fomentar el crecimiento de las pequeñas y medianas empresas (pymes), la Ley enfatiza la creación de espacios controlados de prueba y ensayo. Estos espacios, disponibles a nivel nacional, permiten a las pymes y startups desarrollar y entrenar sus soluciones de inteligencia artificial en condiciones de la vida real antes de su comercialización.
La adopción de la Ley de Inteligencia Artificial representa un momento crucial en la regulación de la tecnología de inteligencia artificial. Al encontrar un equilibrio delicado entre la protección de los derechos fundamentales y el impulso a la innovación, Europa allana el camino para el desarrollo ético y responsable de la inteligencia artificial. La Ley establece un precedente global, garantizando que la inteligencia artificial siga siendo una herramienta para el progreso al tiempo que preserva los valores que sustentan nuestras sociedades.
Preguntas Frecuentes
¿Cuál es el propósito de la Ley de Inteligencia Artificial?
La Ley de Inteligencia Artificial tiene como objetivo proteger los derechos fundamentales, la democracia, el estado de derecho y el medio ambiente, al tiempo que fomenta la innovación y sitúa a Europa como líder global en tecnología de inteligencia artificial.
¿Qué aplicaciones están prohibidas bajo la Ley?
La Ley prohíbe aplicaciones de inteligencia artificial que infringen los derechos de los ciudadanos, incluyendo sistemas de categorización biométrica, la recolección indiscriminada de imágenes faciales para bases de datos de reconocimiento facial, el reconocimiento de emociones en entornos laborales y escolares, sistemas de puntuación ciudadana, vigilancia predictiva basada únicamente en perfiles, y la inteligencia artificial que manipula el comportamiento humano o explota vulnerabilidades.
¿Existen excepciones para las autoridades encargadas de hacer cumplir la ley?
Sí, se conceden excepciones a las autoridades encargadas de hacer cumplir la ley bajo estrictas salvaguardias. Por ejemplo, la búsqueda dirigida de personas desaparecidas o la prevención de ataques terroristas pueden implicar el uso de sistemas de identificación biométrica en tiempo real. Sin embargo, se requiere autorización judicial o administrativa previa, y la utilización retrospectiva de dichos sistemas está sujeta a la aprobación judicial.
¿Qué obligaciones se aplican a los sistemas de inteligencia artificial de alto riesgo?
Los sistemas de inteligencia artificial de alto riesgo, que pueden impactar significativamente en diversos aspectos de la sociedad, deben evaluar y mitigar riesgos, mantener registros de uso, garantizar transparencia y exactitud, incorporar supervisión humana, y permitir a las personas presentar quejas y recibir explicaciones sobre las decisiones tomadas por estos sistemas.
¿Qué requisitos existen para la transparencia en los sistemas de inteligencia artificial?
Los sistemas de inteligencia artificial de propósito general y los modelos subyacentes deben cumplir con los requisitos de transparencia, incluyendo el cumplimiento de la ley de derechos de autor de la UE, la divulgación de resúmenes de datos de entrenamiento, y el etiquetado claro de imágenes, audio o contenido de video artificial o manipulado.
¿Qué medidas apoyan la innovación y las pymes?
La Ley hace hincapié en la creación de espacios controlados de prueba y ensayo para las pymes y startups, permitiéndoles desarrollar y entrenar soluciones de inteligencia artificial innovadoras en condiciones de vida real antes de su comercialización.
Este artículo ha sido creado tomando como referencia información pública sobre regulaciones en inteligencia artificial en Europa sin utilizar la fuente inicial.
The source of the article is from the blog yanoticias.es