La récente adoption par le Parlement d’une loi révolutionnaire sur l’intelligence artificielle ouvre la voie à une ère nouvelle de régulation technologique. Cette loi, adoptée avec une majorité écrasante de voix en faveur, vise à établir un équilibre entre la protection des droits fondamentaux, de la démocratie et de l’environnement, tout en favorisant l’innovation et en positionnant l’Europe en tant que leader mondial dans le domaine de l’IA.
La loi présente un ensemble complet d’obligations pour les systèmes d’IA en fonction de leurs risques potentiels et de leur niveau d’impact. En interdisant certaines applications portant atteinte aux droits des citoyens, la législation adopte une approche proactive visant à protéger les libertés individuelles. Par exemple, la loi interdit l’utilisation de systèmes de catégorisation biométrique basés sur des caractéristiques sensibles, ainsi que la collecte indiscriminée d’images faciales sur internet ou à partir de séquences de surveillance pour la création de bases de données de reconnaissance faciale.
De même, la loi interdit l’utilisation de l’IA pour la reconnaissance des émotions sur les lieux de travail et dans les écoles, la mise en place de systèmes de notation des citoyens, le maintien de l’ordre prédictif basé uniquement sur le profilage, ainsi que l’utilisation de l’IA pour manipuler le comportement humain ou exploiter les vulnérabilités.
Tout en maintenant son engagement à protéger les droits des citoyens, la législation reconnaît des exceptions pour les autorités chargées de l’application des lois. Les systèmes d’identification biométrique peuvent être utilisés sous strictes garanties dans des situations spécifiques et bien définies. Par exemple, la recherche ciblée d’une personne disparue ou la prévention d’une attaque terroriste peuvent nécessiter l’utilisation de systèmes d’identification biométrique en temps réel. Cependant, leur application nécessite une utilisation limitée dans le temps et l’espace, ainsi qu’une autorisation judiciaire ou administrative préalable. Toute utilisation rétrospective de tels systèmes est considérée à haut risque et doit faire l’objet d’une approbation judiciaire en raison de son association à des infractions criminelles.
La loi impose également des obligations claires aux systèmes d’IA à haut risque, qui ont le potentiel d’impact significatif sur la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’État de droit. Depuis les infrastructures critiques jusqu’à l’éducation, la formation professionnelle, et les services publics et privés essentiels tels que la santé et la banque, ces systèmes doivent réaliser des évaluations des risques, tenir des dossiers d’utilisation, assurer la transparence et la précision, et intégrer une surveillance humaine. De plus, les individus affectés par les systèmes d’IA ont le droit de déposer des plaintes et de recevoir des explications concernant les décisions prises sur la base de ces systèmes.
Pour garantir la responsabilité et la transparence, la loi établit des exigences pour les systèmes d’IA polyvalents et les modèles sous-jacents sur lesquels ils reposent. Elle exige le respect de la législation européenne sur le droit d’auteur, la divulgation de résumés détaillés du contenu utilisé pour l’entraînement des modèles d’IA, et un étiquetage clair des images, de l’audio ou de la vidéo artificiels ou manipulés pour une identification facile.
Dans une initiative visant à soutenir l’innovation et à favoriser la croissance des petites et moyennes entreprises (PME), la loi met l’accent sur la création d’espaces de test et d’essai contrôlés. Ces espaces, disponibles au niveau national, permettent aux PME et aux start-ups de développer et de former leurs solutions d’IA de manière réaliste avant leur commercialisation.
L’adoption de la loi sur l’intelligence artificielle représente un moment crucial dans la régulation de la technologie de l’IA. En établissant un équilibre délicat entre la protection des droits fondamentaux et la stimulation de l’innovation, l’Europe ouvre la voie à un développement éthique et responsable de l’IA. Cette loi établit un précédent mondial, garantissant que l’IA reste un outil de progrès tout en préservant les valeurs qui sous-tendent nos sociétés.
FAQ sur la Loi sur l’Intelligence Artificielle
The source of the article is from the blog publicsectortravel.org.uk