L’intelligence artificielle (IA) a connu une progression significative ces dernières années, révolutionnant divers aspects de la société. De l’application de la loi et des soins de santé à la protection sociale et à la justice, l’IA s’infiltre rapidement dans toutes les parties de nos vies. Cependant, au milieu de l’excitation entourant ces avancées, nous devons également prendre en compte les répercussions inattendues qui surviennent lorsque l’IA est mise en œuvre sans une réflexion approfondie.
À l’été 2016, une femme à Amsterdam a reçu une lettre du bureau du maire qui allait changer la vie de sa famille à jamais. La lettre révélait qu’un de ses fils, ayant un passé trouble avec la police, figurait désormais sur une liste de jeunes criminels violents. De manière choquante, la lettre divulguait également que son autre fils avait été placé sur une base de données distincte des adolescents considérés comme étant à risque de devenir des criminels à l’avenir. Ces listes ont été créées grâce à l’utilisation de ProKid, un système d’apprentissage automatique développé par des universitaires en collaboration avec la police néerlandaise.
ProKid utilisait un large éventail de données, y compris l’adresse d’une personne jeune, ses relations, ses interactions passées avec les forces de l’ordre (même sans accusation ou condamnation) et ses relevés de fréquentation scolaire pour prédire leur probabilité de se livrer à des activités criminelles. L’hypothèse sous-jacente était qu’une intervention précoce, telle que des services sociaux, un soutien psychologique et une participation scolaire, pourrait empêcher ces enfants de se lancer dans une vie de crime.
Cependant, la réalité était loin du résultat escompté. Au lieu d’atténuer les comportements criminels potentiels, ProKid avait souvent l’effet inverse. Stigmatisés par leur inclusion dans ces listes, bon nombre de ces enfants se sont sentis aliénés et ont vu leur valeur diminuée aux yeux des autorités. Par conséquent, certains d’entre eux se sont tournés vers la criminalité en réponse directe à la perception selon laquelle ils étaient déjà considérés comme des criminels. La mère d’un garçon de 16 ans d’Amsterdam décrit le système comme « fou » car il a irrémédiablement bouleversé la vie de son fils.
Ce scénario troublant, rappelant la nouvelle de Philip K. Dick, « Minority Report », souligne un problème plus important associé aux systèmes d’IA : le manque de transparence et de responsabilité. Comme le souligne le livre introspectif de Madhumita Murgia, « Code Dépendant », il y a souvent peu d’explication sur la manière dont les systèmes d’IA parviennent à leurs décisions ou comment ces déterminations peuvent être modifiées. Même les autorités de la ville d’Amsterdam, sur demande d’informations, ont admis avoir une compréhension limitée de pourquoi ProKid choisissait certaines familles plutôt que d’autres. En fait, ces algorithmes sont souvent conçus comme des « systèmes opaques », dont le fonctionnement interne reste inscrutable même pour leurs créateurs.
« Code Dépendant » explore profondément l’impact de l’IA sur la société, mettant en lumière les vies affectées et même ruinées par ces systèmes incompréhensibles. Murgia, première éditrice d’intelligence artificielle du Financial Times, se concentre sur des individus ordinaires, en particulier issus de communautés marginalisées, qui se retrouvent à vivre dans l’ombre de l’IA. Avec dix chapitres habilement écrits, elle explore comment les modèles d’apprentissage automatique impactent des aspects fondamentaux de nos vies, de nos droits et identités à nos corps et moyens de subsistance.
Alors que les avancées et les complexités de l’IA trouvent principalement leur origine dans la Silicon Valley, Murgia évite intentionnellement cette plaque tournante de l’innovation et met en avant les expériences de personnes ordinaires du monde entier qui luttent contre les conséquences de l’IA. En procédant ainsi, elle attire notre attention sur la nécessité urgente d’une compréhension globale des implications étendues de l’IA sur la société.
FAQ
1. Qu’est-ce que l’intelligence artificielle (IA) ?
L’intelligence artificielle, communément appelée IA, est une branche de l’informatique qui vise à créer des machines intelligentes capables d’effectuer des tâches qui nécessitent généralement l’intelligence humaine. Ces tâches peuvent inclure la reconnaissance vocale, la résolution de problèmes, la prise de décisions et la reconnaissance de motifs.
2. Comment fonctionne ProKid ?
ProKid est un système d’apprentissage automatique développé par des universitaires en collaboration avec la police néerlandaise. Il utilise un large éventail de données, telles que l’adresse d’une personne jeune, ses relations, ses antécédents d’arrestation (indépendamment des accusations ou condamnations) et sa fréquentation scolaire pour prédire la probabilité de leur implication dans des activités criminelles.
3. Quelles sont les conséquences inattendues de l’IA ?
Bien que l’IA offre de nombreux avantages et innovations, elle peut également avoir des conséquences inattendues. Ces conséquences peuvent découler de données biaisées, du manque de transparence dans les processus de prise de décision et de la perpétuation des inégalités sociales existantes. Par exemple, comme le souligne « Code Dépendant », des systèmes d’IA comme ProKid peuvent stigmatiser les individus et conduire à la reproduction des comportements criminels.
4. Comment pouvons-nous atténuer l’impact négatif de l’IA ?
Pour atténuer l’impact négatif de l’IA, il est crucial de prioriser la transparence et la responsabilité dans la conception et la mise en œuvre de ces systèmes. Des audits réguliers, un examen public et des perspectives diverses peuvent aider à identifier et atténuer les biais. De plus, favoriser les discussions éthiques et impliquer les communautés marginalisées dans les processus de prise de décision peuvent garantir une intégration plus équitable de l’IA dans la société.
(Source : The Guardian – [lien](https://www.theguardian.com/books/2021/oct/28/code-dependent-undoes-your-liberty-identity-and-livelihood-by-madhumita-murgia-review))
[vidéo intégrée](https://www.youtube.com/embed/V2b5ScHpmKo)
The source of the article is from the blog kunsthuisoaleer.nl