L’intelligence artificielle (IA) a connu une expansion significative dans le système juridique américain, mais son utilisation se fait souvent sans que les accusés n’aient conscience et la possibilité de scrutin. Les outils d’IA sont employés par la police et les procureurs dans le cadre des enquêtes criminelles, mais le manque de divulgation concernant leur usage crée un écart d’information, laissant les accusés dans l’incapacité de contester ou de comprendre les implications.
Rebecca Wexler, professeure de droit à l’Université de Californie à Berkeley, a attiré l’attention sur le manque de transparence entourant l’IA dans le système juridique. Les juges et les avocats de la défense ne sont pas systématiquement informés de la mise en œuvre des outils d’IA, créant ainsi une asymétrie d’information significative.
Les outils d’IA et d’apprentissage automatique sont utilisés dans divers aspects de la justice pénale, tels que la reconnaissance faciale, l’amélioration de l’analyse ADN et la prédiction des crimes. Cependant, ces outils sont souvent protégés en tant que secrets commerciaux, entravant le contrôle du public et créant ce que l’on appelle l’effet de la « boîte noire ». L’absence de lignes directrices claires sur l’utilisation et la divulgation de l’IA aggrave ces problèmes.
Une préoccupation notable est la présence de biais dans les outils d’IA, en particulier la technologie de reconnaissance faciale. Des recherches ont montré que ces outils ont tendance à identifier de manière erronée les personnes de couleur en raison de leur formation sur des visages principalement blancs. Cela soulève de graves questions sur l’équité et l’exactitude au sein du système judiciaire.
Pour relever ces défis, le représentant Mark Takano (D-Californie) a proposé une législation visant à accroître les tests et la transparence dans la justice pénale. La législation vise à s’attaquer au problème des technologies de la boîte noire qui manquent de responsabilité et à faciliter une plus grande sensibilisation et surveillance.
Le manque de transparence dans les technologies d’IA soulève des préoccupations profondes quant à la capacité des accusés à défendre leurs droits et à garantir un procès équitable. Lorsque des témoins et des preuves cruciaux sont utilisés en tant que secrets commerciaux
FAQ
Qu’est-ce que l’intelligence artificielle (IA) ?
L’intelligence artificielle fait référence au développement de machines capables d’apprendre de l’expérience et d’imiter l’intelligence humaine dans la prédiction des résultats.
Pourquoi la transparence est-elle importante dans l’utilisation de l’IA dans le système juridique ?
La transparence garantit que les accusés ont la possibilité de contester les outils d’IA utilisés contre eux et de comprendre leur impact sur leur cas. Elle permet également d’assurer la responsabilité et de prévenir les biais et les erreurs potentiels.
Quel est le problème avec l’IA de reconnaissance faciale ?
L’IA de reconnaissance faciale a montré des biais et des taux d’erreur élevés, en particulier lorsqu’il s’agit d’images d’individus noirs. Cela soulève des inquiétudes quant à l’équité et à l’exactitude dans l’identification précise des individus.
Quelle législation a été proposée pour résoudre ces problèmes ?
Le représentant Mark Takano a proposé une législation visant à accroître les tests et la transparence dans la justice pénale, abordant les défis posés par les technologies de la boîte noire et la nécessité de responsabilité dans l’utilisation de l’IA.
Sources:
– The Hill. (URL: https://thehill.com/policy/technology/545712-how-ai-risks-creating-a-black-box-at-the-heart-of-us-legal-system)
The source of the article is from the blog mgz.com.tw