La inteligencia artificial (IA) ha cobrado una presencia cada vez mayor en el sistema legal estadounidense, con su influencia a menudo pasando desapercibida. La policía y los fiscales están recurriendo a herramientas de IA para ayudar en investigaciones criminales, pero estas herramientas están envueltas en secreto, dejando a los acusados sin la capacidad de cuestionar su uso o entender su impacto en su caso.
Rebecca Wexler, profesora de derecho en la Universidad de California, Berkeley, destaca la falta de divulgación sobre el uso de IA en el sistema legal. Los fiscales no están obligados a informar a los jueces o al abogado defensor sobre el uso de IA, creando una brecha significativa en la información.
Las herramientas de IA y aprendizaje automático se emplean para diversos fines en la justicia penal, incluida la identificación de rostros, armas y matrículas, la mejora del análisis de ADN y la predicción del crimen. Sin embargo, las leyes de secretos comerciales impiden la escrutinio público de estas herramientas, lo que resulta en un efecto de «caja negra». No existen directrices claras sobre cómo se debe utilizar la IA y cuándo debe divulgarse su uso.
Una preocupación importante es el sesgo presente en las herramientas de IA, especialmente en la tecnología de reconocimiento facial. Se ha demostrado que estas herramientas tienden a identificar erróneamente a personas de color porque fueron predominantemente entrenadas en rostros blancos. Esto plantea problemas significativos sobre la equidad y precisión en el sistema de justicia penal.
Para abordar estos problemas, el representante Mark Takano (D-Calif.) ha presentado legislación destinada a pruebas y transparencia en la justicia penal. La legislación busca abordar el problema de las tecnologías de caja negra que se comercializan sin responsabilidad.
La falta de transparencia en las tecnologías de IA plantea preguntas sobre cómo los acusados pueden abogar por sus derechos en un juicio justo. Cuando testigos y pruebas están protegidos como secretos comerciales, los principios fundamentales de justicia están en juego.
Preguntas Frecuentes
¿Qué es la inteligencia artificial (IA)?
La inteligencia artificial se refiere al desarrollo de máquinas capaces de aprender de la experiencia e imitar la inteligencia humana en la predicción de resultados.
¿Por qué es importante la transparencia en el uso de IA en el sistema legal?
La transparencia asegura que los acusados tengan la oportunidad de cuestionar las herramientas de IA utilizadas en su contra y entender su impacto en su caso. También permite la rendición de cuentas y evita posibles sesgos y errores.
¿Cuál es la preocupación con la IA de reconocimiento facial?
La IA de reconocimiento facial ha mostrado sesgos y altas tasas de error, especialmente al tratar con imágenes de individuos negros. Esto plantea preocupaciones sobre la equidad y precisión en la identificación de personas de manera acertada.
¿Qué legislación se ha propuesto para abordar estos problemas?
El representante Mark Takano ha presentado legislación destinada a pruebas y transparencia en la justicia penal, abordando los desafíos planteados por las tecnologías de caja negra y la necesidad de responsabilidad en el uso de IA.
Fuentes:
– The Hill. (https://thehill.com)
The source of the article is from the blog enp.gr