La inteligencia artificial (IA) ha traído avances significativos al sistema legal estadounidense, transformando las investigaciones criminales realizadas por la policía y los fiscales. El mercado legal global de IA se proyecta alcanzar los $37.9 mil millones para el 2027, con una tasa de crecimiento anual compuesta del 37.8%. Este crecimiento se atribuye a la creciente adopción de herramientas impulsadas por IA para la investigación legal, el análisis de contratos y la gestión de casos (fuente: Grand View Research).
Sin embargo, la falta de transparencia en la implementación de la IA presenta un desafío para los acusados. El uso de la IA a menudo se produce sin su conocimiento o escrutinio, resultando en una brecha de información. Los acusados enfrentan dificultades para impugnar las herramientas de IA utilizadas en su contra y comprender las implicaciones de su uso.
Rebecca Wexler, profesora de derecho en la Universidad de California, Berkeley, ha expresado preocupaciones sobre la naturaleza opaca del uso de la IA dentro del sistema legal. Los jueces y los abogados defensores a menudo carecen de información crucial sobre la utilización de herramientas de IA, lo que crea un desequilibrio de conocimiento que perjudica a los acusados.
Las herramientas de IA y aprendizaje automático se han vuelto fundamentales en varios aspectos de la justicia penal, como el reconocimiento facial, el análisis de ADN y la predicción del crimen. Sin embargo, estas herramientas a menudo se protegen como secretos comerciales, obstaculizando el escrutinio público y contribuyendo a lo que se conoce comúnmente como el efecto de «caja negra». La falta de pautas claras sobre el uso y la divulgación de las herramientas de IA agrava aún más estos desafíos.
Una de las preocupaciones es el sesgo exhibido por la IA en el reconocimiento facial, especialmente en la tecnología de reconocimiento facial. Diversos estudios han demostrado que estas herramientas a menudo identifican erróneamente a personas de color debido a su entrenamiento en rostros predominantemente blancos, lo que plantea serias preocupaciones sobre la equidad y la precisión en el sistema de justicia penal.
Para abordar estos problemas, el representante Mark Takano (D-Calif.) ha presentado legislación destinada a aumentar las pruebas y la transparencia en el sistema de justicia penal. La legislación propuesta busca abordar el problema del uso de tecnologías de caja negra que carecen de responsabilidad y promover una mayor conciencia y supervisión.
La falta de transparencia en las tecnologías de IA plantea preguntas fundamentales sobre los derechos de los acusados. Cuando testigos y pruebas esenciales se resguardan como secretos comerciales, se socavan los principios de la justicia.
Preguntas Frecuentes (FAQ)
The source of the article is from the blog coletivometranca.com.br