A Inteligência Artificial (IA) tornou-se cada vez mais presente no sistema jurídico americano, com sua influência muitas vezes passando despercebida. Policiais e promotores estão recorrendo a ferramentas de IA para auxiliar nas investigações criminais, mas essas ferramentas estão envoltas em segredo, deixando os réus sem a capacidade de desafiar seu uso ou entender seu impacto em seus casos.
Rebecca Wexler, professora de direito da Universidade da Califórnia, Berkeley, destaca a falta de divulgação sobre o uso da IA no sistema jurídico. Os promotores não são obrigados a informar juízes ou advogados de defesa sobre o uso de IA, criando assim uma lacuna significativa de informações.
Ferramentas de IA e aprendizado de máquina estão sendo usadas para diversos fins na justiça criminal, incluindo identificação de rostos, armas e placas de veículos, aprimoramento de análises de DNA e previsão de crimes. No entanto, as leis de segredos comerciais impedem a escrutínio público dessas ferramentas, resultando em um efeito de “caixa-preta”. Não existem diretrizes claras sobre como a IA deve ser utilizada e quando seu uso deve ser divulgado.
Uma preocupação importante é o viés encontrado em ferramentas de IA, especialmente na tecnologia de reconhecimento facial. Essas ferramentas mostraram-se em identificar erroneamente pessoas de cor devido a terem sido treinadas predominantemente em rostos brancos. Isso levanta questões significativas sobre justiça e precisão no sistema de justiça criminal.
Para enfrentar esses problemas, o deputado Mark Takano (D-Calif.) introduziu legislação destinada a testar e aumentar a transparência na justiça criminal. A legislação busca lidar com o problema de tecnologias de caixa-preta que são comercializadas sem responsabilização.
A falta de transparência nas tecnologias de IA suscita questões sobre como os réus podem advogar por seus direitos em um julgamento justo. Quando testemunhas e evidências são protegidas como segredos comerciais, os princípios fundamentais da justiça estão em jogo.
O que é Inteligência Artificial (IA)?
Inteligência Artificial refere-se ao desenvolvimento de máquinas capazes de aprender com a experiência e imitar a inteligência humana na previsão de resultados.
Por que a transparência é importante no uso da IA no sistema jurídico?
A transparência garante que os réus tenham a oportunidade de contestar as ferramentas de IA usadas contra eles e entender seu impacto em seus casos. Ela também permite a responsabilização e previne possíveis viés e erros.
Qual é a preocupação com a IA de reconhecimento facial?
A IA de reconhecimento facial apresentou viés e altas taxas de erros, especialmente ao lidar com imagens de indivíduos negros. Isso levanta preocupações sobre a justiça e precisão na identificação correta de pessoas.
Que legislação foi proposta para lidar com essas questões?
O deputado Mark Takano propôs legislação destinada a aumentar os testes e a transparência na justiça criminal, abordando os desafios causados por tecnologias de caixa-preta e a necessidade de responsabilização no uso de IA.
Fonte:
– The Hill. (URL: The Hill)
The source of the article is from the blog shakirabrasil.info
