O Chefe de Justiça da Índia, Dr. DY Chandrachud, durante seu discurso em uma conferência judicial significativa, destacou o papel crítico que a Inteligência Artificial (IA) poderia potencialmente desempenhar nos processos judiciais. Ele falou sobre o aumento do uso da IA na melhoria das práticas legais e no aprimoramento da tomada de decisões nos tribunais. Enfatizando a importância dos avanços tecnológicos, ele reconheceu os benefícios que a IA pode trazer para o setor jurídico, melhorando a eficiência e auxiliando na pesquisa jurídica.
No entanto, o Chefe de Justiça também apontou os possíveis riscos de aplicações de IA de alto risco no campo jurídico. Ele enfatizou que preconceitos e discriminação podem se infiltrar na tomada de decisões judiciais devido a algoritmos opacos, referindo-se a essas questões como preocupações éticas e desafios práticos que exigem uma inspeção rigorosa.
A tomada de decisões judiciais, um campo venerado por seu julgamento humano crítico, está diante do advento da IA. O Chefe de Justiça destacou exemplos práticos em que a IA foi adotada, desde tarefas administrativas até deliberações em questões jurídicas nos tribunais. Ele citou um caso notável na Colômbia em que um juiz consultou um chatbot de IA para entender disposições legais relacionadas a pedidos de seguros para uma criança autista.
O judiciário indiano também não ficou intocado por essa nova ferramenta, com exemplos de seu uso para obter uma perspectiva mais ampla sobre leis globais. No meio desses usos, o Chefe de Justiça reiterou que a IA não deve substituir os elementos humanos essenciais de julgamento e tomada de decisões.
Refletindo sobre o passado recente, Dr. Chandrachud também comentou sobre a mudança digital experimentada pelos tribunais durante a pandemia de COVID-19. Ele chamou a atenção para a integração tecnológica dentro do judiciário indiano, como o ‘Supreme Court Vidhik Anuvaad Software’, que traduz procedimentos e sentenças para vários idiomas indianos.
Em sua conclusão, ele destacou a necessidade de padrões rigorosos e de estruturas éticas para prevenir os resultados potencialmente discriminatórios da IA. De maneira significativa, ele mencionou a importância de abordar a discriminação indireta que poderia surgir a partir de sistemas de IA treinados com dados incompletos ou tendenciosos e a opacidade na tomada de decisões algorítmicas, enfatizando a transparência e a responsabilidade.