Conforme a Inteligência Artificial (IA) continua avançando rapidamente, sua presença em diversos setores, incluindo o governo, está se tornando cada vez mais prevalente. O governo canadense abraçou a IA em vários departamentos e agências, utilizando-a para otimizar processos, melhorar a tomada de decisões e aprimorar os serviços públicos. No entanto, uma análise recente dos dados governamentais revelou a extensão da utilização da IA e levantou questões sobre transparência e responsabilidade.
A análise, conduzida pela pesquisadora Sarah Redden, destaca a ampla adoção da IA em órgãos governamentais do Canadá. Redden argumenta que a legislação existente, como o projeto de Lei da Inteligência Artificial e Dados, deixa a desejar ao abordar o uso da IA nas operações governamentais. Enquanto o Projeto de Lei C-27 introduz novas obrigações para sistemas “de alto impacto”, principalmente no emprego, deixa uma lacuna significativa quando se trata do uso de IA pelo governo.
O Departamento de Defesa Nacional, por exemplo, anteriormente experimentou a IA para reduzir viés em decisões de contratação. Ao utilizar plataformas de IA para pré-selecionar candidatos e avaliar sua adequação para funções específicas, o departamento visou informar a tomada de decisões humanas e promover práticas justas de contratação.
O Departamento de Imigração, Refugiados e Cidadania do Canadá também emprega ferramentas de IA para classificar e triar solicitações de visto de residente temporário. Essas ferramentas ajudam os oficiais a identificar elegibilidade positiva, acelerando o processo de solicitação de visto. No entanto, é importante ressaltar que a decisão final ainda depende do julgamento humano, com os sistemas de IA incapazes de recomendar rejeições.
Enquanto alguns experimentos de IA, como o uso de tecnologia de voz ativada pela Marinha Real Canadense para transmitir comandos para navios, avançaram, preocupações de segurança devem ser abordadas antes da integração total. Da mesma forma, outros departamentos, como o Health Canada, utilizam a IA em áreas específicas. Por exemplo, o departamento utiliza uma ferramenta de escuta social com componentes de IA rudimentares para monitorar notícias online sobre incidentes com produtos de consumo.
No domínio jurídico, a Agência de Receita do Canadá utiliza um sistema de IA que prevê possíveis desfechos de casos judiciais. Ao inserir variáveis relevantes, o sistema analisa decisões judiciais históricas e fornece previsões de decisões, auxiliando nos processos de tomada de decisão. Os Institutos Canadenses de Pesquisa em Saúde também empregam a IA para simular decisões em relações de trabalho, comparando cenários hipotéticos com casos passados.
Além disso, o Gabinete do Superintendente de Quebras utiliza a IA para detectar anomalias em declarações de insolvência, ajudando a identificar possíveis não conformidades com base em atributos específicos encontrados nas declarações. Os casos sinalizados são então examinados por analistas para avaliação adicional.
O governo canadense também adotou o uso da IA em aplicação da lei e controle de fronteiras. A Real Polícia Montada do Canadá (RCMP) utiliza a IA para identificar material de abuso sexual infantil e auxiliar no resgate de vítimas. O porta-voz da RCMP confirmou o uso da tecnologia de reconhecimento facial, denominada “correspondência facial”, em dados internos obtidos legalmente para auxiliar em investigações. Da mesma forma, a Agência de Serviços de Fronteira do Canadá utiliza a tecnologia de reconhecimento facial de forma voluntária para autenticar as identidades de viajantes que chegam.
Embora a expansão da IA em vários setores do governo seja evidente, foram levantadas preocupações sobre transparência e responsabilidade. Redden argumenta que o governo deve fornecer um registro mais abrangente de sua implementação de IA, incluindo detalhes sobre sua introdução, uso contínuo, dados associados e quaisquer problemas relatados. Embora o governo tenha uma diretiva sobre tomadas de decisão automatizadas que exige avaliação de impacto algorítmico em casos com impactos significativos, apenas um número limitado de entradas está atualmente disponível no registro público.
Além disso, a análise revela várias instâncias em que projetos piloto envolvendo IA foram mencionados, porém faltavam atualizações ou informações adicionais. Por exemplo, a Agência de Serviços de Fronteira do Canadá mencionou o desenvolvimento de um algoritmo para raios-X postais para detectar automaticamente armas de fogo e peças, enquanto o Ministério de Relações Exteriores do Canadá experimentou com notas informativas geradas por IA. No entanto, detalhes adicionais e progressos não foram fornecidos.
À medida que a IA continua a revolucionar as operações e serviços do governo canadense, garantir transparência e responsabilidade é crucial. A análise conduzida por Redden lança luz sobre as amplas e diversas aplicações de IA em órgãos governamentais. Para abordar preocupações e promover a confiança pública, é imperativo que o governo forneça um registro abrangente e acessível da implementação de IA, incluindo atualizações regulares sobre projetos piloto e seus resultados.
The source of the article is from the blog yanoticias.es