Alors que l’intelligence artificielle (IA) continue de progresser rapidement, sa présence dans différents secteurs, y compris le gouvernement, devient de plus en plus prépondérante. Le gouvernement canadien a adopté l’IA dans de nombreux départements et agences, l’utilisant pour rationaliser les processus, améliorer la prise de décision et renforcer les services publics. Cependant, une analyse récente des données gouvernementales a révélé l’ampleur de l’utilisation de l’IA et soulevé des questions sur la transparence et la responsabilité.
L’analyse menée par la chercheuse Sarah Redden met en lumière l’adoption généralisée de l’IA au sein des organismes gouvernementaux canadiens. Redden soutient que la législation existante, telle que la proposition de loi sur l’intelligence artificielle et les données, est insuffisante pour aborder l’utilisation de l’IA dans les opérations gouvernementales. Alors que le projet de loi C-27 introduit de nouvelles obligations pour les systèmes « à impact élevé », notamment en matière d’emploi, il laisse un vide important en ce qui concerne les utilisations de l’IA par le gouvernement.
Par exemple, le ministère de la Défense nationale a précédemment expérimenté l’IA pour réduire les biais dans les décisions d’embauche. En utilisant des plateformes d’IA pour présélectionner des candidats et évaluer leur adéquation à des rôles spécifiques, le ministère visait à éclairer la prise de décision humaine et à promouvoir des pratiques d’embauche équitables.
Immigration, Réfugiés et Citoyenneté Canada utilise également des outils d’IA pour trier et classer les demandes de visa de résident temporaire. Ces outils aident les agents à identifier l’éligibilité positive, accélérant ainsi le processus de demande de visa. Il est cependant important de noter que la décision finale dépend toujours du jugement humain, les systèmes d’IA ne pouvant pas recommander de rejets.
Alors que certains projets pilotes d’IA, tels que l’utilisation par la Marine royale canadienne de la technologie activée par la voix pour transmettre des commandes aux navires, ont progressé, les préoccupations de sécurité doivent être prises en compte avant une intégration totale. De même, d’autres départements, tels que Santé Canada, utilisent l’IA dans des domaines ciblés. Par exemple, le département utilise un outil d’écoute sociale avec des composants d’IA rudimentaires pour surveiller les actualités en ligne relatives aux incidents de produits de consommation.
Dans le domaine juridique, l’Agence du revenu du Canada utilise un système d’IA qui prédit les résultats potentiels des affaires devant les tribunaux. En entrant des variables pertinentes, le système analyse les décisions de justice historiques et fournit des décisions anticipées, aidant ainsi les processus de prise de décision. Les Instituts de recherche en santé du Canada utilisent également l’IA pour simuler des décisions en matière de relations de travail, comparant des scénarios hypothétiques à des cas passés.
Par ailleurs, le Bureau du surintendant des faillites utilise l’IA pour détecter les anomalies dans les dépôts de faillite, aidant à identifier les cas potentiels de non-conformité en fonction d’attributs spécifiques trouvés dans les dépôts. Ces cas signalés sont ensuite examinés par des analystes pour une évaluation plus poussée.
Le gouvernement canadien a également adopté l’utilisation de l’IA dans l’application de la loi et le contrôle des frontières. La Gendarmerie royale du Canada (GRC) utilise l’IA pour identifier du matériel de violence sexuelle sur des enfants et aider au sauvetage des victimes. Un porte-parole de la GRC a confirmé l’utilisation de la technologie de reconnaissance faciale, appelée « correspondance faciale », sur des données internes obtenues légalement pour aider aux enquêtes. De même, l’Agence des services frontaliers du Canada utilise la technologie de reconnaissance faciale sur une base volontaire pour authentifier l’identité des voyageurs entrants.
Bien que l’expansion de l’IA dans divers secteurs gouvernementaux soit évidente, des préoccupations concernant la transparence et la responsabilité ont été soulevées. Redden soutient que le gouvernement devrait fournir un enregistrement plus complet de sa mise en œuvre de l’IA, y compris des détails sur son introduction, son utilisation continue, les données associées et tout problème signalé. Bien que le gouvernement ait une directive sur la prise de décision automatisée qui exige une évaluation de l’impact algorithmique dans les cas ayant des répercussions significatives, seul un nombre limité d’entrées sont actuellement disponibles dans le registre public.
De plus, l’analyse révèle plusieurs cas où des projets pilotes impliquant l’IA ont été mentionnés mais manquaient de mises à jour ou d’informations supplémentaires. Par exemple, l’Agence des services frontaliers du Canada a mentionné le développement d’un algorithme pour les rayons X postaux afin de détecter automatiquement les armes à feu et leurs pièces, tandis que Affaires mondiales Canada a expérimenté des notes de synthèse générées par l’IA. Cependant, aucun détail supplémentaire sur les progrès n’a été fourni.
Alors que l’IA continue de révolutionner les opérations et les services du gouvernement canadien, il est essentiel de garantir la transparence et la responsabilité. L’analyse menée par Redden met en lumière les applications vastes et diverses de l’IA au sein des organismes gouvernementaux. Pour répondre aux préoccupations et promouvoir la confiance du public, il est impératif que le gouvernement fournisse un enregistrement complet et accessible de la mise en œuvre de l’IA, y compris des mises à jour régulières sur les projets pilotes et leurs résultats.
The source of the article is from the blog mgz.com.tw