종합 연구에 따르면 캐나다 연방 정부는 예측 법적 결과부터 비자 처리 개선, 포용적 채용 촉진 등 다양한 분야에 걸쳐 거의 300개의 프로젝트에 인공 지능(AI)을 구현했다는 사실이 밝혀졌습니다.
정부의 AI에 대한 의존도가 높아지면서 현재 제안된 AI 입법이 넓은 감시 부분이 부족할 수 있다는 점을 고려할 때, 투명성과 규제에 대한 의문이 제기되고 있습니다. 이 우려는 웨스턴 대학의 부교수인 조안나 레든에 의해 강조되었으며, 그녀는 AI 프로젝트 데이터베이스를 편찬하고 정부의 AI 채용에 대한 초기의 공개 토론을 지적했습니다.
캐나다 국세청의 세무 사례 예측부터 이민, 난민 및 시민권 캐나다의 비자 분류까지 다양한 부문에서 AI 시스템이 도움이 되었다는 연구 결과가 있습니다. 또한 국방부가 시도한 편견 없는 채용 방법과 같은 이니셔티브도 있습니다. 더불어, 일부 부서들은 캐나다 공중 보건국의 자살 징후를 분석하기 위한 소셜 미디어 프로젝트나 로열 캐나다 해군의 음성 인식 명령 기술 탐색과 같이 AI를 특정 용도로 사용합니다.
AI가 일부 분야에서 효과적이었지만 우려사항이 없는 것은 아닙니다. 예를 들어, 캐나다 왕립 국가 경찰대가 진행한 얼굴 인식과 같은 일부 AI 시험은 윤리적 및 개인 정보 보호 문제를 제기하며, 이는 미국에서 AI로 인한 잘못된 체포 사례와 이어지고 있습니다.
AI의 광범위한 사용에도 불구하고, 공식 AI 영향평가 목록은 18개의 기록만이 있으며 이는 레든에 의해 지적된 공공의 의사 결정과 개인 권리에 중대한 영향을 미칠 수 있는 AI 응용 프로그램을 추적하고 책임을 묻는 정부의 잠재적인 결함을 나타냅니다.
2년이 걸린 레든의 연구 결과는 AI의 정부 운영에 미치는 변혁적 영향을 강조하며 기술 발전을 따라가기 위해 공개 감시와 규제 프레임워크가 필수적임을 강조합니다.
The source of the article is from the blog scimag.news