인공지능이 미국 법률체계에서 가진 어두운 면
인공지능(AI)은 미국 법률체계에서 점차적으로 중요해지고 있으나 그 영향력이 종종 간과되고 있다. 경찰과 검사들은 범죄 수사를 돕기 위해 AI 도구에 의존하고 있지만, 이러한 도구들은 비밀스러운 채로 있어 피고인들이 그 사용에 이의를 제기하거나 그 영향을 이해할 수 있는 능력을 박탈당하고 있다.
칼리포니아 대학 버클리 캠퍼스의 로베카 웨클러 교수는 법률체계에서 AI 사용에 대한 공개 부족에 주목했다. 검사들은 법관이나 방어 변호사들에게 AI 사용에 대해 통보할 의무가 없어져, 상당한 정보 격차가 생겨났다.
AI와 기계 학습 도구들은 얼굴, 무기, 차량 번호판 등을 인식하고, DNA 분석을 개선하며, 범죄를 예측하는 등 범죄 수사에서 다양한 목적으로 사용되고 있다. 그러나 상거래 비밀법이 이러한 도구들을 공개적으로 검토하도록 방지하고 있어 “블랙 박스” 효과가 나타나고 있다. AI 사용 방법과 그 사용이 반드시 공개되어야 하는 때에 대한 명확한 지침이 없다.
한 가지 주요 우려 사항은 AI 도구들에서 발견된 편향, 특히 얼굴 인식 기술에서 나오는 것이다. 이러한 도구들은 주로 흰 인종 얼굴들로 훈련을 받았기 때문에 유색 인종의 사람들을 잘못 식별할 가능성이 높다는 것이 입증되었다. 이는 범죄 수사에서 공정성과 정확성에 대한 중요한 문제를 제기한다.
이러한 문제에 대처하기 위해 마크 다카노 의원(D-캘리포니아)은 범죄 수사에서 테스트와 투명성을 강화하기 위한 입법안을 발의했다. 이 입법안은 책임성이 부족한 블랙 박스 기술로 인한 과제를 해결하고 AI 사용에 대한 지각과 감독을 강화하려고 한다.
AI 기술들의 투명성 부재는 피고인들이 공정한 재판을 논리적으로 추구하고, 그 경우에 대한 영향을 이해할 수 있는 기회를 부여받지 못하는 점에서 심오한 질문을 던진다. 임상 증거와 중요한 증인들이 상거래 비밀로 보호될 때, 정의의 기본 원칙이 위협받는다.
자주 묻는 질문
무엇이 ‘인공지능(AI)’인가요?
인공지능은 경험으로부터 학습하고 결과를 예측하기 위해 인간 지능을 모방할 수 있는 기계의 발전을 가리킵니다.
법률체계에서 AI 사용에 대한 투명성이 왜 중요한가요?
투명성은 피고인들이 사용된 AI 도구에 이의를 제기하고 그 영향을 이해하는 기회를 부여하며, 책임성을 확보하고 잠재적인 편향과 오류를 방지합니다.
얼굴 인식 AI에 대한 우려사항은 무엇인가요?
얼굴 인식 AI는 유색 인종의 이미지와 관련하여 편향과 높은 오류율을 보여왔습니다. 이것은 개인을 정확하게 식별하는 데 있어서 공정성과 정확성에 대한 우려를 제기합니다.
이 문제에 대한 입법은 무엇인가요?
마크 다카노 의원은 검사와 투명성에 관한 입법안을 제안하여 블랙 박스 기술로 인해 발생하는 도전 과제에 대응하고, AI 사용에 대한 책임성을 높일 것을 목표로 하고 있습니다.
The source of the article is from the blog elblog.pl