최근 몇 년간 인공지능(AI)은 사회의 다양한 측면을 혁신하며 상당한 주목을 받았습니다. 법 집행부터 의료, 사회 복지, 그리고 사법에 이르기까지, AI는 우리 삶의 모든 부분에 빠르게 침투하고 있습니다. 그러나 이런 발전에 대한 호들갑 속에서, AI가 주의 깊게 고려 없이 시행될 때 생길 수 있는 부작용을 또한 인식해야 합니다.
2016년 여름, 암스테르담의 한 여성이 시장청으로부터 받은 편지로 인해 가족의 삶이 영원히 변했습니다. 이 편지는 여성의 아들 중 한 명이 경찰과 문제가 있었던 것으로 파악되었으며, 폭력적인 범죄 청소년 명단에 이름이 올라갔음을 알려주었습니다. 충격적인 사실은 다른 아들이 미래에 범죄자가 될 위험이 있는 청소년들의 따로운 데이터베이스 명단에 올라갔다는 것이었습니다. 이러한 명단은 네덜란드 경찰과 학자들이 협업하여 개발한 기계학습 시스템 ProKid을 통해 작성되었습니다.
ProKid는 주소, 관계, 이전 법 집행 당국과의 상호작용(유죄 판결 여부에 관계 없이), 그리고 학교 출석 기록 등 다양한 데이터를 활용하여 젊은이들이 범죄 행위에 가담할 가능성을 예측했습니다. 이는 사회 서비스, 심리 지원, 그리고 학교 참여와 같은 초기 개입이 이러한 아이들이 범죄의 삶으로 빠지는 것을 방지할 수 있을 것이라는 가정에 근거했습니다.
그러나 의도한 결과와는 정반대로 현실은 전혀 다른 국면을 띠고 있었습니다. 잠재적인 범죄 행위를 완화하는 대신, ProKid는 종종 반대 효과를 가져왔습니다. 이러한 명단에 포함된 것에 대한 아성으로 많은 아이들이 소외되었다고 느끼고 당국 눈에 그들의 가치가 퇴색되는 것을 목격했습니다. 결과적으로, 일부는 이미 범죄자로 여겨졌다는 인식에 직접적으로 응답하여 범죄에 빠졌습니다. 암스테르담의 한 16세 소년의 어머니는 이 시스템을 “미쳤다”고 표현했는데, 이는 그녀의 아들의 삶을 불가능할 만큼 파괴했다고 말했습니다.
이 불안정한 상황은 필립 K 딕의 소설 ‘마이너리티 리포트’를 연상시키며, AI 시스템과 관련된 더 큰 문제를 강조합니다: 투명성과 책임성의 부재입니다. 매더미타 무르지아의 사색을 당사자로 하는 책 ‘Code Dependent’에서 강조되듯이, AI 시스템이 결정에 도달하는 방식에 대해 거의 설명이 없거나 이러한 결정이 어떻게 변경될 수 있는지 대해 거의 이해하지 못하는 경우가 종종 있습니다. 심지어 암스테르담의 시정 당국조차, 정보 요청에 의하면 ProKid가 왜 특정 가족들을 선택했는지에 대한 이해가 제한된 것을 인정했습니다. 이러한 알고리즘은 종종 “투명하지 않은 시스템”으로 설계되어 있으며, 이러한 시스템의 내부 작동은 종종 그 생성자조차도 알 수 없습니다.
‘Code Dependent’는 사회에 미치는 AI의 영향을 심도 있게 탐구하며, 이해할 수 없는 시스템으로 인해 영향을 받거나 심지어 파멸된 일상인들에 빛을 발합니다. 금융 시간즈의 최초의 인공 지능 편집자인 무르지아는 특히 주목합니다. 이 책은 기계 학습 모델이 우리의 권리부터 정체성, 몸과 생계에 이르기까지 우리 삶의 기본적인 측면에 어떻게 영향을 미치는지에 대해 단둥선적으로 서술했습니다.
AI의 발전과 복잡성은 주로 실리콘밸리에서 비롯되지만, 무르지아는 이 혁신의 중심지를 구실하는 것을 국도하고 대신 AI의 결과에 그 영향을 받는 전 세계의 일반인들의 경험을 중시합니다. 이를 통해 그녀는 우리에게 사회에 미치는 AI의 광범위한 영향을 포괄적으로 이해할 필요에 대해 우리의 관심을 산발했습니다.
자주 묻는 질문
1. 인공지능(AI)이란 무엇인가요?
– 인공지능은 일반적으로 AI로 알려진 컴퓨터 과학의 한 분야로, 인간 지능이 필요한 작업을 수행할 수 있는 지능적인 기계를 만드는 것을 목표로 합니다. 이러한 작업은 음성 인식, 문제 해결, 의사 결정, 그리고 패턴 인식 등이 포함될 수 있습니다.
2. ProKid는 어떻게 작동하나요?
– ProKid은 네덜란드 경찰과 학계가 협업하여 개발한 기계 학습 시스템입니다. 이 시스템은 젊은이의 주소, 관계, 체포 기록(유죄 여부에 관계 없이), 그리고 학교 출석을 예측하여 그들이 범죄 활동에 관여할 가능성을 판단합니다.
3. AI의 부작용은 무엇인가요?
– AI는 다양한 혜택과 혁신을 제공하지만, 부작용도 일으킬 수 있습니다. 이러한 부작용은 편향된 데이터, 의사 결정 과정의 투명성 부재, 그리고 기존 사회적 불평등의 강화로 인해 발생할 수 있습니다. 예를 들어, “Code Dependent”에서 강조된 것처럼, ProKid와 같은 AI 시스템은 사람을 낙인 찍거나 범죄 행위를 반복하게 함으로써 부작용을 일으킬 수 있습니다.
4. AI의 부정적인 영향을 어떻게 해결할 수 있나요?
– AI의 부정적인 영향을 해소하기 위해서는 이러한 시스템의 설계와 실행에서 투명성과 책임성을 우선시해야 합니다. 정기적인 감사, 대중적 검토, 그리고 다양한 시각이 편향을 식별하고 해소하는 데 도움이 될 수 있습니다. 또한 윤리적인 토론을 육성하고 사회적 테두리에 있는 공동체를 의사 결정 과정에 참여시킴으로써 AI의 더 공정한 통합을 확보할 수 있습니다.
*출처: [가디언](https://www.theguardian.com/books/2021/oct/28/code-dependent-undoes-your-liberty-identity-and-livelihood-by-madhumita-murgia-review)
The source of the article is from the blog myshopsguide.com