전문가들이 AI 기반 라이 검출 장치에 대한 우려를 제기합니다: 독일 대학의 연구자들은 인공지능을 사용하여 범죄 사건의 용의자를 심문하거나 EU 국경에서 입국을 신청하는 개인들을 심문하는 등의 중요한 응용 분야에서 진실을 판별하는 데 심각한 일축을 표명했습니다.
진실 평가에서의 AI의 결함: 마르부르크 대학의 크리스티나 수호치키와 비르츠부르크 대학의 마티아스 가머 심리 전문가는 AI 시스템의 “블랙 박스” 성질을 비롯한 여러 문제점을 지적하였습니다. 이 불투명성은 AI 판단이 외부에서 투명하거나 확인 가능하지 않음을 의미합니다. 더구나 튼튼한 이론적 기반 없이 이 기술을 사용하면 잘못된 결과가 나올 위험이 높아집니다.
소실의 징후를 찾는 것은 결론이 나지 않음: 진실 검출에 적용된 인공지능의 전제는 속임의 확실한 지표가 존재한다고 가정합니다. 그러나 대규모 연구를 통해 진실한 진술과 속임된 진술을 구분할 수 있는 신뢰할 만한 징후를 찾지 못했습니다. 이는 어떠한 행동적 단서도 충분히 납득할 수 있는 진술을 하기 어렵다는 것을 의미합니다.
생리적 라이 검출기의 미신: 발표된 연구를 인용하여 전문가들은 “피노키오의 코”에 실제 세계 상응물이 존재하지 않음을 강조하며, 전통적인 라이 검출기로 사용되는 혈압, 맥박, 호흡 등과 같은 생리적 신호가 진실을 확실히 밝히지 못할 수 있다고 지적하였습니다. 이 제약 때문에 전통적인 다중계측기는 심리학자들에게 과학적으로 신뢰할 수 없는 것으로 널리 여겨집니다.
생리학 기반 AI 라이 검출의 제약: 라이 검출에 AI를 사용하는 경우 많은 경우 생리적 지표 및 속임 요인을 나타내는 행동양식에 의존합니다. 그러나 과학계에서 특정하고 신뢰할만한 라이지표가 존재한다는 것에 대해 합의된 것은 없습니다. 몸이 스트레스, 두려움 또는 불편감과 같은 여러 요인에 반응하기 때문에, 속임과 필연적으로 연관되지 않을 수 있습니다. 더불어 행동적 단서는 개인마다 매우 독특하며 사람마다 크게 다를 수 있어 조사 결과를 일반화하기 어렵게 만듭니다.
기계학습 및 얼굴 인식에 대한 우려: 일부 AI 시스템은 기계학습과 얼굴 인식을 활용하여 라이를 감지합니다. 비평가들은 이러한 기술이 편향될 수 있다고 주장하며, 기계학습 알고리즘은 훈련된 데이터만큼 편향됩니다. 데이터가 전체 인구를 대표하지 않는 경우, 특정 인종 집단을 과도하게 처벌할 수 있는 위험이 존재합니다. 또한, 얼굴 인식 기술을 사용할 때 개인정보 침해에 대한 우려도 있습니다.
라이 검출에서 인간 판단의 중요성: 중요한 것은 라이 검출에 기술적 보조가 있을 때 인간 판단의 필요성을 강조하는 전문가입니다. 인간들은 맥락을 해석하고 주체의 행동 및 상황의 세부 사항을 이해할 수 있으며, AI 시스템이 종합적으로 포착하지 못할 수 있습니다. 기술에 전적으로 의존하는 것은 도구가 잘못된 경우 사법의 오류로 이어질 수 있습니다.
라이 검출에서 AI의 장단점:
장점:
– 일관성: AI는 기본 알고리즘이 탄탄하고 데이터가 편향되지 않은 경우 일관된 및 편향 없는 분석을 제공할 수 있습니다.
– 속도: AI 시스템은 정보를 처리하고 인간 평가자보다 빠르게 평가를 제공할 수 있습니다.
– 데이터 분석: 고급 AI는 대량의 데이터 세트를 분석할 수 있으므로 인간들이 간과할 수 있는 패턴을 식별할 수 있습니다.
단점:
– 신뢰성: AI가 감지할 수 있는 확실한 생리적 또는 행동적 속임의 신호가 확립되어 있지 않아 신뢰성에 대한 우려가 있습니다.
– 투명성: AI의 “블랙 박스” 성질은 그 결정의 근거를 이해하고 신뢰하기 어렵게 만듭니다.
– 윤리와 개인 정보 보호: 라이 검출에 일부 AI 기술을 사용하는 것은 개인 정보 보호 및 동의에 대한 윤리적 우려를 제기합니다.
주요 도전과 논란:
– 알고리즘적 편향: AI 알고리즘이 기존의 편견을 보존할 수 있어 특정 집단을 불공평하게 대상화할 수 있습니다.
– 법적 및 윤리적 문제: 법정에서 AI 라이 검출 증거의 채택 가능성을 결정하고 사용에 대한 윤리적 영향을 해결하는 것입니다.
– 거짓 양성/음성: 잘못된 판단에 대한 AI 시스템의 위험은 특히 법적 또는 국경 통제 분야에서 심각한 결과를 초래할 수 있습니다.
인공지능 적용과 윤리적 고찰에 대한 더 많은 읽을거리를 원하신다면, 신뢰할 수 있는 기술과 과학 웹사이트를 탐색해 보시기 바랍니다. 다음 링크는 추가 정보와 시각을 제공할 수 있습니다: