미국의 지지를 받아 이스라엘 군인들이 가자 스트립 내에서 작전을 수행하기 위해 인공지능 시스템 “라벤더”를 사용하고 있다고 보도되었습니다. 라벤더는 기계 학습 알고리즘을 활용하여 대략 230만의 가자 주민들에 관한 방대한 양의 데이터를 처리하고, 각 사람에게 1부터 100까지의 점수를 할당하여 그들의 대상화에 영향을 끼치고 있습니다.
라벤더의 기능은 논란의 중심에 있으며, 이스라엘 군인들에 따르면 알고리즘은 수천 명의 무소속 민간인들을 실수로 식별했습니다. 이들은 이제 무기의 군인들과 함께 역지정되어 있습니다. 라벤더는 잠재적인 대상을 주로 ‘인간 대상’과 ‘쓰레기 대상’ 두 그룹으로 분류합니다. 후자 그룹은 주로 상당한 재산 피해를 줄 수 있는 유도 미사일을 사용하여 관련없는 민간인 피해와 불가피한 민간 희생을 초래할 수 있습니다.
이 시스템은 인간 감시가 부재하여, 가자의 팔레스타인인들에 대한 자동화된 대규모 공격의 양상을 야기하고 있습니다. 이 접근 방식은 곧 선택된 대상들이 종종 자신의 가정에서, 밤에 가족들과 함께 공격을 받게하여 윤리적인 우려가 제기되고 있습니다. 그 결과, 이러한 실천은 “배외 피해”로 알려진 다수의 의도하지 않은 사망을 초래할 수 있습니다.
이스라엘 언론인이자 평화 활동가인 유발 아브라함은 라벤더에 대한 깊은 조사를 수행하여, 이러한 AI 주도 전략의 심각한 결과를 강조했습니다. 아브라함은 주요 고위 관계자들이 종종 대상 개인들에 대한 자세한 조사를 우회하고 시스템의 제안에 따르며, 검증 프로세스를 알고리즘의 손에 맡겨 여지가 있는 오류로 인한 문제점에 대처하고 있습니다.
아브라함이 작성한 보고서는 라벤더가 국제사법재판소에서 조사를 받아야 할 행동으로 주장하고, 이것을 잠재적인 국가 테러리즘과 인류에 대한 범죄로 분류하고 있습니다. 자동화 된 전쟁과 책임있는 군사 행동 사이의 경계가 흐려짐에 따라, 가자와 같은 전투 지역에서의 AI 윤리는 국제적인 중요한 논의를 유도하고 있습니다.
중요한 질문과 답변:
1. 군사 작전에서 “라벤더”와 같은 AI를 사용하면 어떤 결과가 있을까?
군사 작전에서 AI 사용은 중요한 윤리적, 법적 및 책임 관련 문제를 제기합니다. 라벤더와 같은 AI 시스템은 대량의 데이터를 처리하여 대상을 식별하고 우선 순위를 매길 수 있지만, 잘못된 판단으로 인해 민간인 피해나 국제법 위반을 초래할 수 있습니다.
2. “라벤더”는 전투군과 민간인을 어떻게 구별하는가?
라벤더는 개인에게 점수를 할당하여 그들을 ‘인간 대상’ 또는 ‘쓰레기 대상’으로 분류하는 것으로 보고되고 있습니다. 그러나 이 분류는 민간인이 전투군으로 잘못 식별된 경우가 있어 알고리즘의 정확성과 차별성에 대한 우려를 불러일으킵니다.
3. “라벤더”와 관련된 주요 도전과 논란은 무엇인가?
주요 도전 요인은 잘못 식별 가능성, 충분한 검증 없이 자동화된 공격으로 이끄는 인간 감시 부재, 기계에 생명과 죽음 결정을 위임하는 도덕적인 문제점 등이 있습니다. 또한 이러한 시스템의 사용은 민간 피해로 이어진다면 국제 인도법과의 준수 문제를 제기하며, 군사 작전에서 인간 감시와 도덕적 책임이 침해될 수 있습니다.
장단점:
장점:
– 데이터 처리 및 잠재적인 대상 식별의 효율성 향상
– 인간 작업자처럼 피로 없이 계속적으로 운영 가능
– 지면 상황의 신속한 대응을 통해 전략적 이점을 제공할 수 있음
단점:
– 민간인을 전투군으로 오인할 위험으로 인한 잘못된 부상 또는 사망 가능성
– 판단 프로세스에서의 책임 소홀과 투명성 부족
– 전쟁의 비인간화와 국제법 위반 가능성으로 인한 윤리적 우려
– 군사 작전에서의 인간 감시와 도덕 책임의 가능성 손상
군사 환경에서 인공지능의 윤리와 규정에 대한 자세한 내용은 아래의 공식 도메인을 방문하시기 바랍니다:
이 링크는 군사 작전에서 인공지능 사용과 관련한 정보를 제공할 수 있는 기관의 주요 도메인에 연결되어 있지만, 이스라엘 방어군이 라벤더를 어떻게 활용하고 있는지에 대한 구체적인 정보가 직접적으로 이 사이트에서 제공되지 않을 수 있음을 양해 부탁드립니다.