인공지능 스캐너: 오도된 주장과 감시의 필요성
최근 AI 무기 스캐닝 회사인 Evolv Technology은 “지능적” 스캐너의 능력을 과장한 점에 대해 반발을 받았습니다. 이 스캐너들은 감춰진 총기, 나이프, 폭탄을 운반하는 사람을 식별하는 데 사용되며 기존의 금속 탐지기를 대체하는 것이 목적입니다. 그러나 Evolv에 대한 비판이 증가하고 있습니다. 왜냐하면 이 기술에 대한 효과에 대해 오도된 주장을 하고 있다고 합니다.
Evolv가 한 중요한 주장 중 하나는 해당 AI 무기 스캐너가 영국 정부의 국가 안전보호 기관(NPSA)에서 테스트되고 검증되었다는 것이었습니다. 그러나 NPSA가 이 유형의 테스트를 수행하지 않는다는 것이 밝혀졌습니다. Evolv는 이 정보를 받은 후 언론 발표문에서 언어를 업데이트하여 테스트 프로세스를 더 잘 반영하고 독립 기업이 NPSA 표준을 사용하여 기술을 “테스트하고 검증”했다고 명확히 밝혀주었습니다. 그러나 이 테스트를 실시한 회사인 Metrix NDT는 그들이 시스템을 검증했다는 주장을 반박했습니다. 그들은 물론 NPSA 기준에 따라 시스템을 테스트했지만 결과에 대한 가치 판단을 내릴 수 없다고 명확히 밝혔습니다.
이러한 사실은 Evolv 기술의 정확성과 신뢰성에 대한 우려를 제기했습니다. 정부 데이터 윤리 및 혁신 자문위원회의 전 구성원인 Marion Oswald 교수는 이러한 주장을하는 기업들을 밀도 있게 감시하고 추가 규제가 필요하다고 강조했습니다. 특히 국가 기관의 참여에 대한 주장이 이끌릴 경우 어떤 식으로고 고객들이 영향을 받을 수 있을지에 대해 우려를 표현했습니다.
Evolv의 기술은 금속 합성물, 모양, 파편 등과 같은 요인을 기반으로 감춰진 무기의 “서명”을 감지한다고 합니다. 그러나 이 회사는 나이프와 특정 종류의 폭발물을 일관되게 탐지하지 못한 점에 대해 비판을 받았습니다. 미국 시설에서 시험한 결과, Evolv 기술이 이러한 항목을 신뢰성 있게 감지하지 못하는 것으로 밝혀졌습니다. 시험자들은 Evolv에게 이러한 한계에 대해 잠재적인 고객들에게 알리도록 요청했습니다.
비판에 대한 대응으로 Evolv는 여러 가지 수정을 가했습니다. 그들은 웹사이트와 미션 선언을 변경하여 이제 “더 안전한 경험”을 만드는 데 초점을 맞추고 “무기-자유 지역”이 아닌 것으로 했습니다. 회사는 또한 이전 발언에 의해 발생한 혼란과 기술의 일반적인화에 대한 유감을 표명했습니다.
이러한 발전은 보안을 향상시키기 위한 기술에 대한 투명성 및 정확성의 중요성을 강조합니다. 고객 및 규정 당국은 신뢰할 수있는 정보와 독립적인 테스트 보고서에 액세스하여 이러한 시스템의 효과에 대한 체계적인 결정을 내릴 수 있어야 합니다. 철저한 감시와 엄격한 평가만으로 우리는 공공장소의 안전을 확보할 수 있습니다.
The source of the article is from the blog revistatenerife.com