마이크로소프트, AI 사용에 대한 세계적인 법 집행기관 가이드라인 도입
중요한 정책 업데이트에서 마이크로소프트가 세계의 법 집행기관이 Azure OpenAI 서비스를 통해 얼굴 인식 기술을 사용하는 것을 금지하는 더 엄격한 규정을 도입했습니다. 이 새로운 지침은 실제 환경에서 개인을 식별하기 위한 서비스와 통합의 어떠한 사용도 금지하기 위해 명확히 명시하는 것을 목표로 합니다.
기존의 변형은 기술 및 무기 생산업체인 Axon이 OpenAI의 생성적 텍스트 모델인 GPT-4를 사용하는 새로운 도구를 발표한 직후에 이루어졌는데, 이는 AI로 생성된 환각 문제나 편향된 훈련 데이터로 인한 인종 편견 같은 문제로부터 우려가 제기되었습니다. Axon의 제품이 Azure OpenAI 서비스를 통해 GPT-4를 사용하였는지 여부는 분명하지 않지만, 마이크로소프트는 앞으로의 법 집행 상황에서 이와 유사한 사용을 방지하기 위해 움직였습니다.
Azure OpenAI 서비스 사용에 대한 금지는 주로 미국의 법 집행기관에 특정되어 있지만, 국제 기관이 얼굴 인식 기술을 적용하는 데에는 다소 유연성을 남겨두었습니다. 그러나 마이크로소프트는 사무실 같은 통제된 환경에서의 정적 카메라를 통한 얼굴 인식에 대해서는 제한을 두지 않고 있습니다. 회사의 접근 방식은 최근 법 집행 및 군사 프로젝트와 관련된 최근 AI 계약과 일치하며, 마이크로소프트와 OpenAI는 군사 프로젝트인 국방부를 위한 사이버보안 계획을 포함하여 군사 프로젝트에 참여하고 있습니다.
마이크로소프트 연방 사업의 부사장인 캔디스 링은 회사가 추가적인 규정 요구를 충족하기 위한 의지를 재확인하였습니다. 이는 아메리칸 법 집행기관을 위한 정부 대상 Azure OpenAI 서비스가 포함될 수 있는 미국 국방부의 평가를 지원하기 위한 것일 수 있습니다. 한편, 마이크로소프트는 서비스가 미국의 경찰 부서에서 완전히 금지된 것은 아니라고 명확히 하였습니다.
마이크로소프트의 얼굴 인식 AI 정책 관련 정보
마이크로소프트가 법 집행기관의 얼굴 인식 AI 사용을 제한하는 결정은 AI와 감시 기술의 윤리적인 영향에 대한 보다 넓은 기술 산업 논쟁과 일치합니다. 고려해야 할 중요한 측면이 있습니다:
주요 질문과 답변:
– 마이크로소프트가 정책을 업데이트한 이유는 무엇입니까? 정책 변화는 사생활, 잠재적 남용, AI에서의 편향과 관련된 우려에 응답한 것으로 보입니다. 특히 Axon이 이러한 기술을 자사의 제품에 통합한다고 발표한 후였습니다.
– 이로 인해 법 집행기관에 어떻게 영향을 미칩니까? 법 집행기관은 마이크로소프트의 Azure OpenAI 서비스를 실시간 얼굴 인식 필요에 사용할 수 없게 되어, 다른 제공업체나 제한이 적은 기술로 전환될 수 있습니다.
주요 도전과 논란:
– 개인 정보 보호 우려: 공공 안전을 위한 기술 활용과 개인 개인정보 권리 침해 사이에 선이 모호합니다. 얼굴 인식 기술은 대규모 감시에 사용될 수 있어 윤리적, 법적 문제가 발생할 수 있습니다.
– 정확성과 편향: 얼굴 인식 기술에 대한 이전 비판은 특히 여성 및 유색인종을 식별할 때의 부정확성을 지적하였으며, 잘못된 식별 및 잠재적인 불의를 초래할 수 있습니다.
장단점
장점:
– 포용적인 감시 기술의 사용을 제한함으로써 개인 정보 보호와 시민의 자유를 강화합니다.
– 책임 있는 AI 사용을 촉진하여 윤리적 AI 개발 및 배치의 선례를 제시합니다.
– 법 집행기관이 사용하는 얼굴 인식 기술에 대한 국가 또는 세계적 표준에 대해 보다 확장된 논의를 촉발시킬 수 있습니다.
단점:
– 법 집행기관이 공공 안전을 강화하고 범죄 수사에 도움이 될 수 있는 도구를 상실할 수 있습니다.
– 서로 다른 기술 회사가 통일된 산업 표준 없이 자체 정책을 수립하게 된다면 표준의 패치워크가 발생할 수 있습니다.
– 법 집행기관이 윤리적 기준이 덜한 공급업체로 전환하게 될 경우, 다른 문제를 일으킬 수 있습니다.
마이크로소프트와 그 서비스에 대한 보다 넓은 맥락과 범위를 이해하고자 하는 분들을 위해 다음 링크를 통해 메인 사이트에 접근할 수 있습니다: 마이크로소프트. 그러나 그들의 홈페이지에는 해당 AI 정책과 Azure 서비스에 대한 상세 정보가 직접적이지 않을 수 있으며, 일반적으로 AI 윤리, 뉴스 업데이트 또는 Azure 서비스 설명과 관련된 구체적인 섹션에 있습니다.