최근 인도의 전자 및 정보기술부(MeitY)가 소셜 미디어 기업들이 인공지능(AI) 사용에 관한 권고에 중요한 개정을 했다. 지난 금요일 발표된 새로운 권고는, 3월 1일에 발표된 이전 노트를 대체하여, 중개인 및 플랫폼이 정보기술법(2000) 및 정보기술(중개인 가이드라인 및 디지털 미디어 윤리 규정) 2021에 따라 따라야할 주의사항을 개요로 제공했다.
개정된 권고서의 주요 변경 사항 중 하나는 중재인과 플랫폼이 “시험되지 않은” 또는 “신뢰할 수 없는” AI 모델 및 도구를 배포하기 전에 정부 허가를 받아야 한다는 규정을 없앴다는 점이다. 대신, 새로운 권고서는 시험되지 않고 신뢰할 수 없는 AI 모델은 사용자들에게 결과물의 오류 가능성이나 신뢰할 수 없음을 명확히 알리기 위해 인도에서 제공되어야한다고 강조한다.
또한, 개정된 권고서는 중재인이 사용하는 AI 모델과 알고리즘에서 편향이나 차별을 허용하지 않고 선거 과정의 무결성을 위협하지 않도록 하는 데 중점을 두었다. 또한, 중개인들이 AI로 생성된 결과물의 신뢰할 수 없음에 대해 명시적으로 사용자들에게 알리기 위해 동의 팝업창 또는 유사한 메커니즘을 사용할 것을 권고한다.
게다가, 재정된 권고서는 딥페이크와 잘못된 정보를 식별하고 완화하는 데 중점을 두고 있다. 중개인은 고유한 메타데이터나 식별자로 콘텐츠에 레이블을 붙이거나 내장하여 쉽게 식별할 수 있도록 해야 한다. 권고서는 오디오, 비주얼, 텍스트 및 오디오-비주얼과 같은 다양한 형태의 콘텐츠를 다루며, 잘못된 정보나 딥페이크로 사용될 수있는 콘텐츠를 식별하는 것을 목표로 한다. 단, “딥페이크”라는 용어 자체는 정의되어 있지 않다.
개정된 권고서는 또한 중개인이 콘텐츠에 가한 변화에 대한 책임을 지정할 수 있도록 메타데이터를 구성하도록 요구한다. 특히, “최초 발송자”와 관련된 언어는 더 이상 포함되어 있지 않다.
중요한 점은 개정된 권고서가 인도에서 Facebook, Instagram, WhatsApp, Google/YouTube(제미니를 위해), Twitter, Snap, Microsoft/LinkedIn(OpenAI를 위해) 및 ShareChat과 같은 중요한 소셜 미디어 중개인들에 적용된다는 것이다. 그러나 Adobe, Sarvam AI, Ola의 Krutrim AI에는 적용되지 않는다.
과거의 3월 1일 권고서는 많은 스타트업 창업자들로부터 비판을 받았는데, 그들은 그것을 해로운 조치로 간주했다. 업데이트된 권고서는 주요 소셜 미디어 플랫폼에서 사용되는 대형 언어 모델과 AI 모델 주변의 가드레일을 설치하여, 모델 자체는 중개인이나 중요한 소셜 미디어 중개인이 아니라는 정의된 기준에 따라, 균형을 맞추기 위한 것이다.
AI 기술이 계속 발전하고 우리의 일상생활에서 중요한 부분이 되어가는 가운데, AI와 관련한 잠재적 이점과 위험을 모두 고려한 효과적인 규제를 수립하는 것은 정부에게 중요하다. MeitY의 개정된 권고서는 인도에서 AI 규정의 변화되는 모습을 반영하며 소셜 미디어 기업들의 AI 사용에 있어 투명성과 책임을 강조하고 있다.
자주 묻는 질문(FAQ)
1. 인도의 AI 개정 권고의 목적은 무엇인가요?
개정된 권고는 인도의 소셜 미디어 기업들이 사용하는 인공지능에 대한 가이드라인 및 규정을 제공하여, AI로 생성된 결과물의 신뢰성에 대해 투명성과 책임성을 확보하고 사용자들이 인식할 수 있도록 하는 것을 목표로 합니다.
2. 개정된 권고서의 주요 변경 사항은 무엇인가요?
핵심 변경 사항은 시험되지 않거나 신뢰할 수 없는 AI 모델을 배포하기 전에 정부 허가가 필요했던 규정의 삭제, AI로 생성된 결과물에 레이블을 붙여 결과물의 오류 가능성을 사용자에게 알리는 것을 강조하며, 편향, 차별 및 선거 과정 위협 방지에 중점을 둔다는 것입니다.
3. 권고서는 어떤 소셜 미디어 기업에 적용되나요?
권고서는 Facebook, Instagram, WhatsApp, Google/YouTube(제미니를 위해), Twitter, Snap, Microsoft/LinkedIn(OpenAI를 위해), ShareChat을 포함한 인도의 주요 소셜 미디어 중개인에 적용됩니다.
4. 권고서는 딥페이크와 잘못된 정보 문제에 어떻게 대처하나요?
권고서는 중개인이 딥페이크와 잘못된 정보를 식별하고 완화하기 위해 콘텐츠에 레이블을 붙이거나 고유한 메타데이터나 식별자를 내장하도록 요구하여, 딥페이크와 잘못된 정보를 쉽게 인식하고 완화시키도록 합니다.
5. 왜 과거의 권고서가 비판을 받았나요?
과거의 권고서는 인도에서 AI 관련 기술의 발전과 성장에 해로운 요소로 여긴 스타트업 창업자들로부터 비판을 받았습니다.
출처:
– Hindustan Times
The source of the article is from the blog xn--campiahoy-p6a.es