최근 정부가 소셜 미디어 플랫폼 및 기타 중개자에게 AI 모델을 레이블링하고 불법 콘텐츠를 방지하도록 거듭된 고시를 발행했습니다. 전자 및 정보 기술부는 이러한 고시를 3월 1일에 발행했으며, 불이행할 경우 범죄 조치가 취해질 수 있음을 강조했습니다.
이 고시는 모든 중개자 및 플랫폼이 사용자들이 불법 콘텐츠를 호스팅, 표시, 업로드, 수정, 게시, 전송, 저장, 업데이트 또는 공유할 수 없도록 컴퓨터 자원을 보장하는 것을 촉구합니다. 이는 이러한 조항 위반에 대한 모든 플랫폼, 중개자 및 활성화 소프트웨어가 책임을 져야 한다고 강조했습니다.
이 고시는 구글의 AI 플랫폼 Gemini와 총리 나렌드라 모디의 정책에 대한 쿼리에 대한 Gemini의 반응과 관련된 최근 논란을 계기로 나왔습니다. 정부는 Gemini의 발언을 IT 법률 위반으로 여기며 강력히 반응했습니다.
이 사건을 계기로 전자 및 정보 기술 연합 장관 라지브 찬드라셰카르는 플랫폼이 인도 인터넷에 대한 아직 실험중이거나 잘못된 플랫폼을 배포하기 전에 소비자로부터 명시적 동의를 받고 공개해야 한다고 강조했습니다. 나중에 사과를 내더라도 책임을 피할 수는 없다고 강조했습니다.
고시는 또한 플랫폼이 실험 중이거나 신뢰성이 없는 AI 모델을 배포하기 전에 정부로부터 승인을 받도록 요구합니다. 이러한 모델들을 레이블링하여 가능한 취약성이나 신뢰성 부족을 인지하도록 권장합니다.
사용자 인식을 보장하기 위해 고시는 “동의 팝업” 메커니즘의 사용을 제안하여 AI 모델이 생성한 출력물의 가능한 취약성이나 신뢰성 부족에 대해 명확히 사용자들에게 알리는 것을 제안합니다.
찬드라셰카르 장관은 정부의 의도가 통제를 취하는 것이 아니라 건전하고 지속가능한 생태계를 만드는 데 있다고 밝혔으며, 디지털 공간의 전반적 안녕에 부적합한 규제 없이 모든 플랫폼을 허용하는 것은 바람직하지 않다고 믿습니다.
이 고시는 2023년 12월에 발행된 딥페이크 및 잘못된 정보에 대한 대응을 중점으로 둔 이전 고시를 기반으로 구축되었습니다. 이러한 고시들을 통해 정부는 불법 콘텐츠의 유포에 대항하면서 AI 모델의 사용을 규제하는 프레임워크를 수립하려 합니다.
자주 묻는 질문들 (FAQ)
1. 정부가 최근 발행한 소셜 미디어 플랫폼과 중개자에 관한 고시는 무엇인가요?
정부는 소셜 미디어 플랫폼과 중개자에게 AI 모델을 레이블링하고 불법 콘텐츠를 방지하도록 촉구하는 고시를 발행했습니다.
2. 이 고시를 따르지 않을 경우 어떤 결과가 있을까요?
이 고시를 따르지 않을 경우 범죄 조치가 취해질 수 있습니다.
3. 이 고시에서 언급된 플랫폼 및 중개자에 대한 요구 사항은 무엇인가요?
이 고시는 플랫폼 및 중개자가 사용자들이 불법 콘텐츠를 호스팅, 표시, 업로드, 수정, 게시, 전송, 저장, 업데이트 또는 공유할 수 없도록 자원을 보장하도록 요구합니다. 이들이 이 조항을 위반할 경우 책임을 져야 합니다.
4. 이 고시 발행을 촉발시킨 것은 무엇인가요?
이 고시는 구글의 AI 플랫폼 Gemini와 총리 나렌드라 모디의 정책에 대한 쿼리에 대한 Gemini의 반응과 관련된 논란 이후에 나왔습니다. 정부는 Gemini의 발언을 IT 법률 위반으로 간주했습니다.
5. 전자 및 정보 기술 장관 라지브 찬드라셰카르가 강조하는 것은 무엇인가요?
장관 찬드라셰카르는 플랫폼이 실험 중이거나 잘못된 플랫폼을 배포하기 전에 소비자로부터 동의를 얻고 공개해야 한다고 강조합니다. 그는 나중에 사과를 내도 책임을 회피할 수 없다고 강조합니다.
6. 실험 중이거나 신뢰성이 없는 AI 모델에 관한 권장 사항은 무엇인가요?
고시는 플랫폼이 실험 중이거나 신뢰성이 없는 AI 모델을 배포하기 전에 정부로부터 승인을 받고 이러한 모델을 레이블링하여 가능한 취약성을 인지하도록 권장합니다.
7. 고시에 따라 사용자 인식을 어떻게 보장할 수 있나요?
고시는 AI 모델이 생성한 출력물의 가능한 취약성이나 신뢰성 부족에 대해 명확히 사용자에게 알리기 위해 “동의 팝업” 메커니즘의 사용을 제안합니다.
8. 이 고시를 발행한 정부의 의도는 무엇인가요?
정부의 의도는 통제를 하는 것이 아니라 건전하고 지속 가능한 생태계를 만드는 것입니다. 그들은 디지털 공간의 전반적 안녕을 위해 적절한 규제 없이 인터넷상의 모든 플랫폼을 허용하는 것이 바람직하지 않다고 믿습니다.
9. 이 새로운 고시는 어떤 이전 고시에 근거하나요?
이 고시는 2023년 12월에 발행된 딥페이크와 잘못된 정보에 대한 대응을 중점으로 둔 이전 고시를 기반으로 합니다.
The source of the article is from the blog maestropasta.cz