주요 기술 기업들이 AI-생성 정보 조작 대응조치를 취한다
여러 주요 기술 기업들이 민주적 선거를 방해하는 데 사용되는 인공지능(AI) 도구에 대한 우려를 해소하기 위해 협력했습니다. Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok 등의 기업 임원들이 유권자를 속이는 AI-생성 딥페이크의 확산을 방지하기 위해 “합당한 예방 조치”를 채택하기로 한 자발적 계약을 체결했습니다.
뮌헨 안보 회의에서 발표된 이 새로운 틀은 점차 현실적이고 신뢰할 수 있는 AI-생성 이미지, 오디오, 비디오를 대응하는 데 초점을 맞추며 정치 후보자와 선거 당국자의 모습, 목소리, 행동을 변조하거나 가짜로 만드는 내용에 대해 탐지하고 레이블링하는 방법을 제시합니다. 이 계약은 딥페이크를 금지하거나 삭제할 것을 약속하는 대신에, 플랫폼에서 해당 콘텐츠가 작성되거나 배포될 때 속임수 있는 AI 콘텐츠를 감지하고 레이블링하는 방법을 기술합니다. 회사들은 또한 최고의 실천 방법을 공유하고 이러한 콘텐츠의 확산을 방지하기 위해 신속히 대응할 것입니다.
이 계약의 약속들은 일부 옹호자들이 기대한 것만큼 강력하지는 않지만, 옳은 방향으로의 한 걸음임을 나타냅니다. 약속의 모호함과 구속력 있는 요구사항의 부족으로 다양한 서명 기업들이 이를 끌어들였을 것으로 예상됩니다. 그러나, Bipartisan Policy Center 등의 기관은 회사들이 약속을 지키도록 지속적으로 모니터링할 필요성을 강조하고 있습니다.
이 계약은 투명성과 교육의 중요성도 강조합니다. 플랫폼은 교육, 다큐멘터리, 예술, 풍자 및 정치 표현물을 보호하고 정책에 대해 투명하게 하면서도 대중이 AI-생성 정보 조작을 인식하고 피하는 데 도움이 되도록 하는 것이 권장됩니다.
2024년에 50개 국가가 국가 선거를 준비하고 있을 때, 이 계약의 타이밍은 중요합니다. AI-생성 선거 개입은 이미 목격되었으며, AI 도용 전화로 정치 인물을 흉내내거나 AI-생성 음성 녹음이 거짓 정보를 확산하는 사례가 있습니다. AI-생성 정보 조작의 위험과 결과에 대한 조치를 취하려는 이 기술 기업들은 세계적으로 민주적 선거를 보호하기 위해 이른 조치를 취하고 있습니다.
X와 같은 기업의 포함은 이 계약의 놀라운 점을 더합니다. Elon Musk의 노력인 X가 포함된 것은 놀라운 일입니다. Musk는 이전에 언론의 자유를 지지했으며 콘텐츠 모니터링 팀을 제한했습니다. 그러나 그의 참여는 AI-생성 정보 조작으로 인한 잠재적 피해를 인식하고 이를 대응하기 위해 협력할 의지가 있다는 것을 보여줍니다.
이 계약이 포괄적이지는 않을 수 있지만, 협력을 위한 초기 틀 역할을 하며, 민주적 과정에서 AI 남용 대응에 대한 논의와 개선의 초석을 놓습니다.
자주 묻는 질문 섹션: 인공지능(AI)과 선거
1. 기사에서 언급된 주요 기술 기업들이 체결한 자발적 계약의 목적은 무엇입니까?
이 계약은 유권자를 속이기 위해 딥페이크를 생산하는 AI 도구의 확산을 방지하여 민주적 선거를 방해하는 문제에 대응하는 것을 목표로 합니다.
2. 자발적 계약이 초점을 맞추는 콘텐츠 유형은 무엇인가요?
이 틀은 점점 더 현실적인 AI-생성 이미지, 오디오, 비디오를 변조 또는 가짜로 만들어 정치 후보자와 선거 당국자의 모습, 목소리, 행동을 변조하는 내용에 초점을 맞춥니다.
3. 계약은 딥페이크를 금지하거나 삭제하는 대신 무엇을 제시하나요?
계약은 플랫폼에서 해당 콘텐츠가 작성되거나 배포될 때 속임수 있는 AI 콘텐츠를 감지하고 레이블링하는 방법, 더불어 최고의 실천 방법을 공유하고 이러한 콘텐츠의 확산을 방지하기 위해 신속히 대응하는 방법을 제시합니다.
4. 계약 내의 약속들은 충분히 강력한가요?
일부 옹호자들이 기대한 것만큼 강력하지는 않지만, 옳은 방향으로의 한 걸음임을 나타냅니다. 회사들이 약속을 지킬 수 있도록 지속적인 모니터링이 강조됩니다.
5. 계약이 투명성과 교육을 어떻게 강조하나요?
계약은 플랫폼이 교육, 다큐멘터리, 예술, 풍자 및 정치 표현물을 보호하면서도 정책에 대해 투명하게 하는 것을 촉구합니다. 또한, 대중이 AI-생성 정보 조작을 인식하고 피하는 데 대한 교육이 장려됩니다.
6. 계약의 타이밍의 중요성은 무엇인가요?
2024년에 50개 국가가 국가 선거를 준비하고 있기 때문에 계약의 타이밍은 중요합니다. 이미 AI-생성 선거 개입이 목격되었으므로 AI-생성 정보 조작의 위험과 결과에 대한 조치를 취하는 것이 중요합니다.
7. 엘론 머스크의 노력인 X가 포함된 이유는 무엇인가요?
엘론 머스크는 이전에 언론 자유를 지지했고 콘텐츠 모니터링 팀을 제한했습니다. 그러나 그가 이 계약에 참여하면서 AI-생성 정보 조작으로 인한 잠재적 피해를 인식하고 대응하기 위한 의지를 보여줬습니다.
The source of the article is from the blog kewauneecomet.com