인공지능(AI)이 급격히 발전하는 세상에서, 개발자들은 이제 정치적 맥락에서의 오용을 방지하기 위해 적극적으로 행동하고 있습니다. 주요 기업인 Anthropic, OpenAI, Google, Meta 등은 주요 선거 중 AI 기술이 가지는 잠재적 위협을 인식하고, 해당 응용에 제한을 두는 조치를 취하고 있습니다.
챗봇인 ChatGPT로 유명한 OpenAI는 최근 자사의 AI 도구가 선거에서 남용되는 것을 방지하기 위한 의지를 밝히기도 했습니다. 이를 위해 OpenAI는 실제 사람이나 기관을 모방한 챗봇의 생성을 금지하는 등의 조치를 취하고 있습니다. 마찬가지로, Google은 그들의 AI 챗봇인 Bard가 특정 선거 관련 프롬프트에 대한 응답을 제한하여 부정확성을 피하기로 약속했습니다. 한편, Facebook과 Instagram의 계열사인 Meta도 플랫폼 상에서 인공지능 생성 콘텐츠에 대한 더 명확한 라벨링을 실시하여 유권자들이 진짜와 가짜 정보를 구분할 수 있도록 지원할 것을 약속했습니다.
저명한 인공지능 스타트업인 Anthropic도 그들의 챗봇인 Claude를 통한 정치적인 캠페인과 로비활동을 금지시킴으로써 이러한 행동에 가담하는 사람들을 제한하고 있습니다. 규정 준수를 확보하기 위해 Anthropic은 규칙을 위반하는 사용자들에게 경고를 내거나 계정을 일시정지시킬 것입니다. 또한, 회사는 자동으로 거짓 정보와 영향 조작을 감지하고 차단하기 위해 훈련된 도구를 사용하고 있습니다.
AI의 배포의 불확실한 성질을 인식하는 Anthropic은 “2024년에는 개발자들이 예상치 못한 AI 시스템의 사용이 보여질 것으로 예상됩니다.”라고 밝혔습니다. 이러한 생각은 전 세계 수억명의 사람들이 선거에 참여하는 가운데, 산업 내 여러 개발자들이 자체 기술을 통제하기 위해 노력하고 있는 우려와도 일맥상통합니다.
이러한 지속적인 노력은 칭찬할 만하지만, 발전하는 기술의 앞에서 AI 도구의 제한적인 효과성은 불확실합니다. OpenAI의 인공지능 기술인 Sora는 순간적으로 현실적인 비디오를 생성할 수 있는 능력을 가지고 있는 최근의 도입은 새로운 도전을 제시합니다. 이와 같은 도구들은 텍스트, 소리, 그림을 생성함으로써 사실과 허구를 헷갈리게 할 수 있으며, 유권자들이 진짜 콘텐츠를 구별할 수 있는 능력에 대한 중요한 질문을 제기합니다.
올해만 해도 전 세계적으로 최소 83회의 선거가 예정되어 있으며, 이는 다음 24년 동안 가장 집중적인 수치를 나타냅니다. 대만, 파키스탄, 인도네시아 등의 국가들은 이미 선거를 치렀고, 세계 최대의 민주주의인 인도는 봄에 다가오는 총선거에 대비하고 있습니다. 이러한 중대한 행사들에서 AI 도구의 책임있는 사용에 대한 긴급성은 이전보다 더욱 강조되고 있습니다.
자주 물어보는 질문(FAQ) – 정치적 맥락에서의 인공지능 남용
1. 주요 기업들은 어떤 조치를 취하여 선거 중에 인공지능 기술의 남용을 방지하고 있을까요?
OpenAI, Google, Meta, Anthropic을 비롯한 주요 기업들은 정치적 맥락에서의 인공지능 기술 적용에 제한을 두기 위한 조치를 취하고 있습니다.
2. OpenAI는 자사의 AI 도구 남용을 예방하기 위해 어떤 조치를 취했나요?
OpenAI는 선거에서의 AI 기술 남용을 방지하기 위해 실제 인물이나 기관을 모방하는 챗봇의 생성 등 여러 조치를 취하고 있습니다.
3. Google은 선거 동안 AI 챗봇인 Bard의 사용을 어떻게 제한하고 있나요?
Google은 일부 선거 관련 프롬프트에 대한 Bard의 응답을 제한함으로써 부정확성을 피하기로 약속했습니다.
4. Meta는 Facebook과 Instagram에서 AI 생성 콘텐츠에 대해 어떤 약속을 하였나요?
Meta는 플랫폼 상에서의 AI 생성 콘텐츠에 대한 더 명확한 라벨링을 실시하여 유권자들이 진짜와 가짜 정보를 구분할 수 있도록 약속하고 있습니다.
5. Anthropic은 정치적 맥락에서의 인공지능 남용을 어떻게 방지하고 있나요?
Anthropic은 그들의 챗봇인 Claude를 통한 정치적인 캠페인과 로비활동을 금지함으로써 인공지능 남용 방지에 기여하고 있습니다. 회사는 또한 거짓 정보와 영향 조작을 자동으로 감지하고 차단하기 위해 훈련된 도구를 사용하고 있습니다.
정의:
– AI: 인공지능 – 기계가 인간의 지능을 모방할 수 있게 하는 기술
– 챗봇: 컴퓨터 프로그램으로, 텍스트나 음성 상호작용을 통해 인간과 대화를 시뮬레이션하는 것
– 거짓 정보: 잘못된 정보나 오보로, 종종 사람들을 속이거나 오도하려는 의도로 퍼지는 것
권장 관련 링크:
– OpenAI
– Google
– Meta
– Anthropic
(출처: 이 기사에 제시된 정보로 작성되었습니다)
The source of the article is from the blog radiohotmusic.it