OpenAI는 대화형 AI 프로그램인 ChatGPT를 만든 회사로, 러시아, 중국 및 기타 지역에 있는 여러 기관들이 대중 의견을 좌지우지하기 위해 AI를 활용하고 있다고 밝혀냈습니다.
이러한 그룹들은 자신들의 정체를 숨기는 것을 선호하며, AI로 생성된 텍스트와 소셜 미디어 계정 생성, 그리고 프로그래밍 작업에 AI를 활용했습니다. 이들의 활동에서는 러시아의 우크라이나 침략, 가자 내에서의 충돌, 그리고 미국 정치 등 민감한 지정학 문제에 집중했습니다.
특히 중국 기반의 한 기관은 활발하게 활동하여, 일본 후쿠시마 다이이치 원자력 발전소에서 처리된 물이 방출되는 논란에 비판적인 콘텐츠를 작성했습니다. 이 작전은 온라인에서 일본어 게시물까지 확장되었습니다. 그러나 보고서에 따르면, 이러한 AI로 작성된 메시지들은 소셜 미디어 플랫폼에서 상당한 조회수를 올리지 못했다고 합니다.
또한 OpenAI는 AI 도구를 사용하여 선전 이미지를 생성하려는 시도가 소프트웨어에 거부당한 사례가 있음을 밝혀, 악용을 방지하기 위한 윤리적 보호 장치를 강조하였습니다. OpenAI는 이러한 위협을 상세히 기술한 보고서를 발표하면서, 발표된 결과에 따라 AI 사용을 감시하고 규제하여 이러한 조작적인 실천을 방지하는 중요성을 강조했습니다.
대중 의견 조작에서 AI의 중요성과 관련성:
AI를 사용하여 대중 의견을 조작하는 것은 정치적 선거에 영향을 줄 수 있고, 주요 문제에 대한 대중적인 감정을 변화시키며, 다른 그룹 사이에 갈등을 일으킬 수 있는 중요한 문제로 여겨집니다. 딥페이크를 만드는 데 이용되는 등의 AI 도구는 대규모로 거짓 정보를 확산시킬 뿐 아니라 그 속도가 인간의 능력을 훨씬 뛰어넘는 것이 가능합니다.
주요 질문과 답변:
– 기관들이 대중 의견을 조작하는 데 사용하는 수단은 무엇입니까?
기관들은 납득시키는 텍스트를 생성하거나 현실적인 이미지나 비디오(딥페이크)를 조작하고, 가짜 소셜 미디어 프로필을 생성하며, 잘못된 정보를 자동으로 확산시킵니다.
– OpenAI는 도구가 선전에 사용되는 것을 어떻게 막는가?
OpenAI는 윤리적인 보호장치와 감시 메커니즘을 시행하여, 소프트웨어가 선전이나 잘못된 정보를 목적으로 생성되는 것을 탐지하고 막을 수 있습니다.
– AI를 조작목적으로 사용하기 위한 규제에 대한 어려움은 무엇입니까?
AI 도구와 기술이 국경을 넘어 광범위하게 퍼져나가는 것은 규정을 시행하는 데 더 어렵게 만듭니다. 또한, AI의 진화하는 능력이 효과적인 지배 구조의 확립을 능가할 수 있습니다.
주요 도전 과제와 논란:
AI를 통한 대중 의견 조작에 대한 대응하는 데 중요한 도전 과제는 많은 사람들이 자신들의 정체성을 숨기거나 해외에서 운영하기 때문에 악성 활동을 특정 주체에게 연결하고 귀속하는 것입니다. 또한, 거짓 정보를 억제할 필요성과 자유 표현과의 균형, 기술 기업과 외국 공권력이 콘텐츠를 규제하는 데 참여하는 역할에 대한 논쟁이 계속되고 있습니다.
AI의 장점:
– 대중 의견 트렌드를 이해하기 위한 효율적인 데이터 처리 및 분석 가능.
– 합법적인 뉴스나 비상상황 통보의 신속한 정보 전달 용이.
AI의 단점:
– AI는 거짓 내용을 확대시키고 정교한 잘못된 정보 캠페인을 만들 수 있습니다.
– 언론 및 민주 주의 기관에 대한 신뢰의 훼손에 대한 우려.
규제 노력과 윤리적 고려사항:
AI의 발전은 정치적 현안에서의 악용을 막기 위해 윤리적 사용과 규제 조치에 대한 논의를 촉발했습니다. 전 세계적으로 기관들과 정부는 AI에 의한 윤리적 도전에 대응하기 위해 정책을 개발하고 있으며 점점 더 깊이 인식하게 되고 있습니다.
AI의 영향과 사회적 영향에 대해 추가적인 정보를 원하신다면, 아래의 링크를 참고하실 수 있습니다:
– OpenAI
– 유엔 디지털 협력
– 세계 보건기구 (보건에 관련된 AI 문제)
The source of the article is from the blog crasel.tk