OpenAI는 대화형 AI 프로그램인 ChatGPT를 창조한 회사로, 러시아, 중국 및 기타 지역에 속한 몇몇 조직이 AI를 이용하여 대중 의견을 조종하는 데 활용하고 있다고 밝혀냈습니다.
이러한 그룹들은 자신들의 신원을 비밀로 유지하고 AI로 생성된 텍스트와 소셜 미디어 계정을 사용하며 프로그래밍 작업에 AI를 활용하고 있습니다. 그들의 운영에서, 러시아의 우크라이나 침공, 가자 협박, 미국 정치를 비롯한 민감한 지정학적 문제에 집중했습니다.
그 가운데, 중국 소재의 한 조직은 특히 활발한 활동을 펼치고 있으며, 일본 후쿠시마 다이이치 원자력 발전소에서 처리된 물이 논란을 일으킨 것을 비판하는 콘텐츠를 제작했습니다. 이 작전은 일본어로 온라인 게시물에까지 확장되었습니다. 그러나 보고서에 따르면, 이러한 AI가 만든 메시지들이 소셜 미디어 플랫폼에서 상당한 관심을 받지 못했다는 것을 보여줍니다.
게다가, OpenAI는 AI 도구를 통해 선전적 이미지를 생성하려는 시도가 소프트웨어에 의해 거부당한 인스턴스도 발생했다고 밝혀, 남용을 방지하기 위한 윤리적 보호장치를 강조했습니다. OpenAI는 이러한 위협 내용을 발표하면서 동일한 날에 보고서를 발표했으며, 이와 같은 조작적인 행위를 예방하기 위해 AI 사용을 모니터링하고 규제하는 중요성을 강조했습니다.
공중 의견 조종에서 AI의 중요성과 관련성:
AI를 이용한 대중 의견 조작은 정치적 선거에 영향을 미칠 수 있으며, 주요 이슈에 대한 대중적 견해를 변화시키고 서로 다른 그룹 간의 갈등을 부추길 수 있기 때문에 중요한 문제입니다. 딥페이크를 만드는 등 인공지능 도구는 대규모로 정보를 유포함으로써 인간 능력을 크게 초월하는 속도와 규모로 비정보를 전파할 수 있습니다.
주요 질문과 답변:
– 기관들은 AI를 이용하여 대중 의견을 조종하는 데 어떤 수단을 사용합니까?
기관들은 설득적인 텍스트를 생성하거나, 현실적인 이미지나 비디오(딥페이크)를 만들거나, 가짜 소셜 미디어 프로필을 생성하거나, 잘못된 정보의 확산을 자동화하는 데 AI를 사용합니다.
– OpenAI는 어떻게 자사 도구를 선전용으로 사용하지 않게 막을까요?
OpenAI는 도구가 선전이나 잘못된 정보를 목적으로 생성하는 것을 감지하고 막을 수 있는 윤리적 보호장치와 감시 메커니즘을 도입합니다.
– 대중 조작을 규제하는 데 어떤 도전과 논란이 있습니까?
국제적으로 AI 도구와 기술의 보급화로 규제를 집행하는 것이 어려워지며, 더욱이 AI의 발전하는 기능은 유효한 거버넌스 구조를 수립하는 것을 앞지르기 때문에 효과적인 규제를 확립하는 것에 어려움이 있습니다.
주요 도전과 논쟁:
대중 의견 조작에 대한 AI 사용 문제를 다루는 데 중요한 도전은 악의적인 활동을 특정 행위자에게 돌리고 식별하는 것인데, 많은 사람들이 자신들의 신원을 숨기거나 외국에서 운영하기 때문입니다. 또한 표현의 자유와 가짜 정보를 억제할 필요성 사이의 균형에 대한 논쟁, 기술 기업과 국가 당국이 콘텐츠를 규제하는 데의 역할 또한 계속 진행 중입니다.
AI의 장점:
– 대중 의견 유행을 이해하기 위한 효율적인 데이터 처리 및 분석을 가능하게 합니다.
– 합법적인 뉴스나 비상 경보를 위한 신속한 정보 전달을 용이하게 합니다.
AI의 단점:
– 거짓 내러티브를 확대하고 정교한 비정보 캠페인을 만들기 위해 AI가 사용될 수 있습니다.
– 언론과 민주주의 기관에 대한 신뢰의 침해에 대한 우려가 있습니다.
규제 노력 및 윤리적 고려:
AI의 발전은 정치적 분야에서의 남용을 막기 위한 윤리적 사용 및 규제 조치에 대한 토론을 촉발했습니다. 세계 각국의 기관과 정부는 이제 AI에 의한 도덕적 도전에 대처하기 위해 정책을 개발해 나가는 데 점점 더 알고 있습니다.
AI의 영향과 사회적 영향을 더 깊이 알아보려면 다음 링크를 탐색할 수 있습니다:
– OpenAI
– 유엔 디지털 협력
– 세계 보건 기구 (보건 관련 AI 문제)