전문가들은 인공지능(AI)이 유사정보를 증폭시키고 외국의 개입을 촉진하는 데 어떻게 활용되고 있는지에 대해 강력한 경고를 내렸습니다. AI 기술은 대규모 콘텐츠 자동화 프로세스에 강력한 힘을 제공하여 선거를 포함한 세계적 사건에 영향을 미치고 있습니다.
대서양의 디지털 포렌식 연구소 (DFRLab)의 발렌탕 샤토레는 AI가 콘텐츠 생성을 혁신화함으로써 유럽연합 선거와 같은 중요 정치적 시기에 대량의 외부 콘텐츠를 유통하는 것을 강조했습니다.
AFP가 로시아와 관련된 디지턈 영향 캠페인을 추적하는 앤티바트포나블니의 데이터에 따르면, 수천 개의 자동화 봇 계정이 사용된 것으로 밝혀졌습니다. 이러한 봇들은 주로 홍보 활동에 참여하고, 특히 비극적 사건 이후에 주목할 만한 활동을 합니다. 예를 들어 모스크바에서의 공격 이후, 소셜미디어 플랫폼에서 2백만 건이 넘는 메시지가 오랫동안 우크라이나와 서양 권력을 공범으로 만들거나, 이슬람국가(IS)의 주장과 일치한다는 내려로 돌렸습니다.
또한, OpenAI라는 ChatGPT 개발 업체는 AI 도구를 이용하여 러시아, 중국, 이란, 그리고 이스라엘 상업 단체가 국제적으로 여론을 좌우하는 데 활용했다고 보고했습니다. 이들의 AI 콘텐츠는 지리적인 주제를 다루며 시각적 유머와 함께 제공됩니다.
인공지능은 소셜미디어 관리 시스템이 봇을 감지하는 것을 더 어렵게 만들었습니다. 왜냐하면 동일한 콘텐츠를 가진 수 많은 메시지를 게시하여 봇을 발견하기 어렵게 만들기 때문입니다. 유럽 NGO EU DisinfoLab의 집행 이사인 알렉산드르 아라필리프는 이러한 전술의 속임수적인 본질을 강조했습니다. 여러분이 실제 언론 기사를 지원하는 정치적 메시지를 대량 배포하여 국내적인 지지를 시뮬레이션하는 전략입니다.
또한, AI는 모방 기술을 발전시켰는데, 서양 언론을 모방하여 허위 내러티브를 확산시키는 오펠기아, 2024년 파리 올림픽을 대상으로 한 올림피아 등의 작전에서 확인되었습니다. 아라필리프는 이러한 전략이 단기적인 계획이 아니라 지속적이고 진화하려는 설계로, 미국 대통령 선거와 같은 주요 사건이 이러한 계획의 잠재적 대상 역할을 할 것으로 예측하고 있습니다.
The source of the article is from the blog coletivometranca.com.br