정치 분야에서, 2024년 미국 대통령 선거가 가까워짐에 따라 인공 지능(AI) 기술의 증가하는 활용이 광범위한 우려와 불안을 일으켰습니다.
AI로 생성된 여러 거짓 정보 사례들이 공론을 불안케 하고, 이로 인해 앞으로 대선에 상당한 영향을 미칠 수 있다는 우려가 커지고 있습니다. 주목할 만한 사례로는 부통령 카말라 해리스를 흉내 내는 딥 페이크 비디오, 조작된 조 바이든 대통령이 선동적인 언어를 사용하는 동영상, 그리고 트럼프가 체포되는 이미지의 조작된 것 등이 있습니다.
전문가들은 AI 기술이 투표자들을 속이거나 그들의 투표 의도를 감화시키거나, 기울이거나 심지어 투표를 권장하지 않게 하는 데 사용될 수 있다고 경고하고 있습니다. 이미 깊은 사회적 분열을 야기하고 있는 미국에서 이러한 변화 가능성은 추가적인 우려 요인이 될 수 있습니다.
이 신종 위협에 대응하여 의견들이 급증하고 있는 가운데, 많은 기업들이 소셜 미디어에서 콘텐츠 관리를 줄였지만, 선거를 앞두고 더 엄격한 AI 거버넌스 메커니즘의 수립을 요구하는 요구가 커지고 있습니다.
지난 주에는 테슬라 CEO 일론 머스크가 자신의 플랫폼 X에 카말라 해리스의 딥페이크 비디오를 공유했는데, 그 비디오에서 가짜 카말라는 바이든이 치매를 앓고 있으며 국가를 다스리는 것에 무능하다고 주장했습니다. 이 비디오는 풍월을 표현하는 명시적인 레이블이 없었으며 웃는 이모티콘만이 표시되었습니다. 머스크는 나중에 이것이 풍자적인 작품으로 의도되었음을 밝혔습니다. 연구원들은 시청자들이 이 비디오를 해리스의 진정한 자기 비하 및 바이든 비판으로 오해할 수 있다고 우려하고 있습니다.
AI로 생성된 잘못된 정보의 사용은 분노를 조장하고 정치적으로 당파적인 격차를 심화시키기 위해 시각적 자료와 비디오를 전파하는 특수 추세를 취하고 있습니다. 놀라울 만큼, 더 일반적인 시나리오는 분노를 유발시키고 정당 성향을 심화시키기 위해 명백히 설계된 콘텐츠를 조작하는 것일 수 있습니다.
게다가, 정치인을 가장하고 투표자들을 참여하지 않도록 설득하는 AI 기반 자동 전화 통화 사례도 등장했습니다. 설문조사 결과, 미국인의 절반 이상이 AI로 생성된 거짓 정보가 2024년 선거 결과에 영향을 미칠 것이라고 믿으며, 약 3분의 1이 선거 결과에 대한 신뢰가 약해질 것으로 표현했습니다.
여러 기술 기업들이 AI 콘텐츠 태깅 시스템을 개발 중임을 확인했습니다. 추가적으로 200여 개 이상의 성명서 단체들이 정치적 광고에서 딥페이크 기술의 사용을 금지하는 제안을 포함한 AI 거짓 정보 대응 긴급 조치를 촉구하고 있습니다.
규제 기구들은 현재 온라인 환경이 잘못된 정보로 포화되어 있어 투표자들 사이에 혼란을 초래할 위험이 있음을 경고했습니다. 그들은 플랫폼 기업들이 딥페이크와 유사한 문제로 인한 도전에 대한 대응 정책의 정비를 가속화할 것을 주장하고 있습니다.
정치적 대화에서 AI로 생성된 잘못된 정보에 대한 우려가 확대되고 있습니다
정치적 지평선 위에 걸쳐 커다란 그림자로 나타난 AI로 생성된 잘못된 정보로 인한 새로운 복잡성과 위험 요인들이 계속해서 드러나고 있습니다. 이전에 강조된 AI 남용 사례들을 넘어서, 중대한 질문이 등장합니다. 어떻게 정치적 대화 영역에서 진실된 콘텐츠와 AI로 생성된 위조물을 구별할 수 있을까요?
AI로 생성된 잘못된 정보와 싸우는 핵심 도전 중 하나는 AI 알고리즘의 급변하는 정교함에 있으며, 이로 인해 탐지하기가 점점 어려워지고 있습니다. 거짓 정보에 대한 각 보급마다 적응하고 학습하는 능력은 정치적 메시징에서의 속임수 콘텐츠와의 전쟁에서 엄청난 장벽을 제시합니다.
AI의 번영과 연관된 가장 압박적인 논쟁 중 하나는 어떻게 거짓 정보와 딥페이크의 확산을 억제할 것인가하는 윤리적 딜레마에 관한 것입니다. 거짓 정보와 딥페이크의 확산을 억제할 필요가 있지만, 표현의 자유를 제한하거나 부당한 검열 없이 정치적 대화의 권리에 침해할 우려가 있습니다.
정치적 대화에서 AI의 이점은 정보 전파를 간소화하고 소통 효율성을 향상시킬 수 있는 잠재력에 있습니다. 방대한 데이터 집합을 분석하고 개인화 된 메시지를 통해, AI 도구들은 유용한 통찰력과 참여 전략을 제공할 수 있습니다. 그러나 AI 남용에 의한 잘못된 정보는 민주 주의 기관에 대한 신뢰를 훼손하고 시민들 사이에 혼란을 뿌리칠 위험을 가져옵니다.
반대로, AI로 생성된 잘못된 정보의 단점은 깊은 것이며 넓고 다양한 영역에 걸쳐 있습니다. 선거의 통합을 저해하기부터 사회적 분열을 악화시키기까지, 그러한 콘텐츠의 악의적인 의도는 민주주의의 근간을 파괴할 수 있는 힘이 있습니다. 게다가, 잘못된 정치적 내러티브에 노출된 개인들에 대한 심리적 영향은 정치적 대화의 분열과 시민들 간의 대화 붕괴로 이어질 수 있습니다.
이 주제에 대해 더 깊이 탐구하고 해결책을 모색하려는 독자들은 세계경제포럼 및 브루킹스 연구소와 같은 신뢰할 만한 출처를 참고할 수 있습니다. 이들 조직은 AI로 생성된 잘못된 정보로 인한 위협과 이 중요한 문제를 해결하기 위한 협력이 반드시 필요한 점에 대한 포괄적인 통찰력과 분석을 제공합니다.
The source of the article is from the blog scimag.news