2024년, 전 세계에서 여러 선거가 예정되어 있으며, 인공지능(AI)이 민주주의적 프로세스에 미치는 영향에 대한 우려가 일고 있습니다. AI가 생성한 콘텐츠로 인한 우려가 일어난 사례가 있었지만, 이러한 사건들은 신속하게 논박되어 신뢰할 만한 뉴스 소스에서 큰 영향력을 끌지 못했다는 사실을 알아야 합니다.
현재, 제너레이티브 AI는 설득력 있는 가짜 콘텐츠를 생성할 수 있지만, 이는 일시적인 것입니다. 또한 정보, 디스인포메이션, 미스인포메이션의 전파는 보통 설득력 있는 이야기가 있어야만 실제로 위협적일 수 있습니다. 예를 들어, 피자게이트와 큐어논 같은 음모론은 AI의 도움 없이도 대중적인 대화를 형성하는 데 성공하였습니다. 그 결과, 선거에 영향을 미치는 AI가 생성한 콘텐츠의 효과는 다면적인 지식을 가진 숙련된 인간 운영자에게 좌우될 것으로 보입니다.
또한, 현대의 미디어 생태계의 단편화된 특성, 특히 소셜 네트워크를 통해 사용자 커뮤니티가 여러 플랫폼으로 분산되는 것은 제너레이티브 AI가 선거에 미칠 잠재적 영향을 제한하는 요소로 작용합니다. 사용자들이 인터넷의 더 작은 구석으로 더욱 퍼져가는 것이죠. 이러한 현상의 탐지와 설명을 복잡하게 만들 수는 있지만, 그들의 전반적인 영향력을 줄이기도 합니다.
이러한 요인들 – 대부분 AI 가짜 콘텐츠의 일시성, 보다 넓은 이야기와의 연결성의 필요성, 정보 전달의 단편화 – 모두 제너레이티브 AI로 인한 잠재적 피해에 대한 초기 보호 장치 역할을 합니다.
하지만, 기존의 보호 장치에만 의존하는 것은 중요하지 않습니다. 반대로, 민주주의와 선거를 사람들을 위한 인간적인 활동으로 우선시하는 예방적인 조치가 시행되어야 합니다. AI, 소셜 미디어, 선거 캠페인에서의 유료 광고를 통한 과도한 개인화는 개별 유권자에게 알림을 방지하기 위해 제한되어야 합니다. 온라인 신원의 투명성을 유지하는 것도 중요합니다. 익명성이 투표 목적에 필요한 경우를 제외하고, 유권자들은 마주치는 콘텐츠 뒤에 있는 사람을 명확히 이해해야 합니다. 그에는 AI가 생성한 자료도 포함됩니다.
또한, 소셜 미디어 플랫폼은 제너레이티브 AI의 잠재적인 오용에 대응하기 위해 적극적인 역할을 해야 합니다. 그들은 사용자들에게 AI가 생성한 콘텐츠에 대한 정보를 제공하고, 대규모 조작을 감시하며, 조직적인 AI 괴롭힘을 예방하고, 시스템의 독립적인 연구와 감사를 허용해야 합니다.
최종적으로, 사회는 민주주의를 약화시키려는 모든 시도에 맞서야 합니다. 이는 종종 내부에서 비롯된 것입니다. AI에 대한 흥분은 지속되는 가운데, 우리는 AI의 발전보다는 민주주의의 정직성을 우선시해야 합니다.
The source of the article is from the blog lokale-komercyjne.pl