인공지능(AI)의 영향력이 계속해서 확장되면서, 캘리포니아 의원들은 최근 이 기술이 선거에 미칠 수 있는 잠재적 영향에 주목하고 있다. 지난 1년 동안 다수의 법안이 제출되어 AI의 규제와 민주적 과정의 무결성을 보호하기 위한 시도가 이루어졌다.
특히 ‘딥페이크’라 불리는 AI로 생성된 불신정보의 사용은 최근 명확하게 성장하는 우려의 대상이 되었다. 딥페이크란 실제적인 이미지, 동영상, 오디오 등을 만들어내는 AI 생성 콘텐츠로, 시청자들을 속이거나 조작하는 용도로 조작될 수 있다. 딥페이크가 유권자들을 혼란시키거나 억압하거나 오도하는 가능성은 의원들과 전문가들의 경종을 울리고 있다.
한 가지 주목할만한 사례로 플로리다 주지사인 론 데산티스 주지사는 대통령 선거 캠페인에서 코로나바이러스-19 대응에 주목받는 안토니 파우치 박사와 포옹하고 입맞추는 모습을 보여주는 AI 조작된 사진 사용으로 비판을 받았다. 비슷하게, 미국 뉴햄프셔 주의 민주당은 주요 선거에서 유권자 참여를 저해하는 것처럼 보이는 조작된 로보콜을 받았다.
이러한 사고들은 연방과 주 정부에서 조사를 유발하여, 선거에서 AI의 오용에 대응하기 위한 규제의 시급성을 강조하고 있다. 캘리포니아 대학의 정부 연구소에서 최근 시행한 조사에 따르면, 84%의 캘리포니아 주민이 불신정보, 딥페이크, AI가 예정된 선거에서 가지는 위험에 대해 우려를 표명하고 있다. 이는 대중들이 조치를 요구하는 정도로 공공의 요구를 강조하고 있다.
인공지능 혁신을 선도하는 글로벌 리더로 알려진 캘리포니아의 의원들은 인공지능 기술의 개발과 규제에 적극적으로 참여하고 있다. 이 주에는 많은 AI 기업이 있으며, 세계적으로 AI 특허와 연구 논문의 상당 부분을 차지하고 있다.
이러한 AI 도전을 해결하기 위해 캘리포니아에서는 여러 법안들이 제안되었다. 스콧 위너 주 의원은 AI의 안전성을 테스트하기 위한 공공 컴퓨팅 프로그램을 만들기 위한 1047번째 상원 의안을 제출했다. 빌 도드 상원 의원은 캘리포니아 AI 책임화법(SB 896)을 제안하여 국가 기관이 사용자들이 AI와 상호작용할 때 알림을 보내도록 요구할 것이다. 게다가, 마크 버먼 의원은 어린이 성착취를 묘사한 AI 생성 콘텐츠의 생산과 배급을 형법상으로 처벌하는 법안을 제안하였다.
이러한 노력은 칭찬할 가치가 있지만, 아직 초기 단계에 있는 법안들이나 포기된 법안들도 여전히 존재한다. 입법 절차가 계속되는 동안, 의원들은 AI 기반의 불신정보가 선거에 미치는 변화하는 위협에 대해 경계를 지키고 대응할 필요가 있다.
AI를 규제하고 민주적 과정의 무결성을 보장하는 결정적인 조치를 취함으로써, 캘리포니아는 비슷한 도전을 직면한 다른 주들에게 전례를 제시할 수 있다. 디지털 시대에서의 공정성과 투명성을 보호하기 위해 AI의 책임 있는 개발과 사용이 중요하다.
The source of the article is from the blog radardovalemg.com