AI가 언어 기술 테스트에서의 중국 친중경향 노출
최근 조사 결과에 따르면, Google의 AI 모델인 Gemini는 중국과 관련된 민감한 주제에 대해 간단한 중국어로 질의될 때, 그 응답을 중국 정부의 공식 입장과 상당히 일치시키고 있음이 드러났다. 이 AI는 이러한 사안에서 거의 결코 ‘정치적으로 올바른’ 입장을 취했다고 여겨졌다.
이러한 통찰을 활용하여 미국 의회 의원들은 경고를 표명하고 서구 기술기업들의 교육 데이터 필터링을 더 엄격히 요구했다. 이 우려는 중국의 인공지능을 통해 세계적 영향력이 증가할 가능성에서 비롯되었다.
Gemini에 중국공산당을 제시하도록 한 경우, 그 설명은 중국의 자체 주장에 공감을 표현했고 중국 공산당의 역사적인 중요한 역할로 인해 중국의 부상과 국가의 부흥에 대한 포부를 병합했다.
반면, 대만 정책에 대해 Gemini는 미국이 대만을 중국의 일부로 인정한다는 부정확한 시사를 하며, 이는 베이징이 일반적으로 주장하는 이야기를 반영했다. 그러나 미국은 중국의 주장을 명시적으로 승인하지 않으면서 단순히 인정만 하는 입장을 공식적으로 유지한다.
추가 테스트에서 중국의 인권 실천에 대해 Gemini가 거리낌을 보인 것으로 나타났는데, 특히 신장 지역에서라는데 이유를 들어 텍스트 처리가 그 유일한 기능으로 언급되었다. 그러나 미국의 인권을 평가하는 것에는 AI가 중국 정부 보고서를 인용하여 총론적인 논평을 제공했으며 총격사건 및 사회적 불평등을 비롯한 미국의 인권 침해를 언급했다.
미국을 비판하는 부분에서, Gemini는 중국에 대한 쿼리에 대한 말썽없이 본보기를 보이는 반면 중국에 대한 쿼리에 대한 예의주시적인 반응을 보였다. 구글의 딥마인드에서 2023년 12월에 Gemini를 그들의 가장 유용한 모델로 소개했으나, 구글 대변인은 Gemini를 창조 및 제작 도구로서 언제든지 신뢰할 만한 응답을 할 수 있는 것은 아닐 수 있음을 반복해서 표명했다, 특히 현재의 정치적 및 계속되는 뉴스 사건에 있어서.
전문가들은 Gemini의 친중경향 응답의 기원을 찾았으며, 그들은 AI를 훈련시키기 위해 사용된 일부 데이터가 중국 인터넷에서 얻어지고 정부의 강인한 검열과 정치적 선전물로 물들여진 것이라는 추측을 했다.
검열에 견고한 AI 교육의 중요성
Gemini 사례는 현대 인공지능을 개발하는 알고리즘에 대한 보다 광범위한 우려를 반영하고 있다. 특히 중국의 어떤 국가적 서술의 영향력도, AI의 응답에서의 중립성과 공정성에 대한 질문을 던진다. AI 분야에서의 주요 과제 중 하나는 정치적 감수성을 탐색하면서 편견이나 외교 정책적 이해를 계속해서 반복 혹은 확산하지 않고 다룰 수 있는 다재다능한 모델을 달성하는 것이다.
주요 질문과 답변:
– 국가 서술을 채택한 AI의 영향?
국가 서술을 모방하는 AI는 편향된 정보를 보급할 수 있으며, 대중 인식을 왜곡시켜 민주적 프로세스에 개입할 수도 있다.
– 회사가 그들의 AI 시스템이 중립적임을 어떻게 보장할 수 있나요?
회사들은 그들의 훈련 데이터셋을 다양화하고 엄격한 지침을 실행하며 편견과 부정확성에 대한 자주적인 모델 평가를 실시해야 한다.
– 이 문제를 다루지 않는 위험은 무엇인가요?
이러한 기술이 처리되지 않은 경우, 이러한 기술은 잘못된 정보 전파나 권위적 선전물로 이어질 수 있어 AI에 대한 신뢰를 부정하거나 국제적 관계에 영향을 미칠 수 있다.
장단점:
– 장점:
– AI는 사람들이 불가능한 규모에서 정보를 처리하고 종합할 수 있어 유익한 통찰을 제공한다.
– 책임 있는 사용시, AI는 상호문화 이해와 세계적 소통을 촉진할 수 있다.
– 단점:
– AI 시스템은 그들의 훈련 데이터에 존재하는 편향에 취약하며, 잘못된 정보를 반복하고 확대할 수 있다.
– AI가 국가 서술을 채택하는 것은 소프트 파워 프로젝션에 사용될 수 있어 지리적 긴장을 더 복잡하게 만들 수 있다.
중국 인터넷에서 훈련된 AI가 중국의 인공지능의 응답을 왜곡시킬 수 있음을 뜻하는 검열과 엄격한 규제는 이견커녕, 일면적인 견해를 강화할 수 있게끔 할 수도 있다. 중국의 투명성 부재와 국가지배적 매체의 우세는 AI의 응답을 왜곡시킬 수 있어 AI의 답변을 한쪽만 강조하게 하기 때문이다.
AI 윤리와 정책에 대해 더 많은 내용을 보려면 다음 링크를 방문해주십시오: DeepMind. 그러나, AI와 검열의 정치에 대한 보다 포괄적인 토론을 위해서는 기술과 정책에 대한 정보가 다양한 플랫폼에서 널리 제공되고 있다.
이러한 복잡한 문제에 대한 대응에서는 윤리학자, 기술 전문가, 정책 결정자 및 시민 사회를 포함한 다중 이해관계자 접근이 종종 권장되며, AI 개발이 사회적으로 책임있고 보다 광범위한 인권과 민주주의 원칙과 일치하도록 보장한다. AI의 신속한 발전은 기술 배치의 예기치 못한 결과에 대응할 수 있도록 정책의 민첩성을 요구한다.