영국 더 가디언 웹서핑 담당에 의하면, 마이크로소프트가 후원하는 인공지능 연구소인 OpenAI는 “Collective Alignment”라는 새로운 팀을 구성하여 AI 소프트웨어의 민주적인 프로세스를 확립하고자 발표했습니다. 이 이니셔티브는 AI 기술의 개발과 사용에 대한 편향성과 기타 요소에 대한 우려를 해소하기 위한 것입니다. 이 팀은 민주적 프로세스에 관련된 실험을 지원하는 2023년 5월에 시작된 그랜트 프로그램의 연장선으로 작업을 진행합니다.
Collective Alignment 팀의 목표는 OpenAI가 사회의 기본 구성 요소가 될 수 있는 첨단 AI 모델을 개발하는 동안 사람들의 직접적인 참여를 허용하는 것입니다. 팀의 설립 멤버 중 하나인 연구 엔지니어인 Tyna Eloundou는 AI의 미래를 형성하는 데 공중 참여의 중요성을 강조했습니다.
OpenAI는 인간만이 입력을 제공할 수 있도록 하기 위해 자신의 CEO 인 Sam Altman이 창립한 암호화폐 프로젝트인 Worldcoin과 협력할 수도 있습니다. Worldcoin은 인간 사용자와 AI 봇을 구별하는 방법을 제공합니다. 새로운 팀의 제품 매니저인 Teddy Lee는 Worldcoin의 기술을 통합할 가능성에 대해 언급했지만, 구체적인 계획은 아직 마련되지 않았습니다.
AI가 일종의 “딥페이크” 이미지를 만들거나 잘못된 정보를 퍼뜨리는 등의 정보 조작을 할 수 있다는 우려가 있어 OpenAI는 ChatGPT라는 AI 프로그램을 공개함으로써 상당한 관심을 받았습니다. 특히, 2024년 미국 대선 캠페인이 다가오면서 “ChatGPT와 같은 AI 시스템은 학습된 데이터에서 파생된 내재적인 편향성으로 인해 인종 차별적이거나 성차별적인 결과물을 내놓을 수 있다”는 비판이 제기되었습니다.
OpenAI의 새로운 팀은 연구 엔지니어와 연구 과학자를 적극적으로 모집하고 있습니다. 이들은 AI 모델에 대한 인간의 입력을 수집하는 프레임워크를 구축하는 “Human Data” 팀과 밀접하게 협력할 것입니다.
대체로 OpenAI의 민주적 거버넌스와 다양한 의견을 수용하는 AI 기술의 개발과 사용에 대한 약속은 책임있고 편향되지 않은 사회 통합을 보장하기 위한 중요한 한 걸음입니다.
The source of the article is from the blog crasel.tk