OpenAI는 인공지능 모델의 행동을 형성하는 데 대중을 참여시킬 연구원과 엔지니어 팀을 구성하기로 계획을 발표했습니다. 집단 정렬 팀으로 알려진 이 팀은 디지털 격차, 극단적인 집단, 다양성 표현 및 인공지능 관리에 관한 우려 등과 같은 도전에 대응하기 위해 대중의 참여를 통해 인공지능 모델을 가이드하는 시스템을 개발하는 것을 목표로 합니다.
이 팀은 외부 자문위원 및 보조금 수혜자와 함께 작업하여 보조금 프로토타입을 OpenAI의 모델에 접목하기 위해 노력합니다. 회사는 다양한 기술적 배경을 가진 연구 엔지니어들이 이 팀에 합류하여 이 이니셔티브에 기여할 것을 열렬히 찾고 있습니다.
이 발표는 OpenAI가 작년 5월에 추진한 공공 프로그램을 계승합니다. 이 프로그램은 “AI에 대한 민주적 입력”을 탐구하는 10개의 실험에게 100,000 유로의 보조금을 부여했습니다. OpenAI가 명시한 목표는 AI 시스템이 따라야 할 규칙을 결정하는 데 민주적인 접근 방식을 육성하는 것이었습니다.
최근 OpenAI는 보조금 프로그램에 참여한 팀들이 작성한 코드와 그들의 작업 요약을 공개했습니다. 프로그램이 진행되는 동안 몇몇 참가자들은 정책 결정에서 인공지능의 사용에 대한 우려를 표명하고 민주적인 절차 내에서 그 응용에 대한 투명성을 요구했습니다. 협의 세션을 거쳐 많은 팀들은 대중이 AI 가이드에 기여할 수 있는 능력에 대한 낙관감이 증가했다고 보고했습니다.
OpenAI의 대중 참여를 위한 의사 결정 과정은 더 큰 투명성과 포용성을 촉진합니다. 다양한 관점을 통합하는 집단 정렬 팀은 인공지능 모델이 사회적 가치를 따르고 잠재적인 편견을 최소화하도록 지향합니다. 이 혁신적인 접근을 통해 OpenAI는 연구원, 엔지니어 및 대중이 공동으로 주도하는 더 민주적이고 책임감 있는 AI 관리 모델로 나아갈 수 있습니다.
The source of the article is from the blog coletivometranca.com.br