A OpenAI, uma das principais startups de inteligência artificial, anunciou a criação de uma nova equipe chamada Alinhamento Coletivo, que tem como objetivo utilizar a opinião pública para influenciar o comportamento de seus modelos de IA. A equipe trabalhará no desenvolvimento de sistemas que incorporem contribuições do público e abordem diversos desafios, como a divisão digital, polarização, representação da diversidade e preocupações sobre o futuro da governança da IA.
Como parte de seus esforços, a OpenAI colaborará com consultores externos e equipes de subsídios, incluindo a implementação de protótipos de subsídios em seus modelos de IA. A empresa está recrutando engenheiros de pesquisa de diferentes formações técnicas para se juntarem à equipe de Alinhamento Coletivo.
Essa iniciativa surge do programa público da OpenAI lançado em maio, no qual foram concedidos subsídios no valor de €100.000 cada para apoiar experimentos sobre “contribuições democráticas para a IA” em todo o mundo. O programa teve como objetivo estabelecer um processo democrático para determinar as regras que os sistemas de IA devem seguir.
A OpenAI reconhece a apreensão expressa por alguns participantes em relação à influência da IA na formulação de políticas e destaca a importância da transparência no uso da IA em processos democráticos. Os participantes do programa experimentaram uma mudança de sentimento, com muitos ficando mais esperançosos em relação à capacidade do público de contribuir para orientar a IA por meio de discussões deliberativas.
Além da formação da equipe de Alinhamento Coletivo, a OpenAI também compartilhou o código desenvolvido pelos participantes do programa de subsídios e forneceu resumos de seus trabalhos. Essa ação contribui para o compromisso da OpenAI com a abertura e transparência em sua abordagem ao desenvolvimento de IA.
Ao incorporar a opinião pública e criar sistemas que reflitam perspectivas diversas, a OpenAI busca garantir que os modelos de IA estejam alinhados com os valores da sociedade e evitem enviesamentos ou consequências indesejadas. A equipe de Alinhamento Coletivo representa a dedicação da OpenAI em incorporar de forma responsável a contribuição pública na formação da tecnologia de IA.