A OpenAI, desenvolvedora por trás do inovador modelo de inteligência artificial ChatGPT, passou por mudanças operacionais significativas. Conforme divulgado por diversos meios de comunicação em 17 de março, a OpenAI efetivamente encerrou sua equipe de segurança dedicada à pesquisa de riscos de longo prazo da inteligência artificial.
Esta equipe, conhecida como equipe de superalinhamento, estava focada em garantir que futuros sistemas avançados de IA pudessem ser gerenciados de forma benéfica e não prejudicial aos humanos. Estabelecida em julho do ano anterior, a equipe visava orientar o desenvolvimento da inteligência artificial. Seu objetivo era criar sistemas de IA superinteligentes que pudessem operar dentro de parâmetros éticos definidos pelos humanos.
A dissolução da equipe seguiu a saída de várias figuras proeminentes da OpenAI, incluindo o co-fundador Ilya Sutskever e o executivo Jan LeCun, ambos desempenharam papéis fundamentais na orientação da equipe de superalinhamento. As renúncias consecutivas causaram especulações sobre conflitos internos com outros executivos, incluindo Sam Altman.
Sutskever expressou sua confiança ao deixar a organização de que a OpenAI, sob a liderança atual, incluindo Altman, construirá com sucesso uma IA geral segura e benéfica. Enquanto isso, Jan LeCun apontou diferenças de longa data com os executivos da empresa em relação às prioridades principais.
LeCun e outros expressaram preocupações sobre as práticas de segurança e processos sendo deixados de lado nos últimos anos, em meio ao empreendimento inerentemente arriscado de criar máquinas mais inteligentes que os humanos.
Em resposta a esses desenvolvimentos, a OpenAI declarou que está integrando os objetivos da equipe de segurança em todos os seus empreendimentos de pesquisa, em vez de manter uma entidade separada. Em conformidade com essa estratégia, o co-fundador da OpenAI, John Schulman, foi designado para liderar a pesquisa de alinhamento da IA, que se concentra na calibração dos sistemas de IA para operar de acordo com objetivos e princípios éticos pretendidos pelos humanos.
Para mais informações sobre a OpenAI e seus diversos projetos de IA, visite o site da OpenAI.