O mecanismo de busca recentemente atualizado do Google fez uma afirmação falsa em resposta a uma pergunta brincalhona; sugeriu que os astronautas encontraram e cuidaram de gatos na lua, uma declaração sem respaldo factual. Esse erro divertido é apenas um dos muitos que têm levantado alarmes entre os especialistas.
Numa época em que respostas instantâneas são valorizadas, as respostas geradas por IA do Google têm sido examinadas por potencialmente perpetuar desinformações. Um incidente recente em que a IA afirmou incorretamente uma teoria da conspiração sobre um presidente americano exemplifica o risco. A IA afirmou incorretamente que os Estados Unidos tiveram um presidente muçulmano, apesar de o capítulo do livro referenciado pela IA não apoiar essa desinformação.
As preocupações sobre a nova função de visão geral da IA são evidentes. Especialistas argumentam que essa capacidade, dada sua atual falta de confiabilidade, poderia ser irresponsável se não fosse abordada. O Google reconheceu esses erros e se comprometeu a corrigi-los e a melhorar a função com base no feedback.
No entanto, o Google afirma que o modelo de IA é principalmente preciso, atribuindo falhas à natureza imprevisível da aprendizagem de máquina. A tecnologia opera com base em previsões, às vezes fabricando respostas, um fenômeno conhecido como “alucinação”.
As advertências dos especialistas vão além das imprecisões imediatas. Há uma preocupação mais profunda sobre a dependência da IA para informações: ela poderia minar a capacidade da humanidade de explorar e validar conhecimentos de forma independente. Além disso, a direção impulsionada pela IA do Google tem implicações para fóruns na internet e outros sites, que podem perder tráfego, afetando a sua vitalidade e monetização.
Os concorrentes do Google estão observando de perto suas iniciativas de IA, pois a gigante da tecnologia visa se manter à frente diante de inovadores desafiantes como o ChatGPT da OpenAI. A busca por uma IA autoritativa gerou debates, com alguns participantes da indústria questionando a pressa em direção a uma tecnologia que ainda apresenta lacunas significativas em qualidade.