A mais recente funcionalidade de IA do Google, AI Overview, tem provocado bastante conversa devido à sua capacidade de gerar respostas absurdas, como a sugestão de aplicar cola em pizza ou de ingerir pedras. Essas respostas absurdas não apenas geraram debates, mas também se tornaram memes na internet, retratando o Google – antes considerado o pioneiro em inovação tecnológica – como um produtor de piadas online.
O CEO do Google, Sundar Pichai, chamou a situação de incomum, observando que o AI Overview passou por um ano de testes rigorosos, lidando com mais de um bilhão de buscas. Ele enfatizou os avanços em hardware, engenharia e tecnologia que reduziram o custo de fornecer respostas em 80% durante o mesmo período.
Respondendo às perguntas do The Verge, a porta-voz do Google, Meghann Farnsworth, explicou que as respostas problemáticas eram raras, sendo algumas alteradas ou não repetíveis. Reconhecendo as medidas proativas do Google, ela confirmou a exclusão de respostas erradas geradas pela AI e prometeu melhorias no AI Overview, com algumas atualizações já em andamento.
Um especialista em IA e professor emérito de neurociência na Universidade de Nova York, Gary Marcus, destacou a intensa competição no setor de IA. Com novas IA surgindo diariamente, muitas são lançadas no mercado sem estar totalmente desenvolvidas. Ele fez um paralelo com a AI Galactica da Meta, que ensinou usuários a comer vidro antes de ser retirada do mercado logo após seu lançamento, semelhante às recentes controvérsias sobre o AI Overview. Marcus ressaltou um problema crítico: a atual falta de capacidades de autoauditagem na IA sem uma solução imediata à vista.
Perguntas e Respostas-Chave:
P: O que é o AI Overview do Google?
R: O AI Overview do Google é uma funcionalidade projetada para utilizar inteligência artificial para gerar respostas e insights com base em buscas.
P: Por que o AI Overview do Google está gerando uma conversa?
R: A funcionalidade de IA tem produzido respostas estranhas e impraticáveis para algumas buscas, levando a reações mistas do público, incluindo memes e humor à custa da confiabilidade da IA.
P: Qual foi a reação da liderança do Google?
R: O CEO do Google, Sundar Pichai, descreveu a situação como incomum e destacou os esforços da empresa em testar a IA e reduzir os custos de fornecimento de respostas, enquanto a porta-voz do Google, Meghann Farnsworth, reconheceu o problema e confirmou medidas para melhoria.
Desafios e Controvérsias:
Controle de Qualidade: Garantir que as respostas geradas por IA sejam precisas e úteis é um desafio significativo. As respostas absurdas produzidas pelo AI Overview do Google levantam questões sobre a confiabilidade da IA e os processos de garantia de qualidade.
Competição de Mercado: Como apontou Gary Marcus, a pressa para lançar novas tecnologias de IA para permanecer competitivo no mercado pode resultar em falta de desenvolvimento completo e avaliação adequada. Isso leva a possíveis erros que podem prejudicar a reputação de uma empresa.
Autoauditoria: Os sistemas de IA atuais carecem de capacidades robustas de autoauditoria, tornando difícil prevenir a veiculação de conteúdo erroneo ou inadequado aos usuários sem supervisão humana contínua.
Vantagens e Desvantagens:
Vantagens:
– O AI Overview oferece o potencial de acesso rápido e eficiente a uma ampla gama de informações.
– A tecnologia, se aperfeiçoada, pode fornecer respostas personalizadas e relevantes às buscas, enriquecendo a experiência do usuário.
– Custos reduzidos na prestação de respostas, conforme observado por Sundar Pichai, podem levar a serviços de informação mais acessíveis para uma base de usuários mais ampla.
Desvantagens:
– Respostas erradas minam a confiança na tecnologia de IA do Google e podem levar a desinformação se não forem monitoradas cuidadosamente.
– A situação resultou em publicidade negativa e humor à custa da credibilidade do Google.
– A necessidade de atualizações frequentes e supervisão aumenta os custos de manutenção e requer investimento contínuo para garantir que o sistema funcione corretamente.
Se você deseja saber mais sobre o Google e seus desenvolvimentos em IA, visite o seguinte link: Google.