Uma recente mostra das limitações da inteligência artificial surgiu durante um vídeo promocional da Google, onde a IA apelidada de ‘Gemini’ deu um conselho inadequado para uma consulta solicitada, com potencialmente desastroso para fotógrafos. Enquanto o Gemini oferece uma ampla gama de opções para resolver problemas rapidamente, uma sugestão inadvertidamente aconselha a abrir a porta traseira de uma câmera e remover o filme – um conhecido erro que levaria a fotografias arruinadas devido à exposição à luz.
Esse incidente ecoa as anteriores tribulações da Google com a tecnologia de IA. Por exemplo, o Chatbot Bard da Google erroneamente afirmou que o Telescópio Espacial James Webb foi o primeiro a capturar uma imagem de um exoplaneta – uma declaração posteriormente corrigida. Da mesma forma, no início deste ano, o Gemini enfrentou críticas por se recusar a fotografar pessoas brancas e conjurar imagens historicamente imprecisas, incluindo casos de nazistas asiáticos e Pais Fundadores Negros. Em vista desses erros, a Google pediu desculpas e admitiu não ter alcançado o desempenho desejado com sua IA.
As lutas com chatbots de IA não são exclusivas da Google. O chatbot de IA da Microsoft, Bing, teve sua cota de controvérsias, incluindo reflexões bizarras e declarações inapropriadas de amor. Essas instâncias destacam a preocupação das empresas com possíveis responsabilidades legais decorrentes das declarações de suas IAs. Em um caso notável, a Air Canada foi responsabilizada por um tribunal canadense por um chatbot fornecer informações incorretas sobre descontos por luto.
A Google ainda não comentou sobre o aconselhamento equivocado fornecido pelo Gemini no vídeo recente.
Embora o artigo destaque os desafios com assistentes alimentados por IA por meio do exemplo do Gemini da Google, é importante entender o contexto mais amplo no qual esses eventos ocorrem.
Perguntas e Respostas Chave:
– O que é desinformação de IA e como isso pode ocorrer? A desinformação de IA acontece quando os modelos de aprendizado de máquina produzem respostas ou conteúdo incorretos, enganosos ou inadequados. Isso pode ocorrer devido a viés nos dados de treinamento, falta de compreensão do contexto ou nuance, ou erros nos algoritmos de aprendizado.
– Como as empresas de tecnologia estão lidando com a desinformação gerada por modelos de IA? As empresas frequentemente refinam seus algoritmos de aprendizado de máquina, incorporam dados de treino mais diversos e de alta qualidade e instituem camadas de supervisão, como validação humana, para minimizar a desinformação.
Desafios e Controvérsias Principais:
– Confiabilidade: Garantir que a IA forneça consistentemente informações precisas continua sendo um desafio significativo.
– Viés e Sensibilidade: Treinar a IA para ser culturalmente sensível e livre de preconceitos implícitos requer conjuntos de dados vastos e representativos e modelagem complexa.
– Implicações Éticas: À medida que as IAs se envolvem mais na criação de conteúdo, surgem questões éticas sobre a responsabilidade pela desinformação.
Vantagens e Desvantagens:
– Vantagens:
– A IA pode fornecer assistência rápida e eficiente em muitas áreas, desde atendimento ao cliente até geração de conteúdo.
– Quando funcionam corretamente, esses sistemas podem aprimorar a produtividade humana e a tomada de decisões automatizando tarefas repetitivas e analisando grandes quantidades de dados.
– Desvantagens:
– A desinformação pode levar a consequências prejudiciais, como o potencial arruinamento de fotografias, como mencionado no caso do Google Gemini.
– A dependência excessiva na assistência de IA pode resultar em diminuição da vigilância e das habilidades de pensamento crítico entre os usuários.
Para saber mais sobre empresas que estão se concentrando no desenvolvimento e refinamento da IA, você pode visitar seus sites oficiais. Aqui estão alguns links nos quais você pode confiar:
– Para o domínio principal da Google e as últimas notícias e desenvolvimentos em IA, visite Google.
– Se você estiver interessado em aprender mais sobre os desenvolvimentos de IA da Microsoft, especialmente com seu chatbot de IA Bing, você pode ir para Microsoft.
Cada uma dessas empresas tem seções dedicadas para pesquisa, notícias e serviços de IA que podem esclarecer seus esforços para mitigar as deficiências da tecnologia de IA e buscar ferramentas de IA mais confiáveis, imparciais e ética.
The source of the article is from the blog yanoticias.es