A maior companhia aérea do Canadá, Air Canada, recentemente se envolveu em problemas quando seu chatbot forneceu informações incorretas a um cliente, resultando na compra de uma passagem de preço integral em vez de um desconto para luto. Esse incidente levantou uma discussão crucial sobre a extensão de supervisão que as empresas devem exercer sobre ferramentas de chat automatizadas.
Jake Moffatt, um residente da Colúmbia Britânica, entrou em contato com a Air Canada em 2022 para obter informações sobre os documentos necessários e reembolsos retroativos para uma tarifa de luto. O chatbot o aconselhou a preencher um formulário online dentro de 90 dias da emissão do bilhete para obter um reembolso, com base em um screenshot da conversa. Confiantemente, Moffatt prosseguiu para reservar suas passagens para comparecer ao funeral de um membro da família, seguindo esse conselho.
No entanto, quando Moffatt solicitou posteriormente um reembolso, a Air Canada rejeitou sua solicitação, alegando que as tarifas de luto não se aplicavam a viagens já realizadas. Armado com evidências do conselho enganoso do chatbot, Moffatt confrontou a companhia aérea. A Air Canada eventualmente admitiu seu erro, reconhecendo que o chatbot de fato forneceu informações imprecisas. A empresa assegurou a Moffatt que retificaria a orientação do chatbot.
A Air Canada adotou uma abordagem inesperada em sua defesa. Argumentaram que o chatbot era uma “entidade legal separada” responsável por suas ações. No entanto, Christopher Rivers, o membro do tribunal responsável pelo caso, refutou esse argumento, considerando-o inválido. Rivers sustentou que, independentemente de a informação vir de um chatbot ou de uma página estática, a Air Canada tinha a responsabilidade final pela precisão de todas as informações fornecidas em seu site.
Rivers questionou por que o conselho do chatbot deveria ser considerado menos confiável do que uma página explicitamente dedicada a viagens de luto. Ele enfatizou que não se poderia esperar razoavelmente que os clientes discernissem discrepâncias entre várias seções de um site de companhia aérea.
Como resultado, a Air Canada recebeu instruções para compensar Moffatt com C$650,88, que cobre a diferença de tarifa e taxas adicionais. Esse caso serve como um lembrete contundente para as empresas sobre sua obrigação de garantir a precisão de ferramentas de chat automatizadas e assumir total responsabilidade por qualquer informação enganosa fornecida aos clientes.
O incidente com o chatbot da Air Canada levantou questões significativas sobre o nível apropriado de supervisão e responsabilidade que as empresas devem manter sobre suas ferramentas de atendimento ao cliente com inteligência artificial. Isso serve como um importante alerta para as empresas priorizarem a precisão e a transparência em seus sistemas automatizados, reconhecendo que os clientes contam com eles para obter informações e assistência confiáveis.
Perguntas frequentes sobre o incidente com o chatbot da Air Canada:
The source of the article is from the blog j6simracing.com.br