A Air Canada, a maior companhia aérea do Canadá, foi instruída a fornecer compensação a um cliente que recebeu informações incorretas do chatbot da companhia. Em um incidente recente, Jake Moffatt entrou em contato com a Air Canada em 2022 para se informar sobre os documentos necessários para uma tarifa de luto e a possibilidade de reembolsos retroativos.
Infelizmente, o chatbot forneceu a ele informações erradas, afirmando que ele poderia solicitar um reembolso dentro de 90 dias da emissão do bilhete preenchendo um formulário online. Com base nessa orientação incorreta, Moffatt prosseguiu e reservou passagens para o funeral de sua família. No entanto, quando posteriormente solicitou um reembolso, a Air Canada negou sua reclamação, afirmando que as tarifas de luto não se aplicam a viagens já realizadas, e o redirecionou para a seção de luto em seu site.
Reconhecendo a gravidade da situação, a Air Canada reconheceu as informações enganosas fornecidas pelo chatbot e se comprometeu a atualizar sua funcionalidade. Moffatt, no entanto, decidiu entrar com uma ação legal em busca da diferença de tarifa que ele acreditava ter direito. A Air Canada se defendeu argumentando que o chatbot deveria ser considerado uma entidade legal separada responsável por suas ações.
Christopher Rivers, membro do tribunal responsável pelo caso, considerou a defesa da Air Canada bastante surpreendente. Ele enfatizou que, como proprietária da plataforma, a Air Canada tem a responsabilidade final por todas as informações em seu site, independentemente de sua origem. Rivers questionou por que a página intitulada “Viagens em Luto” deveria ser considerada mais confiável do que o chatbot, destacando que os clientes não têm motivos para discernir a precisão de diferentes seções no site da companhia aérea.
Inicialmente introduzido como um experimento de IA para aliviar a pressão em seu centro de atendimento durante interrupções inesperadas de voos, a implementação do chatbot da Air Canada agora enfrenta escrutínio em relação à sua responsabilidade. Rivers concluiu o caso decidindo a favor de Moffatt e instruiu a Air Canada a pagar a ele C$650,88, que inclui a diferença de tarifa junto com valores adicionais.
Este incidente serve como um lembrete para as empresas que utilizam chatbots alimentados por IA a priorizarem a precisão e garantirem que todas as fontes de informação em suas plataformas sejam confiáveis. Erros cometidos por sistemas automatizados podem ter consequências reais para os clientes, destacando a necessidade de monitoramento contínuo e melhoria no desenvolvimento e implantação de tais tecnologias.
The source of the article is from the blog oinegro.com.br