Como um Chatbot Prometeu um Desconto que a Air Canada Não Queria Pagar

Existe uma explicação confortável para o que aconteceu com a Air Canada em 2022. O chatbot do site prometeu algo que a política da empresa não permitia, o cliente reclamou, e a companhia aérea pagou a conta por um erro de software. Fim da história. Só que os registros do processo mostram outra coisa, muito mais interessante: quando foi chamada ao tribunal, a Air Canada não disse que houve um erro. Disse que o chatbot era uma entidade separada, responsável pelas próprias palavras. E perdeu.

A promessa feita em um dia de luto

Em 11 de novembro de 2022, feriado do Dia da Lembrança no Canadá, a avó de Jake Moffatt morreu. No mesmo dia, ainda absorvendo a notícia, Moffatt entrou no site da Air Canada para comprar passagens de e para Toronto. Ali encontrou o chatbot de suporte da companhia, um assistente automático de dúvidas sobre tarifas e bagagem.

A resposta que recebeu era específica, educada e errada. O chatbot informou que quem precisasse viajar imediatamente, ou já tivesse viajado, poderia pedir a tarifa de luto reduzida dentro de 90 dias da emissão do bilhete, bastando preencher o formulário de reembolso. Moffatt confiou. Comprou duas passagens a preço cheio e pagou 1.630,36 dólares canadenses no total.

Depois da viagem, veio a segunda parte. A Air Canada informou que tarifas de luto não valem para viagem já realizada, uma condição que estava em outra página do site, em nenhum lugar da conversa com o chatbot. Moffatt apresentou o print da promessa. Em 8 de fevereiro de 2023, um representante da empresa respondeu admitindo que o chatbot havia usado “palavras enganosas”, informou que o caso tinha sido registrado para atualizar o assistente e encerrou o assunto. Do lado do cliente, aquilo não resolvia nada.

A tese que o tribunal chamou de notável

Moffatt levou o caso ao Civil Resolution Tribunal, o tribunal de pequenas causas da Colúmbia Britânica, pedindo 880 dólares canadenses. A defesa da Air Canada, registrada na decisão escrita pelo árbitro Christopher C. Rivers em 14 de fevereiro de 2024, é o ponto em que a história deixa de ser sobre um bug e passa a ser sobre responsabilidade. A empresa alegou que não poderia ser responsabilizada por informação prestada por seus “agents, servants or representatives”, incluindo um chatbot.

O árbitro não teve paciência com a construção. Escreveu que a Air Canada, na prática, estava sugerindo que o chatbot é uma entidade legal separada, responsável por seus próprios atos, e classificou o argumento como “a remarkable submission”, uma tese notável. Em seguida, fixou o princípio que interessa a qualquer empresa que hoje coloca um assistente automático para falar com o público: ainda que um chatbot tenha um componente interativo, ele continua sendo parte do site da companhia, e é óbvio que a empresa responde por tudo que está no seu site. Não faz diferença se a informação veio de uma página estática ou de um chatbot.

A Air Canada tentou ainda um segundo caminho: argumentou que Moffatt poderia ter encontrado a informação correta em outra parte do site. Rivers recusou o raciocínio com uma frase que deveria estar colada na parede de todo departamento de produto: não há razão para o cliente saber que uma seção do site da empresa é exata e outra não, nem motivo para obrigá-lo a conferir uma informação em uma página com outra página do mesmo site. A conclusão foi direta, a empresa não tomou cuidado razoável para garantir que seu chatbot fosse exato.

A conta saiu em 812,02 dólares canadenses. São 650,88 de indenização pela diferença entre o que Moffatt pagou e o que teria pagado com a tarifa de luto, mais 36,14 de juros e 125 de taxas do tribunal, pagos em 14 dias. O valor é pequeno e a decisão é enorme, porque é o primeiro caso do tipo nos registros públicos canadenses. A Air Canada também tentou abater um cupom de 200 dólares oferecido como gesto de boa vontade, mas Moffatt não aceitou o cupom e o tribunal não reconheceu o abatimento.

O que isso significa para quem opera IA no Brasil

O caso canadense interessa ao mercado brasileiro por um motivo simples: aqui, a mesma discussão está em curso no Congresso. O PL 2338/2023, o Marco Legal da Inteligência Artificial, de autoria do senador Rodrigo Pacheco, foi aprovado pelo Plenário do Senado e remetido à Câmara dos Deputados, onde a matéria está classificada justamente no campo da responsabilidade civil. Ou seja, a pergunta que o tribunal canadense respondeu em 2024, quem paga quando o sistema promete o que a empresa não entrega, é a mesma que o legislador brasileiro vai ter de responder.

A resposta prática que o caso oferece é desconfortável para quem trata IA como projeto de inovação e não como canal de atendimento. Toda empresa que coloca um assistente automático diante do cliente assinou, na prática, uma declaração de que o que aquele sistema diz é o que a empresa diz. Não existe versão intermediária em que o chatbot responde por si. E o custo de descobrir isso em um processo é sempre maior do que o custo de manter a base de conhecimento atualizada.

O que aprendemos com dados e falhas

• O canal não muda o dono da responsabilidade: Se a informação está no seu site, na sua API ou no seu agente, ela é sua. Separação entre “sistema automático” e “empresa” só existe no organograma, não no direito.
• Base de conhecimento desatualizada é passivo financeiro: A promessa errada do chatbot nasceu de conteúdo que não acompanhou a política de tarifas. Governança de dados de atendimento não é higiene, é gestão de risco.
• Não existe defesa de “verifique em outra página”: Exigir que o cliente confira a informação do seu próprio site em outra parte do seu próprio site foi rejeitado, e vai ser rejeitado de novo.
• Registre o que o assistente responde: A decisão só pôde ser tomada porque Moffatt tinha o print da conversa. Sem log, a empresa fica sem memória do que prometeu.

No fim das contas, o caso da Air Canada não é sobre um chatbot que errou. É sobre uma empresa que descobriu, em um tribunal de pequenas causas, que dado e discurso não são coisas separadas. O que o sistema diz é o que a empresa diz, e o que a empresa diz tem preço. Custa 812,02 dólares canadenses quando o valor é pequeno, e custa o que o mercado quiser cobrar quando a promessa é grande.

Fontes

• Moffatt v. Air Canada, 2024 BCCRT 149, Civil Resolution Tribunal da Colúmbia Britânica, decisão de 14/02/2024 (íntegra em PDF)
• CBC News (16/02/2024), Air Canada found liable for chatbot’s bad advice on plane tickets
• Senado Federal, PL 2338/2023, Marco Legal da Inteligência Artificial
• Câmara dos Deputados, PL 2338/2023, tramitação

Publiquei este texto primeiro no LinkedIn, na newsletter Dados e Fatos.