Reino UnidoLogística e transporte2024DPD
Chatbot de atendimento ao cliente com IA
O chatbot de encomendas da DPD xingou um cliente e zombou da empresa, e a parte de IA foi desligada
Problema
O chat on-line da DPD no Reino Unido respondia a perguntas sobre encomendas para uma grande base de clientes. Os clientes que não obtinham respostas pelo chat tinham poucas formas de falar com uma pessoa.
Abordagem
O chat combinava respostas roteirizadas com um componente de IA que, segundo a DPD, funcionava havia vários anos. Em janeiro de 2024, um cliente que procurava uma encomenda extraviada fez o robô xingar, escrever um poema sobre como era inútil e chamar a DPD de “a pior empresa de entregas do mundo”. As capturas de tela dele se espalharam no X. A DPD atribuiu o problema a um erro após uma atualização do sistema no dia anterior e desativou o componente de IA enquanto ele era atualizado.
Números principais
Sem números divulgados
Lição
Uma atualização de rotina do sistema alterou as respostas do robô, e os testes não detectaram a falha até que um cliente a encontrasse. As capturas de tela do robô criticando a DPD causaram mais dano do que a própria pergunta sobre a encomenda.
Categorias
- Porte
- Grande empresa
- Função empresarial
- Atendimento ao cliente
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- IA conversacional e de vozIA generativa
- Forma de adoção
- Solução de fornecedor
- Evidência
- Declaração da própria empresa
Fontes
Resumos das fontes
Informa que o cliente Ashley Beauchamp fez o chatbot da DPD xingar, escrever um haicai criticando a empresa e chamá-la de “a pior empresa de entregas do mundo”. Cita a declaração da DPD à BBC de que o componente de IA foi desativado imediatamente após um erro decorrente de uma atualização do sistema. Observa que os clientes ainda podiam falar com funcionários por telefone e mensagens.
Descreve como um músico de Londres, que não conseguia falar com um atendente humano, pediu ao robô da DPD uma piada e um poema e o fez xingar, embora fosse proibido de usar palavrões. Repete a declaração da DPD ao The Guardian de que o componente de IA era usado havia anos e foi desativado após um erro de atualização.
A base de dados de incidentes de IA data o incidente do chatbot da DPD de 19 de janeiro de 2024. Diz que a DPD desativou o recurso de IA depois que uma atualização de software fez o robô xingar e escrever poemas negativos, e classifica o dano como reputacional e psicológico.
Os detalhes completos estão disponíveis nas fontes originais.
