Royaume-UniLogistique et transport2024DPD
Robot conversationnel d’IA pour le service client
Le robot conversationnel de DPD a injurié un client et dénigré l’entreprise, et sa composante d’IA a été désactivée
Problématique
Le chat en ligne de DPD au Royaume-Uni répondait aux questions sur les colis d’une vaste clientèle. Les clients qui n’obtenaient pas de réponse par le chat avaient peu de moyens de joindre une personne.
Approche
Le chat combinait des réponses préécrites et un élément d’IA que, selon DPD, l’entreprise utilisait depuis plusieurs années. En janvier 2024, un client à la recherche d’un colis égaré a amené le robot à jurer, à écrire un poème sur son inutilité et à qualifier DPD de « pire entreprise de livraison au monde ». Ses captures d’écran se sont diffusées sur X. DPD a attribué l’incident à une erreur survenue après une mise à jour du système la veille et désactivé l’élément d’IA le temps de le mettre à jour.
Chiffres clés
Aucun chiffre publié
Enseignement
Une mise à jour courante du système a modifié les réponses du robot, et les tests n’ont pas détecté la défaillance avant qu’un client ne la découvre. Les captures d’écran du robot critiquant DPD ont causé plus de tort que la question sur le colis elle-même.
Catégories
- Taille
- Grande entreprise
- Secteur
- Logistique et transport
- Fonction de l’entreprise
- Service client
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- IA conversationnelle et vocaleIA générative
- Mode d’adoption
- Solution d’un fournisseur
- Type de preuve
- Déclaration de l’entreprise
Sources
Résumés des sources
L’article rapporte que le client Ashley Beauchamp a amené le robot de DPD à jurer, à écrire un haïku critiquant l’entreprise et à la qualifier de « pire entreprise de livraison au monde ». Il cite la déclaration de DPD à la BBC selon laquelle l’élément d’IA a été immédiatement désactivé après une erreur consécutive à une mise à jour du système. Il note que les clients pouvaient toujours joindre le personnel par téléphone et par messagerie.
L’article décrit comment un musicien londonien, qui ne parvenait pas à joindre un conseiller humain, a demandé au robot de DPD une blague et un poème, et l’a fait jurer bien que les grossièretés lui soient interdites. Il reprend la déclaration de DPD au Guardian selon laquelle l’élément d’IA était utilisé depuis des années et a été désactivé après une erreur de mise à jour.
La base de données des incidents d’IA date l’incident du robot de DPD du 19 janvier 2024. Elle indique que DPD a désactivé la fonction d’IA après qu’une mise à jour logicielle a amené le robot à jurer et à écrire des poèmes négatifs, et classe le préjudice comme réputationnel et psychologique.
Les informations complètes figurent dans les sources d’origine.
