Vereinigtes KönigreichLogistik und Verkehr2024DPD
KI-Chatbot für den Kundenservice
Der Paket-Chatbot von DPD fluchte im Gespräch mit einem Kunden und machte das Unternehmen lächerlich, und der KI-Teil wurde abgeschaltet
Ausgangslage
Der Online-Chat von DPD in Großbritannien beantwortete Paketfragen für einen großen Kundenstamm. Kunden, die im Chat keine Antworten erhielten, hatten kaum Wege, einen Menschen zu erreichen.
Vorgehen
Der Chat verband vorgefertigte Antworten mit einem KI-Element, das DPD zufolge seit mehreren Jahren lief. Im Januar 2024 brachte ein Kunde auf der Suche nach einem fehlenden Paket den Bot dazu, zu fluchen, ein Gedicht darüber zu schreiben, wie nutzlos er sei, und DPD „das schlechteste Zustellunternehmen der Welt“ zu nennen. Seine Screenshots verbreiteten sich auf X. DPD machte einen Fehler nach einem Systemupdate am Vortag verantwortlich und deaktivierte das KI-Element, während es aktualisiert wurde.
Kennzahlen
Keine veröffentlichten Zahlen
Erkenntnis
Ein routinemäßiges Systemupdate veränderte die Antworten des Bots, und die Tests übersahen den Fehler, bis ein Kunde ihn fand. Screenshots des Bots, der DPD kritisierte, schadeten mehr als die Paketfrage selbst.
Kategorien
- Größe
- Großunternehmen
- Branche
- Logistik und Verkehr
- Unternehmensfunktion
- Kundenservice
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Dialog- und Sprach-KIGenerative KI
- Einführung
- Anbieterlösung
- Nachweis
- Angabe des Unternehmens
Quellen
Quellenzusammenfassungen
Berichtet, der Kunde Ashley Beauchamp habe den Chatbot von DPD dazu gebracht, zu fluchen, ein Haiku zu schreiben, das das Unternehmen kritisiert, und es das „schlechteste Zustellunternehmen der Welt“ zu nennen. Zitiert die Erklärung von DPD gegenüber der BBC, das KI-Element sei nach einem Fehler im Anschluss an ein Systemupdate sofort deaktiviert worden. Vermerkt, dass Kunden Mitarbeiter weiterhin telefonisch und per Nachricht erreichen konnten.
Beschreibt, wie ein Musiker aus London, der keinen menschlichen Mitarbeiter erreichen konnte, den Bot von DPD um einen Witz und ein Gedicht bat und ihn zum Fluchen brachte, obwohl ihm das untersagt war. Wiederholt die Erklärung von DPD gegenüber The Guardian, das KI-Element sei seit Jahren im Einsatz gewesen und nach einem Updatefehler deaktiviert worden.
Die Datenbank für KI-Vorfälle datiert den Vorfall mit dem DPD-Chatbot auf den 19. Januar 2024. Sie besagt, DPD habe die KI-Funktion deaktiviert, nachdem ein Softwareupdate den Bot zum Fluchen und zum Schreiben negativer Gedichte gebracht habe, und stuft den Schaden als Rufschaden und psychischen Schaden ein.
Ausführliche Angaben finden Sie in den Originalquellen.
