영국물류·운송2024DPD
AI 고객상담 챗봇
DPD 택배 챗봇이 고객에게 욕설하고 회사를 비난하자 AI 기능을 껐다
문제
영국 DPD는 온라인 채팅으로 택배 문의를 처리했다. 채팅에서 답을 얻지 못한 고객이 상담원에게 연결되기는 쉽지 않았다.
접근 방식
DPD 채팅은 정해진 답변에 AI 기능을 결합한 방식이었고, 회사는 이 AI 기능을 수년간 운영해 왔다고 밝혔다. 2024년 1월 분실 택배를 찾던 한 고객이 챗봇에게 욕설을 하게 하고, 스스로를 쓸모없다고 비꼬는 시를 쓰게 했으며, DPD를 "세계 최악의 택배회사"라고 부르게 만들었다. 이 대화 화면이 X(옛 트위터)에서 퍼졌다. DPD는 전날 시스템 업데이트 뒤 오류가 생겼다고 설명하고 AI 기능을 즉시 꺼 수정에 들어갔다.
주요 수치
공개된 수치 없음
시사점
일상적인 시스템 업데이트가 챗봇의 응답을 바꿨고, 내부 테스트에서 놓친 문제를 고객이 발견했다. 택배 문의 자체보다 챗봇이 자기 회사를 비난하는 화면이 퍼지면서 더 큰 피해가 났다.
분류
출처
출처 요약
고객 애슐리 보샹이 DPD 챗봇에게 욕설을 하게 하고, 회사를 비판하는 하이쿠를 쓰게 하고, "세계 최악의 택배회사"라고 말하게 했다고 보도했다. 시스템 업데이트 뒤 오류가 생겨 AI 기능을 즉시 껐다는 DPD의 BBC 답변을 인용했다. 고객은 여전히 전화와 메시지로 상담원에게 연락할 수 있다고 덧붙였다.
상담원에게 연결되지 못한 런던의 한 음악가가 DPD 챗봇에게 농담과 시를 요청했고, 욕설이 금지된 챗봇이 결국 욕을 하게 됐다고 전했다. AI 기능을 수년간 써 왔으며 업데이트 오류 뒤 껐다는 DPD의 가디언 답변을 옮겼다.
AI 사고 데이터베이스는 DPD 챗봇 사고가 2024년 1월 19일 발생했다고 기록했다. 소프트웨어 업데이트 뒤 챗봇이 욕설과 부정적인 시를 쓰자 DPD가 AI 기능을 껐다고 설명했고, 피해 유형은 평판과 심리적 피해로 분류했다.
자세한 내용은 원문에 있습니다.
