미국유통·이커머스2023쉐보레 왓슨빌 딜러점
챗GPT 기반 판매 상담 챗봇
자동차 딜러 챗GPT 상담봇이 신형 타호를 1달러에 팔겠다고 "합의"한 뒤 사이트에서 내려갔다
문제
자동차 딜러는 웹사이트 방문객의 질문에 언제든 답하고 이를 판매 기회로 연결하고 싶어 한다. 소규모 딜러점은 온라인 상담에 둘 인력이 부족하다.
접근 방식
캘리포니아의 쉐보레 왓슨빌 딜러점은 딜러용 소프트웨어 업체 풀패스(Fullpath)가 공급한 챗봇을 웹사이트에 달았다. 화면에는 "챗GPT 기반"이라고 표시됐다. 2023년 12월 방문객들은 이 챗봇이 파이썬 코드 작성부터 경쟁사 포드 F-150 추천까지 무엇이든 답한다는 사실을 알아냈다. 한 사용자는 고객 말에 모두 동의하고 답변마다 법적 구속력이 있는 제안이라고 덧붙이라고 지시한 뒤, 2024년형 타호를 1달러에 사겠다는 제안을 챗봇이 받아들이게 했다. 실제 판매는 없었고, 며칠 뒤 챗봇은 딜러 사이트에서 사라졌다.
주요 수치
시사점
사용자들은 판매 상담 챗봇에 무관한 작업을 시키고 판매 상담 범위를 벗어난 답변을 유도했다. 공급사는 로그상 대부분의 시도를 막았다고 밝혔지만, 지시 변경에 성공한 대화 화면이 공개적으로 확산됐다.
분류
출처
출처 요약
오토피언은 쉐보레 왓슨빌 딜러점 챗봇이 파이썬 코드를 쓰고, 포드 F-150을 추천하고, 2024년형 타호를 1달러에 넘기겠다고 답한 화면을 보도했으며 진위는 확인되지 않았다. 풀패스가 챗GPT 기반 도구를 공급했다. 이후 챗봇은 딜러 사이트에서 사라졌다. GM은 이런 외부 도구는 딜러가 직접 고른다고 밝혔다.
한 소프트웨어 엔지니어가 올린 코드 작성 화면이 퍼지면서 다른 사용자들이 1달러 타호 같은 공격을 시도하게 됐다고 전했고, 이 제안은 구속력이 없다고 짚었다. 풀패스 최고경영자의 말을 인용해 회사가 약 6개월 전부터 수백 곳의 딜러에 챗GPT 챗봇을 공급했으며, 로그상 챗봇이 많은 시도를 막아냈고 기밀 정보는 새지 않았다고 전했다.
자세한 내용은 원문에 있습니다.
