대한민국IT·통신2020–2021스캐터랩
AI 챗봇 '이루다'
이용자 카톡 대화로 학습한 스타트업 챗봇이 몇 주 만에 중단되고 개인정보위 제재를 받았다
문제
서울의 스타트업 스캐터랩은 한국어로 자연스럽게 대화하는 친구 같은 챗봇을 만들고자 했다. 회사는 연애 분석 앱 '연애의 과학'과 '텍스트앳' 이용자들이 올린 카카오톡 대화를 대량으로 보유하고 있었다.
접근 방식
회사는 다른 앱 이용자 약 60만 명의 카카오톡 대화 문장 94억여 건으로 이루다를 학습시켜 2020년 말 페이스북 메신저에 내놓았다. 출시 한 달이 안 돼 이용자가 75만 명을 넘었지만, 2021년 1월 초 혐오·차별 발언과 개인정보 노출 논란이 일면서 서비스가 중단됐다. 개인정보보호위원회는 2021년 4월 이름·전화번호·주소를 삭제하거나 암호화하지 않고 쓴 점 등 개인정보보호법 위반 8건을 확인하고 과징금과 과태료 1억330만원을 부과했다.
주요 수치
시사점
자연스러운 대화로 이용자는 빠르게 모았지만 학습 데이터 처리에서 문제가 터졌다. 한 서비스의 동의는 다른 제품의 데이터 재사용까지 허용하지 않았으며, 규제기관은 이를 AI 기업의 개인정보 처리에 대한 첫 제재로 다뤘다.
분류
출처
출처 요약
개인정보보호위원회가 2021년 4월 28일 스캐터랩에 과징금 5550만원과 과태료 4780만원, 모두 1억330만원을 부과한 결정을 전한다. 위반 8건 가운데 5건은 연애의 과학·텍스트앳, 2건은 이루다, 1건은 깃허브 공개와 관련됐다고 정리한다. 이용자 약 60만 명의 카톡 대화 문장 94억여 건을 이름·전화번호·주소를 지우지 않은 채 썼다는 점도 짚는다.
미래프라이버시포럼은 개인정보위의 결정을 설명했다. 이루다가 출시 한 달도 안 돼 페이스북 메신저 이용자 75만 명 이상을 모았으나 2021년 1월 초 논란으로 내려졌다고 전한다. 수집 목적을 넘어선 데이터 이용, 응답 데이터베이스에 넣은 대화 1억 건, 개인정보가 담긴 깃허브 공개, 법정대리인 동의 없이 수집한 14세 미만 아동 20만여 명의 정보 등 위반 내용을 자세히 설명한다.
자세한 내용은 원문에 있습니다.
