類似事例
AI経営事例集
← 事例
韓国IT・通信2020–2021

Scatter Lab

AIチャットボット「Iruda」

利用者の私的な会話を学習した新興企業のチャットボット、数週間で公開停止、個人情報保護当局が制裁金を科した

失敗・中止規制当局・監査・裁判所

課題

ソウルのスタートアップScatter Labは、韓国語で自然かつ親しみやすい会話ができるチャットボットを目指した。同社は、利用者が人間関係分析アプリ「Science of Love」と「TextAt」にアップロードした大量のカカオトークの会話を既に保有していた。

取り組み

同社は他の自社アプリの利用者約60万人から得た約94億文のカカオトークの会話でIrudaモデルを学習させ、2020年末にFacebook Messengerでチャットボットを公開した。一カ月以内に75万人超の利用者を集めたが、2021年1月初めに憎悪や差別を含む返答と個人情報の露出が批判され、公開を停止した。個人情報保護委員会（Personal Information Protection Commission）は2021年4月、氏名、電話番号、住所を削除または暗号化せずに利用したことなど、個人情報保護法の八件の違反を認定し、計1億330万ウォンの制裁金を科した。

主な数値

KRW 103.3M個人情報保護当局が2021年4月に科した課徴金と過料規制当局・監査・裁判所[1][2]
9.4B個人情報を除去せずに使用した、約60万人の利用者によるカカオトークの文章数規制当局・監査・裁判所[1][2]
750,000+公開から一カ月以内のチャットボット利用者数報道[2]

示唆

流ちょうな会話で利用者を急速に集めた一方、学習データの取り扱いが失敗を招いた。あるサービスへの同意は別製品での再利用まで認めるものではなかった。当局は、データの取り扱いを巡るAI企業への初の制裁と位置付けた。

分類

イノベーションの類型
製品・サービス・イノベーション
導入形態
自社開発
根拠
規制当局・監査・裁判所

出典

出典の要約

[1]Byline Network2021年4月29日

個人情報保護委員会（Personal Information Protection Commission）が2021年4月28日にScatter Labに下した、計1億330万ウォンの処分を報じている。内訳は課徴金5,550万ウォンと過料4,780万ウォンである。違反は八件で、五件がScience of LoveとTextAt、二件がIruda、一件がGitHubに公開したコードに関するものだった。利用者約60万人のカカオトークの会話約94億文が、氏名、電話番号、住所を除去せずに使われたとしている。

[2]Future of Privacy Forum2021年5月21日

Future of Privacy Forumは、当局の決定を説明している。Irudaは一カ月足らずでFacebook Messengerの利用者75万人超を集めたが、2021年1月初めの問題発覚を受け公開を停止したという。当初の目的を超えたデータの再利用、応答データベースへの1億件のメッセージの追加、個人情報を含むGitHubへのアップロード、保護者の同意を得ない14歳未満の子ども20万人超からのデータ収集など、認定内容を詳述している。

詳細は原典でご確認いただけます。

掲載日 2026年10月25日 · 更新日 2026年10月25日
事例ページを開く ↗