南韓科技與電信2020–2021Scatter Lab
AI聊天機器人Iruda
新創以使用者私人對話訓練聊天機器人，數週內下架並遭個資監管機關裁罰
問題
首爾新創Scatter Lab希望打造能以韓語自然、友善對話的聊天機器人。公司原已持有大量KakaoTalk對話，來自使用者上傳至旗下感情分析應用程式Science of Love及TextAt的內容。
做法
公司以旗下其他應用程式約60萬名使用者的約94億句KakaoTalk對話訓練Iruda模型，並於2020年底在Facebook Messenger推出聊天機器人。一個月內吸引逾75萬名使用者，但2021年1月初因仇恨、歧視性回覆及洩露個人資料受到批評，隨後下線。個人資料保護委員會（Personal Information Protection Commission）於2021年4月認定八項違反《個人資料保護法》的行為，包括未刪除或加密姓名、電話與地址即予使用，並裁處共1億330萬韓元。
主要數據
啟示
聊天機器人流暢的對話能力迅速吸引使用者，但訓練資料處理方式導致服務受挫。使用者對一項服務的同意，並未涵蓋將資料重用於另一項產品；監管機關將此案視為首宗因資料處理而裁罰AI企業的案件。
分類
來源
來源摘要
報導個人資料保護委員會於2021年4月28日對Scatter Lab作成的決定，合計裁處1億330萬韓元，包括5,550萬韓元課徵金及4,780萬韓元罰鍰。八項違規中，五項涉及Science of Love與TextAt應用程式，兩項涉及Iruda，一項涉及在GitHub發布的程式碼。報導也指出，約60萬名使用者的約94億句KakaoTalk對話，未刪除姓名、電話或地址即遭使用。
Future of Privacy Forum說明監管機關的裁決，指出Iruda推出不到一個月，Facebook Messenger使用者便逾75萬人，之後因2021年1月初的爭議而下架。該機構詳述調查結果，包括超出原始目的重用資料、將1億則訊息加入回覆資料庫、上傳含個人資料的內容至GitHub，以及未經家長同意蒐集逾20萬名未滿14歲兒童的資料。
詳細內容請參閱原始資料。
