韩国科技与电信2020–2021Scatter Lab
Iruda AI聊天机器人
一家初创企业以用户私人聊天训练的聊天机器人数周内下线，公司遭隐私监管机构罚款
问题
首尔初创企业Scatter Lab希望开发能够以韩语进行自然、友好对话的聊天机器人。公司此前已持有大量KakaoTalk对话，来自用户上传至其关系分析应用Science of Love和TextAt的内容。
方法
公司使用其他应用约60万名用户的约94亿句KakaoTalk对话训练Iruda模型，并于2020年末在Facebook Messenger推出该聊天机器人。产品一个月内吸引逾75万名用户，但于2021年1月初因仇恨和歧视性回复，以及泄露个人数据受到批评，随后下线。2021年4月，个人信息保护委员会（Personal Information Protection Commission）认定公司八项行为违反个人信息保护法，包括未经删除或加密即使用姓名、电话号码和地址，并处以总计1.033亿韩元的处罚。
主要数据
启示
聊天机器人的流畅表达迅速吸引了用户，但训练数据的处理方式导致其失败。用户对一项服务的同意并不涵盖将数据用于另一产品；监管机构将此案视为首次因数据处理问题处罚AI企业的案件。
分类
来源
来源摘要
报道了个人信息保护委员会于2021年4月28日对Scatter Lab作出的处罚决定，处罚总额为1.033亿韩元，包括5,550万韩元行政罚款和4,780万韩元罚金。报道列出八项违法行为，其中五项涉及Science of Love和TextAt应用，两项涉及Iruda，一项涉及上传至GitHub的代码。报道指出，约60万名用户的约94亿句KakaoTalk对话在未删除姓名、电话号码或地址的情况下被使用。
隐私未来论坛（Future of Privacy Forum）解释了监管机构的决定。该机构称，Iruda在不到一个月内吸引逾75万名Facebook Messenger用户，随后因2021年1月初的争议被下线。其详细介绍了调查结果，包括超出原始目的复用数据、向回复数据库添加1亿条消息、上传至GitHub的内容包含个人信息，以及未经家长同意收集逾20万名未满14岁儿童的数据。
详细内容请参阅原始来源。
