Corée du SudTechnologies et télécoms2020–2021Scatter Lab
Iruda, assistant conversationnel d’IA
L’assistant conversationnel d’une start-up, entraîné sur les échanges privés des utilisateurs, a été retiré en quelques semaines et sanctionné par une amende du régulateur de la protection des données
Problématique
Scatter Lab, une start-up de Séoul, souhaitait un assistant capable de tenir des conversations naturelles et amicales en coréen. L’entreprise détenait déjà de gros volumes de conversations KakaoTalk que les utilisateurs avaient transmis à ses applications d’analyse des relations, Science of Love et TextAt.
Approche
L’entreprise a entraîné le modèle Iruda sur environ 9,4 milliards de phrases KakaoTalk provenant de quelque 600 000 utilisateurs de ses autres applications et lancé l’assistant sur Facebook Messenger fin 2020. En un mois, il a attiré plus de 750 000 utilisateurs, mais début janvier 2021, il a été critiqué pour ses réponses haineuses et discriminatoires et pour la divulgation de données personnelles, puis retiré du service. En avril 2021, la Commission de protection des informations personnelles (Personal Information Protection Commission) a constaté huit violations de la loi sur la protection des données, notamment l’utilisation de noms, de numéros de téléphone et d’adresses sans les supprimer ni les chiffrer, et infligé des sanctions de 103,3 millions de wons.
Chiffres clés
Enseignement
La fluidité de l’assistant a rapidement attiré des utilisateurs, mais le traitement des données d’entraînement a causé son échec. Le consentement donné pour un service ne couvrait pas leur réutilisation dans un autre produit ; le régulateur a présenté cette décision comme la première sanction d’une entreprise d’IA pour le traitement des données.
Catégories
- Taille
- Petite entreprise
- Secteur
- Technologies et télécoms
- Fonction de l’entreprise
- Informatique et R&DService client
- Type d’innovation
- Innovation de produits et services
- Technologie d’IA
- IA conversationnelle et vocale
- Mode d’adoption
- Développement interne
- Type de preuve
- Régulateur, audit ou tribunal
Sources
Résumés des sources
Le média rapporte la décision du 28 avril 2021 de la Commission de protection des informations personnelles (Personal Information Protection Commission) contre Scatter Lab, pour un total de 103,3 millions de wons, soit une sanction pécuniaire de 55,5 millions de wons et des amendes de 47,8 millions de wons. Il énumère huit violations, dont cinq liées aux applications Science of Love et TextAt, deux à Iruda et une au code publié sur GitHub. Il précise qu’environ 9,4 milliards de phrases KakaoTalk provenant de quelque 600 000 utilisateurs ont été utilisées sans suppression des noms, numéros de téléphone ou adresses.
Le Future of Privacy Forum explique la décision du régulateur. Il indique qu’Iruda a atteint plus de 750 000 utilisateurs sur Facebook Messenger en moins d’un mois avant que la controverse de début janvier 2021 n’entraîne son retrait. Il détaille les constats, notamment la réutilisation des données au-delà de leur finalité initiale, l’ajout de 100 millions de messages à la base de réponses, des publications sur GitHub contenant des données personnelles et la collecte sans consentement parental de données concernant plus de 200 000 enfants de moins de 14 ans.
Les informations complètes figurent dans les sources d’origine.
