Corea del SurTecnología y telecomunicaciones2020–2021Scatter Lab
Iruda, chatbot de IA
Un chatbot de una empresa emergente entrenado con conversaciones privadas de usuarios fue retirado en pocas semanas y sancionado por el regulador de privacidad
Problema
Scatter Lab, una empresa emergente de Seúl, quería un chatbot capaz de mantener conversaciones naturales y cordiales en coreano. Ya disponía de grandes volúmenes de conversaciones de KakaoTalk que los usuarios habían subido a sus aplicaciones de análisis de relaciones, Science of Love y TextAt.
Enfoque
La empresa entrenó el modelo Iruda con unos 9,4 mil millones de frases de KakaoTalk de alrededor de 600.000 usuarios de sus otras aplicaciones y lanzó el chatbot en Facebook Messenger a finales de 2020. En un mes atrajo a más de 750.000 usuarios, pero a principios de enero de 2021 recibió críticas por sus respuestas de odio y discriminatorias y por exponer datos personales, y fue retirado. En abril de 2021, la Comisión de Protección de la Información Personal (Personal Information Protection Commission) constató ocho infracciones de la ley de privacidad, entre ellas el uso de nombres, números de teléfono y direcciones sin eliminarlos ni cifrarlos, e impuso sanciones por 103,3 millones de wones.
Cifras clave
Conclusión
La fluidez del chatbot atrajo usuarios rápidamente, pero el tratamiento de los datos de entrenamiento provocó el fracaso. El consentimiento para un servicio no cubría la reutilización en otro producto; el regulador consideró que se trataba de la primera sanción a una empresa de IA por el tratamiento de datos.
Categorías
- Tamaño
- Pequeña empresa
- Función empresarial
- TI e I+DAtención al cliente
- Tipo de innovación
- Innovación de productos y servicios
- Tecnología de IA
- IA conversacional y de voz
- Adopción
- Desarrollo propio
- Respaldo
- Regulador, auditoría o tribunal
Fuentes
Resúmenes de fuentes
Informa de la decisión de la Comisión de Protección de la Información Personal (Personal Information Protection Commission) del 28 de abril de 2021 contra Scatter Lab, por un total de 103,3 millones de wones (una sanción pecuniaria de 55,5 millones de wones y multas por 47,8 millones de wones). Enumera ocho infracciones: cinco relacionadas con las aplicaciones Science of Love y TextAt, dos con Iruda y una con código publicado en GitHub. Señala que se utilizaron unos 9,4 mil millones de frases de KakaoTalk de aproximadamente 600.000 usuarios sin eliminar nombres, números de teléfono ni direcciones.
Future of Privacy Forum explica la decisión del regulador. Afirma que Iruda superó los 750.000 usuarios de Facebook Messenger en menos de un mes, antes de que la polémica de principios de enero de 2021 provocara su retirada. Detalla las conclusiones, entre ellas la reutilización de datos para fines distintos de los originales, la incorporación de 100 millones de mensajes a la base de datos de respuestas, la publicación en GitHub de contenido con datos personales y la recogida sin consentimiento parental de datos de más de 200.000 menores de 14 años.
La información completa figura en las fuentes originales.
