États-UnisTechnologies et télécoms2023–2025Luka Inc. (Replika)
Chatbot de compagnie par IA Replika
L’autorité italienne de protection des données inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros pour absence de base juridique et de contrôle de l’âge
Problématique
L’autorité italienne de protection des données (Garante) a constaté que Luka n’avait pas identifié de base juridique pour le traitement des données de Replika au 2 février 2023. La politique de confidentialité était également inadéquate et aucune vérification de l’âge n’existait, alors que l’entreprise affirmait exclure les mineurs.
Approche
L’autorité avait bloqué l’application en février 2023. Sa décision du 10 avril 2025, annoncée le 19 mai, a fixé une amende de 5 millions d’euros et exigé la mise en conformité avec le RGPD. Elle a ouvert une enquête distincte sur le modèle d’IA générative à la base de Replika.
Chiffres clés
Enseignement
Luka s’est vu infliger une amende pour l’absence de garde-fous, notamment de contrôles de l’âge, alors qu’elle affirmait exclure les mineurs. Le recours de Luka était en cours lorsque la décision a été annoncée.
Catégories
- Taille
- Petite entreprise
- Secteur
- Technologies et télécoms
- Fonction de l’entreprise
- Informatique et R&DService client
- Type d’innovation
- Innovation de produits et services
- Technologie d’IA
- IA conversationnelle et vocaleIA générative
- Mode d’adoption
- Développement interne
- Type de preuve
- Régulateur, audit ou tribunal
Sources
Résumés des sources
Le régulateur a infligé une amende de 5 millions d’euros pour manquements à la protection des données et ouvert une nouvelle enquête sur le modèle d’IA. La sanction faisait suite à sa décision datée du 10 avril 2025.
Les informations complètes figurent dans les sources d’origine.