EUATecnologia e telecomunicações2023–2025Luka Inc. (Replika)
Chatbot de companhia com IA Replika
Autoridade de dados da Itália multa a Luka, criadora do Replika, em € 5 milhões por falta de base legal e de verificação de idade
Problema
A Garante concluiu que a Luka não havia identificado uma base legal para o tratamento de dados do Replika em 2 de fevereiro de 2023. Também apontou política de privacidade inadequada e ausência de verificação de idade, embora a empresa dissesse excluir menores.
Abordagem
A autoridade havia bloqueado o aplicativo em fevereiro de 2023. Sua decisão de 10 de abril de 2025, anunciada em 19 de maio, impôs multa de € 5 milhões e exigiu conformidade com o GDPR. A autoridade abriu uma investigação separada sobre o modelo de IA generativa por trás do Replika.
Números principais
Lição
A Luka foi multada por falta de salvaguardas, entre elas a verificação de idade, apesar de dizer que excluía menores. O recurso da Luka estava pendente quando a decisão foi anunciada.
Categorias
- Porte
- Pequena empresa
- Função empresarial
- TI e P&DAtendimento ao cliente
- Tipo de inovação
- Inovação de produtos e serviços
- Tecnologia de IA
- IA conversacional e de vozIA generativa
- Forma de adoção
- Desenvolvimento interno
- Objetivo
- Receita e experiência do cliente
- Evidência
- Órgão regulador, auditoria ou tribunal
Fontes
Resumos das fontes
O órgão regulador aplicou multa de € 5 milhões por falhas na proteção de dados e abriu nova investigação sobre o modelo de IA. A sanção decorreu de sua decisão datada de 10 de abril de 2025.
Os detalhes completos estão disponíveis nas fontes originais.