USATechnologie und Telekommunikation2023–2025Luka Inc. (Replika)
KI-Begleiter-Chatbot Replika
Italiens Datenschutzbehörde verhängt gegen Luka, den Hersteller von Replika, 5 Mio. Euro Geldbuße wegen fehlender Rechtsgrundlage und Altersprüfung
Ausgangslage
Die Datenschutzbehörde Garante stellte fest, dass Luka für die Datenverarbeitung von Replika zum Stand 2. Februar 2023 keine Rechtsgrundlage benannt hatte. Außerdem fehlten eine angemessene Datenschutzerklärung und eine Altersprüfung, obwohl das Unternehmen angab, Minderjährige auszuschließen.
Vorgehen
Die Behörde hatte die App im Februar 2023 gesperrt. Ihre Entscheidung vom 10. April 2025, die am 19. Mai bekannt gegeben wurde, setzte eine Geldbuße von 5 Mio. Euro fest und verlangte die Einhaltung der DSGVO. Sie leitete eine gesonderte Untersuchung des generativen KI-Modells hinter Replika ein.
Kennzahlen
Erkenntnis
Gegen Luka wurde wegen fehlender Schutzvorkehrungen, darunter Altersprüfungen, eine Geldbuße verhängt, obwohl das Unternehmen angab, Minderjährige auszuschließen. Lukas Rechtsmittel war bei Bekanntgabe der Entscheidung anhängig.
Kategorien
- Größe
- Kleinunternehmen
- Unternehmensfunktion
- IT und F&EKundenservice
- Innovationsart
- Produkt- und Dienstleistungsinnovation
- KI-Technologie
- Dialog- und Sprach-KIGenerative KI
- Einführung
- Eigenentwicklung
- Nachweis
- Aufsichtsbehörde, Prüfung oder Gericht
Quellen
Quellenzusammenfassungen
Die Aufsichtsbehörde verhängte eine Geldbuße von 5 Mio. Euro wegen Verstößen gegen den Datenschutz und leitete eine neue Untersuchung des KI-Modells ein. Die Sanktion folgte ihrer Entscheidung vom 10. April 2025.
Ausführliche Angaben finden Sie in den Originalquellen.