USATechnologie und Telekommunikation2025Workado (zuvor Content at Scale AI)
AI Content Detector mit beworbener Genauigkeit von 98 %
FTC untersagt Workado unbelegte Genauigkeitsversprechen, nachdem sein KI-Detektor im Test 53 % erreicht hatte
Ausgangslage
Workado bewarb seinen AI Content Detector damit, KI-Texte mit einer Genauigkeit von 98 % von menschlich verfassten Texten unterscheiden zu können. Nach Angaben der US-Handelsaufsicht (Federal Trade Commission, FTC) ergaben unabhängige Tests bei allgemeinen Inhalten eine Genauigkeit von 53 %.
Vorgehen
Die FTC warf dem Unternehmen vor, das Modell sei ausschließlich für die Klassifizierung wissenschaftlicher Texte trainiert oder feinabgestimmt worden. Sie legte am 28. April 2025 den Entwurf einer einvernehmlichen Anordnung vor und billigte die endgültige Anordnung mit 3 zu 0 Stimmen. Dies gab sie am 28. August 2025 bekannt. Workado darf ohne fachlich fundierte und verlässliche Belege keine Wirksamkeitsversprechen abgeben und muss die betreffenden Kunden per E-Mail informieren.
Kennzahlen
Erkenntnis
Die FTC-Anordnung verlangte Belege für Wirksamkeitsversprechen und die Benachrichtigung der betreffenden Kunden.
Kategorien
- Größe
- Kleinunternehmen
- Unternehmensfunktion
- Marketing und Vertrieb
- Innovationsart
- Produkt- und Dienstleistungsinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Eigenentwicklung
- Nachweis
- Aufsichtsbehörde, Prüfung oder Gericht
Quellen
Quellenzusammenfassungen
Die FTC kündigte einen Anordnungsentwurf an, nachdem Workado eine Genauigkeit von 98 % behauptet hatte, unabhängige Tests aber 53 % ergeben hatten. Der Entwurf verlangte Belege für die Aussagen, Kundenbenachrichtigungen und Berichte über die Einhaltung der Vorgaben.
Die FTC gab bekannt, die Anordnung nach öffentlicher Stellungnahmefrist mit 3 zu 0 Stimmen endgültig gebilligt zu haben. Die Vorgaben entsprechen dem Entwurf: Belege für die Aussagen, E-Mails an Kunden und vier Jahre lang Berichte über die Einhaltung der Vorgaben.
Ausführliche Angaben finden Sie in den Originalquellen.
