USAGesundheit und Life Sciences2023National Eating Disorders Association (NEDA)
Chatbot Tessa als Ersatz für die mit Personal besetzte Beratungsstelle
NEDA schaltet seinen Chatbot Tessa im Juni 2023 ab, nachdem Nutzer von Diätempfehlungen an Menschen mit Essstörungen berichtet hatten
Ausgangslage
Nachdem die Beschäftigten der Beratungsstelle für eine gewerkschaftliche Organisation gestimmt hatten, schloss NEDA seine mit Menschen besetzte Beratungsstelle und wechselte zu einem KI-Chatbot. Nutzer berichteten anschließend, der Bot gebe Ratschläge, die Essstörungen begünstigten.
Vorgehen
Kritikern zufolge empfahl Tessa das Zählen von Kalorien und ein tägliches Kaloriendefizit von bis zu 1.000 Kalorien sowie Hautfaltenmessgeräte. NEDA erklärte, das Programm Body Positive habe möglicherweise schädliche Informationen gegeben, und nahm es für eine Untersuchung bis auf Weiteres außer Betrieb.
Kennzahlen
Keine veröffentlichten Zahlen
Erkenntnis
NEDA nahm Tessa außer Betrieb, nachdem Nutzer von Ratschlägen zur Gewichtsabnahme berichtet hatten. Der Verband kündigte an, potenziell schädliche Informationen zu untersuchen.
Kategorien
- Größe
- Kleinunternehmen
- Branche
- Gesundheit und Life Sciences
- Unternehmensfunktion
- Kundenservice
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Dialog- und Sprach-KI
- Einführung
- Anbieterlösung
- Ziel
- Kostensenkung
- Nachweis
- Presseberichterstattung
Quellen
Quellenzusammenfassungen
CBS News berichtet, dass NEDA Tessa abschaltete, nachdem eine Beratungsperson und weitere Nutzer angegeben hatten, der Bot habe Ratschläge zur Gewichtsabnahme gegeben. CBS News zitiert NEDAs Erklärung, das Programm habe möglicherweise schädliche Informationen geliefert, und berichtet über den Widerstand ehemaliger Beschäftigter der Beratungsstelle gegen deren Ersatz.
Ausführliche Angaben finden Sie in den Originalquellen.
