États-UnisSanté et sciences de la vie2023National Eating Disorders Association (NEDA)
Chatbot Tessa destiné à remplacer la ligne d’assistance assurée par des intervenants humains
La NEDA retire son chatbot Tessa en juin 2023 après des signalements de conseils diététiques donnés à des personnes souffrant de troubles alimentaires
Problématique
La NEDA a fermé sa ligne d’assistance assurée par des intervenants humains et est passée à un chatbot d’IA après le vote du personnel en faveur de la création d’un syndicat. Des utilisateurs ont ensuite indiqué que le robot donnait des conseils qui alimentaient les troubles alimentaires.
Approche
Selon ses détracteurs, Tessa recommandait de compter les calories et de créer un déficit pouvant atteindre 1 000 calories par jour, et suggérait l’utilisation de pinces à plis cutanés. La NEDA a déclaré que le programme Body Positive avait pu fournir des informations préjudiciables et l’a suspendu jusqu’à nouvel ordre pour mener une enquête.
Chiffres clés
Aucun chiffre publié
Enseignement
La NEDA a mis Tessa hors ligne après que des utilisateurs ont signalé des conseils de perte de poids. L’association a déclaré qu’elle enquêterait sur ces informations potentiellement préjudiciables.
Catégories
- Taille
- Petite entreprise
- Secteur
- Santé et sciences de la vie
- Fonction de l’entreprise
- Service client
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- IA conversationnelle et vocale
- Mode d’adoption
- Solution d’un fournisseur
- Objectif
- Réduction des coûts
- Type de preuve
- Travail journalistique
Sources
Résumés des sources
CBS News rapporte que la NEDA a mis Tessa hors ligne après qu’une consultante et d’autres personnes ont indiqué qu’il donnait des conseils de perte de poids. Le média cite la déclaration de la NEDA selon laquelle le programme avait pu fournir des informations préjudiciables et rapporte l’opposition d’anciens salariés de la ligne d’assistance à son remplacement.
Les informations complètes figurent dans les sources d’origine.
