EUASaúde e ciências da vida2023National Eating Disorders Association (NEDA)
Chatbot Tessa para substituir o serviço de apoio com atendentes humanos
NEDA retira chatbot Tessa do ar em junho de 2023 após usuários relatarem recomendações de dieta a pessoas com transtornos alimentares
Problema
A NEDA encerrou seu serviço de apoio com atendentes humanos e passou a usar um chatbot de IA após os funcionários do serviço votarem pela sindicalização. Usuários disseram, então, que o bot dava recomendações que alimentavam transtornos alimentares.
Abordagem
Críticos disseram que o Tessa recomendava contar calorias e manter um déficit de até 1.000 calorias por dia, além de sugerir o uso de adipômetros. A NEDA afirmou que o programa Body Positive poderia ter fornecido informações prejudiciais e o retirou do ar por prazo indeterminado para investigar.
Números principais
Sem números divulgados
Lição
A NEDA retirou o Tessa do ar após usuários relatarem recomendações para perder peso. A associação afirmou que investigaria informações potencialmente prejudiciais.
Categorias
- Porte
- Pequena empresa
- Função empresarial
- Atendimento ao cliente
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- IA conversacional e de voz
- Forma de adoção
- Solução de fornecedor
- Objetivo
- Redução de custos
- Evidência
- Apuração jornalística
Fontes
Resumos das fontes
A CBS News relata que a NEDA retirou o Tessa do ar depois que uma consultora e outras pessoas disseram que ele dava recomendações para perder peso. Cita a declaração da NEDA de que o programa poderia ter fornecido informações prejudiciais e relata que ex-funcionários do serviço de apoio se opuseram à substituição.
Os detalhes completos estão disponíveis nas fontes originais.
