美國全國飲食失調協會（National Eating Disorders Association，NEDA）

問題

服務專線員工表決成立工會後，NEDA 關閉真人服務專線，改用 AI 聊天機器人。其後使用者表示，機器人提供的建議助長了飲食失調問題。

做法

批評者表示，Tessa 建議計算熱量、每天製造高達 1,000 大卡的熱量赤字，並建議使用皮脂夾。NEDA 表示，Body Positive 程式可能提供了有害資訊，因此先行下架並展開調查，恢復時間另行通知。

主要數據

無公開數據

啟示

使用者反映 Tessa 提供減重建議後，NEDA 將其下線。協會表示，將調查可能有害的資訊。

分類

規模

小型企業

產業

醫療與生命科學

業務職能

客戶服務

創新類型

流程創新

AI技術

對話式與語音AI

導入方式

供應商解決方案

目標

降低成本

依據

媒體報導

來源

1. Eating disorder helpline shuts down AI chatbot that gave bad advice

   CBS News (via CNN Business)·2023年6月1日新聞報導

來源摘要

詳細內容請參閱原始資料。