全米摂食障害協会（NEDA）

課題

NEDAは、相談窓口の職員が労働組合の結成に賛成票を投じた後、有人窓口を閉鎖してAIチャットボットに移行した。その後、利用者は摂食障害を助長する助言を受けたと訴えた。

取り組み

批判者は、Tessaがカロリー計算や一日当たり最大1,000カロリーの不足をつくることを勧め、皮下脂肪厚測定器も提案したと述べた。NEDAは、Body Positiveプログラムが有害な情報を提供した可能性があるとし、調査のため再開時期を定めずに停止した。

主な数値

公表された数値なし

示唆

NEDAは、利用者から減量に関する助言の報告を受けてTessaを停止した。同協会は、有害な可能性のある情報について調査すると述べた。

分類

規模

中小・小規模事業者

業種

医療・ライフサイエンス

業務機能

顧客サービス

イノベーションの類型

プロセス・イノベーション

AI技術

対話型・音声AI

導入形態

ベンダーのソリューション

目的

コスト削減

根拠

報道

出典

1. Eating disorder helpline shuts down AI chatbot that gave bad advice

   CBS News (via CNN Business)·2023年6月1日報道記事

出典の要約

詳細は原典でご確認いただけます。