Hiệp hội Rối loạn Ăn uống Quốc gia (National Eating Disorders Association, NEDA)

Vấn đề

NEDA đóng đường dây hỗ trợ do nhân viên phụ trách và chuyển sang chatbot AI sau khi nhân viên đường dây bỏ phiếu thành lập công đoàn. Người dùng sau đó cho biết chatbot đưa ra lời khuyên làm trầm trọng thêm rối loạn ăn uống.

Cách tiếp cận

Những người chỉ trích cho biết Tessa khuyến nghị đếm calo, tạo mức thâm hụt tới 1.000 calo mỗi ngày và gợi ý dùng thước kẹp đo nếp gấp da. NEDA cho biết chương trình Body Positive có thể đã cung cấp thông tin gây hại và tạm dừng chương trình để điều tra cho đến khi có thông báo mới.

Số liệu chính

Chưa có số liệu công bố

Bài học

NEDA ngừng cung cấp Tessa sau khi người dùng phản ánh đã nhận được lời khuyên giảm cân. Hiệp hội cho biết sẽ điều tra thông tin có khả năng gây hại.

Phân loại

Quy mô

Doanh nghiệp nhỏ

Ngành

Y tế và khoa học sự sống

Chức năng kinh doanh

Dịch vụ khách hàng

Loại hình đổi mới

Đổi mới quy trình

Công nghệ AI

AI hội thoại và giọng nói

Hình thức triển khai

Giải pháp của nhà cung cấp

Mục tiêu

Tiết kiệm chi phí

Căn cứ

Báo chí đưa tin

Nguồn

1. Eating disorder helpline shuts down AI chatbot that gave bad advice

   CBS News (via CNN Business)·1 thg 6, 2023Bài báo

Tóm tắt nguồn

Thông tin đầy đủ có trong tài liệu gốc.