미국IT·통신2021 – 진행 중NGL 랩스
익명 메시지를 위한 AI 콘텐츠 검수
규제 당국이 AI 검수 주장에 이의를 제기하자 NGL은 500만 달러 합의와 18세 미만 이용 금지에 동의했다
문제
익명 메시지 서비스 때문에 NGL 이용자가 괴롭힘과 협박에 노출됐다. 회사는 안전하다고 장담하며 이 앱을 10대에게 홍보했다.
접근 방식
NGL은 딥러닝과 패턴 매칭으로 유해 메시지를 걸러낸다고 밝혔다. 미국 연방거래위원회와 로스앤젤레스 지방검찰청은 괴롭힘과 협박이 여전히 이용자에게 닿았다고 주장했다. 제안된 합의안은 18세 미만 이용을 막고 오해를 부르는 AI 홍보를 금지하는 내용으로, 법원 승인을 거쳐야 한다.
주요 수치
$5 million복합적인 혐의에 대해 발표된 총 합의금
시사점
합의는 검수 관련 주장뿐 아니라 개인정보와 구독 관행도 다뤘다. 합의금은 AI의 실패만을 겨냥한 과징금이 아니었다.
분류
출처
출처 요약
[1]Federal Trade Commission2024년 7월 9일
연방거래위원회는 개인정보와 구독 관련 위반에 더해 오해를 부르는 검수 주장이 있었다고 주장했다. 합의금 납부와 성인 전용 서비스를 요구하는 합의 조건을 발표했으며, 법원 승인이 필요하다.
자세한 내용은 원문에서 확인하실 수 있습니다.
등록일 2026년 11월 1일 · 수정일 2026년 11월 1일