米国メディア・エンターテインメント2022–2023CNET
AIが書く金融の解説記事
CNET、AIが書いた解説記事77本を目立たぬ形で掲載、半数超を訂正しツールを一時停止
課題
金利や貯蓄口座などを扱う個人金融の解説記事は、出版社に検索流入をもたらすが、1本ごとに記者の時間がかかる。CNETの金融セクションは、こうした記事をより多く出したいと考えた。
取り組み
2023年1月までの数か月間、CNET Moneyは社内で設計したAIエンジンを使い、短い解説記事77本の下書きを作成した。コンテンツ全体の約1%にあたり、いずれも編集者が確認したうえで、個人名ではない共通の署名と、AI利用を知らせる小さな表示を付けて掲載された。2023年1月、外部の報道がこの取り組みと事実誤認を指摘して注目を集めた。社内監査の結果、77本のうち41本が訂正され、中には大幅な訂正もあった。編集長は、盗用チェックが一部で機能しなかったことを認めた。CNETはAI記事の掲載を、姉妹サイトのBankrateやCreditCards.comも含めて一時停止し、こうした誤りを防げる体制が整うまで再開しないとした。
主な数値
示唆
すべての記事が編集者の確認を経ていたが、半数超に訂正が必要で、確認の工程はモデルの誤りを見抜けなかった。AI利用の表示が目立たなかったため、外部から指摘された時点で、品質の問題が信頼の問題にもなった。
分類
- 規模
- 中堅・成長企業
- 業務機能
- 生産・品質マーケティング・営業
- イノベーションの類型
- プロセス・イノベーション
- AI技術
- 生成AI
- 導入形態
- 自社開発
- 根拠
- 報道
出典
出典の要約
編集長のコニー・グリエルモ氏は、CNET Moneyが社内で設計したAIエンジンを短い解説記事77本に使い、コンテンツ全体の約1%を占めたと述べた。読者が誤りを指摘した後の全面的な監査で、大幅な訂正が必要な記事が見つかったとし、盗用チェッカーが誤用されたか、近似した文章を見逃したことを認めた。改善策として、AI利用の表示を明確にし、編集者の名前も署名に加えることが計画されていた。
Talking Biz Newsは、AIツールで書いた77本のうち41本でCNETが訂正を出したというThe Vergeの集計を伝えた。訂正の一部は「完全にはオリジナルでない」とされた表現を置き換えるもので、盗用への懸念を呼んだ。CNETが数か月にわたり、ほとんど告知せずにAI執筆の記事を掲載していたことは、Futurismが最初に報じた。
EngadgetはThe Vergeを引用し、CNETの経営陣が社員に、BankrateとCreditCards.comも含めAI執筆の記事を「当面」停止すると伝えたと報じた。Futurismは、自動生成の金融解説記事を数十本見つけており、AI利用の表示は読者が署名をクリックして初めて現れた。Engadgetは、これらの記事は人が十分に編集したというCNETのそれまでの説明に疑問を呈した。
詳細は原典でご確認いただけます。