Deloitte Australia
AIの支援を受けた政府向け保証報告書
AIの支援を受けた報告書が実在しない出典を引用、Deloitteは44万豪ドルの政府契約の一部を返金
課題
オーストラリアの雇用・職場関係省は、福祉制度で罰則を自動処理するITシステムの検証をDeloitteに委託した。この種の保証報告書は、法律や研究の正確な引用を前提とする。
取り組み
Deloitteは2024年12月に約44万豪ドルの契約を結び、2025年7月に報告書を納めた。その後、シドニー大学の研究者が、実在しないとみられる論文への言及、学者の発言とされる作り話、ロボデット(robo-debt)訴訟の連邦裁判所の判決からの架空の引用を見つけた。Deloitteは、同省自身のAzure環境上で動かすAzure OpenAI GPT-4oベースの生成AIツールチェーンの利用を明記した修正版を公表した。Deloitteと同省は、調査結果と提言は変わらないと述べ、Deloitteは報酬の一部を返金した。
主な数値
示唆
DeloitteがAIの利用を明らかにしたのは、外部の読者が誤りを見つけた後であり、自社の確認は誤りを見逃していた。返金額は報酬のごく一部だった。
分類
- 規模
- 大企業
- 業種
- 専門サービス
- 業務機能
- 社内業務・ナレッジ管理
- イノベーションの類型
- プロセス・イノベーション
- AI技術
- 生成AI
- 導入形態
- 既製ツール・プラットフォーム
- 目的
- 生産性・スピード
- 根拠
- 規制当局・監査・裁判所
出典
出典の要約
7月に初めて公表された報告書について、Deloitteが政府に一部を返金すると報じている。シドニー大学の研究者Chris Rudge氏が指摘した誤りとして、実在しないとみられる論文への言及や、ロボデット訴訟の連邦裁判所の裁判官の発言とされる架空の引用を挙げている。改訂版にAzure OpenAI GPT-4oベースの生成AIツールチェーンの利用が明記されたこと、Deloitteが調査結果に影響はないと述べたことも伝えている。
同省の報道官の話として、Deloitteが97,000豪ドル超を返金したと報じている。これは、AusTenderで当初の価値が約44万豪ドルとされ、2024年12月に結ばれた契約の4分の1未満にあたる。報告書は、福祉の罰則を自動処理するITシステムの保証レビューだと説明している。同省が、一部の脚注と参考文献には誤りがあったが、レビューの内容は変わらないと述べたことを引用している。
詳細は原典でご確認いただけます。