澳洲專業服務2024–2025Deloitte Australia
AI 輔助的政府確信報告
Deloitte 的 AI 輔助報告引用了不存在的來源，該公司退還 440,000 澳元政府合約的部分款項
問題
澳洲就業與職場關係部聘請 Deloitte，審查福利體系中自動處以罰則的資訊系統。這類確信報告仰賴對法律與研究的準確引註。
做法
Deloitte 於 2024 年 12 月簽訂這份價值約 440,000 澳元的合約，並於 2025 年 7 月交付報告。雪梨大學一名學者隨後發現，報告引用了似乎不存在的論文、歸於學者名下的捏造論點，以及一段聲稱出自 Robodebt 自動追債案聯邦法院判決的虛構引文。Deloitte 發布更正版，揭露使用了以 Azure OpenAI GPT-4o 為基礎、架設在該部自有 Azure 租戶上的生成式 AI 工具鏈。Deloitte 與該部表示，調查結果與建議不變，Deloitte 並退還部分費用。
主要數據
啟示
Deloitte 直到外部讀者發現錯誤後才揭露使用 AI，其自身審查並未發現這些錯誤。退還的金額只占費用的一小部分。
分類
來源
來源摘要
報導指出，Deloitte 將就 7 月首度發布的報告向政府部分退款。報導列出雪梨大學學者 Chris Rudge 所指出的錯誤，包括引用似乎不存在的論文，以及一段聲稱出自 Robodebt 自動追債案聯邦法院法官的虛構引文。報導並稱，修訂版報告揭露使用了以 Azure OpenAI GPT-4o 為基礎的生成式 AI 工具鏈，Deloitte 則稱調查結果不受影響。
報導引述該部發言人表示，Deloitte 已退還逾 97,000 澳元，不到合約的四分之一；該合約在 AusTender 上原列價值約 440,000 澳元，於 2024 年 12 月簽訂。報導形容該報告為對自動處理福利罰則之資訊系統的確信審查，並引述該部的說法：部分註腳與引註有誤，但審查的實質內容仍然成立。
詳細內容請參閱原始資料。
