事件經過
2025年8月,《澳洲金融評論報》報導,有學者對德勤為澳洲就業與工作場所關係部撰寫的一份報告提出警示,指稱報告含有虛假的學術參考文獻與捏造的引文。該報告原意是審查與該國福利制度相關的一項合規框架。
德勤在一封後來依資訊自由法公開的電子郵件中向澳洲財政部確認,其使用生成式AI工具產生了「不準確的輸出」——即腳註與參考文獻清單中經查核後不成立的引註。該公司於2025年9月重新發布了該研究的更正版本。
2025年11月,在錯誤曝光並引發外界對顧問公司於納稅人資助合約中使用AI的持續審視後,德勤退還了其向政府收取的44萬澳元費用中的29萬澳元。
代價為何
在44萬澳元費用中退還29萬澳元;在學者發現捏造的引註與引文後,重新發布了更正後的報告。
原因為何
德勤使用生成式AI工具協助起草報告,卻未核實這些工具所產生的引註與引文。
在將報告交付給政府客戶之前,該公司內部無人將腳註與實際的學術來源進行交叉核對。
審閱已發布報告的學者發現,其中若干被引用的研究與引文並不存在。
教訓
用於付費客戶交付成果中的生成式AI輸出仍須經人工核實——捏造的引註容易查獲,而要承認此事則代價高昂。
後續發展
德勤於2025年9月重新發布了更正後的報告,並於2025年11月退還了部分費用。此事件在後續報導中成為廣被引用的案例——包括《Rest of World》一篇關於政府文件中AI幻覺的綜合報導——說明顧問公司與政府客戶在發布前未能核實AI輔助完成的工作。
追溯依據
參考來源
- Academics raise alarm over suspected AI use in Deloitte report Australian Financial Review · afr.com ·
- Fact-check fail: When AI hallucinations derail governments Rest of World · restofworld.org ·