デロイトがオーストラリア政府報告書の作成にAIを使用し、29万ドルを返金

2025年8月、オーストラリアン・ファイナンシャル・レビューは、デロイトがオーストラリア雇用・職場関係省のために作成した報告書について、学者らが警鐘を鳴らしたと報じた。報告書には偽の学術的参考文献や捏造された引用文が含まれていると主張された。この報告書は、同国の福祉制度に関連するコンプライアンス枠組みをレビューするためのものだった。

デロイトは、後に情報公開法に基づいて公開されたメールの中で、オーストラリア財務省に対し、生成AIツールの使用により「不正確な出力」が生じたことを認めた。すなわち、脚注や参考文献リストの引用が確認に耐えないものだった。同社は2025年9月に調査の修正版を再公開した。

2025年11月、デロイトは政府に請求していた44万ドルのうち29万豪ドルを返金した。これは誤りが公になり、コンサルティング会社による納税者負担の契約でのAI使用をめぐる厳しい追及が続いた後だった。

44万ドルの報酬のうち29万豪ドルを返金。学者らが捏造された引用や引用文を発見した後、修正版報告書を再公開した。

デロイトは報告書の草案作成を支援するために生成AIツールを使用したが、ツールが生成した引用や引用文を検証しなかった。

政府の依頼主に報告書を提出する前に、同社内で脚注を実際の学術的資料と照合した者は誰もいなかった。

公開された報告書を査読した学者らは、引用された研究や引用文のいくつかが存在しないことを突き止めることができた。

有償の依頼主向け成果物に使用される生成AIの出力には、依然として人による検証が必要である。捏造された引用は発見しやすく、認めるには高くつく。

デロイトは2025年9月に修正版報告書を再公開し、2025年11月に報酬の一部を返金した。この出来事は、その後の報道——政府文書におけるAIのハルシネーションに関するRest of Worldのまとめを含む——で、コンサルティング会社や政府の依頼主が公開前にAI支援の作業を検証できなかった例として広く引用されるようになった。