Deloitte nutzte KI für einen australischen Regierungsbericht und musste 290.000 Dollar zurückzahlen

Im August 2025 berichtete die Australian Financial Review, Wissenschaftler hätten Alarm wegen eines Berichts geschlagen, den Deloitte für das australische Ministerium für Beschäftigung und Arbeitsbeziehungen erstellt hatte, und behauptet, er enthalte gefälschte wissenschaftliche Quellenangaben und erfundene Zitate. Der Bericht sollte einen Compliance-Rahmen im Zusammenhang mit dem Wohlfahrtssystem des Landes überprüfen.

Deloitte bestätigte gegenüber dem australischen Finanzministerium in einer später nach dem Informationsfreiheitsgesetz veröffentlichten E-Mail, dass die Nutzung generativer KI-Tools „unzutreffende Ergebnisse“ hervorgebracht habe – Quellenangaben in den Fußnoten und im Literaturverzeichnis, die sich nicht überprüfen ließen. Das Unternehmen veröffentlichte im September 2025 eine korrigierte Fassung der Studie.

Im November 2025 erstattete Deloitte 290.000 A$ von den 440.000 A$, die es der Regierung für die Arbeit in Rechnung gestellt hatte, nachdem die Fehler öffentlich geworden waren und anhaltende Kritik an der KI-Nutzung von Beratungsfirmen bei steuerfinanzierten Aufträgen ausgelöst hatten.

290.000 A$ des Honorars von 440.000 A$ wurden zurückgezahlt; nachdem Wissenschaftler gefälschte Quellenangaben und Zitate entdeckt hatten, wurde ein korrigierter Bericht veröffentlicht.

Deloitte nutzte generative KI-Tools, um den Bericht mitzuverfassen, ohne die von den Tools erzeugten Quellenangaben und Zitate zu überprüfen.

Niemand in der Firma glich die Fußnoten mit den tatsächlichen wissenschaftlichen Quellen ab, bevor der Bericht an einen Regierungsauftraggeber übergeben wurde.

Wissenschaftler, die den veröffentlichten Bericht prüften, konnten feststellen, dass mehrere der zitierten Studien und Zitate nicht existierten.

Ergebnisse generativer KI, die in ein bezahltes Kundenprodukt einfließen, müssen weiterhin von Menschen überprüft werden – gefälschte Quellenangaben sind leicht zu entdecken und teuer einzugestehen.

Deloitte veröffentlichte im September 2025 den korrigierten Bericht und erstattete im November 2025 einen Teil seines Honorars. Der Vorfall wurde in späteren Berichten häufig als Beispiel dafür angeführt – darunter eine Zusammenstellung von Rest of World über KI-Halluzinationen in Regierungsdokumenten –, dass Beratungsfirmen und Regierungsauftraggeber KI-unterstützte Arbeit vor der Veröffentlichung nicht überprüfen.