딜로이트, 호주 정부 보고서 작성에 AI 사용해 29만 호주달러 환불

2025년 8월, 오스트레일리안 파이낸셜 리뷰는 학자들이 딜로이트가 호주 고용·직장관계부를 위해 작성한 보고서에 대해 가짜 학술 참고문헌과 조작된 인용구가 포함되어 있다고 문제를 제기했다고 보도했다. 이 보고서는 호주 복지 체계와 관련된 규정 준수 체계를 검토하기 위한 것이었다.

딜로이트는 이후 정보공개법에 따라 공개된 이메일에서 호주 재무부에 생성형 AI 도구를 사용한 결과 '부정확한 결과물', 즉 각주와 참고문헌 목록의 인용문이 사실과 맞지 않았다고 확인했다. 회사는 2025년 9월 수정된 연구 보고서를 다시 게재했다.

2025년 11월, 딜로이트는 오류가 공개되고 컨설팅 회사들의 납세자 지원 계약에서의 AI 사용에 대한 지속적인 비판이 제기된 후 정부에 청구했던 44만 호주달러 중 29만 호주달러를 환불했다.

44만 호주달러의 수수료 중 29만 호주달러를 환불했으며, 학자들이 조작된 인용문과 인용구를 발견한 후 수정된 보고서를 다시 게재했다.

딜로이트는 보고서 초안 작성에 생성형 AI 도구를 사용하면서 그 도구가 만들어낸 인용문과 인용구를 검증하지 않았다.

회사 내 누구도 정부 고객에게 보고서를 전달하기 전에 각주를 실제 학술 출처와 대조 확인하지 않았다.

게재된 보고서를 검토한 학자들은 인용된 연구와 인용구 중 여러 개가 존재하지 않는다는 점을 발견할 수 있었다.

유료 고객 결과물에 사용되는 생성형 AI 출력물은 여전히 사람의 검증이 필요하다. 조작된 인용문은 발견하기 쉽고 인정하기에는 비용이 많이 든다.

딜로이트는 2025년 9월 수정된 보고서를 다시 게재했고 2025년 11월 수수료 일부를 환불했다. 이 사건은 이후 보도에서 널리 인용된 사례가 되었으며, 정부 문서의 AI 환각을 다룬 Rest of World의 정리 기사를 포함해 컨설팅 회사와 정부 고객이 AI 지원 작업을 게시 전에 검증하지 못한 사례로 언급되었다.