호주전문 서비스2024–2025딜로이트 호주
생성형 AI를 활용한 정부 보고서 작성
딜로이트가 AI를 활용한 정부 보고서에 존재하지 않는 인용이 드러나 44만 호주달러 계약금 일부를 돌려줬다
문제
호주 고용노동관계부는 복지 수급자 제재를 자동으로 부과하는 IT 시스템의 독립 검증을 딜로이트에 맡겼다. 이런 검증 보고서는 법령과 연구를 정확히 인용하는 것이 기본이다.
접근 방식
딜로이트는 2024년 12월 약 44만 호주달러 규모의 계약을 맺고 2025년 7월 보고서를 제출했다. 이후 시드니대 연구자가 실재하지 않는 것으로 보이는 논문 인용, 학자에게 잘못 귀속된 주장, 이른바 '로보뎃' 사건 연방법원 판결에서 지어낸 인용문을 찾아냈다. 딜로이트는 수정본을 다시 올리면서 고용노동관계부의 애저 환경에 설치된 애저 오픈AI GPT-4o 기반 생성형 AI 도구를 사용했다고 밝혔다. 딜로이트와 정부는 결론과 권고는 바뀌지 않았다고 했고, 딜로이트는 대금 일부를 돌려줬다.
주요 수치
시사점
딜로이트는 외부 독자가 오류를 찾은 뒤에야 AI 사용을 밝혔고, 자체 검토에서는 오류를 놓쳤다. 환불액은 계약금의 작은 일부였다.
분류
- 규모
- 대기업
- 산업
- 전문 서비스
- 경영 기능
- 사내 업무·지식관리
- 혁신 유형
- 프로세스 혁신
- AI 기술
- 생성형 AI
- 도입 방식
- 플랫폼·범용 도구 활용
- 목표
- 생산성·속도
- 근거
- 감독기관·감사·판결
출처
출처 요약
딜로이트가 7월 처음 공개된 보고서와 관련해 정부에 일부 금액을 환불한다고 보도했다. 시드니대 크리스 러지 연구원이 찾아낸 오류로 실재하지 않는 것으로 보이는 논문 인용, 로보뎃 사건 연방법원 판사의 발언으로 지어낸 인용문 등을 들었다. 수정본에 애저 오픈AI GPT-4o 기반 생성형 AI 도구 사용 사실이 명시됐고, 딜로이트는 결론에 영향이 없다고 밝혔다고 전했다.
정부 대변인을 인용해 딜로이트가 9만 7,000호주달러 넘게 환불했다고 보도했다. 이는 2024년 12월 체결돼 정부 조달 사이트에 약 44만 호주달러로 등록된 계약의 4분의 1에 못 미친다. 보고서는 복지 제재를 자동 부과하는 IT 시스템에 대한 검증 보고서라고 설명했다. 일부 각주와 참고문헌이 틀렸지만 검토의 핵심은 유지된다는 정부 입장을 전했다.
자세한 내용은 원문에 있습니다.
