AustralienBeratung und Fachdienstleistungen2024–2025Deloitte Australia
KI-gestützter Prüfbericht für die Regierung
Deloitte erstattete einen Teil eines Regierungsauftrags über 440.000 A$ zurück, nachdem sein KI-gestützter Bericht nicht existierende Quellen angeführt hatte
Ausgangslage
Das australische Ministerium für Beschäftigung und Arbeitsbeziehungen (Department of Employment and Workplace Relations) beauftragte Deloitte, das IT-System zu prüfen, das Sanktionen im Sozialleistungssystem automatisiert. Prüfberichte dieser Art beruhen auf korrekten Verweisen auf Recht und Forschung.
Vorgehen
Deloitte unterzeichnete den Vertrag über etwa 440.000 A$ im Dezember 2024 und lieferte den Bericht im Juli 2025. Ein Wissenschaftler der University of Sydney fand dann Verweise auf Arbeiten, die offenbar nicht existierten, erfundene, Wissenschaftlern zugeschriebene Aussagen und ein erfundenes Zitat aus einem Urteil des Federal Court im Robodebt-Fall. Deloitte veröffentlichte eine korrigierte Fassung, die den Einsatz einer Kette generativer KI-Werkzeuge auf Basis von Azure OpenAI GPT-4o offenlegte, betrieben auf dem eigenen Azure-Mandanten des Ministeriums. Deloitte und das Ministerium erklärten, die Feststellungen und Empfehlungen seien unverändert, und Deloitte erstattete einen Teil des Honorars.
Kennzahlen
Erkenntnis
Deloitte legte seinen KI-Einsatz erst offen, nachdem ein externer Leser die Fehler gefunden hatte; die eigene Prüfung hatte sie übersehen. Die Erstattung war ein kleiner Teil des Honorars.
Kategorien
- Größe
- Großunternehmen
- Unternehmensfunktion
- Interne Abläufe und Wissensmanagement
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Generative KI
- Einführung
- Standardwerkzeug oder Plattform
- Nachweis
- Aufsichtsbehörde, Prüfung oder Gericht
Quellen
Quellenzusammenfassungen
Berichtet, Deloitte werde der Regierung einen Teil des Honorars für den im Juli erstmals veröffentlichten Bericht erstatten. Nennt die vom Wissenschaftler Chris Rudge der University of Sydney festgestellten Fehler, darunter Verweise auf Arbeiten, die offenbar nicht existieren, und ein erfundenes Zitat eines Richters des Federal Court im Robodebt-Fall. Gibt an, der überarbeitete Bericht habe eine Kette generativer KI-Werkzeuge auf Basis von Azure OpenAI GPT-4o offengelegt, und Deloitte habe gesagt, die Feststellungen seien davon nicht berührt.
Berichtet, ein Sprecher des Ministeriums habe gesagt, Deloitte habe mehr als 97.000 A$ erstattet, weniger als ein Viertel eines Auftrags, der auf AusTender ursprünglich mit rund 440.000 A$ beziffert und im Dezember 2024 unterzeichnet wurde. Beschreibt den Bericht als Prüfung des IT-Systems, das Sozialleistungssanktionen automatisiert. Zitiert das Ministerium, einige Fußnoten und Verweise seien falsch gewesen, doch der Kern der Prüfung bleibe bestehen.
Ausführliche Angaben finden Sie in den Originalquellen.
