AustraliaServicios profesionales2024–2025Deloitte Australia
Informe de aseguramiento para el Gobierno elaborado con ayuda de IA
Deloitte reembolsó parte de un contrato público de A$ 440.000 después de que su informe elaborado con ayuda de IA citara fuentes que no existían
Problema
El Departamento de Empleo y Relaciones Laborales de Australia contrató a Deloitte para revisar el sistema informático que automatiza las sanciones del sistema de prestaciones sociales. Los informes de aseguramiento de este tipo se apoyan en citas exactas de la legislación y de la investigación.
Enfoque
Deloitte firmó el contrato, por un valor aproximado de A$ 440.000, en diciembre de 2024 y entregó el informe en julio de 2025. Un académico de la Universidad de Sídney halló después referencias a artículos que no parecían existir, afirmaciones inventadas atribuidas a investigadores y una cita inventada de una sentencia del Tribunal Federal en el caso Robodebt. Deloitte publicó una versión corregida en la que revelaba el uso de una cadena de herramientas de IA generativa basada en Azure OpenAI GPT-4o, alojada en el propio tenant de Azure del departamento. Deloitte y el departamento dijeron que las conclusiones y las recomendaciones no cambiaban, y Deloitte reembolsó parte de los honorarios.
Cifras clave
Conclusión
Deloitte reveló su uso de la IA solo después de que un lector externo hallara los errores; su propia revisión no los había detectado. El reembolso fue una pequeña parte de los honorarios.
Categorías
- Tamaño
- Gran empresa
- Sector
- Servicios profesionales
- Función empresarial
- Trabajo interno y gestión del conocimiento
- Tipo de innovación
- Innovación de procesos
- Tecnología de IA
- IA generativa
- Objetivo
- Productividad y rapidez
- Respaldo
- Regulador, auditoría o tribunal
Fuentes
Resúmenes de fuentes
Informa de que Deloitte devolvería al Gobierno parte de los honorarios del informe publicado por primera vez en julio. Enumera los errores identificados por el académico de la Universidad de Sídney Chris Rudge, entre ellos referencias a artículos que no parecen existir y una cita inventada de un juez del Tribunal Federal en el caso Robodebt. Señala que el informe revisado revelaba una cadena de herramientas de IA generativa basada en Azure OpenAI GPT-4o y que Deloitte dijo que las conclusiones no se veían afectadas.
Recoge que un portavoz del departamento dijo que Deloitte había reembolsado más de A$ 97.000, menos de una cuarta parte de un contrato valorado originalmente en unos A$ 440.000 en AusTender y firmado en diciembre de 2024. Describe el informe como una revisión de garantía del sistema informático que automatiza las sanciones del sistema de prestaciones. Cita al departamento al decir que algunas notas a pie de página y referencias eran erróneas, pero que el fondo de la revisión se mantiene.
La información completa figura en las fuentes originales.
