AustralieSecteur public2023–2024Ministère des Familles, de l’Équité et du Logement de l’État de Victoria (Department of Families, Fairness and Housing)
Utilisation de ChatGPT par un agent de la protection de l’enfance pour un rapport destiné au tribunal
Le régulateur de la protection de la vie privée de l’État de Victoria ordonne en 2024 aux agents de la protection de l’enfance de cesser d’utiliser l’IA générative après un rapport judiciaire rédigé avec ChatGPT
Problématique
Un agent de la protection de l’enfance a utilisé ChatGPT pour rédiger un rapport à l’appui d’une demande de protection adressée au tribunal. Le texte présentait une poupée sexuelle que le père de l’enfant aurait utilisée comme un point positif des efforts des parents.
Approche
Le bureau du commissaire à l’information de l’État de Victoria (Office of the Victorian Information Commissioner, OVIC) a ordonné au ministère d’interdire aux agents l’utilisation de cet outil ; un député d’opposition a évoqué une échéance au 24 septembre 2024 pour les agents de la protection de l’enfance. Le ministère a constaté que l’agent avait peut-être utilisé ChatGPT dans environ 100 autres documents et que près de 900 agents avaient consulté le site de ChatGPT entre juillet et décembre 2023.
Chiffres clés
Enseignement
La ministre a déclaré au Parlement que les recommandations de l’OVIC étaient en cours d’application et que des outils d’IA restaient utilisés ailleurs dans le ministère. Elle n’a pas garanti que l’ensemble des documents concernés avaient été repérés.
Catégories
- Taille
- Grande entreprise
- Secteur
- Secteur public
- Fonction de l’entreprise
- Fonctions internes et gestion des connaissances
- Type d’innovation
- Innovation de procédé
- Technologie d’IA
- IA générative
- Mode d’adoption
- Outil ou plateforme standard
- Objectif
- Productivité et rapidité
- Type de preuve
- Déclaration de l’entreprise
Sources
Résumés des sources
Citant le Guardian, Futurism a rapporté que l’agent avait utilisé ChatGPT pour un rapport destiné au tribunal et l’avait peut-être employé dans environ 100 autres documents. L’OVIC a ordonné au ministère d’interdire l’utilisation de l’outil à ses agents. L’agent avait quitté le ministère.
Un parlementaire a demandé si le ministère s’était conformé à la directive de l’OVIC sur l’IA générative. La ministre a déclaré que le ministère avait lui-même saisi l’OVIC et mettait en œuvre ses recommandations.
Les informations complètes figurent dans les sources d’origine.
