AustralienÖffentlicher Sektor2023–2024Ministerium für Familien, Chancengerechtigkeit und Wohnungswesen in Victoria (Department of Families, Fairness and Housing)
ChatGPT-Einsatz durch eine Kinderschutzfachkraft für einen Gerichtsbericht
Datenschutzaufsicht in Victoria untersagt Kinderschutzpersonal 2024 nach einem mit ChatGPT verfassten Gerichtsbericht den Einsatz generativer KI
Ausgangslage
Eine Kinderschutzfachkraft nutzte ChatGPT, um einen Bericht für einen gerichtlichen Schutzantrag zu entwerfen. Die Ausgabe stellte eine Sexpuppe, die der Vater des Kindes Berichten zufolge benutzt hatte, als positiven Aspekt der Bemühungen der Eltern dar.
Vorgehen
Die Informationsaufsichtsbehörde von Victoria (Office of the Victorian Information Commissioner, OVIC) wies das Ministerium an, den Beschäftigten die Nutzung des Instruments zu untersagen. Ein Oppositionsabgeordneter nannte für das Kinderschutzpersonal eine Frist bis zum 24. September 2024. Nach Feststellungen des Ministeriums könnte die Fachkraft ChatGPT in rund 100 weiteren Dokumenten verwendet haben. Zwischen Juli und Dezember 2023 besuchten zudem nahezu 900 Beschäftigte die ChatGPT-Website.
Kennzahlen
Erkenntnis
Die Ministerin erklärte im Parlament, die Empfehlungen von OVIC würden umgesetzt und KI-Instrumente seien in anderen Bereichen des Ministeriums weiterhin im Einsatz. Sie garantierte nicht, dass sämtliche betroffenen Dokumente ermittelt worden waren.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Interne Abläufe und Wissensmanagement
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Generative KI
- Einführung
- Standardwerkzeug oder Plattform
- Nachweis
- Angabe des Unternehmens
Quellen
Quellenzusammenfassungen
Unter Berufung auf den Guardian berichtete Futurism, die Fachkraft habe ChatGPT für einen Gerichtsbericht und möglicherweise für rund 100 weitere Dokumente verwendet. OVIC wies das Ministerium an, den Beschäftigten die Nutzung des Instruments zu untersagen. Die Fachkraft hatte das Ministerium verlassen.
Ein Parlamentsmitglied fragte, ob das Ministerium der Anweisung von OVIC zu generativer KI nachgekommen sei. Die Ministerin erklärte, das Ministerium habe den Vorgang selbst gemeldet und setze die Empfehlungen von OVIC um.
Ausführliche Angaben finden Sie in den Originalquellen.
