AustralienBildung2023 – laufendBildungsministerium von South Australia (South Australia Department for Education)
Schul-Chatbot EdChat mit Schutzmechanismen gegen schädliche Inhalte
South Australia erprobt EdChat an acht weiterführenden Schulen mit rund 1.500 Schülern und 150 Lehrkräften
Ausgangslage
Generative KI könnte Schüler und Lehrkräfte unterstützen. Vor dem Einsatz im Unterricht musste das Ministerium jedoch sicherstellen, dass Schüler keinen schädlichen oder unangemessenen Inhalten ausgesetzt werden.
Vorgehen
Das Ministerium entwickelte EdChat gemeinsam mit Microsoft und setzte Azure AI Content Safety ein, um schädliche Inhalte zu erkennen und zu blockieren. Es steuert, wie das System zur Moderation von Inhalten trainiert wird. Die Schulleitungen entschieden über den Umfang des Einsatzes. An acht weiterführenden Schulen fand ein achtwöchiger Versuch statt.
Kennzahlen
Erkenntnis
Das Ministerium stufte EdChat nach dem Versuch als sicher für den Schuleinsatz ein und plante, die Schutzmechanismen bei der Ausweitung auf unterschiedliche Schülergruppen abzustimmen. Rund 20 % der teilnehmenden Schüler nutzten das System aktiv.
Kategorien
- Größe
- Großunternehmen
- Branche
- Bildung
- Unternehmensfunktion
- Interne Abläufe und Wissensmanagement
- Innovationsart
- Produkt- und Dienstleistungsinnovation
- KI-Technologie
- Generative KIDialog- und Sprach-KI
- Einführung
- Gemeinsame Entwicklung mit Partnern
- Nachweis
- Fallstudie des Anbieters
Quellen
Quellenzusammenfassungen
Microsoft beschreibt den EdChat-Versuch des Ministeriums und den Einsatz von Inhaltsfiltern zum Schutz der Schüler. Genannt werden der Umfang des Versuchs und der Anteil der Schüler, die den Chatbot nutzten.
Ausführliche Angaben finden Sie in den Originalquellen.
