AustraliaEducación2023 – en cursoDepartamento de Educación de Australia Meridional (South Australia Department for Education)
Chatbot escolar EdChat con controles de seguridad de contenidos
Australia Meridional prueba EdChat en ocho centros de secundaria con unos 1.500 alumnos y 150 docentes
Problema
La IA generativa podía ayudar a alumnos y docentes, pero el departamento debía impedir que los estudiantes accedieran a contenidos dañinos o inadecuados antes de utilizarla en las aulas.
Enfoque
El departamento desarrolló EdChat con Microsoft y utilizó Azure AI Content Safety para detectar y bloquear contenidos dañinos. Controla cómo se entrena el sistema para moderar los contenidos, y los directores de los centros decidieron el alcance de su uso. Se realizó una prueba de ocho semanas en ocho centros de secundaria.
Cifras clave
Conclusión
Tras la prueba, el departamento consideró que EdChat era seguro para su uso escolar y planeó ajustar los controles a distintos grupos de alumnos a medida que lo extendiera. Alrededor del 20% de los alumnos participantes lo utilizó de forma activa.
Categorías
- Tamaño
- Gran empresa
- Sector
- Educación
- Función empresarial
- Trabajo interno y gestión del conocimiento
- Tipo de innovación
- Innovación de productos y servicios
- Tecnología de IA
- IA generativaIA conversacional y de voz
- Adopción
- Desarrollo conjunto con socios
- Objetivo
- Calidad y riesgo
- Respaldo
- Caso de cliente del proveedor
Fuentes
Resúmenes de fuentes
Microsoft describe la prueba de EdChat del departamento y su uso de filtros de contenido para proteger a los alumnos. Facilita el tamaño de la prueba y la proporción de estudiantes que utilizó el chatbot.
La información completa figura en las fuentes originales.
