AustráliaEducação2023 – em andamentoDepartamento de Educação da Austrália Meridional (South Australia Department for Education)
Chatbot escolar EdChat com controles de segurança de conteúdo
Austrália Meridional testa EdChat em oito escolas de ensino secundário com cerca de 1.500 alunos e 150 professores
Problema
A IA generativa poderia ajudar alunos e professores, mas o departamento precisava proteger os estudantes de conteúdo prejudicial ou inadequado antes de usar a tecnologia nas salas de aula.
Abordagem
O departamento desenvolveu o EdChat com a Microsoft e usou o Azure AI Content Safety para detectar e bloquear conteúdo prejudicial. O órgão controla como o sistema é treinado para moderar conteúdo, e os diretores das escolas decidiram a abrangência do uso. Um teste de oito semanas foi realizado em oito escolas de ensino secundário.
Números principais
Lição
O departamento considerou o EdChat seguro para uso escolar após o teste e planejava ajustar os controles para diferentes grupos de alunos à medida que ampliasse o uso. Cerca de 20% dos alunos participantes usaram a ferramenta ativamente.
Categorias
- Porte
- Grande empresa
- Setor
- Educação
- Função empresarial
- Trabalho interno e gestão do conhecimento
- Tipo de inovação
- Inovação de produtos e serviços
- Tecnologia de IA
- IA generativaIA conversacional e de voz
- Forma de adoção
- Codesenvolvimento com parceiros
- Objetivo
- Qualidade e riscos
- Evidência
- Caso de cliente do fornecedor
Fontes
Resumos das fontes
A Microsoft descreve o teste do EdChat pelo departamento e o uso de filtragem de conteúdo para proteger os alunos. Informa a dimensão do teste e a parcela dos estudantes que usou o chatbot.
Os detalhes completos estão disponíveis nas fontes originais.
