Departamento de Famílias, Equidade e Habitação de Victoria (Department of Families, Fairness and Housing)

Problema

Um profissional de proteção à infância usou o ChatGPT para redigir um relatório de pedido de proteção destinado à Justiça. O texto gerado apresentou uma boneca sexual que o pai da criança teria usado como um ponto positivo dos esforços dos pais.

Abordagem

O Gabinete do Comissário de Informação de Victoria (Office of the Victorian Information Commissioner, OVIC) determinou que o departamento proibisse seus funcionários de usar a ferramenta; um parlamentar da oposição citou o prazo de 24 de setembro de 2024 para os profissionais de proteção à infância. O departamento constatou que o profissional pode ter usado o ChatGPT em cerca de 100 outros documentos e que quase 900 funcionários acessaram o site do ChatGPT entre julho e dezembro de 2023.

Números principais

Lição

A ministra disse ao Parlamento que as recomendações do OVIC estavam sendo implementadas e que ferramentas de IA continuam em uso em outras áreas do departamento. Ela não garantiu que todos os documentos afetados haviam sido identificados.

Categorias

Porte

Grande empresa

Setor

Setor público

Função empresarial

Trabalho interno e gestão do conhecimento

Tipo de inovação

Inovação de processos

Tecnologia de IA

IA generativa

Forma de adoção

Ferramenta ou plataforma pronta para uso

Objetivo

Produtividade e agilidade

Evidência

Declaração da própria empresa

Fontes

1. Child welfare worker in trouble after using ChatGPT to submit bizarre report

   Futurism·2 de out. de 2024Notícia
2. Child protection question, 16 October 2024

   Parliament of Victoria (Legislative Council Hansard)·16 de out. de 2024Publicação governamental

Resumos das fontes

Os detalhes completos estão disponíveis nas fontes originais.