Reino UnidoSaúde e ciências da vida2024 – em andamentoNHS England
Ferramenta de moderação automática do NHS.UK Reviews
NHS England automatizou a moderação de avaliações de pacientes e depois desativou a ferramenta
Problema
As avaliações de pacientes sobre os serviços do NHS enviadas ao NHS.UK precisavam ser verificadas por funcionários antes da publicação, inclusive para identificar reclamações, menções a autolesão e nomes de pessoas.
Abordagem
O NHS England usou processamento de linguagem natural para verificar as avaliações antes da publicação. Atualizou sua avaliação de proteção de dados em fevereiro de 2024 para a mudança da moderação manual para a automatizada e publicou taxas de erro de quatro modelos de detecção. Posteriormente, passou a listar a ferramenta como desativada, sem informar motivo ou data.
Números principais
Lição
O NHS England desativou uma ferramenta para a qual havia publicado resultados de detecção de quatro modelos. Como não informou o motivo, esses resultados não explicam a decisão de encerrar seu uso.
Categorias
- Porte
- Grande empresa
- Função empresarial
- Produção e qualidade
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e ML
- Forma de adoção
- Desenvolvimento interno
- Evidência
- Declaração da própria empresa
Fontes
Resumos das fontes
O NHS England publicou taxas de falsos positivos e falsos negativos, sensibilidade e precisão de quatro modelos usados para moderar avaliações de pacientes. O modelo de detecção de autolesão apresentou sensibilidade de 0,99 e precisão de 0,85, enquanto o de detecção de reclamações teve sensibilidade de 0,85 e precisão de 0,87. O NHS England listou a ferramenta como desativada sem explicar o motivo.
Os detalhes completos estão disponíveis nas fontes originais.
