영국공공2016–2023에이번앤서머싯 경찰청과 브리스틀 시의회
아동 착취 위험 점수 모델
브리스틀은 직원들이 정확성에 의문을 제기하자 아동 착취 위험 모델 사용을 중단했다
문제
아동 보호 담당 직원들은 기관별로 따로 기록을 보유했고, 이를 개별적으로 볼 때는 착취의 징후가 드러나지 않을 수 있었다. 경찰과 시의회 직원들은 취약한 아동을 더 일찍 찾아내려 했다.
접근 방식
경찰은 싱크 패밀리 데이터베이스(Think Family Database)로 연결한 경찰·공공서비스 기록으로 머신러닝 위험 점수를 개발했다. 시의회 데이터를 제외한 뒤 직원들은 순위가 부정확하고 취약한 아동을 놓친다고 보고했다. 검토자들은 모델을 시험하는 데 필요한 소스 코드와 변수를 찾지 못했다. 두 착취 모델 모두 2023년 6월에는 사용이 중단된 상태였다.
주요 수치
공개된 수치 없음
시사점
시의회 데이터를 제외하자 모델의 쓸모가 달라졌다. 개발 기록이 없어 검토자들은 모델의 성능을 시험할 수 없었다.
분류
출처
출처 요약
[1]Liberty Investigates2026년 6월 25일
와이어드(WIRED)와 함께한 조사는 경찰의 예측 모델에 관한 기록과 인터뷰를 검토했다. 시의회 데이터 제외 이후 착취 점수에 대해 직원들이 제기한 우려, 개발 기록의 부재, 2023년 6월까지 이뤄진 모델 폐기를 보도했다.
자세한 내용은 원문에서 확인하실 수 있습니다.
등록일 2026년 11월 1일 · 수정일 2026년 11월 1일