인도공공2016 – 진행 중텔랑가나 주정부
복지 수급 자격 판별 알고리즘 사마그라 베디카
알자지라 조사에서 텔랑가나 복지 알고리즘이 검증 가능한 사례의 최소 7.5%에서 식량 카드를 잘못 박탈한 것으로 드러났다
문제
주정부는 식량 등 복지 제도에서 자격이 없거나 중복된 수급자를 걸러내려 했다. 데이터는 수십 개 부처 데이터베이스에 흩어져 있었다.
접근 방식
포시덱스 테크놀로지스가 만든 사마그라 베디카는 머신러닝으로 30개 넘는 정부 데이터베이스의 개인 정보를 맞춰 하나의 프로필로 묶는다. 2016년 경찰용으로 시작해 같은 해 식량안보 제도에 시범 적용됐고 2018년께 대부분의 주 복지 제도에 쓰였다. 공무원은 승인 전에 이 시스템을 확인해야 하며 실제로는 대부분 결과를 따른다.
주요 수치
시사점
공무원들은 대체로 알고리즘의 판단을 따랐지만, 법원 명령에 따른 재조사에서는 주정부가 태깅 오류율을 5% 미만이라고 주장했음에도 잘못된 수급 자격 박탈이 확인됐다. 재조사는 취소된 카드 일부만 다뤘고 주정부는 소스코드 공개를 거부했다.
분류
출처
출처 요약
알자지라는 포시덱스가 만든 시스템을 조사해 2014~2019년 식량 카드 186만 장 넘게 취소되고 신규 신청 142,086건이 반려됐다고 전했다. 기자들은 대법원이 명령한 재조사 자료로 반려된 카드의 최소 7.5%가 잘못 박탈됐다고 추정했다. 공무원들은 시스템을 옹호하며 오류가 5% 미만이라고 했고 소스코드 공개 요청은 거부했다.
옥스퍼드 인권 허브는 이 시스템이 30개 넘는 데이터베이스를 쓰는 신원 매칭 도구라고 설명하며 카드 186만 장 취소와 신청 142,086건 반려 수치를 인용했다. 업체와 주정부 모두 소스코드나 정확도 자료를 공개하지 않았고 공무원이 실제로는 결과를 따른다고 지적했다. 인권 우려를 제기한 2024년 국제앰네스티 조사도 언급했다.
자세한 내용은 원문에 있습니다.
