호주헬스케어·바이오2023사우스 메트로폴리탄 보건서비스
ChatGPT를 활용한 진료 문서 작성
의사가 퇴원 요약서를 생성하자 사우스 메트로폴리탄 보건서비스가 환자 정보가 걸린 ChatGPT 사용을 중단시켰다
문제
퍼스의 이 보건서비스는 행정 업무의 효율을 높이려 했다. 한 의사가 AI 챗봇으로 환자 퇴원 요약서를 생성했다.
접근 방식
2023년 5월 8일 최고경영자 폴 포든은 환자 정보 또는 민감할 수 있는 보건서비스 정보가 걸린 AI 사용을 즉시 중단하라는 이메일을 직원들에게 보냈다. 그는 환자 기밀을 보장할 수 없고 보안 위험도 충분히 파악되지 않았다고 밝혔다. 이후 서비스 측은 이 사안이 의사 1명에 관한 것이며 입력 내용에 식별 가능한 환자 정보는 없었고 기밀이 유출됐다고 볼 근거도 없다고 설명했다. 포든은 이번 제한이 승인되지 않은 사용에 관한 것이며 승인된 다른 AI 프로젝트는 계속된다고 밝혔다.
주요 수치
시사점
의사가 보건서비스가 임상 정보 취급을 승인하기 전에 공개 챗봇을 사용했다. 서비스는 해당 업무 방식을 제한하면서도 조직의 감독 아래 진행되는 별도의 AI 프로젝트는 이어갔다.
분류
- 규모
- 대기업
- 산업
- 헬스케어·바이오
- 경영 기능
- 생산·품질사내 업무·지식관리
- 혁신 유형
- 프로세스 혁신
- AI 기술
- 생성형 AI
- 도입 방식
- 플랫폼·범용 도구 활용
- 목표
- 생산성·속도
- 근거
- 언론 취재
출처
출처 요약
해당 매체는 5월 8일자 지시문을 입수하고 최고경영자 폴 포든을 인터뷰했다. 포든은 의사 1명이 식별 가능한 환자 정보를 입력하지 않고 퇴원 요약서를 생성했다고 밝혔다. 그는 이번 제한을 예방 차원의 조치라고 설명하며 다른 AI 프로젝트는 계속된다고 말했다.
ABC는 직원들에게 환자 또는 민감한 서비스 정보가 걸린 AI 사용을 중단하라고 지시한 이메일을 입수했다. 보도에는 의사 1명이 퇴원 요약서에 이 도구를 썼고 환자 기밀 침해는 없었다는 서비스 측 설명이 담겼다.
자세한 내용은 원문에서 확인하실 수 있습니다.
