갈림길 같은 목표, 다른 선택

상담사 지원에 AI를 쓴 곳은 모두 도구를 계속 쓰고 있다. 챗봇이나 음성봇이 먼저 응대한 곳은 결과가 엇갈렸다. AI를 이유로 상담 인력을 줄인 다섯 곳 가운데 클라르나, 커먼웰스은행, KB국민은행은 감축의 일부를 되돌렸고, 세일즈포스와 MONETA는 AI가 업무를 계속 맡고 있다고 밝혔다.

두 방식 모두 대부분 계속 운영되고 있다. 운영을 멈춘 곳은 뉴욕시의 MyCity 하나로, 사업자의 법률 질문에 답을 생성했고 일부 답변은 시 법규에 어긋났다.

드라이브스루 음성 주문은 결과가 엇갈렸다. 맥도날드는 IBM과의 시험을 끝낸 뒤 다른 시스템을 시험했고, 타코벨은 AI 혼자 주문을 받을 곳을 다시 검토하기 시작했다. 전화 주문 사례는 아직 적고 모두 운영 중이다.

할인 폭 결정에 AI를 쓴 소매업체 네 곳은 모두 계속 쓰고 있다. 정상 가격에 쓴 AI는 결과가 엇갈렸다. 아마존, 인스타카트, 그레이스타는 규제 당국, 연구 결과, 소송이 고객이나 세입자에게 매긴 가격을 문제 삼은 뒤 중단했고, 질로는 모델이 정한 가격에 사들인 주택에서 손실을 보고 주택 매입 사업을 접었다.

AI 생성 이미지를 관객에게 그대로 보여 준 곳은 대부분 비판을 받고 내리거나 교체했다. AI가 쓴 홍보 문구는 대부분 계속 쓰였지만 두 건은 철회됐다. AI를 기획에만 쓰고 최종 작업은 사람이 한 곳은 모두 계속 진행했다.

합성 음성을 청중에게 그대로 들려준 네 곳 가운데 세 곳이 비판을 받고 물러섰다. 프라임 비디오는 일부 애니메이션 더빙을 내렸고, 스코트레일은 논란이 된 AI 안내 음성을 바꿨으며, OFF 라디오 크라쿠프는 일주일도 안 돼 AI 진행자 실험을 끝냈다. 글 번역에 쓴 AI는 대부분 계속 쓰이고 있다. 11비트 스튜디오는 게임에 남은 AI 번역을 전문 번역가에게 다시 맡겼다.

알디와 세인즈버리, 아마존은 식료품 매장에서 무인 계산 기술을 걷어냈다. 콘줌 플러스와 자브카는 무인 매장을 계속 운영하고 있다. 기존 계산대나 카트에 AI를 더한 소매업체는 이를 계속 쓰거나 늘렸다.

개인정보 검토 없이 여러 매장에 얼굴 인식을 설치한 소매업체 네 곳은 모두 감독기관의 불리한 판단을 받았다. 다만 버닝스에 대한 판단은 이후 심판소에서 뒤집혔다. 뉴질랜드 개인정보보호위원회는 푸드스터프스 노스아일랜드의 시범 운영을 조사한 뒤 보호 장치가 충분하다고 판단했다.

범죄 예측이나 인물 지목에 AI를 쓴 경찰은 모두 사용을 멈췄고, 대부분 감사나 검토에서 효과가 의문시된 뒤였다. 확보한 자료 분석과 서류 작업에 쓴 도구는 대부분 계속 쓰이고 있다. 다만 웨스트미들랜즈 경찰의 코파일럿 오류에서 보듯 결과 확인은 여전히 필요하다.

클리어뷰를 시험한 경찰 네 곳은 모두 사용을 멈췄고, 그중 세 곳은 개인정보 감독기관에서 위반 판단을 받았다. 거리 카메라 대조는 결과가 엇갈렸다. 사우스웨일스와 부에노스아이레스에서는 법원이 제동을 걸었고, 런던은 카메라를 계속 쓰고 있다. 국가가 보유한 기록과 대조하는 방식은 세 곳 중 두 곳에서 계속됐다.

여기 있는 위험 점수 도구 가운데 지금까지 쓰이는 것은 없다. 기록 작성과 검색 도구는 대부분 계속 쓰이고 있다. 빅토리아주에서는 담당자가 챗GPT로 법원 보고서 초안을 쓴 일 뒤에 개인정보 감독기관이 아동보호 직원의 생성형 AI 사용을 금지시켰다.

범용 AI 자문을 쓴 병원 사업 세 건(MD 앤더슨, 뢴 클리니쿰, 버밍엄의 바빌론 서비스)은 모두 중단됐다. 의사의 진료 기록을 점검하거나 원격진료에서 진단을 제안하는 최근 두 사례는 운영 중이라고 밝혔다. 한 가지 업무용 도구는 대부분 계속 쓰이고 있으며, 엡섬·세인트헬리어 병원의 도구는 시범 사업 예산이 끝나면서 멈췄다. 병원이 제공한 도구로 기록 초안을 만드는 방식은 계속 쓰이고 있고, 실패한 한 건은 의사가 공개 챗봇을 쓴 경우였다.

부정행위 감시에 AI를 쓴 다섯 곳 가운데 네 곳이 정확도, 개인정보, 공정성 문제로 사용을 중단하거나 제한했다. 교사가 확인하는 채점과 AI 튜터는 대부분 계속 쓰이고 있다. 한국의 AI 디지털교과서는 한 학기 만에 교과서 지위를 잃었다.

일반 노선의 자율주행 버스는 모두 끝나거나 중단됐고, 예산, 공급업체, 승객이 사라진 것이 이유인 경우가 많았다. 항만, 광산, 공항처럼 닫힌 부지 안에서는 자율주행 차량이 대부분 계속 운행되고 있다. 장소 사이 배송 다섯 건 가운데 세 건은 중단되거나 축소됐고, 정해진 노선을 달린 무인 트럭은 계속 운행되고 있다.

라이더와 기사의 근무, 배달 시간, 계정 접근을 알고리즘이 정한 곳은 이탈리아와 네덜란드에서 과징금을 받았고, 메이퇀은 언론 보도 뒤 배달 시간 기준을 완화했다. 경로와 적재를 계획한 알고리즘은 계속 쓰이고 있다.

일상 발주와 생산에 예측을 쓴 곳은 모두 계속 쓰고 있다. 실패한 두 곳은 예측에 큰 결정을 맡긴 경우였다. 질로는 모델이 정한 가격에 주택을 사들였다가 사업을 접었고, 스시로는 판촉 상품이 품절돼 광고 관련 행정 처분을 받았다.

이 사례들에서 법원 제재는 모두 제출 전에 아무도 확인하지 않은 인용에서 비롯됐다. 도구를 골라 전사 도입한 로펌은 업무 시간이 줄었다고 밝혔다. 그러나 모건앤드모건 변호사들은 로펌 자체 AI 도구가 지어낸 판례 때문에 벌금을 받았다.

복지 수급자 개인에게 점수를 매긴 모델은 네덜란드, 프랑스, 스웨덴, 덴마크에서 중단되거나 차별 문제로 이의 제기를 받았다. 영국 노동연금부는 복지 선지급 신청 점수 모델이 위험 표시 건을 사람이 검토하는 방식으로 작동한다고 밝혔다. 세금 신고와 사업주 보험료 납부에 점수를 매긴 벨기에, 프랑스, 스페인의 모델은 계속 쓰이고 있다. 호주의 경비 공제 모델은 감사에서 관리 체계를 지적받았다.

두 방식 모두 대부분 계속 쓰이고 있다(기업 스스로 밝힌 내용 기준). 중단된 평가 도구 세 건은 직무와 무관한 기준으로 사람을 판단했다. 아마존의 도구는 여성에게 낮은 점수를 주도록 학습했고, 아이튜터그룹은 나이 든 지원자를 자동 탈락시켰으며, 리쿠나비는 학생의 입사 제안 거절 가능성 예측을 판매했다.

고객의 사진, 녹음, 대화로 모델을 학습시킨 여섯 곳 가운데 네 곳이 규제 당국의 조치를 받아 과징금을 내거나 데이터·모델을 삭제하거나 서비스를 닫았다. 생성한 학습 데이터나 회사 자체 기록을 쓴 곳에서는 이런 조치가 없었다. 라이온스게이트의 자사 전용 영상 모델은 저작권 문제가 풀리지 않은 채 난관에 부딪혔다.

직원이 공개 챗봇을 업무에 쓴 다섯 곳은 모두 사용을 중단하거나 제한했다. 자체 보안 비서를 제공한 곳은 대부분 계속 쓰고 있다. 소시에테제네랄은 직원들이 SoGPT가 상용 서비스보다 뒤처진다고 느끼자 운영을 끝냈다.

AI가 기사 전체를 만든 언론사 아홉 곳 가운데 일곱 곳이 기사를 내리거나 정정하거나 작업을 멈췄다. 일 폴리오는 AI 제작임을 밝힌 특별판을 계획한 한 달 동안 발행했고, 네트워크18은 사람의 감독 아래 AI 경기 기사를 계속 내고 있다. 기자가 사실을 취재하고 AI가 초안과 태그를 도운 언론사는 도구를 계속 쓰고 있다.

고객이나 독자에게 나가는 글을 AI로 쓴 여덟 곳 가운데 일곱 곳이 글을 철회·정정하거나 수수료를 돌려주거나 노조 중재에서 졌다. PwC는 AI로 초안을 만든 고객 분석이 효과가 있었다고 밝혔다. 직원의 자료 검색과 요약에 AI를 쓴 곳은 모두 계속 쓰고 있다.