미국전문 서비스2023 – 진행 중건더슨 데트머
자체 개발 생성형 AI 앱 'ChatGD'
건더슨 데트머 구성원 절반 가까이가 넉 달 안에 자체 AI 앱을 써 봤다
문제
실리콘밸리에 본사를 둔 국제 로펌 건더슨 데트머에는 변호사가 400명 넘게 있었다. 로펌은 기밀 자료를 공개 챗봇에 보내지 않으면서 변호사들이 고객 문서에 대규모 언어모델을 활용하는 법을 익히게 하려 했다.
접근 방식
건더슨 데트머는 사내 법률 기술팀이 마이크로소프트 애저의 기업용 오픈AI 모델로 개발한 ChatGD를 2023년 8월 출시했다. 변호사는 검색증강생성(RAG) 기능으로 계약서를 참고 자료로 제공할 수 있었으며, 앱을 쓰기 전에 교육을 이수해야 했다. 2023년 12월에는 단순 검색을 저렴한 모델에, 긴 요약을 더 많은 문맥을 처리하는 GPT-4 모델에 배정하는 기능을 추가했다. 문서관리시스템과의 연동도 계획했다.
주요 수치
시사점
로펌은 오픈소스 임베딩 모델을 직접 운영하고 단순한 작업을 저렴한 모델에 맡겨 운영비를 낮출 것으로 예상했으며, 내부 개발 인건비는 계산에서 제외했다. 혁신 책임자는 이 사업을 학습 과정으로 봤고, 고부가가치 법률 업무에 안정적으로 쓰려면 추가 개발이 필요하다고 밝혔다.
분류
- 규모
- 중견·성장기업
- 산업
- 전문 서비스
- 경영 기능
- 사내 업무·지식관리재무·리스크·법무
- 혁신 유형
- 조직·일하는 방식 혁신프로세스 혁신
- AI 기술
- 생성형 AI
- 도입 방식
- 자체 개발
- 근거
- 회사 발표
출처
출처 요약
건더슨 데트머는 수년간 외부 AI 제품을 사용한 뒤 처음 자체 개발한 AI 도구로 ChatGD를 출시했다. 앱은 마이크로소프트 애저의 보안 기업용 오픈AI 모델과 검색증강생성을 사용했고, 소프트웨어 상당 부분을 오픈소스로 구성했다. 로펌은 고객 기밀과 업무 품질을 보호하기 위해 사내 AI 지침을 마련했다.
법률 기술 전문 기자 밥 앰브로지는 변호사가 400명 넘는 국제 로펌 건더슨 데트머의 ChatGD 출시를 보도했다. 미국 로펌 중 사내용 생성형 AI 도구를 직접 만든 첫 사례로 보인다고 평가했다. 앱의 참고 자료 검색 방식과 자체 개발을 택한 이유도 설명했다.
건더슨 데트머는 LawSites에 출시 후 넉 달 동안 구성원 절반 가까이가 ChatGD를 써 봤고 프롬프트를 9,000건 넘게 입력했다고 밝혔다. 교육은 필수였고 구성원 절반 넘게 실시간 교육에 참석했다. 로펌은 임베딩 모델을 직접 운영하고 저렴한 모델을 사용해 내부 개발 인건비를 제외한 연간 비용이 1만 달러 미만일 것으로 예상했다. 새 배정 기능은 작업에 따라 프롬프트를 다른 모델로 보냈다.
자세한 내용은 원문에 있습니다.