미국금융·보험2024 – 진행 중JP모간체이스
사내 생성형 AI 플랫폼 'LLM 스위트'
JP모간의 사내 AI 플랫폼은 의무화 없이 8개월 만에 직원 20만 명이 쓰게 됐다
문제
JP모간체이스는 직원들이 대형 언어모델을 업무에 쓰기를 원했다. 다만 회사 도구가 없으면 직원들이 일반 소비자용 AI 서비스를 쓰면서 민감한 데이터가 밖으로 나갈 위험이 있었다.
접근 방식
은행은 2024년 여름 자체 플랫폼 LLM 스위트를 공개했다. 대상 직원은 보안 환경 안에서 외부 대형 언어모델을 문서 작성, 요약, 아이디어 구상에 쓸 수 있다. 사용은 의무화하지 않고 직원 선택에 맡겼다. 플랫폼은 약 8주마다 사내 데이터와 소프트웨어 연결을 늘리며 갱신되고, 여러 단계 업무를 처리하는 에이전트도 이 위에서 만들기 시작했다.
주요 수치
시사점
직원들이 자발적으로 도구를 쓰면서 빠르게 확산됐고, 은행이 운영 인력 감소를 예상하면서 직무 재설계가 경영 과제가 됐다. 은행은 측정된 생산성 성과를 공개하지 않았다.
분류
- 규모
- 대기업
- 산업
- 금융·보험
- 경영 기능
- 사내 업무·지식관리전략·조직
- 혁신 유형
- 조직·일하는 방식 혁신
- AI 기술
- 생성형 AI
- 도입 방식
- 자체 개발
- 목표
- 생산성·속도
- 근거
- 회사 발표
출처
출처 요약
JP모간은 LLM 스위트가 아메리칸뱅커의 2025년 올해의 혁신상을 받았다고 밝혔다. 2024년 여름 대상 직원에게 공개된 뒤 8개월 만에 사용자 20만 명을 확보했다고 밝혔다. 직원들은 문서 초안 작성과 아이디어 구상에 쓰고 있으며, 은행은 더 많은 사내 데이터를 연결하고 에이전트를 만들 계획이다.
AI뉴스는 JP모간이 보안과 통제를 위해 자체 시스템을 만들었다고 전했다. LLM 스위트가 출시 8개월 만에 사용자 약 20만 명에 이르렀다고 전하고, 자율 도입 방식이 '입소문 확산'을 이끌었다는 데릭 월드론 최고분석책임자의 말을 인용했다. 직원의 절반에 조금 못 미치는 인원이 매일 생성형 AI 도구를 쓴다는 그의 맥킨지 인터뷰 발언과, 운영 인력이 최소 10% 줄 것이라는 은행 전망도 소개했다.
데릭 월드론의 CNBC 인터뷰를 바탕으로, LLM 스위트가 은행 데이터베이스와 소프트웨어의 정보를 담아 8주마다 갱신되며 JP모간이 AI 중심 기업을 목표로 한다고 전한다. 월드론은 AI의 이론상 능력과 실제 성과 사이의 격차 때문에 전환에 수년이 걸릴 것이라고 말했다. 시연에서는 투자은행 발표 자료를 약 30초 만에 만들어 보였다.
자세한 내용은 원문에 있습니다.