일본금융·보험2024 – 진행 중아오조라은행
사내 규정 질의를 위해 내부 데이터로 학습한 온프레미스 Aozora LLM
아오조라은행과 neoAI는 내부 데이터로 온프레미스 LLM을 학습시켜 이전 정확도의 130%를 달성했다고 밝혔다
문제
아오조라은행은 법인 및 소매 금융의 사내 용어와 사무 규정을 이해하는 모델을 원했다. 클라우드 API 모델은 은행의 데이터 보안 요건을 충족하지 못했다.
접근 방식
아오조라은행과 neoAI는 오픈소스 LLM 위에 온프레미스 플랫폼을 구축했다. 은행의 내부 데이터로 사전 학습을 이어 갔다. 이 모델의 가칭은 Aozora LLM이다. 사무 규정에 관한 질문으로 구성하고 은행 문서에 대한 검색을 사용하는 내부 벤치마크로 시험했다.
주요 수치
130%추가 사전 학습 전 수준과 비교한 은행 내부 벤치마크의 어려운 질문 정확도, 두 회사 발표 기준
시사점
결과는 두 회사가 직접 만든 벤치마크에서 나온 것이다. 보도자료에는 실제 운영 개시 시점이 나와 있지 않다.
분류
출처
출처 요약
[1]ASCII.jp2025년 4월 17일
아오조라은행과 neoAI의 온프레미스 LLM에 관한 보도자료를 다시 실은 기사다. 내부 벤치마크에서 이전 정확도의 130%를 기록했다고 보도하고, 사내 용어와 대출 상품 구조 인식이 나아진 점을 설명했다. 다음 과제는 정확도를 더 높이는 일과 법인 금융 활용이다.
자세한 내용은 원문에서 확인하실 수 있습니다.
등록일 2026년 11월 2일 · 수정일 2026년 11월 2일