미국금융·보험2025 – 진행 중나스닥
전사 생성형 AI 플랫폼의 GPU 임베딩
나스닥은 직원 8,100명이 써 본 AI 플랫폼에 GPU 임베딩을 실제 운영 단계로 올렸다
문제
나스닥의 생성형 AI 플랫폼은 임베딩 비용이 높고 검색이 느렸다. 직원들이 일상 업무에 쓰기 시작하면서 믿을 만한 답이 필요했다.
접근 방식
엔지니어링팀은 해커톤에서 자체 호스팅 GPU 임베딩을 시험했다. 이후 NVIDIA NeMo Retriever와 NIM으로 이를 운영 환경의 기본 임베딩 소스로 삼았다.
주요 수치
8,100나스닥 엔지니어링 책임자가 밝힌 플랫폼을 써 본 직원
시사점
팀은 기존 직원용 플랫폼 안에서 검색 인프라를 바꿨다. 공개된 이용자 수는 정기적으로 쓰는 이용자가 아니라 써 본 사람의 수다.
분류
- 규모
- 중견·성장기업
- 산업
- 금융·보험
- 경영 기능
- 사내 업무·지식관리IT·R&D
- 혁신 유형
- 프로세스 혁신
- AI 기술
- 생성형 AI
- 도입 방식
- 플랫폼·범용 도구 활용
- 근거
- 회사 발표
출처
출처 요약
[1]NVIDIA2025년 3월
나스닥 엔지니어링 책임자 에릭 라이저는 해커톤 실험에서 운영 단계 GPU 임베딩으로 옮겨간 과정을 설명했다. 직원 8,100명이 플랫폼을 써 봤고 수천 명이 정기적으로 쓴다고 말했다.
자세한 내용은 원문에서 확인하실 수 있습니다.
등록일 2026년 11월 1일 · 수정일 2026년 11월 1일