MỹDịch vụ chuyên môn2023 – đang tiếp diễnGunderson Dettmer
ChatGD: ứng dụng AI tạo sinh nội bộ
Gần 1/2 nhân sự của Gunderson Dettmer đã dùng thử ứng dụng AI nội bộ trong vòng 4 tháng
Vấn đề
Gunderson Dettmer, hãng luật quốc tế có trụ sở tại Thung lũng Silicon, có hơn 400 luật sư. Hãng muốn họ làm quen với việc dùng các mô hình ngôn ngữ lớn trên tài liệu của khách hàng, đồng thời giữ tài liệu mật không đưa lên các chatbot công cộng.
Cách tiếp cận
Gunderson Dettmer ra mắt ChatGD vào tháng 8/2023 sau khi nhóm kỹ sư pháp lý của hãng xây dựng ứng dụng bằng các mô hình OpenAI dành cho doanh nghiệp trên Microsoft Azure. Luật sư có thể đưa các hợp đồng vào làm tài liệu tham chiếu thông qua kỹ thuật sinh văn bản có truy xuất (RAG), và phải hoàn thành khóa đào tạo trước khi dùng ứng dụng. Tháng 12/2023, hãng bổ sung tính năng định tuyến, chuyển các tác vụ truy xuất đơn giản sang mô hình rẻ hơn và các bản tóm tắt dài sang một mô hình GPT-4 có cửa sổ ngữ cảnh lớn hơn. Hãng cũng dự định kết nối ứng dụng với hệ thống quản lý tài liệu.
Số liệu chính
Bài học
Hãng kỳ vọng giữ chi phí vận hành thấp nhờ tự lưu trữ một mô hình embedding mã nguồn mở và giao các tác vụ đơn giản cho các mô hình rẻ hơn, chưa tính chi phí kỹ thuật nội bộ. Giám đốc đổi mới của hãng coi dự án là một bài học kinh nghiệm và cho biết công việc pháp lý giá trị cao hơn và đáng tin cậy cần thêm công sức kỹ thuật.
Phân loại
- Ngành
- Dịch vụ chuyên môn
- Chức năng kinh doanh
- Công việc nội bộ và quản lý tri thứcTài chính, rủi ro và pháp chế
- Loại hình đổi mới
- Đổi mới tổ chức và phương thức làm việcĐổi mới quy trình
- Công nghệ AI
- AI tạo sinh
- Hình thức triển khai
- Tự phát triển
- Căn cứ
- Công bố của doanh nghiệp
Nguồn
Tóm tắt nguồn
Gunderson Dettmer ra mắt ChatGD là công cụ AI nội bộ đầu tiên của hãng sau nhiều năm dùng sản phẩm bên ngoài. Ứng dụng dùng các mô hình OpenAI bảo mật dành cho doanh nghiệp trên Microsoft Azure và kỹ thuật sinh văn bản có truy xuất, với phần lớn phần mềm lấy từ các thành phần mã nguồn mở. Hãng đặt ra hướng dẫn nội bộ về AI để bảo vệ bí mật của khách hàng và chất lượng công việc.
Phóng viên công nghệ pháp lý Bob Ambrogi cho biết Gunderson Dettmer, hãng quốc tế với hơn 400 luật sư, đã ra mắt ChatGD. Ông mô tả đây dường như là hãng luật đầu tiên có trụ sở tại Hoa Kỳ tự xây dựng công cụ AI tạo sinh nội bộ. Ông giải thích cách ứng dụng truy xuất tài liệu tham chiếu và lý do hãng chọn tự xây dựng.
Gunderson Dettmer nói với LawSites rằng gần 1/2 nhân sự đã dùng thử ChatGD trong 4 tháng đầu và gửi hơn 9.000 câu lệnh. Khóa đào tạo là bắt buộc, và hơn 1/2 nhân sự tham dự trực tiếp. Hãng dự kiến chi phí hằng năm dưới 10.000 đô la, chưa tính chi phí kỹ thuật nội bộ, nhờ tự lưu trữ mô hình embedding và dùng các mô hình rẻ hơn. Các tính năng định tuyến mới phân bổ câu lệnh cho từng mô hình theo loại tác vụ.
Thông tin đầy đủ có trong tài liệu gốc.