美國專業服務2023 – 進行中Gunderson Dettmer
自有生成式AI應用程式ChatGD
Gunderson Dettmer近半數員工在4個月內試用了自有的AI應用程式。
問題
總部位於矽谷的國際律師事務所Gunderson Dettmer有400多名律師。事務所希望他們學會在客戶文件上使用大型語言模型，同時避免機密資料進入公開的聊天機器人。
做法
Gunderson Dettmer的法律工程團隊以Microsoft Azure上的企業版OpenAI模型建置ChatGD，並於2023年8月推出。律師可透過檢索增強生成（RAG）提供合約作為參考資料，且必須先完成訓練才能使用該應用程式。2023年12月，事務所加入路由功能，將簡單的檢索任務交給較便宜的模型，將長篇摘要交給上下文視窗較大的GPT-4模型。事務所也計畫將該應用程式連接到文件管理系統。
主要數據
啟示
事務所預期，藉由自行部署開源嵌入模型，並把較簡單的任務交給較便宜的模型，營運成本可維持在低檔（不含內部工程成本）。其創新長將該專案視為學習過程，並表示要可靠地處理更高價值的法律工作，還需要更多工程投入。
分類
來源
來源摘要
在多年使用外部產品後，Gunderson Dettmer推出ChatGD，作為其首個自有AI工具。該應用程式使用Microsoft Azure上安全的企業版OpenAI模型及檢索增強生成，其軟體大量採用開源元件。事務所訂定內部AI準則，以保護客戶機密與工作品質。
法律科技記者鮑勃·安布羅吉（Bob Ambrogi）報導，擁有400多名律師的國際事務所Gunderson Dettmer推出ChatGD。他形容這似乎是美國第一家自行打造內部生成式AI工具的律師事務所，並說明該應用程式如何檢索參考資料，以及事務所為何選擇自行建置。
Gunderson Dettmer告訴LawSites，近半數員工在前4個月試用了ChatGD，並送出9,000多個提示詞。訓練為強制性，超過半數員工參加了即時授課的訓練。事務所預估，藉由自行部署嵌入模型並使用較便宜的模型，年成本低於1萬美元（不含內部工程）。新的路由功能依任務將提示詞分派給不同模型。
詳細內容請參閱原始資料。