Gunderson Dettmer
内部生成式AI应用ChatGD
Gunderson Dettmer近半数员工在四个月内试用了其内部AI应用
问题
总部位于硅谷的国际律师事务所Gunderson Dettmer拥有400多名律师。事务所希望他们学会在客户文件上使用大语言模型,同时不让机密材料进入公共聊天机器人。
方法
2023年8月,Gunderson Dettmer的法律工程团队基于Microsoft Azure上的企业级OpenAI模型构建了ChatGD并上线。律师可通过检索增强生成,把协议作为参考资料提供给它,且必须先完成培训才能使用该应用。2023年12月,事务所增加了路由功能,把简单的检索任务交给成本更低的模型,把长篇摘要交给上下文窗口更大的GPT-4模型。事务所还计划将该应用与文档管理系统对接。
主要数据
启示
事务所预计,通过自行托管开源嵌入模型,并把较简单的任务交给成本更低的模型,运营成本可保持在较低水平,其中不含内部工程成本。其创新负责人将该项目视为一次学习实践,并称要可靠地完成更高价值的法律工作,还需要更多工程投入。
分类
来源
来源摘要
Gunderson Dettmer在多年使用外部产品后,推出了首款内部AI工具ChatGD。该应用使用Microsoft Azure上安全的企业级OpenAI模型和检索增强生成,软件的大部分来自开源组件。事务所制定了内部AI准则,以保护客户机密和工作质量。
法律科技记者鲍勃·安布罗吉(Bob Ambrogi)报道称,拥有400多名律师的国际律所Gunderson Dettmer推出了ChatGD。他称这似乎是美国首家自建内部生成式AI工具的律所,并解释了该应用如何检索参考资料,以及事务所为何选择自建。
Gunderson Dettmer对LawSites表示,近半数员工在头四个月试用了ChatGD,提交了9,000多条提示词。培训为必修,过半员工参加了现场培训。事务所预计,通过自行托管嵌入模型并使用成本更低的模型,年成本低于1万美元,不含内部工程成本。新的路由功能按任务将提示词分派给不同模型。
详细内容请参阅原始来源。