EUAServiços profissionais2023 – em andamentoGunderson Dettmer
ChatGD, aplicativo interno de IA generativa
Quase metade dos funcionários da Gunderson Dettmer experimentou o aplicativo interno de IA em até 4 meses
Problema
A Gunderson Dettmer, escritório de advocacia internacional sediado no Vale do Silício, tinha mais de 400 advogados. Queria que eles aprendessem a usar modelos de linguagem de grande porte em documentos de clientes, sem expor material confidencial a chatbots públicos.
Abordagem
A Gunderson Dettmer lançou o ChatGD em agosto de 2023, depois que sua equipe de engenharia jurídica o criou com modelos corporativos da OpenAI no Microsoft Azure. Os advogados podiam fornecer contratos como material de referência por meio de geração aumentada por recuperação e precisavam concluir um treinamento antes de usar o aplicativo. Em dezembro de 2023, o escritório acrescentou um roteamento que envia tarefas simples de recuperação a modelos mais baratos e resumos longos a um modelo GPT-4 com janela de contexto maior. Planejava ainda conectar o aplicativo ao seu sistema de gestão de documentos.
Números principais
Lição
O escritório esperava manter baixos os custos de operação ao hospedar um modelo de embeddings de código aberto e atribuir tarefas mais simples a modelos mais baratos, sem contar os custos internos de engenharia. Seu diretor de inovação tratou o projeto como um exercício de aprendizado e disse que um trabalho jurídico confiável e de maior valor exigia mais engenharia.
Categorias
- Função empresarial
- Trabalho interno e gestão do conhecimentoFinanças, riscos e jurídico
- Tipo de inovação
- Organização e práticas de trabalhoInovação de processos
- Tecnologia de IA
- IA generativa
- Forma de adoção
- Desenvolvimento interno
- Evidência
- Declaração da própria empresa
Fontes
Resumos das fontes
A Gunderson Dettmer lançou o ChatGD como sua primeira ferramenta interna de IA, depois de anos usando produtos de terceiros. O aplicativo usava modelos corporativos seguros da OpenAI no Microsoft Azure e geração aumentada por recuperação, com grande parte do software extraída de componentes de código aberto. O escritório definiu diretrizes internas de IA para proteger a confidencialidade dos clientes e a qualidade do trabalho.
O repórter de tecnologia jurídica Bob Ambrogi informou que a Gunderson Dettmer, escritório internacional com mais de 400 advogados, lançou o ChatGD. Descreveu-o como aparentemente o primeiro escritório de advocacia sediado nos EUA a criar sua própria ferramenta interna de IA generativa. Explicou como o aplicativo recuperava o material de referência e por que o escritório decidiu criá-lo.
A Gunderson Dettmer disse ao LawSites que quase metade de seus funcionários havia experimentado o ChatGD nos primeiros 4 meses e enviado mais de 9.000 comandos. O treinamento era obrigatório, e mais da metade dos funcionários participou ao vivo. O escritório projetou custos anuais inferiores a US$ 10.000, sem contar a engenharia interna, ao hospedar seu próprio modelo de embeddings e usar modelos mais baratos. Novos recursos de roteamento atribuíam os comandos aos modelos conforme a tarefa.
Os detalhes completos estão disponíveis nas fontes originais.