Gunderson Dettmer
ChatGD, aplicación interna de IA generativa
Casi la mitad del personal de Gunderson Dettmer probó en 4 meses su aplicación interna de IA
Problema
Gunderson Dettmer, un despacho de abogados internacional con sede en Silicon Valley, contaba con más de 400 abogados. Quería que aprendieran a usar modelos de lenguaje de gran tamaño con documentos de clientes sin que el material confidencial acabara en chatbots públicos.
Enfoque
Gunderson Dettmer lanzó ChatGD en agosto de 2023, después de que su equipo de ingeniería jurídica lo creara con modelos empresariales de OpenAI en Microsoft Azure. Los abogados podían aportar contratos como material de referencia mediante generación aumentada por recuperación y debían completar una formación antes de usar la aplicación. En diciembre de 2023, el despacho añadió un enrutamiento para enviar las tareas sencillas de recuperación a modelos más baratos y los resúmenes largos a un modelo GPT-4 con una ventana de contexto mayor. También preveía conectar la aplicación a su sistema de gestión documental.
Cifras clave
Conclusión
El despacho esperaba mantener bajos los costes de funcionamiento alojando un modelo de incrustaciones de código abierto y asignando las tareas más sencillas a modelos más baratos, sin contar los costes internos de ingeniería. Su responsable de innovación consideró el proyecto un ejercicio de aprendizaje y señaló que un trabajo jurídico fiable y de mayor valor requería más ingeniería.
Categorías
- Sector
- Servicios profesionales
- Tipo de innovación
- Organización y prácticas de trabajoInnovación de procesos
- Tecnología de IA
- IA generativa
- Adopción
- Desarrollo propio
- Respaldo
- Declaración de la propia empresa
Fuentes
Resúmenes de fuentes
Gunderson Dettmer lanzó ChatGD como su primera herramienta interna de IA tras años de uso de productos externos. La aplicación empleaba modelos empresariales seguros de OpenAI en Microsoft Azure y generación aumentada por recuperación, y gran parte de su software procedía de componentes de código abierto. El despacho fijó directrices internas de IA para proteger la confidencialidad de los clientes y la calidad del trabajo.
El periodista de tecnología jurídica Bob Ambrogi informó de que Gunderson Dettmer, un despacho internacional con más de 400 abogados, lanzó ChatGD. Lo describió como, al parecer, el primer despacho con sede en Estados Unidos que creaba su propia herramienta interna de IA generativa. Explicó cómo la aplicación recuperaba el material de referencia y por qué el despacho decidió desarrollarla.
Gunderson Dettmer explicó a LawSites que casi la mitad de su personal había probado ChatGD en sus primeros 4 meses y había enviado más de 9.000 consultas. La formación era obligatoria, y más de la mitad del personal asistió en directo. El despacho proyectó costes anuales inferiores a 10.000 dólares, sin contar la ingeniería interna, al alojar su propio modelo de incrustaciones y usar modelos más baratos. Las nuevas funciones de enrutamiento asignaban las consultas a los modelos según la tarea.
La información completa figura en las fuentes originales.