USABeratung und Fachdienstleistungen2023 – laufendGunderson Dettmer
ChatGD, hauseigene App mit generativer KI
Fast die Hälfte der Beschäftigten von Gunderson Dettmer probierte die hauseigene KI-App innerhalb von 4 Monaten aus.
Ausgangslage
Gunderson Dettmer, eine internationale Anwaltskanzlei mit Sitz im Silicon Valley, hatte mehr als 400 Anwälte. Sie sollten lernen, große Sprachmodelle für Mandantendokumente zu nutzen, ohne dass vertrauliches Material in öffentliche Chatbots gelangt.
Vorgehen
Gunderson Dettmer startete ChatGD im August 2023, nachdem das Legal-Engineering-Team es mit OpenAI-Modellen für Unternehmen auf Microsoft Azure gebaut hatte. Anwälte konnten über Retrieval-Augmented Generation Verträge als Referenzmaterial bereitstellen und mussten vor der Nutzung der App eine Schulung absolvieren. Im Dezember 2023 ergänzte die Kanzlei eine Weiterleitung, die einfache Abrufaufgaben an günstigere Modelle und lange Zusammenfassungen an ein GPT-4-Modell mit größerem Kontextfenster schickt. Zudem plante sie, die App an ihr Dokumentenmanagementsystem anzubinden.
Kennzahlen
Erkenntnis
Die Kanzlei erwartete, die Betriebskosten durch den Eigenbetrieb eines quelloffenen Einbettungsmodells und die Zuweisung einfacherer Aufgaben an günstigere Modelle niedrig zu halten; interne Entwicklungskosten waren dabei nicht berücksichtigt. Ihr Innovationschef betrachtete das Projekt als Lernübung und sagte, verlässliche, höherwertige juristische Arbeit erfordere mehr Entwicklung.
Kategorien
- Unternehmensfunktion
- Interne Abläufe und WissensmanagementFinanzen, Risiko und Recht
- Innovationsart
- Organisation und ArbeitsweisenProzessinnovation
- KI-Technologie
- Generative KI
- Einführung
- Eigenentwicklung
- Nachweis
- Angabe des Unternehmens
Quellen
Quellenzusammenfassungen
Gunderson Dettmer startete ChatGD als erstes hauseigenes KI-Werkzeug, nachdem die Kanzlei jahrelang Produkte externer Anbieter genutzt hatte. Die App nutzte sichere OpenAI-Modelle für Unternehmen auf Microsoft Azure sowie Retrieval-Augmented Generation, wobei ein Großteil der Software aus quelloffenen Komponenten stammte. Die Kanzlei legte interne KI-Richtlinien fest, um die Vertraulichkeit der Mandantendaten und die Qualität der Arbeit zu schützen.
Der Rechtstechnologie-Reporter Bob Ambrogi berichtete, Gunderson Dettmer, eine internationale Kanzlei mit mehr als 400 Anwälten, habe ChatGD gestartet. Er bezeichnete sie als offenbar erste Kanzlei in den USA, die ein eigenes internes Werkzeug mit generativer KI gebaut hat. Er erläuterte, wie die App Referenzmaterial abruft und warum die Kanzlei sich für den Eigenbau entschied.
Gunderson Dettmer sagte LawSites, fast die Hälfte der Beschäftigten habe ChatGD in den ersten 4 Monaten ausprobiert und mehr als 9.000 Eingaben abgesendet. Die Schulung war verpflichtend, und mehr als die Hälfte der Beschäftigten nahm live daran teil. Durch den Eigenbetrieb eines Einbettungsmodells und den Einsatz günstigerer Modelle prognostizierte die Kanzlei jährliche Kosten von unter 10.000 US-Dollar, ohne Berücksichtigung interner Entwicklungskosten. Neue Routing-Funktionen wiesen Eingaben je nach Aufgabe Modellen zu.
Ausführliche Angaben finden Sie in den Originalquellen.