Lokale KI für Anwaltskanzleien: Akten befragen, ohne sie herzugeben

In einer Kanzlei steckt das wertvollste Wissen in den Akten: frühere Stellungnahmen, vereinbarte Fristen, Vergleichsangebote, Gutachten, Korrespondenz über Jahre. Genau diese Unterlagen sind aber auch das, was am wenigsten in fremde Hände gehört. Wer heute eine KI nutzen möchte, um in diesem Bestand schneller zu finden, steht deshalb vor einer unbequemen Frage: Wohin gehen die Daten, wenn ich sie einem Sprachmodell gebe?

Eine lokale KI für die Anwaltskanzlei beantwortet diese Frage anders als ChatGPT und vergleichbare Dienste. Das Sprachmodell läuft nicht im Rechenzentrum eines Anbieters, sondern auf einem Rechner mit Grafikprozessor (GPU) in der Kanzlei selbst. Anfragen, Akten und Antworten bleiben im eigenen Netzwerk.

Warum Kanzleien bei Cloud-KI zögern

Rechtsanwältinnen und Rechtsanwälte sind nach § 9 RAO zur Verschwiegenheit verpflichtet. Ob und unter welchen Bedingungen ein Cloud-Dienst mit Mandatsdaten eingesetzt werden darf, hängt von Vertrag, Serverstandort, Zugriffsmöglichkeiten des Anbieters und den getroffenen Vorkehrungen ab. Diese Prüfung ist aufwendig, und sie sollte bei jedem Wechsel der Nutzungsbedingungen erneut vorgenommen werden.

Dazu kommt ein praktisches Problem: Viele Mitarbeitende nutzen KI-Dienste längst privat, oft mit kostenlosen Konten. Ohne ein Angebot der Kanzlei besteht das Risiko, dass Textpassagen aus Akten dort landen, wo sie niemand haben wollte. Eine lokale Lösung gibt dem Team ein Werkzeug, das es nutzen darf, statt nur ein Verbot.

Was eine lokale KI in der Kanzlei übernehmen kann

Fragen an den Aktenbestand. „Welche Frist haben wir im Verfahren Müller mit der Gegenseite vereinbart?“ Die KI sucht im Inhalt der angebundenen Akten und nennt die Fundstelle, etwa das Schreiben und die Seite. Technisch steckt dahinter ein lokaler Such-Index, der Dokumente in Abschnitte zerlegt und nach Bedeutung statt nur nach Stichworten findet. Findet die KI nichts, soll sie das auch sagen, statt zu raten.

Zusammenfassungen. Umfangreiche Gutachten, Protokolle oder Schriftsätze der Gegenseite werden auf die Kernaussagen verdichtet, mit Verweis auf die Stellen im Original. Das ersetzt nicht das Lesen, aber es hilft beim Einordnen und beim schnellen Wiedereinstieg in eine alte Akte.

Diktate transkribieren. Ein lokales Spracherkennungsmodell wandelt Diktate in Text um. Die Aufnahme verlässt den Server nicht. Fachbegriffe und Namen werden nicht immer richtig erkannt, deshalb bleibt das Korrekturlesen Teil des Ablaufs.

Entwürfe vorbereiten. Standardschreiben, Gliederungen oder erste Fassungen von Routinekorrespondenz entstehen als Entwurf. Verschickt oder eingebracht wird erst, was eine Anwältin oder ein Anwalt geprüft hat.

Was sie nicht kann

Ein lokales Sprachmodell ist kein juristisches Recherchesystem. Es kennt keine aktuelle Rechtsprechung, sofern diese nicht bewusst in den Index aufgenommen wird, und es kann Zitate oder Paragrafen falsch wiedergeben. Bei komplexem, mehrstufigem Argumentieren sind die größten Cloud-Modelle den offenen Modellen, die lokal laufen, derzeit meist überlegen. Für die Suche im eigenen Bestand, für Zusammenfassungen und Transkription ist der Abstand deutlich kleiner.

Die Grundregel lautet deshalb: Die KI bereitet vor, der Mensch prüft und verantwortet. Jede Fundstelle wird im Original nachgesehen, bevor sie in einen Schriftsatz wandert.

Wie die Technik in der Kanzlei aussieht

Im Kern besteht das System aus vier Bausteinen:

• Hardware: ein Server oder eine Workstation mit GPU, im Serverraum oder Technikschrank der Kanzlei, abgesichert über USV und Datensicherung.
• Modelle: ein Sprachmodell mit offenen Gewichten, ein Embedding-Modell für die Suche und ein Spracherkennungsmodell für Diktate.
• Such-Index: die angebundenen Akten aus Fileserver oder Kanzleisoftware, laufend aktualisiert, mit Rechten nach Rolle. Wer auf eine Akte keinen Zugriff hat, bekommt daraus auch keine Antworten.
• Oberfläche: ein Chatfenster im Browser, Anmeldung über das bestehende Kanzleikonto.

Welche Kanzleisoftware sich wie anbinden lässt, ist vorab zu klären. Nicht jedes System gibt seine Dokumente über eine Schnittstelle heraus; oft ist der Weg über die Ablage auf dem Fileserver der pragmatischere.

So läuft die Einführung ab

Am Anfang steht ein Erstgespräch, in dem geklärt wird, welche Aufgaben die KI übernehmen soll und welche Daten dafür nötig sind. Danach folgt ein Machbarkeits-Check: Passende offene Modelle werden mit Beispiel- oder anonymisierten Dokumenten getestet, damit die Kanzlei sieht, wie gut die Antworten für ihre Aufgaben sind, bevor Hardware gekauft wird. Erst daraus ergibt sich, welche GPU nötig ist.

Nach der Anschaffung wird das System installiert, an Ablage und Benutzerkonten angebunden und mit dem Team getestet. Im laufenden Betrieb werden Updates eingespielt und Modelle ausgetauscht, wenn bessere erscheinen, über einen gesicherten Fernzugang, den die Kanzlei freigibt. Da der Dienstleister dabei auf Daten zugreifen könnte, werden ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und eine Verschwiegenheitsverpflichtung vereinbart.

Für welche Kanzleien sich das lohnt

Lokale KI lohnt sich vor allem dort, wo ein großer Aktenbestand regelmäßig durchsucht wird, viel diktiert wird oder die Sorge um Mandatsdaten bisher jeden KI-Einsatz verhindert hat. Wer nur gelegentlich einen Text umformulieren möchte und keine vertraulichen Daten verarbeitet, fährt mit einem Cloud-Dienst meist günstiger.

Wie Goma-IT lokale KI plant und einrichtet, steht auf der Seite Lokale KI (On-Premise). Was das Thema Datenschutz betrifft, lohnt ein Blick auf den Beitrag Lokale KI und DSGVO, zur Frage der passenden Ausstattung auf Hardware für lokale KI.