Warum KI-Projekte in Kanzleien oft am Datenzugriff scheitern

Viele Kanzleien testen inzwischen ChatGPT, Claude, Open WebUI oder eigene interne Chat-Lösungen. Die ersten Ergebnisse wirken oft brauchbar: Texte formulieren, E-Mails glätten, Sachverhalte strukturieren, Checklisten erstellen, Zusammenfassungen schreiben.

Das ist nützlich. Aber es ist noch kein produktives KI-Projekt für den Kanzleialltag.

Der Bruch kommt meistens an derselben Stelle: Sobald die KI mit echten Kanzleidaten arbeiten soll, wird es schwierig. Nicht weil das Sprachmodell zu schwach ist. Sondern weil es keinen sauberen Zugriff auf die richtigen Daten hat.

Die relevanten Informationen liegen verteilt: im Dokumentenmanagement, in E-Mails, in Fachsoftware, in Fileshares, in Mandantenportalen, im Rechnungswesen, im CRM, in Aufgabenlisten, in Excel-Dateien und in internen Notizen. Dazu kommen Benutzerrechte, Mandantentrennung, Berufsgeheimnis, technische Altlasten und unterschiedliche Arbeitsweisen je nach Team.

Deshalb ist die entscheidende Frage nicht: Welches KI-Modell nehmen wir?

Die bessere Frage lautet: Welche Kanzleidaten darf welcher Benutzer in welchem Kontext kontrolliert abrufen?

KI ist nicht das eigentliche Produkt. Kontrollierter Datenzugriff ist das Produkt.

KI ohne Kanzleidaten bleibt ein besseres Schreibwerkzeug

Ein isoliertes Chatfenster kann viel. Es kann eine Mandantenmail freundlicher formulieren. Es kann eine interne Notiz strukturieren. Es kann einen langen Text zusammenfassen, wenn ein Mitarbeiter diesen Text vorher manuell einfügt.

Aber für echte Kanzleiarbeit reicht das nicht.

Der Unterschied wird schnell sichtbar:

• „Schreibe eine freundliche Rückfrage an einen Mandanten“ funktioniert ohne Kanzleidaten.
• „Welche Unterlagen fehlen bei diesem Mandanten für den Abschluss?“ funktioniert nur mit Zugriff auf die richtigen Datenquellen.
• „Fasse die letzte Korrespondenz zu diesem Vorgang zusammen“ funktioniert nur, wenn E-Mails, Dokumente und Vorgangskontext erreichbar sind.
• „Welche offenen Punkte gab es beim letzten Review?“ funktioniert nur, wenn die KI den passenden Arbeitskontext kennt.

Ohne Zugriff auf reale Kanzleidaten bleibt KI ein Schreib- und Denkwerkzeug. Mit kontrolliertem Zugriff kann sie ein Arbeitswerkzeug werden.

Das ist ein fundamentaler Unterschied.

Kanzleidaten liegen nicht an einem Ort

In vielen Kanzleien gibt es nicht „das eine System“, in dem alle relevanten Informationen sauber zusammenlaufen. Das wäre bequem, entspricht aber selten der Realität.

Typische Datenquellen sind:

• Dokumentenmanagement
• E-Mail-Postfächer
• Fachsoftware
• Fileshares
• Mandantenportale
• Rechnungswesen
• CRM
• Aufgaben- und Ticketsysteme
• interne Notizen
• Excel-Listen
• Archivsysteme
• Scan- und Posteingangsprozesse

Dazu kommt: Nicht jede Quelle enthält dieselbe Art von Information.

Ein Dokumentenmanagement enthält vielleicht die abgelegte Korrespondenz. Im E-Mail-Postfach liegt aber die neueste Rückfrage. Im Portal hat der Mandant Unterlagen hochgeladen. In der Fachsoftware stehen strukturierte Werte. Im Fileshare liegt eine alte Arbeitshilfe. Im CRM steht, wer beim Mandanten Ansprechpartner ist.

Für einen Menschen ist diese Verteilung oft mühsam, aber handhabbar. Mitarbeiter wissen aus Erfahrung, wo sie suchen müssen. Eine KI weiß das nicht automatisch.

Sie braucht strukturierte Zugänge, klare Grenzen und eine Logik, welche Quelle für welche Frage relevant ist.

Der Engpass ist kontrollierter Zugriff, nicht das KI-Modell

Viele KI-Projekte starten mit der falschen Annahme: Man müsse nur das beste Modell auswählen, dann löse sich der Rest von selbst.

Das ist bequem, aber falsch.

Für Kanzleien ist das Modell selten der schwierigste Teil. Die entscheidenden Fragen liegen davor:

• Welche Daten darf die KI lesen?
• Für welchen Mandanten gilt die Anfrage?
• In welchem Benutzerkontext läuft die Anfrage?
• Aus welcher Quelle kommen die Daten?
• Geht es nur um Metadaten oder auch um Inhalte?
• Werden Daten dauerhaft gespeichert oder nur für die konkrete Anfrage genutzt?
• Welche Zugriffe werden protokolliert?
• Welche Daten dürfen an welches Modell übergeben werden?
• Welche Informationen müssen bewusst ausgeschlossen werden?

Diese Fragen sind nicht akademisch. Sie entscheiden, ob eine Kanzlei-KI produktiv nutzbar ist oder nur als Demo gut aussieht.

Ein gutes Sprachmodell mit schlechtem Datenzugriff liefert schlechte Ergebnisse. Ein solides Modell mit sauberem Kontext, klaren Berechtigungen und passenden Werkzeugen ist im Alltag oft deutlich wertvoller.

Dokumente sind schwieriger als sie aussehen

Viele KI-Ideen in Kanzleien beginnen mit Dokumenten:

• „Kann die KI unsere Dokumente durchsuchen?“
• „Kann sie Mandantenunterlagen zusammenfassen?“
• „Kann sie fehlende Unterlagen erkennen?“
• „Kann sie alte Korrespondenz finden?“
• „Kann sie bei internen Übergaben helfen?“

Die Idee ist richtig. Aber Dokumentenzugriff ist technisch und organisatorisch anspruchsvoller, als es in einer Demo aussieht.

Zuerst muss unterschieden werden zwischen Metadaten und Inhalten.

Metadaten sind Informationen über ein Dokument: Name, Datum, Mandant, Kategorie, Ablageort, Ersteller, Status oder Vorgangsbezug. Das ist wertvoll, reicht aber nicht immer.

Inhalte sind der eigentliche Text im Dokument: der Brief, der Bescheid, der Anhang, die E-Mail, der Scan, die Notiz. Wenn eine KI inhaltlich suchen oder zusammenfassen soll, muss sie diesen Inhalt lesen können. Bei PDFs, Scans und E-Mail-Anhängen ist das nicht automatisch sauber verfügbar.

Je nach Systemumgebung müssen Inhalte extrahiert, normalisiert und indexiert werden. Bei Scans kann Texterkennung notwendig sein. Bei E-Mail-Ketten müssen Signaturen, Zitate und Anhänge sinnvoll behandelt werden. Bei Versionen muss klar sein, welches Dokument aktuell ist.

Über allem steht eine klare Regel: Ein Benutzer darf über die KI nicht plötzlich Dokumente sehen, auf die er im Ursprungssystem keinen Zugriff hätte.

Beispielhafte Anfragen, die nur mit sauberem Dokumentenzugriff funktionieren:

• „Suche den letzten Jahresabschluss von Mandant Müller.“
• „Welche Unterlagen fehlen für die Steuererklärung 2024?“
• „Fasse die Korrespondenz zum Einspruch zusammen.“
• „Welche Dokumente liegen zur Betriebsprüfung vor?“
• „Welche offenen Rückfragen gab es zuletzt bei diesem Mandanten?“
• „Gibt es einen aktuellen Bescheid zu diesem Vorgang?“
• „Welche Dokumente wurden in den letzten 30 Tagen zu diesem Mandat abgelegt?“

Das sind keine Spielereien. Das sind Such-, Zusammenfassungs- und Vorbereitungsaufgaben, die im Kanzleialltag viel Zeit kosten.

Aber sie funktionieren nur, wenn Zugriff, Inhalt, Mandantenbezug und Benutzerrechte sauber zusammenspielen.

Copy-Paste in ChatGPT ist kein Betriebsmodell

Viele Kanzleien beginnen pragmatisch: Mitarbeiter kopieren Texte aus Dokumenten, E-Mails oder Fachsystemen in ein Chatfenster und lassen sich helfen.

Für Experimente ist das verständlich. Für den Betrieb ist es keine tragfähige Architektur.

Copy-Paste hat mehrere Probleme:

• keine systematische Rechteprüfung
• keine saubere Mandantentrennung
• keine zuverlässige Protokollierung
• keine Wiederholbarkeit
• keine klare Datenminimierung
• kein stabiler Kontext über mehrere Quellen
• keine Integration in bestehende Workflows
• hohes Risiko durch manuelle Auswahl der Daten
• keine einheitliche Kontrolle durch Kanzlei-IT oder Kanzleileitung

Der Mitarbeiter entscheidet in diesem Moment allein, welche Daten in welches Tool kopiert werden. Das kann für harmlose Texte funktionieren. Für echte Mandantendaten, interne Dokumente oder sensible Vorgänge reicht das nicht aus.

Copy-Paste ist ein Test. Kein belastbarer Kanzleiprozess.

Ein produktives Betriebsmodell muss anders funktionieren: Die KI bekommt nicht wahllos Daten. Sie nutzt definierte Zugänge, definierte Werkzeuge und definierte Berechtigungen.

Benutzerkontext entscheidet über Vertrauen

In einer Kanzlei dürfen nicht alle Mitarbeiter alles sehen. Das ist normal.

Zugriffe können abhängen von:

• Rolle
• Team
• Mandant
• Standort
• Vorgang
• interner Zuständigkeit
• Dokumententyp
• Vertraulichkeitsstufe

Eine KI darf diese Regeln nicht aushebeln.

Das klingt selbstverständlich, wird aber in vielen KI-Demos ignoriert. Dort gibt es oft nur einen technischen Zugriff auf einen Datenbestand. Für echte Kanzleien reicht das nicht.

Eine sinnvolle Kanzlei-KI muss im Benutzerkontext arbeiten. Das bedeutet: Die Antwort hängt nicht nur von der Frage ab, sondern auch davon, wer fragt und welche Daten diese Person sehen darf.

Ein Partner, ein Sachbearbeiter, ein Auszubildender und ein externer IT-Dienstleister dürfen nicht automatisch dieselben Informationen erhalten. Auch dann nicht, wenn sie dieselbe Frage an denselben Chat stellen.

Benutzerkontext ist deshalb keine Komfortfunktion. Er ist eine Grundvoraussetzung für Vertrauen.

Read-only ist der richtige erste Schritt

Viele Diskussionen über KI in Kanzleien springen zu schnell zu autonomen Aktionen:

• Daten verändern
• Vorgänge abschließen
• Nachrichten verschicken
• Buchungen auslösen
• Fachentscheidungen treffen

Das ist der falsche Startpunkt.

Der erste produktive KI-Schritt in der Kanzlei ist meistens Lesen, nicht Schreiben.

Read-only-Szenarien sind wertvoll und deutlich besser kontrollierbar:

• Dokumente finden
• E-Mails zusammenfassen
• Mandantenkontext vorbereiten
• offene Punkte identifizieren
• Unterlagenlisten prüfen
• interne Übergaben unterstützen
• Rückfragen vorbereiten
• Vorgänge vorstrukturieren
• Informationen aus mehreren Quellen zusammenführen

Das reduziert Risiko. Es macht die Einführung leichter. Es schafft Vertrauen bei Mitarbeitern, Kanzlei-IT und Datenschutzverantwortlichen.

Read-only bedeutet nicht, dass KI passiv oder wertlos ist. Im Gegenteil: Viele der größten Zeitverluste in Kanzleien entstehen beim Suchen, Prüfen, Zusammenfassen und Kontextwechseln.

Genau dort kann KI früh nützlich werden.

MCP und strukturierte Werkzeugnutzung

Ein wichtiger technischer Ansatz für KI-Projekte ist strukturierte Werkzeugnutzung. MCP, das Model Context Protocol, ist ein Beispiel dafür.

Die Grundidee: Ein KI-Client bekommt nicht einfach einen großen Datenhaufen. Stattdessen stehen definierte Werkzeuge und Ressourcen zur Verfügung. Die KI kann diese Werkzeuge nutzen, um gezielt Informationen abzufragen.

Für Kanzleien ist das relevant, weil Datenzugriff nicht beliebig sein darf.

Ein strukturierter Ansatz kann zum Beispiel ermöglichen:

• Suche in angebundenen Dokumentenquellen
• Abruf von mandantenbezogenen Informationen
• Zusammenfassung ausgewählter Dokumente
• Prüfung auf fehlende Unterlagen
• Vorbereitung einer Rückfrage
• Unterstützung bei internen Workflows

Aber MCP ist kein Allheilmittel. Es ersetzt keine Berechtigungsarchitektur. Es löst nicht automatisch Datenqualität, Hosting, Protokollierung oder Berufsgeheimnis.

MCP kann helfen, KI-Zugriffe sauberer zu strukturieren als lose Copy-Paste-Prozesse. Die eigentliche Arbeit bleibt aber: Datenquellen anbinden, Rechte beachten, Benutzerkontext sichern und klare Grenzen definieren.

Was eine belastbare KI-Architektur in der Kanzlei leisten muss

Eine ernsthafte KI-Architektur für Kanzleien braucht mehr als ein gutes Modell und eine schöne Chatoberfläche.

Es braucht eine Architektur, die zum Kanzleialltag passt.

Wichtige Anforderungen sind:

• Datenquellen sauber anbinden
• Mandantenkontext herstellen
• Benutzerrechte beachten
• Dokumenten-Metadaten und Inhalte unterscheiden
• Inhalte bei Bedarf extrahieren und indexieren
• zunächst nur lesend arbeiten
• Zugriffe protokollieren
• Daten minimieren
• Kanzlei-IT einbinden
• fachliche Kontrolle behalten
• klare Grenzen für externe Modelle definieren
• bestehende Workflows berücksichtigen
• Fehlerfälle sichtbar machen
• Zuständigkeiten für Betrieb und Support klären

Diese Punkte wirken weniger spektakulär als eine KI-Demo. Sie sind aber der Unterschied zwischen Spielerei und produktivem Einsatz.

Eine Kanzlei braucht keine KI, die beeindruckend klingt. Sie braucht ein System, das zuverlässig mit echten Arbeitskontexten umgehen kann.

Typische sinnvolle Einstiegsszenarien

Der beste Einstieg ist nicht der größte Prozess. Der beste Einstieg ist ein klar abgegrenzter Read-only-Anwendungsfall mit erkennbarem Nutzen.

Gute Startpunkte sind zum Beispiel:

1. Dokumentensuche über mehrere Quellen

Die KI hilft, relevante Dokumente zu einem Mandanten oder Vorgang zu finden. Nicht nur anhand des Dateinamens, sondern anhand von Inhalt, Zeitraum, Kategorie oder Fragestellung.

Beispiel:

„Welche Unterlagen wurden im letzten Quartal zu Mandant X abgelegt und betreffen die laufende Prüfung?“

2. Zusammenfassung von Mandantenkontext

Vor einem Telefonat oder einer internen Übergabe kann die KI relevante Informationen vorbereiten.

Beispiel:

„Fasse die letzten offenen Punkte, Rückfragen und Dokumente zu diesem Mandanten zusammen.“

3. Vorbereitung von Rückfragen

Die KI erstellt keinen finalen Versand ohne fachliche Prüfung, kann aber eine strukturierte Rückfrage vorbereiten.

Beispiel:

„Formuliere eine kurze Liste der fehlenden Unterlagen auf Basis der vorhandenen Dokumente und Notizen.“

4. Prüfung auf Vollständigkeit

Die KI kann helfen, vorhandene Unterlagen mit einer Checkliste oder einem erwarteten Prozessstand abzugleichen.

Beispiel:

„Welche Dokumente scheinen für diesen Vorgang noch zu fehlen?“

5. Interne Übergaben

Wenn ein Mitarbeiter krank ist, wechselt oder ein Mandat übergeben wird, ist Kontext oft verstreut. KI kann helfen, diesen Kontext lesbar zu machen.

Beispiel:

„Erstelle eine interne Übergabe zu diesem Mandat auf Basis der letzten Dokumente, Notizen und offenen Aufgaben.“

Diese Szenarien haben gemeinsam: Sie verändern keine Primärdaten. Sie helfen beim Finden, Verstehen und Vorbereiten.

Genau deshalb eignen sie sich für den Anfang.

Einordnung: Wo Klarvos ansetzt

Die Anforderungen in diesem Artikel erklären auch, warum Klarvos nicht als isoliertes Chatfenster gedacht ist, sondern als kontrollierte Verbindung zwischen KI, Kanzleidaten und Workflow.

Der relevante Punkt ist nicht die Textgenerierung selbst, sondern der Zugriff auf passende Daten im richtigen Benutzerkontext: für Suche, Zusammenfassung, Analyse und vorbereitende Arbeitsschritte.

Damit unterscheidet sich der Ansatz von einem isolierten Chatbot.

Ein isolierter Chatbot wartet darauf, dass ein Mitarbeiter Daten manuell hineinkopiert. Eine produktive Kanzlei-Architektur muss dagegen Datenquellen, Benutzerkontext und Workflows kontrolliert zusammenbringen.

Für Kanzleien ist das entscheidend, denn die eigentliche Schwierigkeit liegt nicht darin, einen Text generieren zu lassen. Die Schwierigkeit liegt darin, der KI genau den Kontext zu geben, den sie sehen darf und braucht.

Klarvos ist ein Beispiel für diesen Architekturansatz.

Fazit: Erst Datenzugriff lösen, dann über Modelle reden

KI-Projekte in Kanzleien scheitern selten daran, dass das Sprachmodell keine Sätze bilden kann. Sie scheitern an verteilten Daten, fehlendem Benutzerkontext, unsauberen Rechten und unklaren Betriebsmodellen.

Wer KI produktiv nutzen will, sollte deshalb nicht mit der Modellfrage starten.

Die bessere Reihenfolge ist:

1. Welche Kanzleiprozesse sollen unterstützt werden?
2. Welche Datenquellen sind dafür notwendig?
3. Welche Benutzer dürfen welche Daten sehen?
4. Welche Inhalte müssen indexiert oder strukturiert werden?
5. Welche Zugriffe bleiben rein lesend?
6. Welche Aktionen brauchen fachliche Kontrolle?
7. Welches KI-Modell passt danach zur Architektur?

Das Modell ist wichtig. Aber es ist nicht der Kern.

Der Kern ist kontrollierter Datenzugriff.

Erst wenn dieser sauber gelöst ist, wird KI im Kanzleialltag mehr als ein nützliches Chatfenster.

FAQ

Warum reicht ChatGPT allein für Kanzleien nicht aus?

ChatGPT kann Texte schreiben, erklären und strukturieren. Für echte Kanzleiarbeit fehlt aber ohne Integration der Zugriff auf Mandantenkontext, Dokumente, E-Mails, Fachsoftware und interne Informationen. Ohne diese Daten bleibt es ein isoliertes Werkzeug.

Was bedeutet Datenzugriff bei KI in der Kanzlei?

Datenzugriff bedeutet, dass eine KI kontrolliert auf relevante Kanzleidaten zugreifen kann. Dazu gehören Dokumente, E-Mails, Vorgänge, Aufgaben, Rechnungswesen-Daten, CRM-Informationen und weitere Quellen. Entscheidend ist, dass dieser Zugriff berechtigt, nachvollziehbar und mandantenbezogen erfolgt.

Welche Datenquellen sind für Kanzlei-KI relevant?

Typische Quellen sind Dokumentenmanagement, E-Mail, Fachsoftware, Fileshares, Mandantenportale, Rechnungswesen, CRM, Aufgabenlisten, interne Notizen, Excel-Dateien und Archivsysteme. Welche Quellen relevant sind, hängt vom konkreten Anwendungsfall ab.

Warum ist Dokumentensuche mit KI technisch schwierig?

Dokumente bestehen nicht nur aus Dateinamen und Metadaten. Für inhaltliche Suche müssen Texte aus PDFs, Scans, E-Mails und Anhängen extrahiert und oft indexiert werden. Zusätzlich müssen Berechtigungen, Versionen, Mandantenbezug und Dokumentenarten korrekt berücksichtigt werden.

Was ist der Unterschied zwischen Dokumenten-Metadaten und Dokumenteninhalten?

Metadaten beschreiben ein Dokument, zum Beispiel Titel, Datum, Kategorie, Mandant oder Ablageort. Inhalte sind der tatsächliche Text im Dokument. Für einfache Filter reichen Metadaten oft aus. Für Zusammenfassungen und inhaltliche Suche braucht die KI Zugriff auf Inhalte.

Warum ist Benutzerkontext bei Kanzlei-KI wichtig?

Nicht jeder Mitarbeiter darf dieselben Daten sehen. Eine KI darf Zugriffsrechte nicht erweitern. Deshalb muss eine Anfrage im Kontext des jeweiligen Benutzers ausgeführt werden. Die Antwort muss davon abhängen, welche Informationen dieser Benutzer tatsächlich sehen darf.

Sollte KI in Kanzleien zuerst read-only arbeiten?

Ja, in den meisten Fällen ist read-only der sinnvollste Einstieg. Die KI kann suchen, zusammenfassen, prüfen und vorbereiten, ohne Daten zu verändern. Das reduziert Risiko und erleichtert die Einführung.

Was ist MCP im Zusammenhang mit Kanzlei-KI?

MCP steht für Model Context Protocol. Es beschreibt einen Ansatz, bei dem KI-Clients strukturierte Werkzeuge und Datenquellen nutzen können. Für Kanzleien kann das helfen, Zugriffe kontrollierter zu gestalten als über manuelles Copy-Paste. MCP ersetzt aber keine Berechtigungsarchitektur.

Ist Copy-Paste in ChatGPT für Kanzleidaten sinnvoll?

Für erste Tests kann Copy-Paste pragmatisch sein. Für produktive Kanzleiprozesse ist es kein belastbares Modell. Es fehlen systematische Rechteprüfung, Protokollierung, Mandantenkontext, Datenminimierung und Integration in bestehende Workflows.

Wie kann Klarvos bei KI-Projekten in Kanzleien helfen?

Klarvos verbindet KI, Kanzleidaten und Workflows kontrolliert miteinander. Der Fokus liegt auf Suche, Zusammenfassung, Analyse und vorbereitenden Arbeitsschritten mit sauberem Datenzugriff und Benutzerkontext. Mehr dazu unter Klarvos.