ChatGPT in der Kanzlei: Wann es reicht, wann nicht, und welcher Vergleich 2026 wirklich zählt

Mittwoch, 10:42 Uhr, eine Düsseldorfer Mittelstandskanzlei. Ein Associate arbeitet an einer Klageerwiderung und bittet ChatGPT um eine BGH-Entscheidung zu § 280 BGB mit Bezug zu Schadensersatz bei Vertragsstörungen. Das Modell liefert prompt ein Aktenzeichen, eine Datumsangabe und einen Kernsatz. Alles klingt überzeugend. Das Problem: Die Entscheidung existiert nicht. Sie ist halluziniert.

Diese Szene ist kein Einzelfall. Sie passiert 2026 täglich, in kleinen Solo-Kanzleien ebenso wie in Top-Häusern. Und sie steht exemplarisch für die eigentliche Frage, die Kanzleientscheider gerade beschäftigt: ChatGPT Kanzlei einsetzen oder in ein spezialisiertes Legal-AI-System investieren? Reicht das Allrounder-Tool, oder braucht es mehr?

Dieser Vergleich liefert keine Marketing-Abwehr gegen ChatGPT. OpenAI-Produkte sind legitim und in bestimmten Szenarien auch in der Anwaltskanzlei nützlich. Die Frage ist, für welche Aufgaben, unter welchen Bedingungen und zu welchen Kosten. Sie erhalten: die berufsrechtliche Einordnung, sieben Vergleichsdimensionen, eine konkrete Kostenrechnung für eine 5-Personen-Kanzlei und eine Entscheidungslogik, die Ihnen innerhalb von dreißig Minuten Klarheit bringt.

Hinweis vorweg: Dieser Beitrag ist Rechtsinformation, keine individuelle Rechtsberatung nach § 2 RDG.

Darf eine Kanzlei ChatGPT überhaupt nutzen?

Die kurze Antwort: ja, aber nicht für alles. Die längere Antwort braucht vier Ebenen.

§ 43a und § 43e BRAO

Die anwaltliche Verschwiegenheit nach § 43a BRAO bleibt auch beim Einsatz von Sprachmodellen das Fundament. Wer Mandatsdaten in ein externes System eingibt, verarbeitet sie durch einen Dienstleister. Damit wird § 43e BRAO einschlägig: sorgfältige Auswahl, Vertrag in Textform, Verschwiegenheitsverpflichtung. Bei der kostenfreien ChatGPT-Version und bei ChatGPT Plus gibt es keinen AVV, keine kontrollierte Dienstleisterbeziehung, keine belastbaren Zusicherungen zur Nichtnutzung für Training. Damit ist das Grundgerüst des Berufsrechts für Mandatsdaten schon nicht erfüllt.

§ 203 StGB

Die Verschwiegenheit ist strafrechtlich flankiert. Wer Geheimnisse offenbart, die ihm als Rechtsanwalt anvertraut wurden, erfüllt den Tatbestand. Die Rechtsprechung wird in den kommenden Jahren differenzieren, wann eine KI-Eingabe ein Offenbaren ist. Bis dahin gilt eine konservative Linie: kein Mandatsbezug in allgemeine Modelle ohne AVV und ohne EU-Hosting.

Datenschutz

Nach dem BRAK-Leitfaden zum KI-Einsatz sind abstrakte Prompts zu bevorzugen. Dokumente, die hochgeladen werden, sind vollständig zu anonymisieren. Die DSK-Orientierungshilfe betont, dass das Entfernen von Namen und Adressen meist nicht genügt. Zusätzlich verlangt die DSK klare interne Weisungen, welche KI-Anwendungen wofür zulässig sind. Ohne eine schriftliche KI-Richtlinie Kanzlei ist der konsistente Einsatz kaum belegbar.

KI-VO Art. 4

Seit dem 2. Februar 2025 müssen Betreiber von KI-Systemen ein ausreichendes Maß an KI-Kompetenz sicherstellen. Die Pflicht trifft Kanzleien unabhängig davon, ob sie ChatGPT oder ein spezialisiertes Tool einsetzen. Sie greift ab Tag eins.

Das Ergebnis: ChatGPT darf in der Kanzlei eingesetzt werden, aber nur innerhalb klarer Regeln und für bestimmte Aufgaben. Der nächste Schritt ist die saubere Unterscheidung, welche Aufgabe in welches Tool gehört.

Die 7 Dimensionen im Vergleich

Ein fairer Vergleich zwischen ChatGPT für Anwälte und einem spezialisierten Legal-AI-System läuft über sieben Dimensionen. Alle anderen Diskussionen sind Ableitungen.

1. Datenschutz und AVV

ChatGPT Free und Plus sind Endnutzerprodukte mit Standard-Datenschutzerklärung, aber ohne AVV. Für die Nutzung in einer Kanzlei mit personenbezogenen Daten sind beide ungeeignet. ChatGPT Team und Enterprise bieten AVV-Abschluss, Business-Data-Processing-Amendments und teilweise EU-Data-Residency. Das ist ein echter Fortschritt, aber nicht automatisch ausreichend für Mandatsdaten. Spezialisierte Legal-AI-Anbieter wie Lulius liefern AVV-Standard, EU-Hosting und explizit dokumentierte Nichtnutzung für Training.

2. Verschwiegenheit und Trainingsnutzung

Nach OpenAI Enterprise Privacy werden Kundendaten in ChatGPT Team und Enterprise nicht für das Training verwendet. In Free und Plus ist Training der Default, Opt-out nur eingeschränkt möglich und pro Konversation wirksam. Für anwaltliche Verschwiegenheit ist diese Default-Stellung disqualifizierend. Spezialisierte Legal AIs sind für genau diese Sensibilität gebaut: keine Trainingsnutzung, Daten bleiben in der EU, klare Löschfristen. Details dazu sind in unserem Beitrag zur anwaltlichen Verschwiegenheit und KI aufgeschlüsselt.

3. Halluzinationen und RAG

Die viel zitierte Stanford-HAI-Studie 2024 Hallucinating Law hat bei Allgemein-LLMs Halluzinationsraten zwischen 58 und 82 Prozent in rechtlichen Fragen gemessen. Das ist keine Bashing-Zahl, sondern ein strukturelles Merkmal: Ein Allgemeinmodell generiert Sprache auf Basis von Wahrscheinlichkeiten, nicht auf Basis einer verifizierten Rechtsquelle. Retrieval Augmented Generation, kurz RAG, adressiert genau diesen Engpass. Ein RAG-System sucht zuerst in einer gepflegten Quelle, etwa einem indexierten Korpus der deutschen Bundesgesetze, und generiert erst danach. Lulius ist darauf aufgebaut: 4.600 plus indexierte Bundesgesetze, exakte Paragraphen-Verweise, keine erfundenen Zitate. Die Tiefe des Themas behandeln wir auch in unserem Beitrag zur KI-Anwaltshaftung und Halluzinationen.

4. Juristische Präzision

ChatGPT liefert gute juristische Formulierungen, aber unzuverlässige Zitate. Das ist ein zentrales Qualitätsproblem. Für Recherche-Aufgaben, die Paragraphen, Urteile oder Aktenzeichen enthalten, ist das Modell ohne Retrieval methodisch nicht geeignet. Spezialisierte Legal AI gewichtet anders: Quelle zuerst, Sprache zweitrangig. Das Ergebnis ist weniger "flüssig" auf der Oberfläche und deutlich verlässlicher im Inhalt. Einen Praxis-Überblick zur Recherche-Qualität gibt unser Beitrag zur KI-gestützten juristischen Recherche.

5. Gutachtenstil und Format

Kanzlei-Arbeit verlangt häufig formale Outputs: Obersatz, Definition, Subsumtion, Ergebnis. ChatGPT kann Gutachten-Entwürfe imitieren, sie sind stilistisch oft gut, aber inhaltlich frei interpretiert. Spezialisierte Legal AI liefert Gutachten-Entwürfe, die bewusst strukturiert sind und die Quellenbasis trennscharf ausweisen. Das ist kein Komfortthema. Für die Endkontrolle durch die Berufsträger*innen ist die Formatkonformität eine deutliche Zeitersparnis.

6. Integration in den Kanzleialltag

Ein Tool in der Kanzlei wird an seiner Integration gemessen: DOCX- und PDF-Export, Fristenprüfung, Team-Verwaltung, Mandatsvorbereitung, Verlauf und Favoriten. ChatGPT Enterprise bietet ein solides Workspace-Modell, aber keinen juristischen Fokus. Spezialisierte Plattformen sind um die Kanzleiabläufe gebaut. Die Lulius Kanzlei-Suite ist dafür ein Beispiel, auch Konkurrenzangebote. Ein fairer Vergleich misst, wie weit ein Tool den Workflow am Stück trägt, und nicht nur, wie gut das Sprachmodell an sich ist.

7. Kosten und TCO

Kosten werden häufig reduziert auf die Abo-Gebühr. Die Total-Cost-of-Ownership-Rechnung ist deutlich breiter. Sie umfasst: Governance-Aufwand, Schulung, Dokumentationspflichten, Risiko einer Fehlzuordnung von Daten, Berufshaftpflicht-Implikationen. Ein günstiges Tool mit hohem Governance-Aufwand ist unter Umständen teurer als ein teureres Tool, das Governance out-of-the-box mitbringt. Die Kostenrechnung weiter unten zeigt das an einer konkreten 5-Personen-Kanzlei.

ChatGPT für Anwälte vs. Legal AI: Der direkte Vergleich

Die folgende Tabelle bringt die Dimensionen in ein Raster. Sie ist bewusst ohne Wertung am Ende. Wer welche Stufe braucht, hängt vom Einsatzzweck ab.

Die Preise sind gerundete Listenpreise laut öffentlich zugänglichen Angaben von OpenAI (Stand 2025). Für ChatGPT Enterprise gilt individuelle Verhandlung.

Realistische Kostenrechnung: Eine 5-Personen-Kanzlei

Theoretisch sind Einzel-Abos günstig. Praktisch sieht die Rechnung anders aus, wenn Governance mitbilanziert wird. Wir betrachten eine mittelständische Kanzlei mit fünf Berufsträgern und zwei Assistenzkräften.

Szenario A: ChatGPT Team (5 Seats)

• —

  Lizenzgebühr: 5 x 30 US-Dollar pro Monat, ca. 150 US-Dollar

• —

  Jährlich: ca. 1.800 US-Dollar bei Monatsabonnement, günstiger bei Jahrestarif

• —

  Zusätzlich: Schulung und Dokumentation für Art. 4 KI-VO (intern oder extern)

• —

  Zusätzlich: manuelle Quellenprüfung bei jedem juristischen Output (geschätzt 10 bis 20 Minuten pro komplexer Anfrage)

• —

  Zusätzlich: Policy-Aufwand, insbesondere Eingaberegeln, Whitelisting, Vorfallmanagement

• —

  Nicht enthalten: Gutachtenstil, Fristen, DOCX-Export mit geprüften Quellen

Szenario B: ChatGPT Enterprise

• —

  Lizenzgebühr: Einzelverhandlung, realistischer Ausgangspunkt ab ca. 60 US-Dollar pro Nutzer bei Mindestabnahme

• —

  Jährlich bei 5 Seats: 3.600 US-Dollar plus

• —

  Plus höherer Datenschutzstandard als Team

• —

  Plus Enterprise-Support

• —

  Weiterhin keine RAG-basierte juristische Qualität

Szenario C: Lulius Kanzlei-Plan (5 Nutzer inklusive)

• —

  Listenpreis: 499 EUR pro Monat, 5.988 EUR pro Jahr

• —

  Unbegrenzte Anfragen

• —

  RAG auf 4.600 plus Bundesgesetzen

• —

  Gutachten-Entwürfe im Gutachtenstil

• —

  DOCX- und PDF-Export mit Quellenverweisen

• —

  Team-Verwaltung, Verlauf, Favoriten, Fristenprüfung

• —

  AVV Standard, EU-Hosting, keine Trainingsnutzung

Szenario D: Hybride Lösung (ChatGPT Team + Lulius Kanzlei-Plan)

• —

  Kombination für Kanzleien, die generalistische Schreibhilfe und juristische Präzision beide benötigen

• —

  Lizenzsumme: ca. 150 US-Dollar plus 499 EUR monatlich

• —

  Governance-Aufwand muss die Trennung sauber abbilden: Welche Aufgabe in welches Tool?

TCO-Logik

Eine 5-Personen-Kanzlei, die 2026 ohne spezialisiertes Tool arbeitet, spart pro Jahr nominal zwischen 2.500 und 4.000 EUR an Lizenzkosten. Sie verliert aber Qualität in juristischer Präzision und Zeit bei der Quellenprüfung. Eine einzige abgemahnte Halluzination in einem Schriftsatz frisst den Nominalvorteil mehrfach auf. Die Investition in ein RAG-basiertes System ist damit in der Regel keine Kostenfrage, sondern eine Frage des Qualitätsanspruchs. Wer Deep-Vergleiche zu spezifischen Anbietern wie Harvey sucht, findet sie in unserem Beitrag zur Harvey AI Alternative in Deutschland.

Wann ChatGPT ausreicht, und wann nicht

Der ehrliche Vergleich kommt ohne Pauschalurteil aus. Die folgende Logik funktioniert in den meisten deutschen Kanzleien.

Wann ChatGPT legitim ist (mit Team- oder Enterprise-Lizenz)

• —

  Sprachliche Glättung bereits anonymisierter Entwürfe

• —

  Brainstorming zu allgemeinen Formulierungsalternativen

• —

  Übersetzungshilfen ohne Mandatsbezug

• —

  Recherche zu fachlich-allgemeinen Themen (z. B. Marketing, Projektmanagement, HR)

• —

  Zusammenfassung öffentlich verfügbarer und ausdrücklich nicht schützenswerter Texte

Wann ChatGPT nicht genügt

• —

  Juristische Recherche mit Paragraphen-Verweisen

• —

  Gutachten-Entwürfe im Gutachtenstil

• —

  Mandatsbezogene Sachverhalte

• —

  Auswertung von Korrespondenz, die Namen oder Aktenzeichen enthält

• —

  Arbeiten mit Daten, die unter § 203 StGB fallen können

Die hybride Strategie

Ein in Kanzleien zunehmend verbreitetes Modell ist das Hybrid-Setup: ChatGPT Team für allgemeine Büroaufgaben und Formulierungshilfe, spezialisierte Legal AI für juristische Kernarbeit. Eine Leipziger Solo-Kanzlei hat genau diesen Weg im Januar 2026 getestet. Vier Wochen parallele Nutzung, klare Zuweisungsregel, wöchentlicher Review. Ergebnis: drei Stunden Zeitersparnis pro Woche bei juristischen Aufgaben, eine messbare Qualitätssteigerung in Schriftsätzen, und ein dokumentierter Prozess, der bei der Berufshaftpflicht-Anfrage im März 2026 ohne Nachfrage akzeptiert wurde.

Die Schlüsselvoraussetzung ist eine saubere ChatGPT Kanzlei-Governance, die beide Tools umfasst und die Eingabegrenzen klar markiert. Die Detailvorgaben fasst unser Beitrag zur DSGVO-konformen KI für Anwälte zusammen.

Eine 7-Personen-Kanzlei entscheidet in drei Wochen

Die Kanzlei Wahl & Partner aus Köln (7 Berufsträger) hat im März 2026 den Wechsel gewagt. Vorher: ChatGPT Plus individuell, ohne AVV, ohne schriftliche Regelung. Anlass: ein Mandant hatte nach der KI-Policy gefragt und die Antwort gefiel ihm nicht. Vorgehen: zweiwöchiger Paralleltest von ChatGPT Team und Lulius, dritte Woche Entscheidung plus Rollout.

Ergebnis: Hybrid-Setup. ChatGPT Team für Büroaufgaben und Assistenz, Lulius Kanzlei-Plan für juristische Arbeit. Gesamtkosten ca. 660 EUR pro Monat inklusive beider Tools. Spürbare Zeitersparnis in der Erstbewertung von Mandaten um rund eine Stunde pro Mandat. Ausschreibungsgewinn bei einem Mittelstandsmandanten, für den die KI-Transparenz Entscheidungskriterium war. Die Governance-Anpassung, insbesondere die Richtlinie, war in unter zwei Wochen fertig.

Fazit: Entscheidung in 3 Schritten

Wer 2026 über ChatGPT Kanzlei diskutiert, hat die Frage fast immer schon implizit beantwortet: ChatGPT erledigt Teile der Arbeit gut und ist für andere Teile strukturell ungeeignet. Die Entscheidung ist daher selten ein Entweder-Oder, sondern eine Zuweisung.

Drei Schritte reichen, um Ihre Kanzlei aus der Grauzone zu holen.

Erstens: Benennen Sie die Aufgaben, die Sie mit KI effizienter machen wollen. Trennen Sie saubere juristische Kernarbeit von allgemeiner Büroproduktivität.

Zweitens: Prüfen Sie in einem zweiwöchigen Paralleltest, ob ein spezialisiertes Legal-AI-System die juristischen Aufgaben mit RAG-basierter Präzision übernehmen kann. Achten Sie auf Paragraphen-Genauigkeit, Gutachtenstil, DOCX-Export mit Quellenverweisen.

Drittens: Verankern Sie die Tool-Nutzung in einer schriftlichen Richtlinie. Ohne Policy gibt es keine KI-VO-Compliance und keine belastbare Antwort gegenüber Mandanten und Berufshaftpflicht.

Lulius ist dafür konzipiert. RAG auf 4.600 plus Bundesgesetzen, EU-Hosting, AVV standardmäßig, Gutachtenstil-Output, DOCX- und PDF-Export mit Quellenverweisen. Im Zusammenspiel mit einer klaren Richtlinie entsteht eine Kombination, die ChatGPT ergänzt statt zu ersetzen, wo es sinnvoll ist, und ersetzt, wo Präzision verlangt wird.

Dieser Beitrag ist Rechtsinformation und ersetzt keine individuelle Rechtsberatung nach § 2 RDG. Für konkrete Konstellationen, insbesondere Ausschreibungsantworten und Berufshaftpflicht-Anfragen, empfehlen wir die Einbindung eines spezialisierten Fachanwalts oder Ihrer Datenschutzbeauftragten.