Rechtsberatung durch ChatGPT, Gemini & Co.: Ersetzt KI den Anwalt?

Spätestens mit der Veröffentlichung von ChatGPT Ende 2022 hat künstliche Intelligenz (KI) Einzug in den Alltag vieler Menschen in Deutschland erhalten. Nach Daten von Similarweb hatte ChatGPT im Februar 2025 auf seiner Plattform 3,9 Milliarden Besucher*innen. Damit verzeichnete das Sprachmodell im Vergleich zum Vorjahresmonat ein Wachstum von 137 Prozent.

Ob Kochrezepte, Mode-Empfehlungen oder Hilfe beim Autokauf: KIs geben Antworten auf alle möglichen Alltagsfragen. Auch zu rechtlichen Fragen liefern Künstliche Intelligenzen Antwort. Aber können Gemini, Copilot und Co. eine anwaltliche Beratung ersetzen?

Was ist eigentlich Prompten? Ein Prompt ist die Anfrage oder ein Befehl, den Sie einer KI geben, um die gewünschte Antwort zu erhalten.

KI-Tools sind inzwischen sehr ausgereift. Das ständige Trainieren mit Daten hat dazu geführt, dass die Antworten stets genauer auf die Fragestellungen eingehen. Jedoch hat das nicht dazu geführt, dass sie unbedingt besser geworden sind.

Nach einer Studie der Europäischen Rundfunkunion (EBU) halluzinieren ChatGPT, Gemini und weitere Chatbots noch in 40 Prozent ihrer Antworten. In der Studie haben 68 öffentlich-rechtliche Sender aus 56 Ländern systematisch getestet, wie zuverlässig die bekanntesten Sprachmodelle sind. So behauptete demnach beispielsweise ChatGPT, Papst Franziskus lebe noch.

Wenig überraschend: Auch bei rechtlichen Anfragen sind Antworten teils frei erfunden: So haben Forscher*innen der Stanford University in Kalifornien herausgefunden, dass das Halluzinieren bei rechtlichen Anfragen je nach Modell bei 69 bis 88 Prozent lagen. Die Leistung der Modell verschlechtere sich, je komplexer die Rechtsfragen sind, so die Erkenntnis der Forscher*innen. Untersucht wurden die Large Language Modelle GPT 3.5, Llama 2 und PaLM 2.

Nun bezog sich die Studie auf Rechtsfragen und Urteile in den USA. Aber auch in Deutschland werden immer wieder Fehler bei KI-generierten Antworten auf Rechtsfragen bekannt. So rügte das Amtsgericht Köln kürzlich in einer Familiensache einen Anwalt, der in seinem Schriftsatz Angaben aus einem Urteil „offenbar mittels künstlicher Intelligenz generiert und frei erfunden“ hatte (Az: 312 F 130/25).

Aber: Sollte man deshalb KI nicht für Rechtsfragen nutzen? Dabei kommt auf das Wie der Nutzung an. KI wird – zumindest bislang – keine anwaltliche Beratung ersetzen. Davon ist auch Alisha Andert, Vorsitzende des Legal Tech Verband Deutschland. „Legal Tech ersetzt keine Anwältinnen und Anwälte, sondern ergänzt sie und sorgt so dafür, dass Recht auch dort ankommt, wo es gebraucht wird", sagte sie der Deutschen Presse-Agentur.

Am deutschen Markt zeigen sich auch immer mehr sogenannte Legal Tech-Unternehmen. Laut dem Legal Tech Monitor 2025 des Legal Tech Verband Deutschland sind es inzwischen 300 Unternehmen. Also solche, die sich auf die Digitalisierung und Standardisierung von bestimmten Rechtsprozessen spezialisiert haben.

Die Plattform MEINRECHT.de nutzt beispielsweise Tools solcher Start-ups wie den Mietkautions-Service von Suitcase oder der Arbeitszeugnis-Prüfung.

Mit der Arbeitszeugnis-Prüfung können Angestellte ihr Arbeitszeugnis hochladen und bekommen in Sekundenschnelle ein PDF, in dem die Zeugnissprache in verständlichen Schulnoten übersetzt ist.

Sind sie mit dem Ergebnis nicht zufrieden, können sie damit zu ihrem Arbeitgeber und über eine Korrektur sprechen – in Deutschland hat man per Gesetz nämlich einen Anspruch auf ein wohlwollendes Arbeitszeugnis. Dafür können Sie auch das kostenlose Musterformular

Service Sonderkonditionen für Versicherte

Arbeitszeugnis-Prüfung

Das Rätseln hat ein Ende: Sie laden Ihr Zeugnis hoch und erhalten sofort ein eindeutiges Ergebnis in Schulnoten, inkl. Interpretation.

14,90 €

Wird man sich mit dem Arbeitgeber aber nicht einig, muss mitunter doch der Weg zum Anwalt, einer Anwältin oder der Verbraucherhilfe gegangen werden. Daran zeigt sich: Anwaltliche Beratung und KI oder standardisierte Rechtsdienstleistungen ergänzen sich.

ChatGPT hat im Oktober 2025 seine Nutzungsrichtlinien geändert. Darin steht seitdem unter dem Punkt: Persönliche Sicherheit:

„Alle Menschen haben ein Recht auf Schutz und Sicherheit. Das bedeutet, dass unsere Dienste nicht verwendet werden dürfen für… personalisierte Beratungsleistungen, z. B. rechtlicher oder medizinischer Natur, für die eine Lizenz oder Befugnis erforderlich ist, ohne Beisein einer einschlägig qualifizierten Person.“

Um Rechtsdienstleistungen zu erbringen ist in Deutschland – bis auf einige Ausnahmen – eine Erlaubnis erforderlich. Fragt man das Modell 5.1 von OpenAI nach einer Kündigung durch den Vermieter wegen Eigenbedarfs, liefert die KI weiterhin Antwort und schlägt darin vor, anonymisiert Formulierungen aus der Kündigung zu schicken, um eine Einschätzung zu möglichen Schwachstellen zu liefern.

• Schnelle Antwort: Eine KI bietet in Sekundenschnelle eine passende Antwort.

• Überall nutzbar: Auf ChatGPT und Co. kann man von überall digital zugreifen.

• Verständlich und nachvollziehbar: Die KIs bedienen sich bei ihren Antworten verständlicher Sprache. Da ist es bei manchen Anwaltsschreiben komplizierter.

• Günstig: Viele KI-Tools sind zumindest in der Grundvariante häufig kostenlos.

• Halluzination: Fakt ist: Die KI halluziniert – das bedeutet, sie erfindet Antworten. Gerade bei komplizierten Rechtsfragen macht die KI Fehler.

• Vorbei am Thema: Manchmal schießt die KI mit ihrer Antwort auch völlig am Thema vorbei, weil sie die Frage nicht richtig verstanden hat oder Rückfragen falsch stellt.

• Datensicherheit: Sensible Daten wie Kontoinformationen, Geburtsdatum, Adresse etc., sollten nicht in KI-Systeme gegeben werden. Die Informationen werden für KI-Trainings verwendet und könnten bei Cyberangriffen oder Systemfehlern verloren gehen.

• Überprüfung fehlt: Ohne eine Überprüfung der Antwort von einer fachkundigen Person ist es gerade in kritischen Bereichen wie ärztliche oder rechtlicher Rat unerlässlich, eine KI-Antwort ungeprüft zu übernehmen.

• Richtig gepromptet ist halb gewonnen: Einige Fehler in der Antwort von künstlichen Intelligenzen lassen sich schon durch die richtigen Prompts – also Befehle – vermeiden. Es hilft der KI bei der Frage mitzugeben: Bleibe kritisch. Antworte wahrhaft. Erfinde nichts. Und: Antworte nicht so, wie Du mir gefällst, sondern wie es der Wahrheit entspricht. Etc.

• Quellen einschränken: Geben Sie der KI am besten gleich mit, welche Quellen sie für ihre Recherche verwenden soll. Zum Beispiel, dass sie sich nur auf deutsche Urteile und Gesetze und solche der EU beschränken soll.

• Aufs Bauchgefühl hören: Manchmal ist es schon ausreichend, sein Bauchgefühl zuzuhören – beziehungsweise den gesunden Menschenverstand einzuschalten. Hinterfragen Sie KI-Antworten immer kritisch: Macht das wirklich Sinn, was die KI da schreibt/sagt?

KI ist eine schnelle Hilfe – wird es kompliziert, ist ein Anwalt oder eine Anwältin unerlässlich. Für eine erste Einschätzung eines rechtlichen Problems können ChatGPT, Gemini und andere KI-Lösungen Hilfe bieten. Eine anwaltliche Beratung ersetzen sie jedoch nicht. Aber nicht nur bei komplizierten Rechtsfällen ist die KI (bislang) raus. Auch bei einfachen Fragen sollte die Antwort immer kritisch hinterfragt und wenn nötig von einer rechtskundigen Person geprüft werden.

Für die Recherche verwendete Quellen:

Vogelsang/Krüger, Legal Tech und die Justiz – ein Zukunftsmodell? (Teil 1), jM 2019, 398 (398)