Generative KI ist bemerkenswert gut darin geworden, Fragen zu beantworten. ChatGPT und Claude können komplexe Themen erklären, Dokumente zusammenfassen und innerhalb von Sekunden überzeugend klingende juristische Texte erstellen.
Es gibt jedoch eine wichtige Unterscheidung:
Wie ein Anwalt zu klingen, ist nicht dasselbe wie eine rechtliche Frage zuverlässig zu beantworten.
Dies wird besonders wichtig, wenn KI beruflich in Bereichen wie dem Arbeitsrecht, dem Vertragsrecht, dem Gesellschaftsrecht oder dem Steuerrecht eingesetzt wird.
Das grundlegende Problem: Halluzinationen
Grosse Sprachmodelle generieren Antworten auf der Grundlage statistischer Muster. Sie stellen nicht von Natur aus fest, ob eine rechtliche Schlussfolgerung korrekt ist.
Dies führt zu einem bekannten Problem: Halluzinationen.
Eine Antwort kann vollkommen plausibel klingen, obwohl sie eine falsche Auslegung, eine veraltete Regelung oder sogar eine Quelle enthält, die die Schlussfolgerung gar nicht stützt.
Bei alltäglichen Fragen mag dies akzeptabel sein.
Für professionelle rechtliche Entscheidungen ist es das nicht.
Der Einsatz von RAG löst dies nicht automatisch
Ein gängiger Ansatz besteht darin, ChatGPT, Claude oder ein anderes Allzweckmodell mit einer Datenbank zu verbinden, die Gesetze, Gerichtsentscheidungen oder andere juristische Dokumente enthält.
Diese Technik wird üblicherweise als Retrieval-Augmented Generation (RAG) bezeichnet.
RAG ist nützlich. Sie kann dem Modell relevante Dokumente zur Verfügung stellen und die Qualität seiner Antworten erheblich verbessern.
Es gibt jedoch ein weit verbreitetes Missverständnis:
RAG allein macht aus einem Allzweck-LLM noch kein zuverlässiges System für juristische Argumentation.
Das Abrufen eines relevanten Dokuments ist erst der Anfang.
Das System muss immer noch bestimmen, welche Bestimmungen tatsächlich anwendbar sind, deren Verhältnis zueinander verstehen, Gesetzesrecht von Rechtsprechung und anderen Quellen unterscheiden, mit Ausnahmen und widersprüchlichen Informationen umgehen und überprüfen, ob die endgültige Schlussfolgerung durch das abgerufene Material gestützt wird.
Eine Chatbot-Schnittstelle + ein LLM + eine Vektordatenbank sieht daher vielleicht wie ein juristisches KI-System aus, ohne dass jedoch der schwierige Teil der juristischen KI gelöst wurde.
Abrufen ist nicht gleich Argumentieren
Betrachten Sie eine relativ einfache arbeitsrechtliche Frage.
Ein Mitarbeiter erkrankt während der Kündigungsfrist. Was passiert mit dem Beendigungsdatum?
Die entsprechende Schweizer Gesetzesbestimmung zu finden, ist nicht besonders schwierig.
Die Beantwortung der eigentlichen Frage kann jedoch erfordern, die anwendbare Sperrfrist zu bestimmen, wann diese beginnt, ob und wie lange die Kündigungsfrist unterbrochen wird, wie die verbleibende Kündigungsfrist berechnet wird und ob das resultierende Beendigungsdatum auf das Ende eines Monats verschoben werden muss.
Die Herausforderung lautet daher nicht einfach:
„Kann die KI das Gesetz finden?“
Sie lautet:
„Kann das System auf der Grundlage des relevanten Rechts zuverlässig die richtige Antwort herleiten?“
Diese Unterscheidung wird umso wichtiger, je komplexer die Fragen werden.
Dafür wurde Jurilo entwickelt
Jurilo ist nicht dadurch entstanden, dass einfach eine Chatbot-Schnittstelle um ein Allzweck-LLM gelegt wurde.
Es wurde speziell für Schweizer Rechtsfragen entwickelt.
Das System kombiniert kuratierte Schweizer Rechtsquellen mit dem Legal Graph™ von Jurilo und einer mehrstufigen Argumentationsarchitektur. Eine Frage kann mehr als 25 agentenbasierte Operationen auslösen, bevor die endgültige Antwort erstellt wird.
Das Ziel ist nicht bloss, eine Antwort zu generieren.
Es geht darum, den relevanten rechtlichen Rahmen zu identifizieren, massgebliche Quellen abzurufen, diese miteinander zu verknüpfen und eine Schlussfolgerung zu liefern, deren Herleitung nachvollziehbar und überprüfbar ist.
Jurilo konzentriert sich derzeit auf das Schweizer Recht und nutzt massgebliche Quellen, einschliesslich der Schweizer Gesetzgebung und der Entscheide des Bundesgerichts.
Der Massstab sollte die Richtigkeit sein, nicht die Eloquenz
Dies ist vielleicht der wichtigste Punkt bei der Bewertung juristischer KI.
Nahezu jedes moderne LLM kann eine beeindruckend aussehende juristische Antwort verfassen.
Das ist keine besondere Schwierigkeit mehr.
Die entscheidenden Fragen sind:
Wird das anwendbare Recht korrekt identifiziert?
Sind die Quellen massgeblich und relevant?
Stützt die zitierte Quelle tatsächlich die Aussage?
Werden Ausnahmen und Abhängigkeiten berücksichtigt?
Ist die Argumentation in sich konsistent?
Kann der Nutzer nachvollziehen, wie die Schlussfolgerung zustande kam?
Erkennt das System, wenn die verfügbaren Belege unzureichend sind?
Hier sollten juristische KI-Systeme verglichen werden.
Nicht danach, welcher Chatbot die schönste Prosa verfasst.
Selbst die Anbieter von Allzweck-KI erkennen das Risiko
Die Anbieter von Allzweck-KI-Systemen selbst schränken die professionelle Nutzung in sensiblen Bereichen ein und sprechen entsprechende Warnungen aus.
Die Richtlinien von OpenAI beschränken bestimmte weitreichende Entscheidungen im juristischen Bereich und anderen sensiblen Domänen, wenn diese ohne angemessene menschliche Beteiligung getroffen werden. Auch Anthropic sieht Nutzungsbeschränkungen und Richtlinien für Anwendungen mit hoher Tragweite vor.
Das bedeutet nicht, dass ChatGPT oder Claude schlechte Produkte sind. Ganz im Gegenteil: Sie sind ausserordentlich leistungsfähige Allzweck-KI-Systeme.
Aber Allzweck-Leistungsfähigkeit und spezialisierte juristische Zuverlässigkeit sind zwei unterschiedliche technische Entwicklungsziele.
Eine weitere Benutzeroberfläche um diese Modelle herum zu bauen, hebt diese Unterscheidung nicht auf.
Juristische KI muss auf Vertrauen ausgelegt sein
Die nächste Generation professioneller KI-Anwendungen wird sich nicht einfach über das von ihnen verwendete Foundation-Modell definieren.
Die Foundation-Modelle werden zunehmend zur reinen Infrastruktur.
Die Differenzierung liegt in allem, was um sie herum aufgebaut wird: Domänenarchitektur, autoritative Daten, Informationsabruf (Retrieval), Argumentation, Verifizierung, Rückverfolgbarkeit und kontinuierliche Tests.
Für die juristische KI ist dies von besonderer Bedeutung.
Die Frage ist nicht mehr, ob KI eine rechtliche Frage beantworten kann.
Das kann sie eindeutig.
Die Frage ist, ob Sie der Antwort vertrauen können, wenn es auf die Entscheidung wirklich ankommt.
Das ist das Problem, für dessen Lösung Jurilo entwickelt wurde.