KI kann für Treuhänder, HR-Teams und KMU äusserst nützlich sein.
Sie kann Dokumente zusammenfassen, E-Mails entwerfen, Texte übersetzen und Informationen strukturieren. Für viele alltägliche Aufgaben ist das eine Erleichterung.
Bei rechtlichen Fragestellungen verhält es sich jedoch anders.
Eine falsche rechtliche Auskunft kann reale Kosten, Haftungsrisiken und Fehlentscheidungen nach sich ziehen. Und genau hier werden allgemeine GPT-Systeme gefährlich.
Das Kernproblem: GPTs klingen auch dann überzeugend, wenn sie falschliegen
Grosse Sprachmodelle (LLMs) generieren flüssige Antworten. Sie sind darauf ausgelegt, wahrscheinliche Textfortsetzungen vorherzusagen, nicht aber die rechtliche Richtigkeit zu garantieren.
Deshalb können sie Antworten erzeugen, die souverän klingen, aber sachlich oder rechtlich fehlerhaft sind. OpenAI selbst warnt davor, dass ChatGPT ungenaue Informationen generieren kann und dass Nutzer wichtige Ergebnisse überprüfen sollten. In den Nutzungsbedingungen wird zudem darauf hingewiesen, dass die Ergebnisse nicht als alleinige vertrauenswürdige Quelle oder als Ersatz für professionelle Beratung herangezogen werden dürfen.
Für die juristische Praxis ist dies keine geringfügige Einschränkung.
Es ist das zentrale Risiko.
Denn die gefährlichste KI-Antwort ist nicht diejenige, die offensichtlich misslingt. Es ist diejenige, die professionell wirkt, plausible Quellen zitiert und dennoch zu einer falschen Schlussfolgerung führt.
RAG löst das Problem nicht
Viele Systeme behaupten mittlerweile, sicherer zu sein, weil sie RAG nutzen (Retrieval-Augmented Generation). Vereinfacht gesagt, sucht die KI zuerst in Dokumenten und verfasst darauf basierend eine Antwort.
Das ist weitaus besser, als Antworten ausschliesslich aus dem Modellspeicher zu generieren.
Es macht das System jedoch nicht halluzinationsfrei.
Forscher der Universität Stanford haben juristische KI-Tools getestet und festgestellt, dass selbst RAG-basierte Systeme nach wie vor falsche oder unbelegte Antworten lieferten. Eine Studie aus dem Umfeld der Universität Yale kam zum gleichen Schluss: Die Behauptung einer „halluzinationsfreien“ Rechts-KI ist überzogen.
RAG kann bestimmte Fehler reduzieren.
Es kann jedoch für sich genommen nicht garantieren, dass das System die richtige Quelle gefunden, sie korrekt verstanden, die richtige Rechtsprechung angewendet, Ausnahmen erkannt und die zutreffende rechtliche Schlussfolgerung gezogen hat.
In der Rechtswissenschaft ist jedoch genau das entscheidend.
Ein Chatbot mit Dokumentenzugriff ist kein juristisches System
Es gibt einen grossen Unterschied zwischen:
dem blossen Hochladen von Dokumenten in ein GPT
und dem Aufbau eines juristischen Antwortsystems.
Ein benutzerdefiniertes GPT mag Dateien durchsuchen und eine ansprechende Antwort formulieren. Das bedeutet jedoch nicht, dass diese Antwort rechtlich verlässlich ist.
Für Treuhänder ist dies besonders riskant. Ihre tägliche Arbeit berührt häufig das Arbeitsrecht, Steuerrecht, Sozialversicherungsrecht sowie vertragliche und gesellschaftsrechtliche Pflichten. Ein kleiner Fehler kann schwerwiegende Folgen für Mandanten haben.
Selbst in der Schweiz werden inzwischen branchenspezifische GPT-Lösungen für Treuhänder beworben, darunter TREUHAND|SUISSE GPT für die Schweizer Treuhandpraxis. Die offizielle Seite hebt Schweizer Technologie, Schweizer Datenspeicherung und thematische „Konstruktoren“ für Bereiche wie kantonale Steuerfragen hervor.
Das mag in puncto Datenschutz hilfreich sein.
Ein Schweizer Hosting verhindert jedoch keine Halluzinationen.
Und Datensicherheit ist nicht gleichbedeutend mit rechtlicher Richtigkeit.
Was Jurilo anders macht
Jurilo wurde für präzise rechtliche Antworten entwickelt, nicht für allgemeine Konversationen.
Das bedeutet:
geprüfte Schweizer Rechtsquellen
klare fachliche Abgrenzung (Domain Boundaries)
quellenbasierte Antworten
kontrollierte Argumentation (Reasoning)
Konfidenzsignale
Prüfung anhand realer rechtlicher Fragestellungen
sowie die Fähigkeit, keine Antwort zu geben, wenn das System keine sichere Auskunft erteilen kann.
Das ist der Unterschied zwischen einem Chatbot und einem juristischen Entscheidungssystem.
Künstliche Intelligenz wird die Arbeit von Treuhändern, HR-Abteilungen und Juristen grundlegend verändern.
Bei rechtlichen Fragen darf der Standard jedoch nicht lauten: „Es klingt gut.“
Der Standard muss lauten: „Es ist korrekt, quellenbasiert und rechtssicher.“
Genau dafür gibt es Jurilo.
