Alle paar Wochen taucht auf LinkedIn ein neuer „Magic Prompt“ auf.
Er verspricht, dass ChatGPT, Claude oder andere grosse Sprachmodelle aufhören zu halluzinieren, wenn Benutzer einfach ein paar Zeilen in die benutzerdefinierten Anweisungen einfügen:
„Erfinden Sie niemals Quellen.“
„Sagen Sie, wenn Sie unsicher sind.“
„Antworten Sie nur, wenn Sie es wissen.“
„Priorisieren Sie die Wahrheit vor der sprachlichen Eleganz.“
Das klingt vernünftig. Es ist jedoch auch gefährlich unvollständig.
Für alltägliche Aufgaben können solche Prompts helfen. Sie können einen KI-Assistenten vorsichtiger machen. Sie können ihn dazu bewegen, Haftungsausschlüsse zu nutzen. Sie können einige offensichtliche Fehler reduzieren.
Aber sie lösen das Kernproblem nicht.
Ein Prompt macht aus einem universellen Sprachmodell kein verlässliches Rechtssystem.
Halluzinationen sind nicht nur ein Prompting-Problem
OpenAI definiert Halluzinationen als plausible, aber falsche Aussagen, die von Sprachmodellen generiert werden. Diese Fehler können selbst bei scheinbar einfachen sachlichen Fragen auftreten.
Anthropic sagt dasselbe über Claude. Die eigene Dokumentation hält fest, dass selbst fortgeschrittene Modelle Texte generieren können, die sachlich falsch sind oder dem vorgegebenen Kontext widersprechen. Die offizielle Anleitung spricht von der Reduzierung von Halluzinationen, nicht von deren Eliminierung.
Dieser Unterschied ist entscheidend.
Ein Modell kann angewiesen werden, vorsichtiger zu agieren. Es erhält dadurch aber nicht plötzlich einen fehlerfreien Wahrheitsmechanismus. Es weiss nicht automatisch, welche Rechtsquelle aktuell ist. Es weiss nicht zuverlässig, ob ein Zitat existiert. Es weiss nicht immer, wann es falsch liegt.
Das ist im Rechtsbereich kein kleines Problem. Es ist das zentrale Problem.
Juristische Arbeit erfordert andere Massstäbe
Wenn ein KI-Assistent eine Marketingbehauptung erfindet, ist das Ergebnis vielleicht peinlich.
Wenn er eine Rechtsgrundlage erfindet, ein Gesetz falsch interpretiert, eine kantonale Regelung übersieht oder ein nicht existierendes Urteil zitiert, kann das Ergebnis kostspielig werden.
Juristische Fragen erfordern mehr als flüssige Sprache. Sie erfordern:
verifizierte Rechtsquellen
kantons- und rechtsspezifische Argumentation
aktuelles Recht
transparente Belege
Nachvollziehbarkeit
Einschätzung der Zuverlässigkeit
klare Grenzen, wenn die Antwort unsicher ist
Ein universeller Chatbot wurde dafür nicht entwickelt.
Untersuchungen aus Stanford zeigen, warum Vorsicht geboten ist. Universelle Chatbots halluzinierten in früheren Tests bei juristischen Fragen in 58 % bis 82 % der Fälle. Selbst spezialisierte juristische KI-Recherche-Tools, die auf Retrieval-Augmented Generation (RAG) setzen, produzierten in 17 % bis 33 % der Fälle Halluzinationen.
Das bedeutet nicht, dass juristische KI unmöglich ist.
Es bedeutet, dass juristische KI anders konzipiert sein muss.
RAG allein reicht ebenfalls nicht aus
Einige Anbieter behaupten, dass das Hinzufügen von Dokumenten via Retrieval-Augmented Generation (RAG) das Problem löst.
Es hilft. Aber es reicht nicht aus.
Ein System kann das richtige Dokument finden und es dennoch falsch interpretieren. Es kann das korrekte Gesetz zitieren und die falsche Schlussfolgerung ziehen. Es kann eine Ausnahme übersehen. Es kann ähnliche rechtliche Konzepte verwechseln. Es kann eine Antwort liefern, die präzise klingt, aber rechtlich unvollständig ist.
Deshalb darf juristische KI nicht wie ein Chatbot mit angeschlossenem Ordner behandelt werden.
Bei juristischer Arbeit muss das System um das Rechtsgebiet herum aufgebaut sein.
Warum Jurilo einen anderen Weg geht
Jurilo wurde entwickelt, weil Schweizer Unternehmen rechtliche Antworten benötigen, die schnell, erschwinglich und zuverlässig sind – aber nicht auf blindem Vertrauen in einen allgemeinen Chatbot basieren.
Es geht nicht darum, ein Modell vorsichtiger klingen zu lassen.
Es geht darum, rechtliche Risiken systematisch und architektonisch zu reduzieren.
Das bedeutet die Arbeit mit kontrollierten Rechtsquellen, Schweizer Rechtsstrukturen, fachspezifischer Argumentation, Quellentransparenz und klaren Sicherheitsvorkehrungen. Es bedeutet auch zu erkennen, wo eine Frage Vorsicht erfordert, wo die Antwort von Sachverhalten abhängt und wo eine professionelle rechtliche Prüfung weiterhin erforderlich ist.
Ein Prompt kann einem KI-System sagen: „Sei vorsichtig.“
Ein juristisches KI-System muss durch seine Architektur vorsichtig sein.
Die gefährliche Illusion
Der gefährlichste Satz in der heutigen KI-Bedeutung lautet nicht:
„KI macht Fehler.“
Das wissen die meisten Nutzer mittlerweile.
Der gefährlichste Satz lautet:
„Wir haben Halluzinationen mit diesem Prompt behoben.“
Das schafft ein falsches Vertrauen. Und falsches Vertrauen ist genau das, was sich Unternehmen im Umgang mit Arbeitsrecht, Verträgen, Datenschutz, Steuern, gesellschaftsrechtlichen Pflichten oder regulatorischen Risiken nicht leisten können.
Für risikoarme Texte, Zusammenfassungen oder Brainstorming können universelle KI-Tools nützlich sein.
Für rechtliche Fragen muss der Standard höher sein.
Ein Prompt ist kein Compliance-System.
Ein Haftungsausschluss ist keine rechtliche Prüfung.
Eine flüssig formulierte Antwort ist keine korrekte Antwort.
Deshalb gibt es Jurilo.
Juristische KI sollte nicht nur überzeugend klingen.
Sie muss fundiert, nachvollziehbar und für das Recht gebaut sein.
