Toutes les quelques semaines, une nouvelle formule magique de « prompt » apparaît sur LinkedIn.
Elle promet que ChatGPT, Claude ou un autre grand modèle de langage cessera d'halluciner si les utilisateurs se contentent de coller quelques lignes dans les instructions personnalisées :
« N'inventez jamais de sources. »
« Indiquez quand vous n'êtes pas sûr. »
« Ne répondez que si vous savez. »
« Priorisez la vérité sur la fluidité. »
Cela semble raisonnable. C'est également dangereusement incomplet.
Pour des tâches courantes, de tels prompts peuvent s'avérer utiles. Ils peuvent rendre un assistant IA plus prudent. Ils peuvent l'inciter à utiliser des clauses de non-responsabilité. Ils peuvent réduire certaines erreurs flagrantes.
Mais ils ne résolvent pas le problème de fond.
Un prompt ne transforme pas un modèle de langage généraliste en un système juridique fiable.
Les hallucinations ne sont pas seulement un problème de prompt
OpenAI définit les hallucinations comme des affirmations plausibles mais fausses générées par les modèles de langage. Ces erreurs peuvent apparaître même lors de questions factuelles apparemment simples.
Anthropic fait le même constat concernant Claude. Sa propre documentation indique que même les modèles avancés peuvent générer du texte factuellement incorrect ou incohérent avec le contexte fourni. Les guides officiels parlent de réduire les hallucinations, non de les éliminer.
Cette nuance a son importance.
On peut donner pour instruction à un modèle de se comporter avec plus de prudence. Mais cela ne le dote pas soudainement d'un mécanisme de vérité absolue. Il ne sait pas automatiquement quelle source juridique est à jour. Il ne sait pas de manière fiable si une citation existe réellement. Il ne sait pas toujours quand il se trompe.
Ce n'est pas un détail mineur en droit. C'est le problème central.
L'activité juridique requiert une approche différente
Si un assistant IA invente un argument marketing, le résultat peut être embarrassant.
S'il invente un fondement juridique, interprète mal une loi, omet une règle cantonale ou cite un arrêt inexistant, les conséquences financières peuvent être lourdes.
Les questions juridiques exigent plus qu'un langage fluide. Elles requièrent :
des sources juridiques vérifiées
un raisonnement propre à la juridiction concernée
le droit positif en vigueur
des citations transparentes
une traçabilité totale
une évaluation du niveau de certitude
des limites claires lorsque la réponse est incertaine
Un chatbot généraliste n'a pas été conçu pour cela.
Des recherches menées par Stanford ont démontré pourquoi la prudence est de mise. Lors de tests antérieurs, les chatbots généralistes ont halluciné dans 58 % à 82 % des cas sur des questions juridiques. Même les outils de recherche d'IA juridique spécialisés utilisant la génération augmentée par récupération (RAG) ont tout de même produit des hallucinations dans 17 % à 33 % des cas.
Cela ne signifie pas qu'une IA juridique performante soit impossible.
Cela signifie qu'elle doit être conçue différemment.
Le RAG seul ne suffit pas non plus
Certains fournisseurs affirment que l'intégration de documents via la génération augmentée par récupération résout le problème.
Cela aide, certes, mais ce n'est pas suffisant.
Un système peut extraire le bon document et pourtant l'interpréter de manière erronée. Il peut citer la bonne loi et en tirer une conclusion fausse. Il peut omettre une exception, confondre des concepts juridiques similaires ou produire une réponse qui semble précise mais s'avère juridiquement incomplète.
C'est pourquoi l'IA juridique ne peut pas être traitée comme un simple chatbot auquel on aurait associé un dossier de documents.
Dans le domaine du droit, le système doit être structuré autour de la matière juridique elle-même.
Pourquoi Jurilo adopte une approche différente
Jurilo a été créé parce que les entreprises suisses ont besoin de réponses juridiques rapides, abordables et fiables — et non d'une confiance aveugle accordée à un chatbot généraliste.
L'objectif n'est pas de rendre un modèle plus prudent dans sa formulation.
L'objectif est de réduire le risque juridique dès la conception du système.
Cela implique de travailler avec des sources juridiques contrôlées, des structures juridiques suisses, un raisonnement propre au domaine, une transparence totale des sources et des garde-fous stricts. Cela impose également de reconnaître quand une question exige de la prudence, quand la réponse dépend des faits et quand l'analyse d'un professionnel du droit reste indispensable.
Un prompt peut dire à un système d'IA d'être « prudent ».
Un système d'IA juridique doit être structuré pour l'être par son architecture même.
L'illusion dangereuse
Aujourd'hui, la phrase la plus dangereuse en matière d'IA n'est pas :
« L'IA fait des erreurs. »
La plupart des utilisateurs le savent désormais.
La phrase la plus dangereuse est :
« Nous avons résolu les hallucinations grâce à ce prompt. »
Cela crée une fausse confiance. Et une fausse confiance est précisément ce que les entreprises ne peuvent pas se permettre lorsqu'il s'agit de droit du travail, de contrats, de protection des données, de fiscalité, d'obligations d'entreprise ou de risques réglementaires.
Pour la rédaction à faible risque, la synthèse ou le brainstorming, les outils d'IA généralistes peuvent être utiles.
Pour les questions juridiques, le niveau d'exigence doit être plus élevé.
Un prompt n'est pas un système de conformité.
Une clause de non-responsabilité n'est pas une validation juridique.
Une réponse fluide n'est pas une réponse exacte.
C'est pour cela que Jurilo existe.
Une IA juridique ne doit pas simplement paraître convaincante.
Elle doit être fondée sur des données tangibles, traçable et conçue spécifiquement pour le droit.
