L'IA peut s'avérer extrêmement utile pour les fiduciaires (Treuhänder), les équipes RH et les PME.
Elle permet de résumer des documents, de rédiger des e-mails, de traduire des textes et de structurer des informations. Pour de nombreuses tâches quotidiennes, cela représente une aide précieuse.
Toutefois, les questions juridiques obéissent à d'autres exigences.
Une réponse juridique erronée peut engendrer des coûts réels, engager votre responsabilité et conduire à de mauvaises décisions. Et c'est précisément là que les systèmes GPT généralistes deviennent dangereux.
Le problème de fond : les GPT semblent avoir raison, même lorsqu'ils se trompent
Les grands modèles de langage génèrent des réponses fluides. Ils sont conçus pour prédire le texte le plus probable, et non pour garantir l'exactitude juridique.
C'est pourquoi ils peuvent produire des réponses qui paraissent assurées, mais qui s'avèrent factuellement ou juridiquement erronées. OpenAI avertit elle-même que ChatGPT peut générer des informations inexactes et invite les utilisateurs à vérifier les résultats importants. Ses conditions d'utilisation précisent également que les utilisateurs ne doivent pas se fier à ces résultats comme unique source de vérité ni comme substitut à un conseil professionnel.
Dans le cadre d'un travail juridique, il ne s'agit pas d'une limitation mineure.
C'est le risque central.
En effet, la réponse de l'IA la plus redoutable n'est pas celle qui est manifestement fausse. C'est celle qui a l'air professionnelle, cite une source plausible et vous conduit pourtant à une conclusion erronée.
Le RAG ne résout pas le problème
De nombreux systèmes prétendent aujourd'hui offrir une sécurité accrue grâce au RAG (génération augmentée par récupération). Pour simplifier, l’IA recherche d'abord des documents de référence, puis rédige sa réponse sur cette base.
Cette méthode est certes plus performante que de répondre uniquement à partir de la mémoire interne du modèle.
Mais elle n'exclut pas pour autant tout risque d'hallucination.
Des chercheurs de l'Université de Stanford ont testé des outils d'IA juridique et ont constaté que même les systèmes basés sur le RAG continuaient de produire des réponses fausses ou non étayées. Une étude menée en lien avec l'Université de Yale est parvenue à la même conclusion : les promesses d'une IA juridique « sans hallucination » sont largement surestimées.
Le RAG peut certes réduire certaines erreurs.
Mais il ne peut à lui seul garantir que le système a trouvé la bonne source, l'a comprise correctement, a appliqué la bonne juridiction, a identifié les exceptions et a abouti à la juste conclusion juridique.
Or, en droit, c'est précisément ce qui fait toute la différence.
Un chatbot doté de documents n'est pas un système juridique
Il existe un fossé majeur entre :
charger des documents dans un outil GPT
et concevoir un véritable système de réponse juridique.
Un GPT personnalisé peut parcourir des fichiers et générer une réponse de qualité apparente. Cela ne signifie pas que cette réponse est fiable sur le plan juridique.
Pour les fiduciaires, le risque est particulièrement élevé. Leur travail quotidien touche au droit du travail, au droit fiscal, aux assurances sociales, aux contrats et aux obligations des entreprises. Une légère erreur peut avoir de lourdes conséquences pour leurs clients.
Même en Suisse, des solutions GPT sectorielles destinées aux fiduciaires font aujourd'hui leur apparition, à l'instar de TREUHAND|SUISSE GPT pour la pratique fiduciaire helvétique. Le site officiel met en avant une technologie suisse, l'hébergement des données en Suisse et des « constructeurs » thématiques pour des domaines tels que la fiscalité cantonale.
Cela constitue un atout indéniable pour la protection des données.
Cependant, l'hébergement en Suisse n'élimine pas les hallucinations.
Et la sécurité des données ne garantit en rien l'exactitude juridique.
Ce que Jurilo fait différemment
Jurilo a été conçu pour apporter des réponses juridiques, et non pour converser de façon généraliste.
Cela se traduit par :
des sources juridiques suisses vérifiées
des limites de domaine clairement définies
des réponses systématiquement fondées sur des sources
un raisonnement contrôlé
des indicateurs de niveau de confiance
des tests rigoureux basés sur des cas juridiques réels
et la capacité de ne pas répondre lorsque le système ne dispose pas d'éléments suffisamment sûrs.
C'est là toute la différence entre un chatbot et un système d'aide à la décision juridique.
L'IA va indéniablement transformer les métiers de la fiduciaire, des ressources humaines et du droit.
Mais lorsqu'il s'agit de questions juridiques, nous ne pouvons pas nous contenter du critère : « Cela semble convaincant ».
La seule exigence acceptable doit être : « Le contenu est exact, sourcé et utilisable en toute sécurité ».
C'est précisément pour cela que Jurilo existe.
