Qu'est-ce qu'une hallucination dans le contexte juridique ?
Une hallucination désigne, en intelligence artificielle, la production d'une information fausse présentée avec une confiance totale. Dans le contexte juridique, cela prend des formes précises et particulièrement dangereuses : une référence d'arrêt inexistante, un numéro d'article erroné, une date de décision incorrecte, ou encore une règle de droit reformulée à contresens. Le modèle ne ment pas — il n'a pas de conscience — mais son architecture statistique le pousse à produire une sortie plausible plutôt qu'une sortie exacte.
Ce phénomène est inhérent à la conception des grands modèles de langage (LLM) : ils prédisent le prochain mot le plus probable selon un corpus d'entraînement. Sur un corpus juridique fragmenté ou généraliste, le modèle peut « compléter » une référence avec les éléments qu'il a le plus souvent associés à ce type de citation — sans que cela corresponde à un document réel. Le résultat : un arrêt de Cour de cassation dont le numéro n'existe pas, une directive européenne avec le bon intitulé mais la mauvaise date, une clause standard dont la portée a été transformée.
Le Tribunal judiciaire de Périgueux, dans une décision du 18 décembre 2025 (n° 23/00452), a relevé que des références jurisprudentielles citées par un requérant dans ses conclusions n'étaient pas retrouvables — signe d'une vérification absente sur des sorties d'IA générative.
Pourquoi les hallucinations engagent-elles la responsabilité de l'avocat ?
La réponse courte : parce que l'outil ne signe pas les conclusions. L'avocat reste l'auteur de tout document transmis à une juridiction ou à un client. Une jurisprudence fantôme dans un mémoire est une faute déontologique, que l'IA l'ait générée ou non.
Le guide CNB « La déontologie et l'IA », adopté le 17 mars 2026, est explicite sur ce point : l'avocat « doit relire, contrôler et valider chaque contenu généré avant de l'utiliser ou de le transmettre à un client ou à une juridiction ». Les logiciels intégrant l'IA sont des « outils d'assistance et pas de substitution » à l'exercice professionnel. Cette formulation, reprise de l'ancienne présidente du CNB Christiane Féral-Schuhl, a désormais une valeur normative.
Sur le plan du RGPD, la question des hallucinations croise aussi la protection des données : si une IA générative produit une synthèse erronée mêlant des informations confidentielles de plusieurs dossiers, le préjudice peut dépasser la simple erreur factuelle.
Le guide CNB mars 2026 couvre « la protection du secret professionnel, le respect du RGPD, les obligations de compétence, prudence et indépendance ». Un avocat qui transmet une jurisprudence inventée sans vérification manque à son obligation de compétence.
Les IA généralistes hallucinent-elles plus que les outils spécialisés ?
Oui, et la raison est structurelle. Un modèle généraliste comme ChatGPT ou Gemini a été entraîné sur un corpus massif et hétérogène, dans lequel le droit français ne représente qu'une fraction minime. Face à une question pointue de droit des affaires ou de contentieux administratif, le modèle s'appuie sur des associations statistiques peu fiables, ce qui augmente la probabilité d'une hallucination.
À cela s'ajoute un problème de temporalité : les modèles généralistes ont une date de coupure d'entraînement. Ils ignorent les arrêts récents, les lois publiées après leur mise à jour et les évolutions réglementaires. Une IA interrogée sur la jurisprudence 2025 de la Cour de cassation peut parfaitement « inventer » des décisions récentes qu'elle n'a jamais vues.
| Corpus d'entraînement | Généraliste, droit français sous-représenté | Corpus juridique contrôlé et mis à jour |
| Fraîcheur des données | Date de coupure fixe (souvent 12-18 mois de retard) | Mise à jour régulière sur sources officielles |
| Citations jurisprudentielles | Risque élevé d'invention de références | Ancrage sur bases vérifiées (Légifrance, Dalloz) |
| Confidentialité des données | Transit vers serveurs tiers (cloud) | On-premise : aucune donnée ne sort du cabinet |
| Vérification des sorties | Aucune vérification native des sources | Traçabilité des sources et liens vers textes d'origine |
| Conformité RGPD | Absence de DPA adapté aux cabinets | Traitement local, pas de transfert hors UE |
Cette asymétrie explique pourquoi la CNIL insiste sur la nécessité de choisir des outils adaptés au contexte d'usage, avec des garanties sur les données d'entraînement et l'architecture technique.
Comment vérifier les sorties d'une IA juridique en trois étapes ?
Il n'existe pas de vérification automatique infaillible. En revanche, un protocole structuré, appliqué systématiquement, permet de neutraliser les hallucinations avant qu'elles atteignent un document officiel. Voici les trois étapes incontournables.
Étape 1 — Vérifier la source primaire. Toute référence jurisprudentielle ou législative produite par l'IA doit être retrouvée sur une source officielle : Légifrance pour les textes législatifs et réglementaires français, EUR-Lex pour les textes européens, la base de données de la Cour de cassation ou du Conseil d'État pour la jurisprudence. Si la référence n'est pas retrouvable en moins de deux minutes, elle est suspecte.
Étape 2 — Recouper par une requête indépendante. Ne pas interroger la même IA pour vérifier ses propres sorties : un modèle confirmera volontiers une hallucination qu'il vient de produire. La vérification doit passer par un outil différent ou, mieux, par une base de données juridique indépendante (Lexis 360, Dalloz, Navis).
Étape 3 — Validation humaine avant transmission. Aucune conclusion, aucun contrat, aucune note ne doit quitter le cabinet sans relecture humaine. Le guide CNB 2026 en fait une obligation non négociable : l'avocat doit « conserver en toutes circonstances la maîtrise intellectuelle et la responsabilité de son travail ».
Si une référence citée par une IA juridique n'est pas retrouvable sur Légifrance ou EUR-Lex en deux minutes, elle est à considérer comme une hallucination jusqu'à preuve du contraire.
Quels critères techniques réduisent structurellement les hallucinations ?
La prévention des hallucinations commence au moment du choix de l'outil, pas lors de la relecture. Trois critères techniques sont déterminants.
1. L'architecture RAG (Retrieval-Augmented Generation). Un outil qui, avant de générer une réponse, interroge une base documentaire vérifiée et ancre sa réponse sur des extraits réels, produit structurellement moins d'hallucinations qu'un modèle purement génératif. La traçabilité est visible : chaque assertion est liée à un passage source.
2. Le corpus d'entraînement juridique contrôlé. Un modèle spécialisé sur des textes de loi, de la jurisprudence et des contrats vérifiés connaît le droit français de manière plus fiable qu'un modèle généraliste. La qualité du corpus est souvent plus importante que la taille du modèle.
3. L'architecture on-premise (locale). Une IA installée directement sur les serveurs du cabinet présente un double avantage : les données ne transitent jamais vers un serveur tiers (conformité RGPD, protection du secret professionnel), et le corpus peut être mis à jour par l'éditeur sans dépendre d'un pipeline cloud incontrôlable. La CNIL, dans son programme de travail 2026, rappelle que la qualification du responsable de traitement et le choix de l'architecture technique restent des enjeux centraux pour les professionnels utilisant l'IA.
Une IA on-premise traite les documents juridiques sans les transmettre à un serveur externe. Elle satisfait simultanément à l'obligation de secret professionnel et à l'exigence de minimisation des données du RGPD (article 5).
L'AI Act impose-t-il des obligations sur la fiabilité des sorties d'IA ?
Oui. Le règlement (UE) 2024/1689 dit « AI Act » classe certains usages juridiques dans la catégorie à haut risque, notamment les systèmes d'aide à la décision dans un contexte judiciaire. Pour ces usages, les obligations de transparence, de documentation et de supervision humaine s'appliquent depuis le 2 août 2026.
Pour les cabinets, la qualification de déployeur est la plus fréquente : l'avocat qui intègre un outil d'IA tiers dans son flux de travail est responsable de son usage conforme. Cela inclut la vérification que l'outil est capable de produire des sorties fiables et traçables, et que les personnes concernées sont informées lorsque l'IA intervient dans un processus décisionnel.
En pratique, un cabinet qui ne dispose pas d'un protocole de vérification des sorties d'IA s'expose à un double risque : déontologique au titre du guide CNB, et réglementaire au titre de l'AI Act pour les usages à haut risque.
Questions fréquentes
Qu'est-ce qu'une hallucination d'IA juridique concrètement ?
Un avocat peut-il être sanctionné pour une hallucination d'IA dans ses conclusions ?
Comment savoir si une référence citée par une IA est fiable ?
Les IA juridiques spécialisées hallucinent-elles moins que ChatGPT ?
Une IA locale (on-premise) réduit-elle le risque d'hallucination ?
Quelles obligations l'AI Act impose-t-il aux avocats en matière de fiabilité des sorties d'IA ?
Comment informer le client de l'usage de l'IA dans son dossier ?
Conclusion : la fiabilité n'est pas optionnelle
Les hallucinations de l'IA juridique ne sont pas un défaut corrigible à court terme : elles sont inhérentes à l'architecture des grands modèles de langage. La seule réponse rationnelle est un protocole de vérification systématique, un choix d'outil rigoureux et une architecture technique qui minimise structurellement ce risque.
En 2026, le cadre réglementaire converge dans la même direction : le guide CNB de mars 2026 impose la validation humaine, l'AI Act exige la supervision et la traçabilité, la CNIL rappelle les obligations du responsable de traitement. Un outil d'IA locale, entraîné sur un corpus juridique contrôlé et déployé en on-premise comme JurIAdoc, satisfait à ces exigences sans contraindre le cabinet à construire sa propre infrastructure de conformité.