RAG juridique pour avocats : architecture

Un LLM généraliste invente des numéros de pourvoi avec une fluidité qui donne le vertige. En 2023, deux avocats new-yorkais ont cité dans leurs conclusions six arrêts générés par ChatGPT qui n'avaient jamais existé, l'affaire Mata v. Avianca a depuis fait le tour des barreaux français et cristallisé la méfiance de la profession envers l'IA. Pourtant, le problème n'est pas l'IA. C'est l'absence d'architecture. Un RAG jurisprudentiel bien construit, avec des garde-fous techniques adaptés au droit français, est précisément la réponse à ce risque.

Cet article est un guide d'architecture, pas un guide utilisateur. Il s'adresse aux cabinets d'avocats qui veulent comprendre comment construire, ou faire construire, un système RAG sur corpus juridique français : choix des sources (Légifrance, Judilibre, base interne), stratégie de chunking par considérant, embeddings spécialisés, retrieval hybride BM25 + dense, reranker avec poids de juridiction, prompt anti-hallucination, et évaluation continue par les juristes. Avec les coûts réels, les délais honnêtes, et les pièges documentés.

1. Pourquoi un RAG custom plutôt que Doctrine ou Lexis

Doctrine.fr, Lexis Nexis et Ordalie sont d'excellents outils. Leur valeur est réelle : des bases de jurisprudence publiée exhaustives, mises à jour quotidiennement, avec des interfaces de recherche bien rodées. Alors pourquoi construire quelque chose de plus ?

Parce qu'ils ont trois angles morts structurels qu'aucune mise à jour de produit ne peut corriger.

Cela ne signifie pas qu'il faut choisir entre les deux. L'architecture optimale, que nous détaillons plus loin, combine Doctrine ou Ordalie pour les sources publiques avec un RAG interne pour la mémoire du cabinet. Les deux répondent à des besoins distincts.

Pour une introduction aux différences fondamentales entre RAG et outils de recherche classiques, notre article sur le RAG : définition et fonctionnement pose les bases. Et si vous hésitez entre RAG et fine-tuning pour votre cabinet, notre comparatif RAG ou fine-tuning pour cabinet juridique détaille les cas où chaque approche s'impose.

2. Architecture de référence : le pipeline complet

Voici l'architecture que nous construisons pour un RAG jurisprudentiel en cabinet d'avocats. Elle se décompose en cinq couches distinctes.

Chaque couche a ses exigences spécifiques en contexte juridique. Les sections suivantes les détaillent dans l'ordre d'importance, du chunking (la décision la plus critique) jusqu'à la génération et la vérification.

3. Constitution du corpus : Légifrance, Judilibre et base interne

Un RAG n'est aussi bon que son corpus. En droit français, trois sources sont à combiner selon la spécialité du cabinet.

Légifrance et l'API PISTE

L'accès programmatique à Légifrance passe par l'API PISTE de la DILA. Elle donne accès aux codes en vigueur, aux textes législatifs et réglementaires, et à une partie de la jurisprudence publiée. Le format de sortie est du XML structuré, ce qui facilite le parsing et l'extraction des métadonnées. Les décisions y sont classées par juridiction, chambre, date et solution.

Contrainte à anticiper : la qualité du XML varie selon l'ancienneté des décisions. Les arrêts antérieurs à 2005 sont souvent moins bien structurés, avec des balises inconsistantes. Il faut prévoir une phase de normalisation dans le pipeline d'ingestion.

Judilibre : l'accès aux décisions inédites

Judilibre est l'API officielle de la Cour de cassation pour les décisions civiles et pénales. Son avantage décisif : elle inclut les décisions inédites, non publiées au Bulletin, qui représentent la majorité du volume. Pour un RAG jurisprudentiel en droit du travail, en droit des affaires ou en droit de la famille, Judilibre est incontournable.

Elle expose aussi les liens de citation entre décisions : savoir qu'un arrêt a été cité, cassé, ou confirmé par une décision ultérieure. C'est une information précieuse pour détecter la jurisprudence dépassée, un piège majeur que nous traitons plus loin.

La base interne du cabinet : le corpus le plus précieux

Les conclusions, mémoires, notes de dossiers et décisions annotées par les associés constituent la mémoire propriétaire du cabinet. C'est ce corpus qui différencie votre RAG de tout outil du marché. Mais c'est aussi le plus complexe à ingérer.

• Les documents sont en formats hétérogènes : Word, PDF natifs, PDF scannés, mails exportés.
• Les PDF scannés nécessitent une étape d'OCR, la qualité varie selon l'ancienneté des documents.
• Les données personnelles des parties (clients du cabinet) doivent être anonymisées avant ingestion pour rester dans le cadre du secret professionnel et du RGPD.
• Un plan de migration documentaire est nécessaire si les archives du cabinet n'ont pas de structure cohérente.

Volume typique pour un cabinet de 10 à 30 avocats : 50 000 à 300 000 documents. La phase d'ingestion initiale prend de 2 à 5 semaines selon la qualité des archives.

4. Chunking par considérant : la décision la plus importante

La plupart des projets RAG échouent au niveau du chunking. En général, on découpe les documents à taille fixe (512 tokens, 1024 tokens) en acceptant de couper au milieu d'une phrase. C'est acceptable pour de la documentation technique. C'est rédhibitoire en droit.

Un arrêt de la Cour de cassation est construit autour d'une structure argumentative précise : les considérants. Chaque considérant contient un raisonnement complet, règle de droit appliquée, fait retenu par la cour, conséquence juridique tirée. Couper ce considérant au milieu brise le syllogisme et rend le chunk inutilisable pour un avocat qui cherche à comprendre pourquoi la cour a statué dans un sens donné.

Pour les bases internes du cabinet en Word et PDF non structurés, le chunking par considérant n'est pas applicable directement. On utilise alors une stratégie par paragraphes sémantiques avec chevauchement (overlap de 10 à 15 %) pour préserver la continuité argumentative. Le chevauchement est plus important ici que sur un corpus structuré XML.

Gérer l'évolution jurisprudentielle dans le corpus

Un piège que beaucoup de projets sous-estiment : une décision peut être contredite, cassée ou nuancée par une jurisprudence ultérieure. Un RAG qui retourne un arrêt de 2015 sans signaler qu'il a été contredit en 2023 induit l'avocat en erreur, avec des conséquences potentiellement disciplinaires.

La solution passe par deux mécanismes : (1) les liens de citation Judilibre permettent de marquer une décision comme "citée et infirmée" dans ses métadonnées, le reranker peut alors la pénaliser, (2) la mise à jour du corpus doit être hebdomadaire au minimum avec une vérification automatique de cohérence entre les nouvelles décisions et celles déjà indexées sur les mêmes points de droit. Cette détection automatique signale les conflits potentiels, elle ne tranche pas seule : un juriste valide le marquage "infirmée" avant que la métadonnée ne modifie le classement des résultats.

5. Embeddings juridiques : pourquoi les modèles génériques déçoivent

Les embeddings transforment un texte en vecteur numérique qui capture son sens. Le problème : les modèles d'embedding entraînés sur des corpus génériques (web, Wikipedia, livres) n'ont pas été exposés à suffisamment de vocabulaire juridique français spécialisé pour le représenter fidèlement.

Concrètement, un modèle générique peut rapprocher sémantiquement "licenciement sans cause réelle et sérieuse" et "rupture injustifiée du contrat de travail", ce qui est correct à un niveau général. Mais il ne fait pas correctement la distinction entre "licenciement économique" et "licenciement pour motif personnel", deux notions juridiquement très différentes qui utilisent pourtant des vocabulaires proches.

Quel modèle choisir ?

Quelle que soit l'option retenue, le modèle d'embedding doit être évalué sur un eval set dédié construit avec les juristes du cabinet avant tout choix définitif. Un benchmark générique (MTEB, BEIR) ne reflète pas les performances réelles sur un corpus de droit du travail toulousain ou de droit immobilier parisien.

6. Retrieval hybride BM25 + dense et reranker juridique

En RAG standard, on utilise uniquement la recherche dense : transformer la requête en vecteur et trouver les passages les plus proches dans la base. C'est adapté aux requêtes en langage naturel. En droit, c'est insuffisant.

Pourquoi le BM25 est indispensable dans un RAG juridique

Un avocat ne cherche pas toujours "en langage naturel". Il cherche souvent :
"article L. 1235-1 du Code du travail", une référence textuelle exacte.
"Cass. soc. 12 janvier 2022 n° 20-18.234", un numéro de pourvoi précis.
"licenciement sans cause réelle et sérieuse indemnité légale", une combinaison de termes techniques.

La recherche dense peut rater ces correspondances exactes si les termes n'apparaissent pas tels quels dans le corpus, ce qui arrive quand les décisions utilisent des abréviations ou des formulations légèrement différentes. Le BM25, algorithme de recherche plein texte, est au contraire excellent sur les correspondances exactes de termes.

Le ratio optimal que nous avons constaté sur nos projets juridiques : 0,4 BM25 / 0,6 dense. Le BM25 a un poids plus fort qu'en RAG standard, parce que les avocats cherchent plus souvent par termes précis que par sens général.

Le reranker avec poids de juridiction

Après le retrieval hybride, les 20 à 30 passages candidats passent par un reranker qui les reclasse avant de n'en garder que 5 à 8 pour le prompt. Le reranker standard évalue la pertinence sémantique par rapport à la requête. En droit, on y ajoute des critères supplémentaires.

7. Prompt et garde-fous anti-hallucination

L'affaire Mata v. Avianca en 2023 a montré que des avocats peuvent citer en toute bonne foi des arrêts générés par un LLM qui n'ont jamais existé. Le cabinet a été condamné à des sanctions disciplinaires. En France, citer une jurisprudence inexistante dans des conclusions est une faute grave exposant à une procédure disciplinaire devant le barreau.

Dans un RAG bien conçu, le LLM ne devrait pas pouvoir inventer de référence, puisqu'il ne répond que sur la base des documents fournis. Mais "ne devrait pas" n'est pas une garantie. Voici les trois barrières à empiler.

Barrière 1 : le prompt interdit explicitement l'invention

La structure du prompt pour un RAG juridique inclut systématiquement ces instructions :

Barrière 2 : vérification automatique post-génération

Après la génération de la réponse, un composant de vérification extrait chaque référence citée (numéro de pourvoi, date + juridiction) et la vérifie dans l'index. Si la référence n'existe pas dans la base vectorielle, la réponse est bloquée et l'utilisateur reçoit un message d'avertissement. Ce composant de vérification tourne en moins de 200 ms et ajoute une couche de sécurité indépendante du LLM.

Barrière 3 : seuil de confiance du retrieval

Si le score de similarité cosinus des passages retrouvés est inférieur à un seuil configuré (nous recommandons 0,65 comme point de départ), le système ne génère pas de réponse. Il répond : "Je ne trouve pas de décision suffisamment pertinente pour cette question." C'est contre-intuitif pour les équipes qui veulent toujours une réponse, mais c'est la différence entre un outil utile et un outil dangereux en contexte juridique.

8. Évaluation continue : construire un eval set avec les juristes

Un RAG juridique ne peut pas être évalué par des métriques automatiques seules. Les juristes du cabinet doivent être impliqués dans la construction de l'eval set dès le début du projet. C'est souvent la partie que les équipes techniques sous-estiment, et qui rallonge les projets de plusieurs semaines si elle est faite en retard.

Comment construire l'eval set

L'eval set idéal contient 80 à 150 paires question / réponse attendue, construites avec 2 à 3 juristes seniors du cabinet. Chaque paire comprend :

• La question en langage naturel tel qu'un collaborateur la poserait réellement
• Les décisions attendues dans la réponse (avec numéros de pourvoi vérifiés)
• Les critères de pertinence : juridiction, chambre, date, solution
• Un indicateur "question piège" pour tester le comportement du système quand il ne doit pas trouver de réponse

Les "questions pièges", des questions auxquelles le corpus ne contient pas de réponse pertinente, sont particulièrement importantes. Elles permettent de valider que le système refuse de répondre au lieu d'inventer. C'est le test le plus exigeant et le plus révélateur de la robustesse du pipeline.

Évaluation continue en production

Une fois en production, l'évaluation ne s'arrête pas. Un échantillon aléatoire de 20 à 30 requêtes hebdomadaires est soumis à une revue par les juristes. Les dérives de qualité, nouvelles décisions ingérées avec parsing défectueux, évolution jurisprudentielle non reflétée dans le corpus, questions émergentes non couvertes, sont détectées tôt. C'est le seul moyen de maintenir la confiance des avocats dans l'outil.

Notre article sur l'optimisation d'un système RAG en production détaille les métriques RAGAS (faithfulness, answer relevancy, context precision) et comment les instrumenter dans un pipeline de monitoring continu.

9. Secret professionnel, RPVA et conformité

L'article 66-5 de la loi du 31 décembre 1971 pose un secret professionnel absolu et opposable à tous. Tout traitement de données de dossier sur une plateforme tierce non contractualisée expose l'avocat à une sanction disciplinaire. Ce n'est pas une contrainte irrationnelle, c'est une des garanties fondamentales du droit à un procès équitable.

Un RAG jurisprudentiel peut être parfaitement compatible avec ces exigences à trois conditions.

Condition 1 : hébergement souverain

L'ensemble de l'infrastructure, base vectorielle, modèle d'embedding, LLM, doit être hébergé en France ou dans l'UE, sur des serveurs non soumis au Cloud Act américain. Les options : OVHcloud (datacenter Gravelines, Roubaix), Scaleway (Paris, Amsterdam), ou déploiement on-premise dans le datacenter du cabinet ou d'un hébergeur certifié HDS. Pour les cabinets avec contrainte de confidentialité absolue, un RAG 100 % souverain avec Mistral on-premise est l'architecture de référence.

Condition 2 : DPA signé avec chaque fournisseur IA

Si le pipeline fait appel à une API externe (même une API européenne comme Mistral API ou Cohere), un Data Processing Agreement doit être signé avec le fournisseur, garantissant que les données ne sont pas utilisées pour l'entraînement et que l'accès est journalisé. Sans ce DPA, l'usage est formellement non conforme, même si les risques pratiques sont faibles.

Condition 3 : anonymisation des bases internes

Les décisions publiées sur Légifrance et Judilibre sont anonymisées par défaut depuis l'application du RGPD aux décisions de justice en 2019 (décision du Conseil d'État). En revanche, les bases internes du cabinet, conclusions, dossiers clients, contiennent les noms réels des parties. Ces documents doivent être anonymisés avant ingestion dans le RAG. Des outils d'anonymisation automatique (détection d'entités nommées + remplacement) permettent de traiter ces volumes en batch. Le batch ne dispense pas du contrôle : un échantillon des documents anonymisés est relu par un humain avant ingestion pour vérifier qu'aucun nom de partie n'a échappé à la détection, le secret professionnel ne tolère pas de faux négatif silencieux.

Sur la question du RPVA : les documents reçus via le Réseau Privé Virtuel des Avocats peuvent être automatiquement versés dans le corpus RAG une fois anonymisés, via un connecteur dédié. Jarvis Legal et Kleos exposent des API pour ce type d'intégration. Notre article sur l'IA juridique, RGPD et souveraineté pour cabinets d'avocats couvre en détail les exigences réglementaires.

Enfin, l'AI Act européen (en application progressive jusqu'en août 2026) classe les systèmes d'aide à la décision judiciaire à "risque élevé". Cela impose des obligations de traçabilité et de supervision humaine. Un RAG jurisprudentiel qui fournit des éléments de recherche, sans décider à la place de l'avocat, reste hors de la zone rouge, à condition que la supervision humaine soit documentée dans le flux de travail.

10. Coûts et délais réels

Les projets RAG juridiques prennent plus de temps que prévu, surtout à cause de la constitution du corpus et de la validation juriste. Voici les chiffres issus de nos déploiements.

Ce qui rallonge les délais

Le délai minimum réaliste est de 14 semaines. La médiane est de 22 semaines. Les principaux facteurs d'allongement :

• La constitution du corpus interne si les archives du cabinet sont en PDF scannés non structurés : comptez 3 à 5 semaines supplémentaires d'OCR et de parsing.
• Le fine-tuning de l'embedding sur le vocabulaire juridique spécifique du cabinet : 2 semaines supplémentaires mais un gain de qualité mesurable.
• La validation par les juristes : ils sont exigeants et ont raison de l'être. Les cycles de recette sont plus longs que sur d'autres secteurs.
• L'adoption : les avocats seniors font confiance à leur propre recherche et sont légitimement méfiants. Les démonstrations sur leurs propres dossiers récents, avec des résultats vérifiables, sont le seul levier d'adhésion qui fonctionne.

Une estimation détaillée de votre projet passe par un audit initial Tensoria, qui permet de qualifier le corpus existant, la stack métier (Jarvis, Kleos, RPVA) et les contraintes de confidentialité spécifiques à votre cabinet.

Pour aller plus loin