IA souveraine

IA souveraine et IA locale : des LLM sur votre infrastructure ou chez un hébergeur français

Nous concevons des systèmes RAG, agents, extraction et automatisations sur des modèles ouverts comme Mistral, Llama, Qwen ou Gemma, servis avec vLLM ou Ollama, sur vos serveurs, sur un cloud français ou en architecture hybride. Vos données restent dans le périmètre que vous fixez. Tensoria est une agence IA basée à Toulouse qui conçoit des systèmes IA souverains sur mesure pour les PME et ETI.

Échanger sur votre besoin de souveraineté Recevoir un devis

Trois niveaux de souveraineté

Le bon niveau dépend de votre contrainte réelle

Souveraineté totale et complexité vont ensemble. Nous qualifions d'abord ce que votre contexte exige avant de proposer le niveau le plus lourd.

API hébergée en Europe

Pour les entreprises dont les données peuvent transiter par une API, sous réserve d'un hébergement et d'un traitement localisés en Union européenne.

Ce que ça garantit

Localisation du traitement en Europe, cadre contractuel RGPD clair, mise en place rapide.

Complexité

La plus faible des trois niveaux. Pas d'infrastructure à exploiter, l'intégration ressemble à celle d'une API classique.

Cloud français avec modèle ouvert

Pour les entreprises qui veulent un modèle ouvert dont elles maîtrisent le comportement, sans porter elles mêmes l'exploitation matérielle.

Ce que ça garantit

Hébergement chez un acteur français comme Scaleway ou OVHcloud, modèle ouvert dont on connaît le comportement et les biais, pas de dépendance à un fournisseur de modèle propriétaire.

Complexité

Intermédiaire. Il faut choisir, dimensionner et surveiller le modèle servi, mais l'infrastructure physique reste gérée par l'hébergeur.

Sur vos serveurs

Pour les organisations dont les données ne doivent jamais quitter leur propre périmètre réseau, par obligation sectorielle ou contractuelle.

Ce que ça garantit

Aucune donnée ne sort de votre infrastructure. Contrôle complet sur le matériel, le réseau et les journaux d'accès.

Complexité

La plus élevée. GPU à provisionner et à faire vivre, mises à jour à gérer, supervision à mettre en place, avec une équipe ou un contrat de maintenance.

Quand c'est nécessaire, quand ça ne l'est pas

La souveraineté n'est pas une case à cocher par principe

Quand elle est vraiment nécessaire

Données de santé, données couvertes par le secret médical ou des obligations sectorielles fortes.
Défense, aéronautique et sous-traitance de rang soumise à des clauses de sécurité contractuelles.
Données juridiques sensibles, secret professionnel, dossiers clients confidentiels.
Données RH nominatives, dossiers de paie ou d'évaluation individuelle.
Clauses contractuelles clients qui interdisent explicitement le transfert vers un pays tiers.
Secteur public, en particulier lorsqu'une doctrine ou un référentiel impose une localisation précise.

Quand un hébergement européen suffit

Beaucoup d'usages internes, comme la recherche documentaire générale, la rédaction assistée ou le support de premier niveau, n'exigent pas un déploiement on premise. Un hébergement d'API en Union européenne, avec un contrat qui encadre le traitement, répond déjà à la majorité des exigences RGPD. Lire notre comparaison de Microsoft Copilot et de l'IA souveraine française pour situer les deux options sur des cas concrets.

Dans certains cas, l'anonymisation des données avant envoi à une API suffit à lever la contrainte. Voir notre article sur l'anonymisation RGPD avec Presidio pour savoir quand cette approche tient et quand elle ne suffit pas.

Ce qu'on déploie

Les mêmes usages, hébergés dans votre périmètre

RAG documentaire, agents outillés, extraction d'information et automatisations métier. Ce qui change, c'est où tournent le modèle et les données, pas les usages eux mêmes. Voir aussi notre offre d'assistant IA interne RAG pour le détail d'un déploiement documentaire.

RAG souverain

Recherche documentaire sur vos données internes, base vectorielle hébergée dans votre périmètre. Voir notre architecture de RAG souverain avec Mistral.

Agents outillés

Agents qui appellent des outils internes sans que les requêtes ne sortent de votre réseau.

Extraction structurée

Extraction de données depuis des documents techniques, juridiques ou industriels, sur un modèle que vous hébergez.

Automatisations

Orchestration de tâches métier auto hébergée. Voir notre guide pour auto héberger n8n en conformité RGPD.

Serveur de modèle

vLLM ou Ollama selon le débit et le matériel disponible.

Modèles ouverts

Mistral, Llama, Qwen, Gemma, choisis et mesurés sur votre cas.

Base vectorielle

Hébergée dans le même périmètre que le modèle et les documents.

Observabilité

Journalisation des requêtes, supervision de la charge GPU et des erreurs.

RAG souverain

RAG souverain : ce que ça implique, composant par composant

Un RAG souverain est un assistant documentaire dont le modèle, les embeddings, la base vectorielle, les journaux et les connecteurs tournent tous dans un périmètre que vous contrôlez, sous juridiction européenne. Il suffit qu'un seul composant appelle une API extérieure pour que vos documents ou les questions des utilisateurs sortent.

Modèle de génération

Mistral Small ou un modèle open source comme Llama, Qwen ou Gemma, servi par vLLM quand plusieurs utilisateurs interrogent en parallèle, ou par Ollama pour un petit volume ou un poste isolé.

Embeddings hébergés

Le modèle qui transforme documents et questions en vecteurs (bge-m3 par exemple) tourne dans le même périmètre. Une API d'embeddings externe reçoit tout le corpus pendant l'indexation, puis chaque question.

Base vectorielle

Qdrant auto-hébergé, avec recherche hybride vectorielle et lexicale et filtres par métadonnées pour appliquer les droits d'accès. pgvector convient si PostgreSQL est déjà en place.

Journaux et traces

Questions, passages retrouvés et réponses contiennent vos données. L'outil de suivi (Langfuse auto-hébergé par exemple) reste dans le périmètre, avec une durée de conservation définie.

Parsing et OCR

L'extraction du texte des PDF et des scans (Docling, Unstructured, OCR open source) tourne aussi en local. Un service d'OCR en ligne voit chacun de vos documents.

Synchronisation des sources

La synchronisation avec SharePoint, la GED ou le serveur de fichiers part de l'intérieur du périmètre. Un connecteur tiers qui copie les documents sur ses propres serveurs annule la garantie.

Trois options de déploiement

Le même RAG peut tourner à trois endroits. Ce qui change, c'est qui peut accéder aux données et ce qu'il faut exploiter soi-même.

Option	Où tournent modèle, index et journaux	Ce que ça garantit	Ce que ça demande
On-premise sur GPU	Sur vos serveurs, dans votre réseau, sans accès Internet si nécessaire	Aucune donnée ne sort. Contrôle complet du matériel, du réseau et des journaux.	GPU dimensionnés selon le modèle et le nombre d'utilisateurs simultanés, mises à jour, supervision, une équipe ou un contrat de maintenance.
Cloud français qualifié SecNumCloud	Chez un hébergeur dont le service est qualifié SecNumCloud par l'ANSSI	Hébergement et exploitation dans l'Union européenne, prestataire protégé par le référentiel contre les lois extra-européennes comme le Cloud Act.	Vérifier que le service utilisé, GPU compris, figure dans le périmètre qualifié : la qualification porte sur un service précis, pas sur tout le catalogue d'un fournisseur. Offre plus restreinte et plus chère qu'un cloud standard.
Cloud américain en région Europe	AWS, Azure ou Google Cloud, dans une région située en Europe (Paris, Francfort)	Données stockées et traitées en Europe, cadre RGPD contractuel, services managés.	Accepter le risque du Cloud Act : le fournisseur reste soumis au droit américain, qui permet aux autorités américaines d'exiger les données qu'il contrôle, quel que soit le pays de stockage. Chiffrer avec vos propres clés réduit l'exposition sans changer la juridiction.

Les services qualifiés évoluent chaque mois : la référence est le catalogue des solutions qualifiées de l'ANSSI.

Quand un RAG souverain est nécessaire

Documents couverts par un secret (médical, professionnel, défense) ou par une obligation sectorielle.
Contrat client ou donneur d'ordre qui exclut un fournisseur soumis à une loi extra-européenne, ou marché public qui exige SecNumCloud.
Corpus au cœur du savoir-faire (plans, formules, procédés) que la direction refuse de confier à un tiers.

Quand c'est excessif

Documentation produit publique, FAQ de support, procédures sans donnée sensible : une API hébergée en Europe suffit.
Pas d'équipe ni de budget pour exploiter des GPU dans la durée : un RAG sur site mal maintenu protège moins bien qu'un cloud bien configuré.
Le risque principal est interne, un salarié qui voit un document qui ne le concerne pas : ce sont les droits d'accès appliqués à la recherche qui règlent le problème, pas l'hébergement.

Modèles, base vectorielle et coûts d'infrastructure sont détaillés dans notre retour d'expérience sur le RAG souverain avec Mistral. Pour le déploiement d'un assistant documentaire sur vos données, souverain ou non, voir notre assistant IA interne RAG.

IA locale ou cloud souverain

IA locale ou cloud souverain : que choisir

L'IA locale fait tourner le modèle sur vos propres machines. Le cloud souverain le fait tourner chez un hébergeur sous juridiction européenne. Les deux restent « souverains » ; ils n'ont ni le même coût d'exploitation ni les mêmes garanties.

Critère	IA locale (vos serveurs)	Cloud souverain (hébergeur français)
Où vont les données	Elles ne quittent jamais votre réseau	Elles restent chez un hébergeur de droit européen, sous contrat
Coût	GPU à acheter ou louer, énergie, exploitation	Consommation à l'usage ou serveur dédié, sans matériel à porter
Exploitation	À votre charge, ou par contrat de maintenance	Partagée avec l'hébergeur
Taille de modèle accessible	Limitée par votre matériel	Plus large, selon l'offre de l'hébergeur
Cas typique	Données classifiées, contraintes contractuelles strictes, site isolé	La plupart des usages internes avec données sensibles mais non classifiées

Mistral en entreprise

Mistral entreprise recouvre deux usages : l'API hébergée par Mistral AI, société française, et les modèles à poids ouverts de Mistral que l'on déploie soi-même, en local ou chez un hébergeur. Le second cas est celui qui garde la maîtrise complète de l'infrastructure. Nous mesurons le modèle sur vos documents avant de trancher.

Notre règle : partir du cloud souverain, passer en local seulement si la contrainte l'exige. Pour le détail du matériel, des modèles et des cas d'usage, lisez notre article sur l'IA locale en entreprise.

Comment on procède

Quatre étapes, du besoin réel au transfert

Qualification du besoin réel de souveraineté

Nature des données, obligations sectorielles ou contractuelles, sensibilité réelle des traitements. Cette étape détermine si le niveau qui convient est une API européenne, un cloud français ou un déploiement sur vos serveurs.

Choix et mesure du modèle sur le cas réel

Comparaison de plusieurs modèles ouverts sur vos données et vos scénarios, pas sur des bancs d'essai génériques. L'écart avec une API de pointe se mesure, il ne se suppose pas.

Déploiement et sécurisation

Mise en place du serveur de modèle, de la base vectorielle et des accès, avec journalisation des requêtes et cloisonnement réseau adaptés au contexte. Voir notre retour sur le déploiement d'une IA on premise sécurisée en aéronautique.

Exploitation et transfert

Documentation de l'architecture, transfert de compétences vers votre équipe technique ou mise en place d'un contrat de maintenance si vous n'avez pas la capacité de l'exploiter en interne.

Conditions de réussite et limites

Ce qu'il faut savoir avant de se lancer

Un déploiement sur vos serveurs suppose un budget d'exploitation GPU récurrent, pas seulement un investissement initial.
Il faut une équipe capable de maintenir le système, ou un contrat de maintenance : un LLM hébergé en interne ne se gère pas comme un site web statique.
Un modèle ouvert de taille moyenne est parfois moins bon qu'une API de pointe sur certaines tâches. Cet écart doit être mesuré sur votre cas réel avant de trancher, pas supposé.
La souveraineté n'existe pas par défaut : si les données finissent par transiter ailleurs, par un connecteur tiers, une extension ou un export non maîtrisé, la garantie tombe. L'architecture complète doit être cohérente, pas seulement le modèle.
Le sujet dépasse le seul modèle de langage. Voir notre checklist de sécurité des données IA en PME et notre analyse du coût réel d'une migration on premise pour ne pas découvrir ces conditions en cours de route.

Livrables

Ce que vous recevez

Architecture documentée

Schéma complet du système, des flux de données et des choix d'hébergement retenus.

Modèle choisi et mesuré

Comparatif des modèles testés sur vos données, avec les résultats qui ont motivé le choix final.

Déploiement reproductible

Configuration versionnée, permettant de reconstruire l'environnement sans dépendre d'une intervention manuelle.

Journalisation

Traçabilité des requêtes et des accès, utile pour l'audit interne et la conformité.

Transfert de compétences

Documentation et passation vers votre équipe technique, ou mise en place d'un suivi d'exploitation.

Optimisation mesurée

Réglages de latence et de débit quand ils sont nécessaires. Voir notre article sur vLLM et le speculative decoding.

Contextes déjà traités

Des enjeux de souveraineté concrets

Nous avons déployé des LLM ouverts avec vLLM dans un contexte spatial et aéronautique, et un RAG souverain pour un acteur du secteur public hors de France, en Andorre.

Continental

Assistant RAG industriel

Un assistant documentaire déployé pour plus de 2 000 utilisateurs en usine, avec une précision de réponse passée de 67 % à 89 %.

Voir le cas client →

Sous-traitance industrielle

IA souveraine ou ChatGPT en aéronautique

Comment un sous-traitant aéronautique doit arbitrer entre une API grand public et une solution souveraine, selon les clauses contractuelles en jeu.

Lire l'article →

Pour aller plus loin

Voisines de cette offre

Assistant IA interne RAG

Le déploiement d'un assistant documentaire sur vos données, avec ou sans exigence de souveraineté.

Audit RAG et agents IA

Évaluer, corriger et mettre en production un RAG ou un agent existant, y compris pour vérifier qu'il respecte les contraintes de souveraineté attendues.

Guide RAG en entreprise

Les fondamentaux du RAG en entreprise avant de choisir un niveau d'hébergement.

Questions fréquentes

Cela dépend de la tâche et il faut le mesurer sur votre cas réel plutôt que de le supposer. Sur du RAG documentaire ou de l'extraction structurée, un modèle ouvert de taille moyenne comme Mistral Small ou Qwen atteint souvent un niveau très proche des API de pointe. Sur du raisonnement complexe ou des tâches très générales, l'écart peut rester réel. Nous comparons toujours les options sur vos données avant de recommander une architecture.

Non. Le on premise complet a du sens quand la donnée elle même ne doit jamais quitter votre périmètre, par contrainte sectorielle ou contractuelle. Dans beaucoup d'autres cas, un hébergement européen ou une architecture hybride suffisent à répondre aux exigences RGPD sans porter la complexité et l'exploitation d'une infrastructure GPU interne. Nous qualifions le besoin réel avant de proposer le niveau le plus lourd.

Le dimensionnement dépend du modèle choisi, du volume de requêtes simultanées et de la latence attendue, il n'existe pas de configuration universelle. Un modèle ouvert de taille moyenne servi avec vLLM peut tourner sur un serveur avec un ou plusieurs GPU adaptés, chez vous ou chez un hébergeur français comme Scaleway ou OVHcloud. Le dimensionnement fait partie du travail de déploiement et se valide par la mesure, pas par une estimation générique.

Votre équipe technique si elle a la capacité de le faire, avec une documentation et un transfert de compétences prévus dès le déploiement. Si ce n'est pas le cas, un contrat de maintenance ou d'exploitation peut être mis en place. Dans les deux cas, la charge de maintenance d'un système hébergé chez vous est réelle : mises à jour, supervision, gestion de la charge GPU. Nous en parlons dès la qualification, elle fait partie du choix d'architecture.

Dans certains cas oui : si les données peuvent être anonymisées ou pseudonymisées de façon fiable avant d'être envoyées à une API, un hébergement européen classique peut suffire. Dans d'autres cas, l'anonymisation dégrade la qualité du traitement, est incomplète sur des documents non structurés, ou ne répond pas à une exigence contractuelle qui porte sur la localisation même du traitement. Nous évaluons si l'anonymisation est une réponse suffisante avant de la retenir.

Un RAG souverain est un assistant documentaire dont tous les composants tournent dans un périmètre que vous contrôlez, sous juridiction européenne : le modèle de génération, les embeddings, la base vectorielle, les journaux et les connecteurs. En pratique, un modèle Mistral ou open source servi par vLLM ou Ollama, une base Qdrant auto-hébergée et des journaux qui restent sur vos serveurs ou chez un hébergeur qualifié.

Pour beaucoup d'usages internes, c'est un hébergement suffisant, mais il n'est pas souverain au sens strict. Les données sont stockées en Europe, alors que le fournisseur reste soumis au Cloud Act américain, qui permet aux autorités américaines d'exiger les données qu'il contrôle, quel que soit leur lieu de stockage. Si un contrat ou une réglementation exclut ce risque, il faut un service qualifié SecNumCloud ou un déploiement sur vos serveurs.

Vos données, votre infrastructure, votre décision

Présentez nous la nature de vos données et vos contraintes réelles. Nous vous dirons quel niveau de souveraineté est justifié et ce qu'il implique concrètement à mettre en place.

Planifier un échange Recevoir un devis écrit