Le DGX Spark de NVIDIA est un petit ordinateur de bureau construit autour de la puce GB10, avec 128 Go de mémoire unifiée partagée entre le processeur et le GPU. Pour une équipe technique qui veut faire tourner un assistant documentaire en local, la promesse est simple : charger un grand modèle ouvert sans acheter un serveur GPU. La réalité est plus nuancée. La mémoire permet de charger un modèle de 70 milliards de paramètres, mais la bande passante de 273 Go/s fixe la vitesse de réponse, et sur un modèle dense de cette taille elle tombe à quelques tokens par seconde.
En pratique, le DGX Spark convient à un prototype, un pilote, une petite équipe de 5 à 15 personnes, aux embeddings et au reranking locaux, et au développement. Pas à un service pour une centaine de personnes, ni à un service qui doit survivre à une panne. Voici les chiffres publiés, la comparaison avec une RTX PRO 6000, une L40S et la location de GPU chez OVHcloud et Scaleway, et les modèles et moteurs à choisir pour un RAG.
Nous n'avons pas de DGX Spark en production chez un client à citer : les vitesses viennent de benchmarks publiés, nos estimations sont signalées comme telles.
Points clés à retenir
- Le DGX Spark (puce GB10, 128 Go de mémoire unifiée, 273 Go/s) charge un modèle de 70 milliards de paramètres, mais le génère à environ 2,7 tokens par seconde en FP8 selon LMSYS : trop lent pour un usage interactif
- Sur cette machine, les bons choix sont les modèles de 8 à 14 milliards de paramètres en dense, ou les modèles à mélange d'experts (gpt-oss-120b mesuré à 58,7 tokens par seconde avec llama.cpp)
- Usage adapté : prototype, pilote, petite équipe de 5 à 15 personnes, embeddings et reranking locaux, développement. Usage inadapté : service pour 100 utilisateurs, haute disponibilité
- Prix en France très variable en 2026 : de 4 800 euros TTC en février à 6 100 à 7 500 euros TTC à l'automne selon le revendeur, à vérifier le jour de l'achat
- Le matériel ne fait pas l'assistant : droits d'accès, connecteurs, évaluation et journal représentent l'essentiel du travail de mise en production
DGX Spark : ce que contient la machine
Le DGX Spark est vendu par NVIDIA (Founders Edition, distribuée en France par PNY) et décliné par plusieurs constructeurs sous leur propre marque avec la même puce GB10. Voici les caractéristiques qui comptent pour faire tourner un modèle de langage.
| Caractéristique | DGX Spark (Founders Edition) | Ce que cela change pour un LLM |
|---|---|---|
| Puce | GB10 Grace Blackwell : GPU Blackwell et processeur ARM de 20 cœurs sur le même module | CUDA disponible, mais l'architecture ARM (aarch64) demande des images et bibliothèques compatibles |
| Mémoire | 128 Go LPDDR5x unifiée (une version 64 Go existe chez certains constructeurs) | Le GPU voit presque toute la mémoire : on charge des modèles qu'aucune carte grand public n'accueille |
| Bande passante mémoire | 273 Go/s | Le facteur qui limite la vitesse de génération, voir plus bas |
| Calcul | Jusqu'à 1 pétaflop en FP4 avec parcimonie (sparsity) selon NVIDIA, environ la moitié en calcul dense | Bonne vitesse de lecture du prompt (prefill), utile pour un RAG aux prompts longs |
| Réseau | ConnectX-7, jusqu'à 200 Gb/s | Deux machines se relient directement par câble, jusqu'à quatre avec un commutateur, pour charger un modèle plus gros |
| Stockage | 4 To NVMe sur la Founders Edition | Assez pour plusieurs modèles et un index vectoriel de taille moyenne |
| Format | Boîtier de bureau d'environ 1,2 kg | Se pose sur un bureau ou dans une baie, mais ce n'est pas un serveur rackable redondant |
Prix et disponibilité en France
Le prix a beaucoup évolué depuis la sortie, à cause du coût de la mémoire LPDDR5x et des tensions d'approvisionnement invoqués par NVIDIA. Les relevés publics que nous avons trouvés :
- 15 octobre 2025 : lancement à 3 999 dollars.
- 23 février 2026 : hausse du prix public en Europe à 4 800 euros TTC sur la boutique NVIDIA selon la presse spécialisée (4 699 dollars aux États-Unis, contre 3 999 au lancement).
- 5 août 2026 : Founders Edition PNY (128 Go, 4 To) affichée 6 099,95 euros TTC chez LDLC, avec un réapprovisionnement annoncé à plus de quinze jours.
- 14 octobre 2026 : 7 490 euros sur la boutique française de NVIDIA pour la version 128 Go, selon un relevé tiers.
- Octobre 2026 : les machines GB10 de 128 Go se négocient en Europe entre 5 500 et 7 000 euros HT selon le stockage, le constructeur et le pack de services.
La machine est disponible en France, avec des délais et un prix qui bougent d'un mois à l'autre. Demandez un devis daté et vérifiez la garantie et le support du revendeur.
128 Go de mémoire unifiée : ce que la machine peut charger
La première question pour faire tourner un LLM local est : le modèle tient-il en mémoire ? Sur un GPU classique, la limite est la mémoire de la carte (48 Go pour une L40S, 80 Go pour une H100, 96 Go pour une RTX PRO 6000). Sur le DGX Spark, le GPU accède aux 128 Go partagés avec le système. Il faut en retirer ce que consomment le système d'exploitation, les autres services (base vectorielle, application) et le cache de contexte (KV cache), qui grossit avec la longueur des prompts et le nombre de requêtes simultanées.
Ordres de grandeur pour les poids du modèle, hors cache de contexte :
| Modèle | Poids en 4 bits | Poids en FP8 | Tient sur DGX Spark ? |
|---|---|---|---|
| 8 milliards (dense) | Environ 5 Go | Environ 8 Go | Oui, avec beaucoup de place pour le contexte |
| 14 milliards (dense) | Environ 9 Go | Environ 15 Go | Oui, confortable |
| 24 à 32 milliards (dense) | 15 à 20 Go | 25 à 33 Go | Oui |
| 70 milliards (dense) | Environ 40 Go | Environ 70 Go | Oui, mais lent (voir plus bas) |
| gpt-oss-120b (mélange d'experts) | Environ 60 à 65 Go en MXFP4, format natif du modèle | Oui, et rapide car peu de paramètres actifs par token | |
Un 70B quantifié en 4 bits tient largement, avec de la place pour un modèle d'embeddings, un reranker et la base vectorielle. Relier deux DGX Spark pour charger un modèle plus gros est intéressant pour expérimenter, moins pour servir des utilisateurs.
273 Go/s : la limite qui fixe la vitesse de réponse
Un modèle de langage génère sa réponse token par token, et pour chaque token le GPU relit tous les poids actifs. La vitesse pour une requête est donc bornée par la bande passante mémoire divisée par la taille des poids lus. Pour un assistant conversationnel, la bande passante compte plus que la puissance de calcul.
Appliqué au DGX Spark :
- 70 milliards en FP8 (environ 70 Go lus par token) : plafond théorique de 273 / 70, soit environ 3,9 tokens par seconde. LMSYS a mesuré 2,7 tokens par seconde en décodage avec SGLang sur Llama 3.1 70B FP8.
- 8 milliards en FP8 (environ 8 Go) : plafond d'environ 34 tokens par seconde. LMSYS a mesuré 20,5 tokens par seconde pour une requête, et 368 tokens par seconde au total avec 32 requêtes traitées ensemble.
- gpt-oss-120b en MXFP4 : c'est un modèle à mélange d'experts, qui n'active qu'environ 5 milliards de paramètres par token. Le benchmark publié par l'équipe llama.cpp sur GitHub mesure 58,7 tokens par seconde en génération et 2 444 tokens par seconde en lecture du prompt, pour une requête.
Les mesures réelles atteignent environ 60 à 70 % du plafond théorique. Par la même règle, on peut estimer (estimations, à mesurer sur votre machine) : un 14B en 4 bits autour de 20 tokens par seconde, un 32B en 4 bits autour de 10, un 70B en 4 bits autour de 4 à 5. Pour comparer, un texte se lit confortablement à partir de 8 à 10 tokens par seconde environ.
Ce que cela donne pour un RAG
Un assistant documentaire n'envoie pas une question seule : il envoie la question plus les passages retrouvés dans vos documents, souvent 4 000 à 8 000 tokens. Le temps de réponse se décompose en deux phases : la lecture du prompt (prefill), qui dépend du calcul, puis la génération, qui dépend de la bande passante. Avec les chiffres publiés, pour un prompt de 6 000 tokens et une réponse de 500 tokens :
| Modèle sur DGX Spark | Lecture du prompt | Génération de 500 tokens | Total pour un utilisateur |
|---|---|---|---|
| Llama 3.1 70B FP8 (LMSYS) | 803 tokens/s, soit environ 7,5 s | 2,7 tokens/s, soit environ 185 s | Plus de 3 minutes |
| gpt-oss-120b MXFP4 (llama.cpp) | 2 444 tokens/s, soit environ 2,5 s | 58,7 tokens/s, soit environ 8,5 s | Environ 11 s, premier mot après 2,5 s |
L'écart est de un à vingt. Un 70B dense sur DGX Spark sert à comparer la qualité ou à traiter des lots la nuit ; pour une équipe en direct, il faut un modèle plus petit ou à mélange d'experts. Le moteur compte aussi : des mesures tierces relèvent plusieurs fois moins de tokens par seconde avec Ollama qu'avec llama.cpp réglé ou SGLang sur le même modèle.
Le calcul à faire avant d'acheter
Prenez la taille des poids actifs de votre modèle cible (en Go, après quantification) et divisez 273 par ce nombre. Multipliez par 0,6 pour une estimation réaliste. Si le résultat est sous 8 à 10 tokens par seconde, la machine ne conviendra pas pour un usage interactif avec ce modèle. Ensuite, divisez la longueur de vos prompts RAG par la vitesse de lecture du prompt pour connaître le délai avant le premier mot.
Plusieurs utilisateurs en même temps
vLLM et SGLang regroupent les requêtes simultanées (continuous batching) : les poids sont lus une fois pour plusieurs requêtes. Sur un 8B, LMSYS passe de 20,5 tokens par seconde pour une requête à 368 au total pour 32 requêtes, soit environ 11 chacune. Avec des prompts RAG longs, leur lecture s'ajoute en file d'attente.
Une hypothèse de travail courante est de compter 1 requête simultanée pour 10 à 20 utilisateurs inscrits. Une équipe de 15 personnes génère donc 1 à 3 requêtes simultanées la plupart du temps, ce que le DGX Spark absorbe avec un modèle adapté. Une centaine d'utilisateurs, c'est 5 à 10 requêtes simultanées avec des pics, et la machine devient le goulot.
Pour quels usages le DGX Spark convient, et pour lesquels non
Le profil est net : beaucoup de mémoire, une bonne puissance de calcul, une bande passante modeste, une seule boîte de bureau.
Là où il est pertinent
- Prototype et pilote : tester un assistant sur un vrai corpus sans faire sortir les documents ni acheter de serveur, par exemple pour offrir une alternative locale aux équipes qui utilisent déjà des outils grand public (voir shadow IA : vos équipes collent déjà vos documents dans ChatGPT).
- Petite équipe de 5 à 15 personnes : un bureau d'études, un service juridique, une équipe support, avec un modèle de 8 à 14 milliards de paramètres ou un modèle à mélange d'experts.
- Embeddings et reranking locaux : ces calculs profitent de la puissance de calcul plus que de la bande passante, et la machine les fait bien, même si le modèle de génération tourne ailleurs.
- Développement et évaluation : comparer des modèles sur votre jeu de questions, tester une quantification, préparer l'image de production.
- Réseau isolé, phase de test : une machine autonome pour valider un usage avant de dimensionner l'infrastructure.
Là où il ne convient pas
- Un service de production pour 100 utilisateurs ou plus : la bande passante devient le goulot dès que les requêtes simultanées se multiplient.
- La haute disponibilité : une seule machine, pas de bascule automatique. Un outil dont dépend une activité demande au moins deux nœuds et une supervision.
- Un modèle dense de 70 milliards en interactif : il se charge, mais il répond trop lentement pour une conversation.
- L'entraînement de modèles volumineux : la machine permet d'affiner un petit modèle, pas d'entraîner sérieusement un grand.
DGX Spark, RTX PRO 6000, L40S, H100 : comparaison chiffrée
Les alternatives réalistes pour un serveur GPU IA de PME ou d'ETI : une station RTX PRO 6000 Blackwell, un serveur L40S, ou la location de GPU chez un hébergeur français. Prix tiers relevés en novembre 2026, à vérifier avant décision.
| Option | Mémoire | Bande passante | 70B, une requête | Coût (relevé daté) | Pour qui |
|---|---|---|---|---|---|
| DGX Spark (achat) | 128 Go unifiée | 273 Go/s | 2,7 tokens/s mesurés en FP8 ; 4 à 5 estimés en 4 bits | 5 500 à 7 000 € HT selon constructeur (octobre 2026) | Prototype, pilote, 5 à 15 personnes |
| Station RTX PRO 6000 Blackwell (achat) | 96 Go | Environ 1 800 Go/s | Environ 15 tokens/s estimés en FP8 | Carte seule de 8 800 à 17 800 € selon édition et revendeur, plus la station (novembre 2026) | Environ 10 à 30 utilisateurs simultanés sur un 70B FP8 avec vLLM, selon une source tierce |
| Serveur L40S 48 Go (achat) | 48 Go | 864 Go/s | Environ 13 tokens/s estimés en 4 bits, peu de marge pour le contexte | Sur devis constructeur, non relevé | 14B à 32B confortable, équipe de quelques dizaines de personnes |
| Location L40S (OVHcloud, Scaleway) | 48 Go | 864 Go/s | Comme ci-dessus | Environ 1,40 € HT/h chez OVHcloud, autour de 1,5 €/h chez Scaleway selon une source tierce, soit environ 1 000 €/mois en continu | Pilote ou production sans achat de matériel |
| Location H100 PCIe 80 Go (OVHcloud, Scaleway) | 80 Go | Environ 2 000 Go/s | Environ 17 tokens/s estimés en FP8, peu de marge pour le contexte | Environ 2,80 €/h chez OVHcloud, autour de 2,9 €/h chez Scaleway selon une source tierce, soit environ 2 000 €/mois en continu | 70B en FP8, charge plus forte, tests de montée en charge |
Les débits « 70B, une requête » hors DGX Spark sont estimés par la règle bande passante divisée par taille des poids, avec un rendement de 60 % : des ordres de grandeur pour comparer, pas pour dimensionner.
Ce que le tableau dit vraiment
- Le DGX Spark est l'option la moins chère de ce tableau pour charger un 70B, mais pas celle qui le sert le mieux. Une RTX PRO 6000 a 25 % de mémoire en moins et une bande passante environ 6,5 fois plus élevée.
- Acheter ou louer : un DGX Spark vaut environ six mois de L40S louée en continu, ou près de deux ans aux heures ouvrées (200 heures par mois à 1,40 €, soit 280 € par mois). Pour un pilote de quelques semaines, la location est souvent plus simple et teste la même pile que la future production.
- Le prix d'une H100 à l'achat se compte en dizaines de milliers d'euros par carte : nous avons relevé 22 000 à 35 000 € HT pour une H100 80 Go neuve ou recertifiée mi-2026, à confirmer par devis. Pour un assistant documentaire de PME, une telle carte est rarement nécessaire.
- L'exploitation n'apparaît pas dans le tableau : supervision, mises à jour, incidents. Elle décide souvent entre achat et location.
Pour l'architecture complète d'un déploiement local (serveur sur site, cloud souverain ou poste), voyez notre article sur l'IA locale en entreprise, et pour les ordres de grandeur côté hébergeur, ce qu'une PME peut attendre du LLM d'OVHcloud.
Quel modèle ouvert et quel moteur pour un RAG sur DGX Spark
Pour un assistant documentaire, la qualité dépend d'abord de la recherche : si les bons passages sont retrouvés, un 14B rédige une réponse correcte et citée. Pour un grand groupe du spatial, en 2025, nous avons construit un RAG agentique servi par Qwen 2.5 14B avec vLLM et Ollama sur un cloud français ; le travail a porté sur la recherche hybride, la réécriture des requêtes, le reranking et la lecture des documents, pas sur la taille du modèle (le retour d'expérience complet détaille ce montage).
| Objectif | Modèles à tester | Sur DGX Spark |
|---|---|---|
| Vitesse, équipe de 5 à 15 personnes | Modèles de 8 à 14 milliards (famille Qwen, Llama 3.1 8B), en FP8 ou en 4 bits | Le meilleur rapport vitesse et confort, beaucoup de mémoire libre pour le contexte |
| Qualité de rédaction en français | Modèles de 24 à 32 milliards (Mistral Small, Qwen 32B) en 4 bits | Environ 10 tokens/s estimés : acceptable pour une requête, juste à plusieurs |
| Gros modèle à vitesse correcte | Modèles à mélange d'experts : gpt-oss-120b, Qwen3 30B-A3B | Le meilleur usage de la machine : beaucoup de mémoire, peu de paramètres lus par token |
| Référence de qualité | 70B quantifié (Llama 3.3 70B, Qwen 2.5 72B) | Pour comparer sur le jeu d'évaluation ou traiter en lot, pas en interactif |
| Embeddings et reranking | Modèles multilingues ouverts (BGE-M3, bge-reranker-v2-m3, Qwen3 Embedding) | Rapides, peuvent cohabiter avec le modèle de génération |
Vérifiez la licence de chaque modèle avant un usage commercial : gpt-oss, Mistral Small et la plupart des modèles Qwen sont sous Apache 2.0 (exception notable : Qwen 2.5 72B, sous licence Qwen propre), Llama sous une licence communautaire propre à Meta. Notre comparatif des LLM open source pour l'entreprise et le guide quel modèle Mistral héberger en local détaillent ces choix.
Quel moteur d'inférence
- Ollama : le plus simple pour un prototype ou un poste de développement. Les mesures tierces sur DGX Spark le placent nettement derrière llama.cpp réglé et SGLang en vitesse brute.
- llama.cpp : le moteur derrière les fichiers GGUF, avec les meilleures mesures publiées sur gpt-oss-120b. Bon choix pour une requête à la fois ou une petite équipe.
- vLLM ou SGLang : à retenir dès que plusieurs personnes interrogent l'assistant en même temps, grâce au regroupement des requêtes. Ce sont aussi les moteurs qu'on retrouvera sur un serveur GPU en production, ce qui évite de tout refaire au passage à l'échelle.
Les trois exposent une API compatible OpenAI : l'application ne change pas si l'on change de moteur. Le détail des différences est dans notre article vLLM ou Ollama pour servir un modèle ouvert, et le panorama complet dans le comparatif des serveurs d'inférence open source.
Point d'attention : l'architecture ARM
Le processeur du DGX Spark est en ARM (aarch64). Certaines images Docker, roues Python ou versions de moteurs n'ont pas toujours eu de build compatible avec cette architecture et ce GPU, et des incompatibilités ont été signalées sur des formats de quantification précis. Partez des conteneurs et des guides publiés par NVIDIA pour la machine, figez les versions qui fonctionnent, et testez chaque mise à jour avant de la passer en service.
Ce qu'il faut autour pour en faire un assistant d'entreprise
Faire répondre un modèle sur un DGX Spark prend une après-midi. En faire un assistant fiable demande le reste de la pile. Sur les RAG que nous avons repris en audit, la cause la plus fréquente des mauvaises réponses était un défaut de la chaîne de traitement (modèle d'embeddings différent entre indexation et recherche, un seul passage récupéré), pas le modèle de langage.
- Droits d'accès hérités des sources : un utilisateur ne doit retrouver que les documents qu'il a le droit d'ouvrir dans la GED, le serveur de fichiers ou SharePoint. Le filtre s'applique côté serveur, avant la recherche, à partir de l'identité de l'utilisateur (SSO, annuaire).
- Connecteurs et lecture des documents : synchronisation incrémentale des sources, lecture des PDF complexes, des tableaux et des scans, conservation de la version de chaque document pour pouvoir la citer.
- Évaluation : un jeu de 20 à 50 questions réelles dès les premiers jours, noté en juste ou faux, enrichi ensuite des questions des utilisateurs. D'expérience, un RAG basique répond correctement à 50 à 70 % des questions : c'est cette mesure qui dit si un changement de modèle, de quantification ou de machine améliore ou dégrade les réponses. Notre méthode est décrite dans évaluer un RAG : Ragas, Langfuse ou notation binaire.
- Journal local : questions, passages cités, versions des documents et retours des utilisateurs, stockés sur la machine ou dans votre réseau, consultables en cas de contestation.
- Interface et exploitation : une interface de chat avec authentification (voir notre comparatif LibreChat, AnythingLLM, Onyx et notre article sur Open WebUI en entreprise), une supervision, des sauvegardes de l'index et une procédure de mise à jour.
C'est ce socle que nous développons et déployons dans l'agent IA souverain : un agent installé dans votre environnement (serveurs internes, réseau isolé ou cloud français), qui répond sur votre documentation avec citations et version du document, respecte les droits hérités des sources, peut agir dans vos outils par API ou MCP, journalise tout en local et arrive avec un jeu d'évaluation mesuré. Le modèle reste interchangeable : un DGX Spark peut porter le pilote, puis un serveur GPU ou une location en cloud français prendre le relais quand l'usage s'étend.
Pour les données sous contrôle export ou classées, voyez ITAR, Diffusion Restreinte et assistant IA et le déploiement d'une IA on-premise en aéronautique.
Notre recommandation
Commencez par le jeu d'évaluation et le corpus, pas par la machine. Un pilote de quelques semaines sur un DGX Spark ou une L40S louée en France suffit à mesurer la qualité sur vos documents avec deux ou trois modèles. Le choix du matériel de production se fait ensuite, sur des chiffres : nombre d'utilisateurs simultanés observés, longueur réelle des prompts, modèle retenu. Si vous voulez cadrer ce pilote, la page agent IA souverain décrit comment nous le menons.
Questions fréquentes sur le DGX Spark en entreprise
Pour aller plus loin
- Agent IA souverain déployé chez vous : le socle, le pilote et le suivi en production.
- IA locale en entreprise : serveur sur site, cloud souverain ou poste local.
- vLLM ou Ollama : quel moteur pour servir un modèle ouvert.
- Serveurs d'inférence LLM open source : vLLM, SGLang, TGI, llama.cpp et les autres.
- RAG souverain avec Mistral : l'architecture d'un assistant documentaire hébergé en France.
- Pipeline RAG en production : les étapes de l'ingestion au suivi.
- IA locale et petits modèles sur site, sur le blog technique d'Anas, pour le fonctionnement détaillé.
Sources
- LMSYS Org, NVIDIA DGX Spark In-Depth Review (SGLang), 13 octobre 2025 : mesures Llama 3.1 8B et 70B en FP8.
- Recensement des benchmarks publiés sur le DGX Spark, dont la mesure llama.cpp sur gpt-oss-120b.
- llama.cpp, Performance of llama.cpp on NVIDIA DGX Spark (GitHub) : mesure sur gpt-oss-120b.
- Caractéristiques et historique de prix du GB10 (source tierce).
- DGX Spark : prix en France et hausse de février 2026 (sources tierces).
- Prix européens de la RTX PRO 6000 Blackwell, relevé de novembre 2026.
- Serveurs GPU pour l'inférence LLM en 2026 : estimation d'utilisateurs simultanés sur RTX PRO 6000 (source tierce).
- Grille tarifaire Public Cloud OVHcloud (instances l40s-90 et h100-380, relevé de novembre 2026) et tarifs H100 Scaleway 2026 (source tierce, à recouper avec la grille officielle).
