Comparaisons matérielles

L'essentiel

• Neuf machines sont comparées : le Framework Desktop (candidat), trois autres mini-PC Strix Halo, le NVIDIA DGX Spark, deux Mac Studio et deux cartes NVIDIA.
• Le Framework Desktop est le seul à combiner plus de 100 Go de mémoire GPU allouable, un prix sous 4 000 € TTC et une consommation sous 150 W. Il paie cela par une bande passante 2 à 7 fois inférieure aux alternatives haut de gamme.
• Le choix entre ces machines revient à choisir entre capacité (Strix Halo, DGX Spark, Mac) et vitesse (RTX, Mac Ultra), à budget donné.
• Cette page compare le matériel. La comparaison des modèles est sur Modèles, les mesures du laboratoire sur Benchmarks.
• Toutes les données proviennent de constructeurs, de presse ou de communautés ; rien n'a été mesuré par nous. Statut À vérifier.

Tableau comparatif

Le tableau est généré à partir des fiches de la collection Matériel ; l'origine de chaque valeur est indiquée dans le champ specOrigins de chaque fiche.

Lecture critère par critère

Bande passante mémoire

La génération de tokens est limitée par la vitesse à laquelle le GPU relit les poids du modèle : à chaque token, l'ensemble des paramètres actifs est lu. Un 70B dense en Q4 (≈ 40 Go) à 212 Go/s donne ≈ 5 tokens/s ; le même modèle à 1 792 Go/s en donnerait ≈ 40 (extrapolation, non mesuré).

Conséquence pour la Box : sur Strix Halo, seuls les modèles MoE à peu de paramètres actifs (gpt-oss-120b, Qwen3 30B-A3B) offrent un débit confortable. C'est une contrainte forte sur Q-009.

Mémoire adressable par le GPU

Le Framework Desktop offre potentiellement plus de mémoire GPU que la RTX PRO 6000 ; c'est l'argument central de l'ADR-002, et il repose sur des chiffres communautaires (Q-011).

Prix par Go de mémoire GPU

Prix en USD hors taxes pour permettre la comparaison (le Framework est aussi donné en EUR TTC). Les cartes NVIDIA sont des cartes seules : ajouter une station de travail (non chiffré).

Consommation

À 100–140 W, un Strix Halo ou un DGX Spark se branche sur une prise ordinaire, tient sur un petit onduleur et ne chauffe pas une pièce. Une station RTX PRO 6000 dépasse 700 W en charge.

Écosystème logiciel

Détail : ROCm et Vulkan.

Bruit

Une seule mesure indépendante : Framework Desktop 36–37 dBA au repos, 39–41 dBA en charge (ventilateur Noctua) ⁸. Beelink GTR9 Pro : « quietest » selon le testeur, 52 dBA selon des commentateurs ²¹ (contradictoire). GMKtec EVO-X2 : « audible across a room » ¹⁸ (sans mesure). Mac Studio, DGX Spark : non trouvé. Cartes RTX : bruyantes par construction en charge (estimation).

Disponibilité (16 septembre 2026)

Framework Desktop : rupture de stock sur toutes les configurations ². GMKtec, Beelink, HP : disponibles selon les agrégateurs. DGX Spark : disponible (Founders et OEM). Mac Studio M5 : base disponible, 512 Go attendu fin octobre. RTX 5090 et PRO 6000 : disponibles au-dessus du MSRP.

Synthèse prix / bande passante / mémoire

Conclusion prudente

Pourquoi le Framework Desktop reste candidat. Pour un cabinet de 5 à 10 personnes avec 1 à 3 utilisateurs actifs, le besoin est de charger un modèle de 100 à 120 Md de paramètres en 4 bits avec son KV cache, dans un local sans salle serveur, pour un budget matériel sous 5 000 €. Seules les machines Strix Halo et le DGX Spark répondent aux trois contraintes ; parmi elles, le Framework est la moins chère avec le HP, la seule à documenter Linux et à publier ses BIOS, et la seule mesurée comme silencieuse. Le DGX Spark coûte 20 à 35 % de plus (Founders) pour un débit de génération équivalent.

Dans quels cas préférer autre chose.

• Les mesures Q-011 ou Q-012 échouent (moins de 96 Go stables, crashs sous charge) : DGX Spark (même mémoire, CUDA) ou HP Z2 Mini G1a (ECC, support HP).
• Le RAG impose des prompts très longs et le TTFT domine : DGX Spark (prompt processing 4 à 5 fois plus rapide selon les agrégateurs ¹⁴).
• Un modèle de 30 Md suffit (Q-009) et la vitesse prime : une RTX 5090 en station, plus rapide mais plus chère et plus gourmande.
• Plus de 10 utilisateurs actifs ou exigence CUDA/ECC : RTX PRO 6000, à un budget 4 à 5 fois supérieur.
• Le client accepte macOS et veut la vitesse : Mac Studio M5 Max, hors périmètre de la Box Linux (ADR-001).
• Le Framework reste indisponible : HP Z2 Mini G1a ou GMKtec EVO-X2, même silicium, en acceptant une documentation Linux plus faible.

Questions ouvertes

• Q-001Combien d'utilisateurs simultanés la Box peut-elle réellement servir ?HauteOuverte
• Q-011Combien de mémoire GPU peut-on réellement allouer sur 128 Go ?HauteOuverte
• Q-012La plateforme Strix Halo est-elle assez stable pour un serveur 24 h/24 ?HauteOuverte

Ce qu'il reste à tester

• Benchmark gpt-oss-120b à 1 utilisateur : Vulkan vs ROCm, contexte court et longSur le Framework Desktop, gpt-oss-120b MXFP4 atteint au moins 50 t/s en tg128 avec l'un des deux backends, et le prefill pp512 dépasse 500 t/s ; la génération baisse de moins de 20 % à 32k de profondeur.À tester
• Montée en charge de 1 à 10 utilisateurs : gpt-oss-120b et Qwen3-30B-A3BAvec llama-server -np 8 --kv-unified et KV q8_0, gpt-oss-120b sert 3 utilisateurs simultanés à plus de 25 t/s chacun avec un TTFT p95 inférieur à 3 s sur prompts courts ; à 10 utilisateurs, le débit par utilisateur reste au-dessus de 10 t/s. Le comportement suit la courbe publiée pour Qwen3.6-35B-A3B (59 → 20 t/s par utilisateur de 1 à 8 slots) décalée vers le bas.À tester
• Comparer les modèles d'embeddings sur du français juridiqueSur des questions juridiques en français, bge-m3 et multilingual-e5-large atteignent un recall@10 comparable ; le reranker bge-reranker-v2-m3 apporte un gain de MRR supérieur à celui du changement de modèle d'embeddings ; la recherche hybride (BM25 + vecteurs, RRF) bat chacune des deux recherches seules.À tester
• Comparer la qualité en français des modèles candidatsgpt-oss-120b et Mistral Small 4 produisent un français juridique jugé acceptable par un avocat dans plus de 80 % des cas ; Qwen3-30B-A3B est nettement en retrait sur la rédaction mais équivalent sur la synthèse avec passages fournis ; les modèles de 7 à 22 Md (Lucie, EuroLLM) ne suffisent pas pour l'assistant principal. Le taux d'hallucination de citations est le critère discriminant.À tester
• Comparer Vulkan/RADV et ROCm/HIP dans llama.cppVulkan/RADV est plus rapide en génération (+15 à +30 %) et ROCm/HIP plus rapide en prompt processing au-delà de quelques milliers de tokens ; pour les prompts RAG de la Box (4k à 16k tokens), la différence de temps de réponse total est inférieure à 20 % et la stabilité départage les deux.À tester
• Évaluer vLLM sur ROCm gfx1151En septembre 2026, l'image officielle vllm/vllm-openai-rocm démarre sur gfx1151 avec ROCm 7.x sans patch, sert un MoE de taille moyenne, et donne un TTFT p95 inférieur à celui de llama-server à 5 clients ; mais elle ne sert pas gpt-oss-120b en MXFP4 sans conversion, et réserve plus de mémoire que llama-server pour un même contexte.À tester
• Mesurer la consommation et le bruit en inférenceAu repos le système consomme 10 à 15 W ; en inférence gpt-oss-120b mono-utilisateur 100 à 130 W ; sous 4 slots 120 à 150 W. Le bruit reste sous 42 dBA à 1 m en charge avec le ventilateur Noctua, ce qui autorise une installation dans un bureau.À tester
• Mesurer la mémoire GPU allouable sur le Framework DesktopAvec BIOS 3.06, UMA à 512 Mo, noyau 6.18.4+ et ttm.pages_limit fixé via amd-ttm, le GPU peut allouer au moins 100 Go de façon stable ; gpt-oss-120b MXFP4 se charge avec 32k tokens de contexte pour 4 slots.À tester