Knowledge
Questions
Questions ouvertes, liées aux recherches et décisions.
Ouvertes
10 question(s)
Q-001Combien d'utilisateurs simultanés la Box peut-elle réellement servir ?1 à 3 actifs simultanés est l'hypothèse de départ ; il faut mesurer la dégradation réelle (tok/s par utilisateur, TTFT) de 1 à 10 utilisateurs, modèle par modèle.Haute16 sept. 2026Q-004pgvector ou Qdrant pour la base vectorielle ?Les deux permettent le pré-filtrage par ACL ; l'arbitrage porte sur l'exploitation (une seule base PostgreSQL) contre les garanties natives de Qdrant (filtre imposé par JWT).Haute16 sept. 2026Q-008Vulkan (RADV) ou ROCm (HIP) pour llama.cpp sur Strix Halo ?Les sources se contredisent : Vulkan plus simple et parfois plus rapide en génération, ROCm meilleur en prompt processing selon certains ; à mesurer.Haute16 sept. 2026Q-009Quel modèle principal pour le cabinet d'avocats ?gpt-oss-120b est le candidat par défaut (MoE, Apache 2.0, 61 Go) ; Qwen3 235B-A22B et les Mistral récents sont à comparer sur des tâches juridiques en français.Haute16 sept. 2026Q-011Combien de mémoire GPU peut-on réellement allouer sur 128 Go ?Les retours vont de 96 Go (UMA BIOS) à 108 ou 120 Go via paramètres noyau ; la valeur stable sur notre machine est à mesurer.Haute16 sept. 2026Q-012La plateforme Strix Halo est-elle assez stable pour un serveur 24 h/24 ?Des blocages sous charge GPU et des problèmes de reprise sont rapportés depuis mars 2026 ; un test d'endurance sur notre machine est indispensable avant tout client.Haute16 sept. 2026Q-003Quelle quantification retenir pour le modèle principal ?Arbitrage entre qualité (Q8/MXFP4 natif), mémoire disponible pour le KV cache multi-utilisateur et vitesse.Moyenne16 sept. 2026Q-006Faut-il monter les SSD en miroir (RAID 1) ?Le Framework Desktop a deux emplacements M.2 : miroir pour la disponibilité, ou second SSD pour les snapshots et sauvegardes locales ?Moyenne16 sept. 2026Q-007Quelle distribution Linux pour la Box ?Fedora (support Framework, noyau récent) contre Ubuntu LTS (support ROCm officiel, stabilité longue) ; Debian et Bazzite en second rang.Moyenne16 sept. 2026Q-010Une AIPD est-elle obligatoire pour un cabinet qui déploie la Box ?Interprétation actuelle : fortement recommandée, probablement obligatoire (données sensibles et infractions + technologie nouvelle) ; à valider par un juriste.Moyenne16 sept. 2026
En cours d'instruction
2 question(s)
Q-002Quel runtime d'inférence est le plus performant sur AMD Strix Halo ?llama.cpp est le point de départ (ADR-004) ; vLLM et SGLang sur ROCm restent à évaluer pour le multi-utilisateur.Haute16 sept. 2026Q-005Open WebUI est-il suffisant comme interface, ou faut-il LibreChat ou une interface propriétaire ?Suffisant pour le prototype avec un RAG externe (ADR-005) ; la question reste ouverte pour le produit (permissions, licence, citations).Moyenne16 sept. 2026
Ajouter un(e) question : créer un fichier dans content/questions/ (voir README).