Utiliser Linux comme système du serveur IA
Le serveur Box IA tourne sous Linux ; les utilisateurs n'y touchent jamais et passent par un navigateur.
- Identifiant
- ADR-001
- Statut
- Acceptée
- Date
- 16 septembre 2026
- Décision
- Le serveur est un Linux (distribution à choisir, voir Q-007) ; toute l'interaction utilisateur passe par le navigateur.
- Options étudiées
- Linux (Fedora, Ubuntu, Debian, Bazzite)
- Windows 11 / Windows Server
- macOS (Mac Studio)
Contexte
La Box IA doit héberger un runtime LLM, un pipeline RAG, une base vectorielle, une interface web, l'authentification et l'audit, sur une machine AMD Ryzen AI Max+ 395 (Strix Halo). Toute la pile logicielle candidate (llama.cpp, vLLM, Open WebUI, PostgreSQL/pgvector, Qdrant, Caddy, restic, Prometheus) est distribuée d'abord pour Linux, souvent sous forme d'images Docker. La pile ROCm d'AMD est officiellement supportée sur Linux uniquement.
L'utilisateur final ne doit jamais manipuler le système : il utilise une interface web comparable à ChatGPT depuis Windows, macOS ou Linux.
Options étudiées
| Option | Pour | Contre |
|---|---|---|
| Linux | Cible native de toute la pile IA et de ROCm ; Docker ; outils d'exploitation et de durcissement matures ; gratuit ; supporté officiellement par Framework (Fedora, Ubuntu, Bazzite) | Exige un prestataire compétent ; pilotes AMD encore jeunes sur Strix Halo |
| Windows | Familier pour le client ; LM Studio et Ollama existent | Pile ROCm/Vulkan moins mature pour le serving multi-utilisateur ; conteneurs moins naturels ; licences ; surface d'attaque et mises à jour intrusives |
| macOS (Mac Studio) | Excellente bande passante mémoire ; Metal bien supporté par llama.cpp | Machine différente (change tout le projet matériel) ; exploitation serveur et durcissement moins standardisés ; prix |
Décision
Le serveur tourne sous Linux. Le choix de la distribution reste ouvert (Q-007) : Fedora et Ubuntu sont les deux candidates, selon ce que Framework et ROCm supportent au moment de l'achat.
Pourquoi
- C'est la seule option pour laquelle chaque brique candidate est supportée officiellement.
- Docker Compose permet de décrire toute la Box dans un fichier versionné et reproductible.
- Le client n'a aucun contact avec le système : la contrainte « pas de Linux pour l'utilisateur » est satisfaite par construction.
Conséquences
- Le prestataire doit maîtriser l'administration Linux, Docker et le durcissement (voir Sécurité).
- La procédure d'installation reproductible devient un livrable du projet (voir Installation).
- La compatibilité noyau / ROCm / firmware sur Strix Halo doit être suivie de près (voir ROCm, Q-012).