Source
strix-halo-sglang — image Docker SGLang pour gfx1151
Image communautaire SGLang 0.5.17 / ROCm 7.14 avec gfx1151 ajouté à la liste des cibles AOT.
- Organisation
- GitHub (communauté)
- Auteur
- JeremiahM37
- Type
- GitHub
- Fiabilité
- Fiabilité faible
- Publié
- 2026
- Consulté le
- 16 septembre 2026
- Sujets
- strix-halo, rocm
Citée par 2 page(s)
Inférence : panorama des moteursInférence · Comparaison des moteurs de serving (llama-server, Ollama, LM Studio, vLLM, SGLang, Lemonade) pour un Strix Halo sous Linux, et recommandation initiale prudente : llama-server d'abord, vLLM à évaluer.vLLM et SGLang sur Strix HaloInférence · État du support gfx1151 (doc officielle vs images communautaires), avantages pour le multi-utilisateurs, coûts en mémoire et complexité, et critères pour basculer depuis llama-server.
Ce que dit la source
Image communautaire SGLang 0.5.17 / ROCm 7.14 avec gfx1151 ajouté à la liste des cibles AOT.
Ce qu'on en retient
SGLang peut fonctionner sur Strix Halo, mais via un build non officiel.
Limites
Mainteneur individuel ; pérennité inconnue.