Source

unsloth/gpt-oss-120b-GGUF

Tailles GGUF : F16 65,4 Go, Q8_0 63,4 Go, Q4_K_M 62,8 Go (les experts restent en MXFP4).

Confirmée#gpt-oss #ggufPublié le 16 sept. 2026Mis à jour le 16 sept. 2026

URL: https://huggingface.co/unsloth/gpt-oss-120b-GGUF
Organisation: Unsloth
Type: Autre
Fiabilité: Fiabilité moyenne
Publié: 2025
Consulté le: 16 septembre 2026
Sujets: gpt-oss, gguf

Citée par 1 page(s)

gpt-oss-120bÀ vérifierModèle · MoE OpenAI de 117 Md (5,1 Md actifs) sous Apache 2.0 : le candidat principal de la Box, mesuré entre 30 et 56 t/s sur Strix Halo selon le runtime.

Ce que dit la source

Tailles GGUF : F16 65,4 Go, Q8_0 63,4 Go, Q4_K_M 62,8 Go (les experts restent en MXFP4).

Ce qu'on en retient

Quantifier davantage gpt-oss-120b n'apporte presque rien : l'essentiel est déjà en 4 bits.

Limites

Dépôt tiers.