Aller au contenu
Tag

#quantification

1 entrée(s) portent ce tag.

Questions

1

Quelle quantification retenir pour le modèle principal ?Question · Arbitrage entre qualité (Q8/MXFP4 natif), mémoire disponible pour le KV cache multi-utilisateur et vitesse.