Aller au contenu
Tag

#gpu

1 entrée(s) portent ce tag.

Glossaire

1

VRAMTerme · Mémoire dédiée au processeur graphique, dans laquelle doivent résider les poids du modèle et le KV cache pour une inférence rapide sur GPU.