bge-reranker-v2-m3 (reranker)
Reranker multilingue BAAI construit sur bge-m3, Apache 2.0 : le candidat par défaut pour réordonner les passages avant le LLM.
Fiche modèle
- Fournisseur
- BAAI
- Famille
- BGE
- Paramètres
- 568 M (base bge-m3)
- Architecture
- Reranker
- Contexte
- 8k tokens
- Licence
- Apache 2.0
- Sortie
- 1 février 2024
- Mémoire FP16Estimation
- ≈ 1 Go
- Appel d'outils
- Non
- Raisonnement
- Non
- Français
- Bon
- Quantifications
- f16, Q8_0
- Usage recommandé
- reranking des passages RAG
- Hugging Face
- fiche modèle
Pourquoi ce modèle nous intéresse
Un reranker lit la question et chaque passage candidat ensemble et produit un score de pertinence : il corrige les erreurs de la recherche vectorielle avant d'envoyer les passages au LLM. bge-reranker-v2-m3 est multilingue, basé sur bge-m3, sous Apache 2.0 1. Servable par l'endpoint /rerank de llama-server 2.
Caractéristiques
Base bge-m3 (568 M) ; les exemples de la fiche utilisent 512 tokens, la base supporte 8192 (à vérifier pour le reranker). Environ 1,2 Go en f16 (estimation). Date de sortie conventionnelle (février 2024).
Licence
Apache 2.0 (la base bge-m3 est en MIT).
Français
Multilingue ; à mesurer.
Performances publiées sur Strix Halo
Non trouvé. Coût : un passage avant par paire question-passage ; pour 20 passages par requête, c'est du prompt processing court et parallélisable.
À tester
Gain de précision avec et sans reranking sur 50 questions ; latence ajoutée par requête (objectif : moins de 500 ms, hypothèse).
Sources
- 1BAAI/bge-reranker-v2-m3 — fiche modèleDocumentation officielleFiabilité hauteBAAI · publié 2024-02 · consulté le 16 sept. 2026 · fiche source
- 2llama.cpp — README de llama-server (tools/server)GitHubFiabilité hauteggml-org · publié 2026 (master) · consulté le 16 sept. 2026 · fiche source