Terme
Hallucination
Production par un modèle de langage d'une affirmation fausse ou inventée, présentée avec la même assurance qu'une information exacte.
Production par un modèle de langage d'une affirmation fausse ou inventée, présentée avec la même assurance qu'une information exacte.
modèlesAussi : confabulation, réponse inventée
Un modèle prédit du texte plausible, pas du texte vrai. Sans source, il peut inventer une jurisprudence, un article de loi ou une date.
Le RAG réduit le risque en ancrant la réponse dans des passages réels et en les citant ; il ne l'élimine pas. Pour un cabinet d'avocats, la règle est que toute affirmation issue de la Box doit être vérifiée dans la source citée avant d'être utilisée. L'interface doit rendre cette vérification facile.