Aller au contenu
Tag

#rag

77 entrée(s) portent ce tag.

Pages

18

Cartographie des flux de donnéesArchitecture · Où résident les données de la Box, qui y accède, comment elles sont chiffrées et combien de temps elles sont conservées : documents, index, requêtes, réponses, journaux, sauvegardes et télémaintenance.Architecture générale de la Box IAArchitecture · Vue simple et vue complète de la Box : couches, composants candidats, principes d'architecture et flux d'une requête, du navigateur à la réponse citée.Documents : stockage, connecteurs, synchronisationDocuments · Où vivent les documents du cabinet (serveur, NAS, SMB, SharePoint, Drive, Nextcloud, import manuel), comment la Box les lit et surtout comment elle en lit les permissions.Droits des personnes et effacement dans un RAGRGPD · Accès, rectification, effacement et opposition appliqués à un assistant IA local : où vivent les données, comment les supprimer partout, quelle preuve conserver.Alternatives : AnythingLLM, Onyx, RAGFlow, Dify, Kotaemon, Lobe Chat, Khoj, MstyInterface IA · Quand envisager chaque alternative à Open WebUI et LibreChat, et pourquoi aucune n'est retenue pour le POC : licences conditionnelles, permissions payantes, empreinte lourde ou périmètre inadapté.Interface IA : comparatif et choix initialInterface IA · Comparaison des interfaces de chat auto-hébergées (Open WebUI, LibreChat, AnythingLLM, Onyx, Lobe Chat, Dify, RAGFlow, Kotaemon, Khoj, Msty) sur la licence, le RAG, les permissions, le SSO et la maturité ; Open WebUI retenu pour le POC sous conditions.LibreChat : ficheInterface IA · Interface MIT avec ACL par ressource (Viewer/Editor/Owner), rôles custom, groupes Entra ID synchronisés via Graph, RAG API séparée sur pgvector ; plan B crédible à Open WebUI.Open WebUI : fiche détailléeInterface IA · Modèle de permissions (admin/user/pending, groupes, knowledge privées, permissions additives sans deny), variables d'environnement clés, défauts du RAG intégré, branchement d'un RAG externe, CVE 2026 et limites pour un cabinet.Préparer un Proof of ConceptPOC · Objectifs, périmètre, checklist complète, scénario de permissions, critères de succès mesurables, rôles, risques et questionnaire utilisateur pour le POC de la Box IA sur un jeu de documents fictif.Catalogue de fonctionnalitésProduit · Liste structurée des fonctionnalités de la Box avec statut (idée, prévu, prototype, validé), priorité et dépendances techniques ; aucune n'est validée à ce jour.Base vectorielle : pgvector, Qdrant et alternativesRAG · Comparaison des bases vectorielles auto-hébergeables pour la Box (filtrage ACL imposé par le moteur, hybride, multi-tenant, licence, exploitation) et recommandation provisoire liée à Q-004.Chunking et embeddingsRAG · Découper les documents en passages exploitables, les étiqueter (dont l'ACL), les vectoriser avec un modèle multilingue sous licence libre, et estimer la mémoire des index.Évaluer le RAGRAG · Mesurer la qualité (fidélité, pertinence, précision et rappel du contexte), l'étanchéité des permissions et la latence, sur un jeu de test par dossier fictif, et boucler sur l'amélioration.RAG : vue d'ensembleRAG · Pipeline documentaire de la Box, de l'ingestion des dossiers à la réponse citée, avec le filtre de permissions au cœur de la recherche.Ingestion : parsing, OCR, métadonnées, synchronisationRAG · Transformer les PDF, Word, Excel, mails et scans d'un cabinet en texte structuré et étiqueté (dossier, ACL, page), puis le maintenir à jour et supprimer proprement.Permissions et confidentialité dans le RAGRAG · Comment garantir qu'un utilisateur ne récupère jamais un passage d'un dossier auquel il n'a pas accès : ACL par chunk, filtre côté serveur, double barrière application + moteur, audit et tests.Recherche, reranking et citationsRAG · Recherche vectorielle, BM25 et fusion RRF ; pré-filtrage par permissions et ses effets sur HNSW ; rerankers ; construction du contexte ; restitution des citations page par page ; garde-fous contre les hallucinations.Modèle de menaceSécurité · Actifs, acteurs, scénarios et frontières de confiance de la Box, avec les risques propres au RAG et au LLM (OWASP Top 10 LLM 2025).

Modèles

7

bge-m3 (embeddings)Modèle · Embedding multilingue BAAI de 568 M de paramètres, dimension 1024, contexte 8192, MIT : le candidat par défaut pour le RAG de la Box.bge-reranker-v2-m3 (reranker)Modèle · Reranker multilingue BAAI construit sur bge-m3, Apache 2.0 : le candidat par défaut pour réordonner les passages avant le LLM.jina-embeddings-v3 (embeddings)Modèle · Embedding multilingue Jina AI (570 M, dimension 1024, contexte 8192, 89 langues) sous CC BY-NC 4.0 : licence non commerciale, écarté pour la Box sauf accord avec Jina.multilingual-e5-large (embeddings)Modèle · Embedding multilingue Microsoft de 560 M, dimension 1024, contexte 512, MIT : alternative éprouvée à bge-m3, limitée par son contexte court.nomic-embed-text-v2-moe (embeddings)Modèle · Embedding MoE de Nomic (475 M, 305 M actifs), dimension 768 réductible à 256, contexte 512, Apache 2.0, environ 100 langues : option légère pour le RAG.Qwen3-Embedding (0.6B / 4B / 8B)Modèle · Famille d'embeddings Alibaba (juin 2025), contexte 32k, dimensions réglables jusqu'à 4096, plus de 100 langues, Apache 2.0 : le 8B est le plus puissant mais le plus lourd à servir.Qwen3-Reranker (0.6B / 4B / 8B)Modèle · Famille de rerankers Alibaba (juin 2025), contexte 32k, plus de 100 langues, Apache 2.0 : plus puissante que bge-reranker mais plus coûteuse par passage.

Cas d'usage

8

Artisan et très petite entreprise du bâtimentCas d'usage · Assistant local pour les devis, factures, DTU et courriers d'une TPE artisanale ; cible au budget contraint, qui appelle une offre allégée.Bureau d'études techniquesCas d'usage · Assistant local sur les rapports, normes internes, cahiers des charges et retours d'expérience d'un bureau d'études ; secret des affaires et propriété intellectuelle en jeu.Cabinet d'avocats de 5 à 10 personnesCas d'usage · Cas d'usage de référence : un assistant IA local qui recherche, résume et rédige sur les dossiers du cabinet, dans le respect strict du secret professionnel et du cloisonnement par dossier.Cabinet de conseilCas d'usage · Assistant local sur les livrables, propositions et méthodologies d'un petit cabinet de conseil, dont les documents clients sont couverts par des clauses de confidentialité strictes.Centre de formation professionnelleCas d'usage · Assistant local pour les référentiels, supports de cours, dossiers Qualiopi et courriers apprenants d'un organisme de formation.Cabinet d'expertise comptableCas d'usage · Assistant local pour retrouver, résumer et préparer des réponses à partir des dossiers clients d'un cabinet comptable, sous secret professionnel.Agence immobilière et administration de biensCas d'usage · Assistant local sur les baux, mandats, états des lieux et courriers d'une agence ou d'un syndic de taille modeste.PME généraliste (10 à 30 personnes)Cas d'usage · Assistant interne pour les fonctions support d'une PME : documentation, procédures, contrats fournisseurs, RH ; cible plus large mais moins pressée par la confidentialité.

Expérimentations

6

Comparer les modèles d'embeddings sur du français juridiqueExpérimentation · Mesurer recall@k et MRR de bge-m3, multilingual-e5-large, Qwen3-Embedding (0.6B, 4B) et nomic-embed-text v2 sur le jeu de questions du corpus fictif, avec et sans reranker.Comparer la qualité en français des modèles candidatsExpérimentation · Évaluer en aveugle gpt-oss-120b, Qwen3-30B-A3B, Mistral Small 3.2 / 4, Gemma 3 27B, Llama 3.3 70B et les modèles européens sur des tâches juridiques françaises : rédaction, synthèse, citation fidèle, refus d'inventer.Évaluer Docling sur un corpus juridique françaisExpérimentation · Mesurer la qualité d'extraction (texte, structure, tableaux, OCR) et le débit de Docling sur des actes, courriers scannés, contrats et tableaux fictifs, contre Unstructured et PyMuPDF.Brancher le RAG de la Box sur Open WebUI (pipeline, endpoint, outil)Expérimentation · Comparer trois façons de remplacer le RAG intégré d'Open WebUI par le service RAG de la Box, en vérifiant la transmission fiable de l'identité SSO et l'affichage des citations.pgvector vs Qdrant : rappel et latence de la recherche filtrée par ACLExpérimentation · Mesurer la perte de rappel et la latence d'une recherche vectorielle filtrée par dossier_id (10 %, 30 %, 100 % de portée) avec pgvector HNSW (sans et avec iterative_scan, RLS) et Qdrant (payload is_tenant, JWT payload).Test de fuite de permissions du RAG (« l'avocat B ne voit jamais A »)Expérimentation · Corpus fictif à canaris, batterie de questions par utilisateur, vérification des chunks récupérés, des réponses et du journal, avec et sans barrière applicative.

Décisions

2

Appliquer les permissions documentaires avant ou pendant la recherche RAG, jamais aprèsDécision · Le filtre d'autorisation est calculé côté serveur à partir de l'identité SSO et imposé au moteur de recherche ; un prompt système n'est jamais une protection.Utiliser Open WebUI comme interface du prototype, avec un RAG externe pour les permissionsDécision · Open WebUI pour le chat, l'authentification et les groupes ; le RAG par dossier est délégué à un service externe qui applique les ACL.

Questions

1

pgvector ou Qdrant pour la base vectorielle ?Question · Les deux permettent le pré-filtrage par ACL ; l'arbitrage porte sur l'exploitation (une seule base PostgreSQL) contre les garanties natives de Qdrant (filtre imposé par JWT).

Recherches

1

Campagne de recherche : RAG, permissions, interfaces et identitéRecherche · Interfaces auto-hébergées, bases vectorielles et filtrage ACL, pipeline documentaire, connecteurs, IdP, accès distant.

Sources

21

Citations et fidélité en RAG (arXiv 2412.18004, 2409.11242)Source · Une citation affichée n'est pas une preuve de fidélité ; il faut vérifier que le passage cité soutient réellement la phrase.Autoize — Technical Deep Dive Into Nextcloud Context ChatSource · Cohérent avec la doc sur les partages, contradictoire sur la base vectorielle (PostgreSQL dans la doc 34).AWS — contrôle d'accès RAG par filtrage de métadonnées et Verified PermissionsSource · Même schéma que Microsoft : métadonnées ACL + filtre calculé côté serveur + double couche.Stratégies de chunking pour le RAG (synthèses 2026)Source · Point de départ 400 à 800 tokens, overlap 10 à 15 %, puis mesurer sur notre corpus.DeepEval — Faithfulness et guide d'évaluation RAGSource · Intégrable comme tests unitaires (pytest) sur le jeu de questions du cabinet fictif.Docling — README et documentation chunking (MIT, HybridChunker)Source · Candidat principal pour le parsing, licence sans piège, exécution locale, chunking structurel natif.Glean — principes de sécurité (permissions miroir)Source · Un acteur commercial de la recherche d'entreprise applique le même modèle : crawl des ACL, évaluation à la requête, avant tout résultat.Kotaemon — README (Apache 2.0)Source · Outil de démonstration RAG, pas une plateforme multi-utilisateur pour un cabinet.LibreChat — RAG API (PostgreSQL + pgvector)Source · La séparation en service permet de le remplacer par un RAG maison.Azure AI Search — Document-Level Access ControlSource · Filtrer dans le moteur, porter l'ACL sur chaque chunk, accepter un délai de propagation et le mesurer.Nextcloud — App Context Chat (Admin Manual 34)Source · RAG intégré pratique, mais les permissions ne couvrent pas les règles d'accès avancées ; à traiter comme un composant à auditer, pas comme une garantie.Open WebUI — variables d'environnement (docs + config.py)Source · Les défauts sont pensés pour une démo anglophone mono-utilisateur ; chaque valeur doit être revue pour un cabinet francophone.Open WebUI — fonctions RAG (knowledge, hybride, extraction)Source · Le RAG interne est complet pour un POC mais les défauts (Chroma, all-MiniLM, hybride désactivé) sont inadaptés au français.OWASP Top 10 for LLM Applications 2025 — LLM08 Vector and Embedding WeaknessesSource · Référence à citer dans le threat model et l'AIPD ; les embeddings sont des données personnelles potentielles (inversion).Reciprocal Rank Fusion — explications (ParadeDB, BigData Boutique)Source · Fusion simple, sans réglage, à implémenter en SQL ou côté application.pgvector — README (filtrage, HNSW, iterative scan 0.8.0)Source · Un filtre ACL sur HNSW sans iterative_scan peut renvoyer trop peu de résultats, voire aucun ; ce n'est pas une fuite mais une dégradation à traiter.Qdrant — README et releases (Apache 2.0, v1.19.1)Source · Brique autonome, licence permissive, filtrage conçu pour le multi-tenant.Ragas — métriques disponiblesSource · Cadre d'évaluation de référence, à faire tourner avec un juge LLM local.RAGFlow — README (Apache 2.0, DeepDoc, prérequis)Source · Pipeline documentaire riche, mais empreinte lourde et permissions par équipe peu détaillées.TruLens — RAG triadSource · Formulation la plus simple des trois questions à poser à chaque réponse RAG.Unstructured — README (Apache 2.0, stratégies, limites open source)Source · Bonne couverture de formats (dont e-mails), mais fonctions avancées réservées à l'offre commerciale.

Glossaire

11

BM25Terme · Algorithme classique de recherche par mots-clés qui note un document selon la fréquence des termes de la requête, pondérée par leur rareté dans la collection et la longueur du document.Chunking (découpage en passages)Terme · Découpage d'un document en passages de taille bornée, avec un éventuel chevauchement, avant le calcul des embeddings et l'indexation.DoclingTerme · Bibliothèque open source d'IBM Research pour convertir PDF, Word, PowerPoint, HTML et images en texte structuré (Markdown, JSON), avec analyse de mise en page, extraction des tableaux et OCR.Embedding (plongement vectoriel)Terme · Représentation numérique d'un texte sous forme de vecteur de plusieurs centaines de dimensions, telle que deux textes de sens proche produisent des vecteurs proches.HallucinationTerme · Production par un modèle de langage d'une affirmation fausse ou inventée, présentée avec la même assurance qu'une information exacte.Open WebUITerme · Interface web de chat auto-hébergée, type ChatGPT, qui se connecte à des runtimes locaux via l'API OpenAI et intègre gestion des utilisateurs, groupes, bases de connaissances et RAG.Injection de promptTerme · Attaque consistant à glisser dans un contenu lu par le modèle (document, page web, e-mail) des instructions qui détournent son comportement, par exemple pour exfiltrer des données ou ignorer ses consignes.RAG (génération augmentée par récupération)Terme · Technique qui retrouve les passages pertinents dans une base documentaire puis les fournit au modèle de langage pour qu'il réponde à partir de sources réelles et citables.Recherche hybrideTerme · Combinaison d'une recherche lexicale (BM25) et d'une recherche sémantique (embeddings), dont les résultats sont fusionnés pour tirer parti des deux approches.RerankerTerme · Modèle qui réévalue la pertinence de chaque passage candidat par rapport à la question, en lisant les deux ensemble, pour reclasser les résultats de la recherche initiale.RRF (Reciprocal Rank Fusion)Terme · Méthode de fusion de plusieurs listes de résultats qui attribue à chaque document un score fondé sur l'inverse de son rang dans chaque liste, sans avoir à comparer des scores hétérogènes.

Personas

2

L'avocat collaborateurPersona · Utilisateur quotidien exigeant : il veut des réponses justes, sourcées, sur ses dossiers, et ne tolérera ni hallucination ni lenteur.Le collaborateur junior ou le stagiairePersona · Utilisateur enthousiaste et déjà habitué à l'IA : il veut apprendre vite les usages de la structure et produire un premier jet correct, dans un cadre qui le protège de ses erreurs.