Vision : pourquoi la Box IA

L'essentiel

• Les petites structures qui manipulent des documents confidentiels (cabinets d'avocats, experts-comptables, bureaux d'études) veulent les gains de l'IA générative sans envoyer leurs dossiers à un fournisseur cloud.
• La Box IA est un serveur Linux installé dans les locaux du client : LLM local, RAG sur les documents de l'entreprise, interface web type ChatGPT, comptes nommés, permissions strictes par dossier, journal d'audit.
• C'est un assistant, pas un remplaçant : chaque réponse cite ses sources et reste soumise à validation humaine.
• Le projet est en phase de recherche : la machine candidate n'est pas commandée et aucun benchmark n'a été réalisé par nous. Les limites sont réelles et documentées.
• Objectif : transformer ce dossier en offre commerciale pour des équipes de 5 à 10 personnes, à partir d'un cas de référence, le cabinet d'avocats.

Le problème

Une équipe de 5 à 10 personnes accumule des milliers de documents : dossiers clients, contrats, courriers, courriels, notes internes, modèles. Retrouver une pièce, résumer un dossier de 400 pages, comparer deux versions d'un contrat ou rédiger un brouillon de réponse coûte des heures. Les assistants IA du marché savent faire cela, mais ils fonctionnent dans le cloud d'un éditeur, le plus souvent américain.

Pour un cabinet d'avocats, ce n'est pas un détail. Le CNB rappelle qu'un avocat ne peut renseigner dans une requête adressée à une IA générative tierce ni le nom de ses clients, ni une pièce du dossier, ni un élément de stratégie ¹. La CNIL recommande de privilégier un déploiement « sur site » dès que l'usage consiste à fournir des données personnelles ou une documentation sensible ². En pratique, cela signifie que la majorité des usages utiles est interdite ou déconseillée avec les outils cloud, et que les professionnels s'en servent quand même, en cachette ou en pseudonymisant à la main.

Le problème résolu par la Box IA : donner à ces équipes un assistant qui travaille sur leurs vrais documents, avec les vraies identités, parce que rien ne sort du réseau de l'entreprise.

La vision

Une machine compacte, silencieuse, posée dans un placard technique ou sous un bureau, qui héberge un modèle de langage ouvert et l'ensemble des documents de la structure, indexés et cloisonnés. Chaque collaborateur y accède depuis son navigateur, avec son compte, et ne voit que ce à quoi il a droit. Le prestataire installe, forme, maintient et surveille ; le client n'administre rien.

Le CNB lui-même décrit « l'installation du LLM sur les propres systèmes d'information du cabinet (par exemple à partir d'un modèle open source comme Llama ou Mistral AI) » comme l'une des seules manières d'éliminer les risques de souveraineté ¹. La Box IA est la version clé en main de cette recommandation.

Philosophie

Assistant, pas remplaçant. La Box prépare, retrouve, résume, propose. Elle ne décide pas, ne signe pas, n'envoie pas. Un brouillon de courrier reste un brouillon jusqu'à relecture. Le guide CNB rappelle que l'avocat a « nécessairement vérifié, relu et corrigé les réponses générées » et que sa responsabilité n'est pas limitée par l'usage de l'IA.

Validation humaine par conception. Chaque réponse fondée sur des documents indique ses sources : fichier, page, extrait. Une réponse sans source est signalée comme telle. L'interface doit rendre la vérification plus rapide que la confiance aveugle.

Confidentialité par conception. Les données ne quittent pas le réseau du client. Les permissions sont appliquées avant la recherche, pas après : un avocat ne peut pas obtenir, même par une question détournée, un extrait d'un dossier auquel il n'a pas accès (voir permissions). Les accès sont journalisés, y compris ceux du prestataire.

Simplicité pour l'utilisateur, Linux invisible. Le collaborateur voit une page web avec un champ de saisie et ses dossiers. Le dirigeant voit un tableau de bord de santé. Personne au cabinet n'a besoin de savoir ce qu'est un conteneur, un pilote GPU ou un modèle quantifié. Cette complexité est notre métier, pas le leur.

Utilisateurs ciblés

Le cas d'usage de référence est le cabinet d'avocats de 5 à 10 personnes. D'autres secteurs sont explorés dans la bibliothèque de cas d'usage.

Cloud IA ou IA locale

Avantages

• Le secret professionnel et le RGPD deviennent des arguments de conception, pas des obstacles.
• Le coût ne dépend ni du nombre de questions ni d'un éditeur qui change ses tarifs.
• Les documents restent là où ils sont : partage réseau, messagerie ; la Box les indexe, elle ne les déplace pas.
• Une seule machine, un seul prestataire, une seule facture.

Limites, honnêtement

• Capacité. Une machine à mémoire unifiée de 128 Go sert confortablement un à trois utilisateurs simultanés, pas dix. Au-delà, la latence augmente. Le seuil exact reste à mesurer (Q-001).
• Qualité. Les modèles ouverts exécutables sur cette machine sont en retrait sur les modèles frontière du cloud pour le raisonnement long et les textes complexes. Sur la recherche documentaire sourcée, l'écart est plus faible ; il reste à objectiver.
• Maintenance. Un serveur sur site se met à jour, se sauvegarde et tombe parfois en panne. Sans contrat de maintenance, la Box devient un risque.
• Matériel non éprouvé. La plateforme Strix Halo est récente ; des instabilités sous forte charge GPU et des bugs de veille sont rapportés par la communauté (voir fiche machine et Q-012). Rien n'est validé tant que nous n'avons pas fait tourner la machine plusieurs semaines.
• Hallucinations. Un modèle local hallucine comme un modèle cloud. Les citations obligatoires limitent le risque, elles ne l'éliminent pas.

Contraintes

• Budget d'une petite structure : la machine seule coûte près de 4 000 € TTC ; l'offre complète doit rester défendable face à un abonnement cloud.
• Poste client Windows ou macOS, accès par navigateur uniquement, aucun logiciel à installer.
• Réseau local existant, souvent géré par un prestataire externe.
• Une seule machine : pas de haute disponibilité, d'où l'importance des sauvegardes et d'un délai de remplacement contractuel.
• Licences : uniquement des composants ouverts dont la licence autorise un usage commercial (voir Coûts pour les pièges connus).

Périmètre actuel et futur

La roadmap détaille les phases et les critères de passage.

Vue d'ensemble