Assistant IA interne : un RAG sécurisé pour PME

Une IA interne utile, mais pas à n'importe quel prix

Les dirigeants de TPE et PME ont tous la même envie. Ils veulent un assistant IA interne capable de répondre en quelques secondes à des questions comme « Quelle est notre procédure de remboursement des frais ? » ou « Quelle clause de résiliation figure dans le contrat de ce fournisseur ? ». Ils ont aussi la même inquiétude : confier des données confidentielles (contrats, politiques RH, documentation technique, feuille de route) à une plateforme externe dont on ne maîtrise ni l'hébergement ni l'usage des données.

Cette tension est au cœur d'un guide technique publié en anglais par une agence spécialisée dans l'automatisation, intitulé en substance « Guide d'expert : construire un pipeline RAG sécurisé (testé par nos soins) ». Ses auteurs y décrivent une architecture complète et y posent un constat clair : entraîner un modèle de langage sur des données privées, ou dépendre d'une base vectorielle externe opaque, fait courir des risques de sécurité et de conformité jugés inacceptables pour une entreprise.

Chez comm.it, nous partageons ce constat. Nous en tirons une conviction : la bonne réponse n'est pas de renoncer à l'IA, mais de la construire sur votre propre infrastructure, avec la même rigueur que votre réseau, votre messagerie ou votre système de vidéosurveillance. Cet article explique comment, et ce que cela change concrètement pour une PME.

Le RAG expliqué simplement

Le RAG (Retrieval-Augmented Generation, ou génération augmentée par la recherche) repose sur une idée simple. Plutôt que d'apprendre vos documents au modèle d'IA, on les range dans une bibliothèque consultable. À chaque question, le système va chercher les passages pertinents, puis demande au modèle de rédiger une réponse uniquement à partir de ces passages.

Concrètement, cela implique :

• un découpage de vos documents en fragments (les chunks) ;
• leur transformation en vecteurs (embeddings), c'est-à-dire en représentations numériques qui permettent de comparer le sens des textes ;
• leur stockage dans une base de données vectorielle ;
• une recherche au moment de la question, puis une génération de la réponse avec citation des sources.

Le guide source est catégorique sur un point que nous retenons aussi : pour restituer des faits, des politiques internes ou des données d'entreprise, il faut privilégier le RAG plutôt que le fine-tuning (réentraînement du modèle). Le RAG coûte moins cher, se met à jour instantanément, permet de citer ses sources et supporte le contrôle d'accès. Le fine-tuning sert plutôt à apprendre un ton, un format ou un type de raisonnement, pas à injecter des connaissances factuelles.

Deux chaînes distinctes : ingestion et restitution

Premier principe d'architecture mis en avant par les auteurs : séparer le système en deux pipelines asynchrones. Une approche monolithique, expliquent-ils, finit par céder sous la latence du traitement documentaire et les limites de débit des API.

La chaîne d'ingestion

Elle tourne la nuit ou réagit aux événements de votre espace documentaire. Elle récupère les fichiers nouveaux ou modifiés, en extrait le texte selon leur format (PDF, traitement de texte, pages web), les découpe, les enrichit de métadonnées puis les indexe dans la base vectorielle.

La chaîne de restitution

Elle s'active en temps réel quand un collaborateur pose une question depuis l'outil de messagerie d'équipe de l'entreprise. Elle reformule la question, interroge la base en tenant compte des droits de l'utilisateur, assemble le contexte et produit une réponse sourcée.

Pour une PME, ce découpage a un avantage très concret : un incident sur l'indexation nocturne n'empêche pas l'assistant de répondre. Une montée en charge des questions ne ralentit pas non plus la mise à jour des documents. C'est exactement la logique que nous appliquons dans nos projets d'automatisation des processus métier : des briques indépendantes, supervisées, que l'on peut faire évoluer séparément.

L'ingestion : là où se joue la qualité des réponses

On imagine souvent que la qualité d'un assistant IA dépend surtout du modèle utilisé. En réalité, l'essentiel se décide en amont, au moment de préparer les documents. Le guide détaille plusieurs pratiques que nous intégrons systématiquement.

Une synchronisation incrémentale

Plutôt que de tout retraiter chaque nuit, le système mémorise la date de la dernière exécution réussie et ne traite que les fichiers modifiés depuis. Les auteurs insistent sur un détail qui évite bien des pertes silencieuses : ne mettre à jour ce repère qu'à la toute fin d'une exécution réussie. Ainsi, un traitement interrompu ne fait jamais « sauter » de documents.

Un découpage qui respecte la structure

Couper un texte tous les 500 caractères, c'est couper des phrases en deux et casser les tableaux. Le guide recommande un découpage structurel et sémantique. Il convertit d'abord les documents dans un format qui conserve titres et tableaux, puis découpe en priorité aux paragraphes, ensuite aux lignes, enfin aux mots. Les paramètres proposés (des fragments d'environ 1 000 caractères avec un chevauchement de 200) sont un point de départ. Chez comm.it, nous les ajustons à la nature réelle de vos documents : un contrat juridique ne se découpe pas comme une fiche produit.

Des métadonnées riches

Chaque fragment doit porter son origine : titre, lien vers le document, auteur, date de modification, service concerné et niveau d'accès. Ces informations servent à deux choses. D'une part, citer la source dans la réponse. D'autre part, filtrer ce que chaque utilisateur a le droit de voir.

Des identifiants déterministes

C'est un point technique, mais il est décisif. Selon les auteurs, réindexer un document sans identifiants déterministes constitue un échec critique d'un RAG en entreprise. Le principe consiste à calculer l'identifiant de chaque fragment à partir de l'identifiant du document et de la position du fragment. Quand le document est mis à jour, ses anciens fragments sont écrasés au lieu d'être dupliqués. Sans cette idempotence, la base se remplit de versions contradictoires et l'assistant finit par citer une procédure périmée.

La propagation des suppressions

Le guide souligne un risque souvent oublié : un document supprimé de l'espace de stockage reste présent dans la base vectorielle, ce que les auteurs qualifient de risque de conformité majeur. La parade consiste à comparer régulièrement les identifiants indexés avec ceux réellement présents et à supprimer les fragments orphelins. Pour une entreprise soumise au RGPD, c'est un point non négociable : une donnée effacée doit l'être partout.

Les PDF scannés

Un contrat numérisé n'est qu'une image. Le texte extrait est alors quasi vide. La solution proposée est d'ajouter un aiguillage : si un PDF de plusieurs pages produit très peu de texte (moins de 50 caractères dans l'exemple du guide), il est envoyé vers une étape de reconnaissance optique de caractères (OCR) avant le découpage. Dans beaucoup de PME, une part importante des archives est scannée. Sans cette étape, une grande partie du patrimoine documentaire reste invisible pour l'assistant.

La restitution : des réponses justes, sourcées et autorisées

Reformuler la question

Les utilisateurs ne posent pas des requêtes parfaites. Ils écrivent « et pour les cadres, c'est pareil ? » ou utilisent des abréviations maison. Le guide propose de faire passer chaque question par un modèle rapide et peu coûteux. Celui-ci la réécrit en requête de recherche optimisée, débarrassée des formules de politesse et enrichie du contexte de la conversation.

La recherche hybride

La recherche purement sémantique a une faiblesse connue : elle peine sur les noms propres, les sigles ou les références précises, comme un code d'erreur ou un numéro de pièce. La recherche hybride combine la similarité vectorielle avec une recherche par mots-clés classique. C'est particulièrement utile dans les PME industrielles, techniques ou de services, où les références produits et les codes internes sont omniprésents.

Le filtrage par droits d'accès

C'est sans doute la partie la plus critique. Lors de chaque question, le système identifie l'utilisateur et retrouve son rôle dans l'annuaire de l'entreprise. Il injecte ensuite ce rôle comme filtre de métadonnées dans la recherche. Le contrôle d'accès basé sur les rôles (RBAC) s'applique ainsi au cœur même de la base : les fragments non autorisés ne sont jamais remontés, donc jamais transmis au modèle. Un salarié de l'atelier ne pourra pas obtenir, par une question habile, un extrait des projections financières de la direction.

Une génération disciplinée

Dernière étape : le modèle reçoit un nombre limité de fragments (cinq dans l'exemple du guide, car trop de contexte dilue la pertinence et augmente le risque d'hallucination). Il reçoit aussi une consigne stricte : répondre uniquement à partir de ces fragments, citer la source de chaque affirmation, et répondre explicitement qu'il ne sait pas si l'information n'y figure pas. Le guide recommande également une température proche de zéro pour limiter l'inventivité du modèle. En option, une étape de reclassement (re-ranking) permet de récupérer davantage de fragments puis de ne garder que les plus pertinents.

Cette discipline de citation est ce qui transforme un gadget en outil de travail. Une réponse accompagnée d'un lien cliquable vers le document d'origine se vérifie en un clic. Elle inspire confiance, et elle responsabilise.

Souveraineté : choisir où tournent vos données

Le guide insiste sur la souveraineté des données : base vectorielle auto-hébergée, et idéalement modèles d'embedding et de génération exécutés localement. Les auteurs rappellent qu'une base vectorielle hébergée chez un tiers signifie que vos données quittent votre réseau. Ils notent aussi qu'il est possible de remplacer entièrement les modèles commerciaux par des modèles open source exécutés en local pour supprimer les coûts d'API.

C'est précisément là que l'expertise de comm.it fait la différence, car la question n'est pas seulement logicielle. Elle est aussi infrastructurelle :

• Hébergement : où installer la base vectorielle et les modèles (serveur sur site, environnement privé chez un hébergeur choisi) et avec quelles ressources ;
• Réseau : segmentation, accès sécurisés, chiffrement des flux entre les briques, accès distants maîtrisés pour les collaborateurs en mobilité ;
• Identité : raccordement à votre annuaire et à votre messagerie pour que les droits de l'assistant reflètent fidèlement l'organisation réelle ;
• Arbitrage coût et performance : modèles locaux pour les données les plus sensibles, éventuellement services externes pour des usages moins critiques, selon votre politique de sécurité.

Notre métier historique de prestataire réseau, messagerie et infrastructure pour les TPE et PME d'Île-de-France nous permet de traiter ces sujets d'un seul tenant, sans multiplier les intervenants.

Tester avant de déployer

Le guide propose trois scénarios de test que nous jugeons indispensables avant toute mise en service :

1. Le cas nominal : une question classique doit produire une réponse correcte, avec une citation qui pointe vers le bon document.
2. La question hors sujet : une demande sans rapport avec vos documents doit déclencher la réponse de repli, et non une réponse inventée.
3. Le défaut d'autorisation : un compte sans droits suffisants qui interroge un document confidentiel ne doit rien obtenir.

Au-delà, les auteurs recommandent de constituer un jeu d'évaluation d'une trentaine de vraies questions métier avec leurs bonnes réponses. Ce jeu est soumis automatiquement chaque semaine à l'assistant, et les résultats sont consignés. Déployer un RAG sans mesure, écrivent-ils, c'est voler à l'aveugle. Nous construisons ce jeu d'évaluation avec vos équipes, car ce sont elles qui savent quelles questions comptent vraiment.

Passer en production sans mauvaise surprise

La liste de contrôle proposée par le guide recoupe nos propres exigences :

• Secrets protégés : les clés d'API sont stockées dans un coffre de credentials, jamais écrites en dur dans les scripts ;
• Indexation initiale complète, avec surveillance de la mémoire sur les gros volumes ;
• Alertes d'erreur routées vers l'équipe informatique (ou vers nous, dans le cadre d'un contrat de maintenance) ;
• Traitement par lots et temporisation pour éviter les erreurs de dépassement de quota ;
• Test d'intrusion manuel avec un compte non autorisé pour vérifier le cloisonnement.

Le guide évoque aussi des leviers d'optimisation. Il s'agit de paralléliser l'ingestion via des sous-processus quand le corpus grossit. Il s'agit aussi de vérifier une empreinte des métadonnées (date de modification et taille) avant de retraiter un fichier. Selon les auteurs, cette exécution conditionnelle peut réduire les coûts d'embedding jusqu'à 90 %. Ils avancent également une réduction de 85 % du temps de recherche d'information pour les collaborateurs. Ces chiffres sont ceux de la source. Chez comm.it, nous préférons mesurer les gains réels dans votre contexte, grâce au jeu d'évaluation évoqué plus haut.

Ce que comm.it apporte concrètement

Le guide le reconnaît lui-même : passer d'une preuve de concept sur une centaine de documents à un déploiement d'entreprise pose des défis complexes. Il cite le traitement asynchrone, l'optimisation de l'indexation et l'intégration sécurisée à l'annuaire. Pour une PME sans équipe IA dédiée, ces défis sont réels. Voici comment nous les prenons en charge :

• Cadrage : identification des corpus à forte valeur (procédures qualité, contrats, base de connaissances support, documentation technique) et des niveaux de confidentialité ;
• Architecture souveraine : choix de l'hébergement, des modèles et des flux réseau selon vos contraintes de sécurité et de budget ;
• Automatisation des pipelines : ingestion incrémentale, OCR, propagation des suppressions, supervision et alertes ;
• Intégration aux outils existants : messagerie d'équipe, espace documentaire, annuaire, et si besoin vos logiciels cœur de métier comme le CRM ou l'ERP, pour que l'assistant s'appuie aussi sur vos données clients ou produits ;
• Garde-fous : discipline de citation, réponses de repli, filtrage par rôles, tests de cloisonnement ;
• Suivi dans la durée : évaluation régulière de la qualité des réponses et ajustements du découpage ou de la recherche.

Par où commencer ?

La démarche recommandée par le guide est pragmatique, et nous la faisons nôtre. Commencez par un pilote sur un périmètre restreint et peu sensible, par exemple les formulaires RH accessibles à tous. Vérifiez le comportement du découpage de bout en bout. Établissez une base de mesure avec votre jeu de questions. Auditez la correspondance entre l'annuaire et les métadonnées de droits. Ensuite seulement, élargissez le périmètre.

Cette approche progressive limite les risques. Elle permet de démontrer rapidement la valeur à vos équipes et de construire, étape par étape, un véritable actif de connaissance pour l'entreprise.

Prêt à transformer ces enjeux en avantage concurrentiel ? Contactez comm.it pour en discuter.

Source : n8n Expert Guide: Build a Secure RAG Pipeline Tested by Us