Agents IA fiables : l'art du prompt en production

De la démo séduisante au système fiable

Les modèles de langage spécialisés dans l'appel d'outils (rechercher une commande, créer un contact, mettre à jour une fiche client) ouvrent des perspectives concrètes pour les TPE et PME. Mais entre un prototype qui fonctionne « la plupart du temps » et un agent IA en production sur lequel vous pouvez compter, il y a un fossé.

Ce fossé porte un nom : la fragilité des prompts. Des instructions trop vagues suffisent pour qu'un modèle pourtant performant :

• invente un paramètre manquant, par exemple un numéro de commande fictif ;
• tourne en boucle en rappelant le même outil sans progresser ;
• déclenche une action non prévue ou répond « à côté » sur un ton conversationnel ;
• oublie ses consignes au fil d'une longue conversation.

Pour une équipe commerciale, chacun de ces incidents se traduit par une donnée erronée dans le CRM, un client mal informé ou un temps perdu à corriger. Notre rôle est d'éliminer ces dérives dès la conception.

Un prompt n'est pas un texte, c'est une architecture

L'erreur la plus fréquente consiste à rédiger un grand bloc d'instructions et à espérer que le modèle s'y tienne. Nous abordons le prompt comme un gabarit dynamique, assemblé à chaque requête à partir de plusieurs couches distinctes :

1. Le déclenchement : l'application reçoit une demande et prépare le contexte (date du jour, informations utiles sur l'utilisateur).
2. Le raisonnement : des règles numérotées imposent à l'agent une séquence d'analyse précise avant toute action.
3. Les outils : seules les fonctions autorisées sont décrites, avec un schéma strict pour chaque paramètre.
4. La mémoire : l'historique est filtré pour ne garder que l'essentiel et préserver la clarté des consignes.
5. Les garde-fous : des règles explicites encadrent l'incertitude et prévoient l'escalade vers un humain.

Cette séparation est décisive : elle empêche le modèle de privilégier un ton aimable au détriment de la structure de données attendue par vos outils.

Séparer le rôle des contraintes

Nous définissons d'abord un rôle technique précis (« agent de traitement des demandes commerciales », par exemple) plutôt qu'un assistant généraliste. Viennent ensuite des contraintes négatives fermes, du type « tu ne dois jamais deviner une information manquante ».

Le test est simple : on envoie une demande incomplète. Un agent bien conçu s'arrête et réclame l'information. Un agent mal cadré en invente une. Ce type de scénario fait systématiquement partie de nos phases de validation.

Des outils décrits avec rigueur

L'agent ne connaît vos applications qu'à travers la description que nous lui fournissons. Un nom de fonction explicite, un type de donnée imposé et une description détaillée du format attendu (longueur, caractères autorisés…) permettent au modèle de détecter lui-même une saisie invalide et de demander une correction plutôt que d'exécuter une requête vouée à l'échec.

Autre bonne pratique : ne pas injecter tous les outils disponibles à chaque requête. Un tri préalable de la demande permet de ne présenter que les quelques fonctions pertinentes, ce qui réduit la consommation de jetons et donc le coût d'exploitation, tout en limitant les risques de confusion.

Une mémoire maîtrisée

Accumuler l'intégralité des échanges et des résultats d'outils finit par diluer les instructions initiales. Pour les flux opérationnels qui exigent de la réactivité, nous privilégions souvent une troncature stricte de l'historique plutôt qu'un résumé automatique, qui ajoute de la latence et peut faire disparaître une valeur exacte indispensable à l'action en cours.

Cette couche est aussi l'endroit où nous traitons les données personnelles : elles sont masquées et remplacées par des références avant d'atteindre le modèle, puis réassociées au moment de l'exécution.

L'escalade humaine comme outil à part entière

C'est ce qui distingue un système de production d'une démonstration fragile. Plutôt que de compter sur l'agent pour « prévenir » qu'il n'est pas sûr de lui, nous lui donnons un outil dédié de transfert vers un humain, qu'il doit obligatoirement appeler en cas de demande ambiguë, de paramètre manquant ou de sujet hors périmètre.

L'avantage est concret : l'application intercepte cet appel structuré et crée réellement un ticket ou une tâche dans votre outil de suivi. Le collaborateur concerné reprend la main, avec le contexte complet.

Une règle reste non négociable : aucune action destructrice ou financière (suppression de données, remboursement…) ne s'exécute sans validation humaine explicite, avec un contrôle des droits côté application et pas seulement dans le prompt.

Des sorties structurées et une récupération d'erreur automatique

Même bien guidé, un modèle produit parfois un JSON mal formé ou ajoute une phrase d'introduction avant les données. Nous mettons en place :

• une validation systématique de chaque réponse ;
• une boucle de correction qui renvoie au modèle l'erreur exacte pour qu'il régénère une sortie valide ;
• une limite d'essais au-delà de laquelle le traitement est stoppé et confié à un humain ;
• un blocage de tout appel à un outil inexistant ou non autorisé.

Pour éviter les boucles infinies, chaque outil renvoie un statut explicite (succès ou échec), et l'orchestration interrompt l'exécution après plusieurs appels identiques consécutifs.

Ce que cela change pour vos équipes commerciales et marketing

Cette rigueur d'ingénierie se traduit en bénéfices directs :

• Des données fiables dans votre CRM, sans valeurs inventées.
• Des automatisations prévisibles : qualification de leads, suivi de commandes, réponses aux demandes récurrentes.
• Une maîtrise des coûts grâce à des prompts optimisés et à la mise en cache des parties stables.
• Une traçabilité complète : prompt compilé, réponse brute et action exécutée sont journalisés pour l'audit et le diagnostic.
• Des humains au bon endroit : vos collaborateurs n'interviennent que là où leur jugement apporte de la valeur.

Une démarche continue, pas un projet ponctuel

Un prompt se gère comme du code de production : versionné, testé et amélioré. Avant toute mise en service, nous constituons un jeu de tests à partir de demandes réelles, puis nous l'enrichissons à chaque incident pour en faire des tests de non-régression. Les alertes, la surveillance des taux d'échec par outil et la revue régulière des descriptions permettent de faire évoluer l'agent au rythme de vos usages.

Cette architecture modulaire a un autre atout : les couches de garde-fous et de mémoire se réutilisent d'un agent à l'autre. Seuls le rôle et les outils changent, ce qui facilite le déploiement de nouveaux cas d'usage.

Passer à l'étape suivante

Vous avez testé un agent IA prometteur mais hésitez à le connecter à vos outils métier ? Vous souhaitez automatiser une partie de votre relation client sans perdre le contrôle ? Nos équipes vous accompagnent de la conception à l'exploitation, en intégrant l'IA à votre réseau, votre messagerie et vos applications existantes.

👉 Contactez comm.it pour parler de votre projet d'agent IA

Source : Hermes Agent Prompt Engineering for Production: Patterns That Reduce Failures