Mémoire d’un agent IA : conserver le contexte sans figer les erreurs

Une conversation n’est pas une base de vérité

Un échange peut contenir une proposition, une erreur corrigée et une décision finalement abandonnée. Enregistrer toute la conversation comme connaissance validée transforme ces états différents en matière indifférenciée. L’agent risque ensuite de retrouver une phrase plausible mais dépassée.

Définissez ce qui mérite d’être conservé : préférence, fait vérifié, décision ou tâche. Chaque type demande des règles différentes. Une préférence de présentation peut rester utile longtemps ; un prix ou un statut de dossier exige une source actuelle.

Associer provenance et validité

Conservez l’origine, la date et le contexte. Pour une décision, ajoutez les conditions qui la justifiaient et la personne autorisée à la modifier. L’absence de date de fin ne doit pas signifier une validité éternelle.

Préparez un mécanisme de réexamen pour les informations sensibles au temps. La mémoire peut indiquer qu’un élément doit être vérifié avant utilisation. Cette incertitude explicite est préférable à une réponse assurée construite sur une donnée ancienne.

Gérer les contradictions sans choisir au hasard

Deux sources peuvent diverger parce qu’elles décrivent des périodes, objets ou périmètres différents. L’agent doit pouvoir conserver ce conflit et demander une clarification lorsque celui-ci change la décision. La dernière phrase rencontrée n’est pas toujours la plus fiable.

Évitez de fusionner automatiquement les informations d’entreprises ou de personnes partageant un nom. Les identifiants et les preuves de correspondance doivent guider le rapprochement. Une mémoire enrichie avec une mauvaise identité devient plus convaincante à mesure qu’elle accumule des détails erronés.

Exemple : un ancien accord commercial réutilisé

Dans un scénario fictif, un client a bénéficié d’une remise ponctuelle. Un assistant retrouve l’échange et applique la même remise à une nouvelle commande. Le problème vient du statut de l’information : exception passée, pas règle tarifaire permanente.

La mémoire doit conserver la portée de l’accord et empêcher son utilisation comme autorisation. Une action commerciale doit être validée par les règles actuelles. OWASP rappelle notamment les risques d’instructions issues de contenus externes ; une information mémorisée ne doit pas acquérir davantage d’autorité simplement parce qu’elle est stockée.

Pour approfondir : LLM01:2025 Prompt Injection - OWASP Gen AI Security Project

Donner à l’utilisateur un moyen de corriger

Prévoyez une consultation des éléments utiles, leur rectification et leur suppression selon les règles de l’organisation. La correction doit atteindre les copies ou index concernés. Modifier un texte visible sans mettre à jour l’index de recherche peut laisser l’ancienne version réapparaître.

Contrôlez les accès par périmètre. Un assistant ne doit pas réutiliser pour un client une information provenant d’un autre dossier sans autorisation. La mémoire partagée facilite le travail uniquement si ses frontières sont explicites.

Le test de maturité

Nous recommandons des scénarios de contradiction, d’expiration et de correction avant la mise en service. Vérifiez ce que l’agent répond après une modification et comment il justifie sa source. Le succès se mesure à la qualité du contexte retrouvé, pas au volume stocké.

Votre assistant pourrait-il expliquer pourquoi une information reste valable aujourd’hui ? Si non, il manque une règle de provenance ou de mise à jour. Une mémoire professionnelle doit aider l’entreprise à apprendre sans transformer ses anciennes erreurs en automatismes.