Concevoir une fonction IA que l’utilisateur peut vérifier, corriger et annuler
4 minutes de lecture environ
Sources, aperçu avant action et reprise : concevoir une interface IA qui aide l’utilisateur à comprendre le résultat et à garder la maîtrise.
La confiance vient d’une interface qui rend les limites visibles et la correction praticable. Une réponse fluide ou un pourcentage de confiance ne remplace pas les preuves nécessaires à la décision.
Dans cet article
Montrer ce qui a été fait et ce qui reste à décider
Un assistant peut mélanger texte proposé, informations vérifiées et actions déjà exécutées. L’utilisateur doit pouvoir les distinguer immédiatement. Séparez visuellement le brouillon, la validation et le résultat d’exécution, en conservant une terminologie stable.
Une confirmation doit indiquer l’objet, le destinataire et les conséquences. Si l’utilisateur croit relire un projet alors que le message est déjà envoyé, l’interface a créé un risque. Le design concerne donc les états du système autant que les couleurs et les boutons.
Relier le résultat à une preuve exploitable
Lorsque le produit s’appuie sur des documents, proposez un accès au passage pertinent, avec la version ou la date lorsque nécessaire. Une liste de sources sans correspondance avec les affirmations oblige encore l’utilisateur à refaire toute la recherche.
Ne présentez pas une estimation non calibrée comme une probabilité fiable. Il peut être plus utile de montrer les informations absentes, les contradictions et les vérifications requises. Le cadre de gestion des risques du NIST invite à traiter la fiabilité dans le fonctionnement du système, pas uniquement dans son apparence.
Pour approfondir : AI Risk Management Framework | NIST
Concevoir la correction comme un parcours normal
L’utilisateur doit pouvoir modifier une proposition sans perdre le reste du travail. Précisez si la correction affecte seulement le dossier courant ou une règle partagée. Enregistrer automatiquement toute correction comme vérité générale peut propager une exception.
Prévoyez aussi l’abstention : le système doit pouvoir signaler qu’il ne dispose pas des éléments nécessaires. Une interface qui exige une réponse à tout prix encourage l’utilisateur à prendre un texte plausible pour un résultat établi. Le passage à un humain doit transmettre le contexte déjà acquis.
Cas fictif : corriger un devis proposé
Un assistant prépare un devis à partir d’un échange client. L’écran affiche le périmètre, les hypothèses et les points non confirmés. Le commercial corrige une quantité, puis voit le prix recalculé et les éléments qui nécessitent une nouvelle validation.
Avant l’envoi, le destinataire et la pièce jointe sont visibles. Après l’envoi, l’état indique clairement que l’action externe a eu lieu. Un bouton « annuler » ne doit pas laisser croire qu’il efface le courriel reçu. La reprise peut consister à préparer une correction, avec une trace de ce qui a été envoyé.
| Point de décision | Vérification | Conséquence pratique |
|---|---|---|
| Comprendre | Brouillon distinct de l’action exécutée | Éviter les engagements involontaires |
| Vérifier | Preuve accessible au bon endroit | Réduire la reconstruction du raisonnement |
| Corriger | Contexte conservé et portée explicite | Traiter l’erreur sans tout recommencer |
Tester avec des contraintes réelles
Évaluez le parcours au clavier, sur petit écran et avec les outils d’assistance pertinents. Les principes du W3C rappellent que l’accessibilité vise l’usage par des personnes aux capacités et contextes variés. Une information importante ne doit pas dépendre uniquement d’une couleur.
Testez aussi une réponse longue, une source indisponible et une action interrompue. Demandez à l’utilisateur d’expliquer l’état courant. S’il ne sait pas si le dossier a été enregistré, l’animation de succès ne suffit pas. La clarté doit résister aux cas imparfaits, pas seulement à la démonstration.
Pour approfondir : Introduction to Web Accessibility | Web Accessibility Initiative (WAI) | W3C
Notre avis : mesurer la qualité de la reprise
Observez le temps nécessaire pour comprendre et corriger une erreur. Cette mesure complète la vitesse de génération. Un produit qui produit vite mais oblige à recommencer lors d’une correction peut dégrader le travail réel.
Votre interface permet-elle de refuser une proposition sans punir l’utilisateur par une perte de contexte ? Cette question révèle souvent la maturité du design. Nous conseillons de concevoir les chemins de contrôle dès le prototype, car les ajouter après l’adoption peut imposer une refonte des états et des permissions.
Sources et références
Notions utiles dans le lexique
Recherche & RAG
Provenance des données
Ensemble d’informations permettant d’identifier l’origine, les transformations et les versions d’une donnée.
Agents & automatisation
Validation humaine (human-in-the-loop)
Intervention d’une personne à une étape définie d’un système automatisé.
Évaluation & qualité
Abstention
Choix explicite de ne pas produire une réponse ou une décision lorsque les conditions requises ne sont pas réunies.
Concevez une IA que vos utilisateurs peuvent maîtriser.
StartHub peut vous accompagner pour définir les états, les validations et les parcours de correction de votre fonction IA, puis les tester avec les personnes qui l’utiliseront.
Échanger avec StartHub
