CHECKLIST GRATUITE · 7 SEPTEMBRE 2026
Avant de laisser votre agent IA agir.
Un workflow utile doit aussi rester maîtrisable lorsque ses dépendances échouent ou que ses entrées sont inattendues. Voici huit contrôles à adapter à votre architecture, à vérifier sur un environnement autorisé avec des données fictives.
1. Définir les actions autorisées
Listez chaque outil accessible à l’agent, ce qu’il peut lire et ce qu’il peut modifier. Refusez toute action absente de cette liste, au niveau du service qui exécute l’action.
Critère à vérifier : Un outil non autorisé ne peut pas être appelé, même si le modèle le demande.
2. Séparer décision et exécution
Faites valider les actions sensibles par une personne : montant, destinataire et contenu exacts. L’accord doit correspondre à une action précise et expirer si elle change.
Critère à vérifier : Modifier le destinataire après validation oblige à obtenir un nouvel accord.
3. Traiter les contenus externes comme des données
Un e-mail, une page ou un document peut contenir des instructions malveillantes. Limitez les outils disponibles et validez leurs arguments indépendamment du modèle. Un prompt système seul ne garantit pas cette séparation.
Critère à vérifier : Une instruction contenue dans un document ne donne pas de nouveaux droits.
4. Garder les secrets hors des messages
Utilisez un stockage de secrets et des comptes techniques aux droits minimaux. Expurgez les traces. Préparez la rotation et la révocation des accès.
Critère à vérifier : Aucune clé complète dans les entrées du modèle, les exports ou les journaux consultables.
5. Identifier les événements déjà traités
Associez une identité stable à l’action métier et réservez-la de façon atomique. Prévoyez les requêtes simultanées, les expirations et les crashs entre l’action externe et l’enregistrement du résultat.
Critère à vérifier : Deux événements identiques simultanés ne créent qu’une action ; un résultat incertain est réconcilié avant toute relance.
6. Prévoir les erreurs et la reprise
Fixez des délais d’attente, un nombre de tentatives maximal et une file d’erreurs. Une action externe ayant expiré a peut-être réussi : vérifiez son résultat avant de la rejouer.
Critère à vérifier : Une indisponibilité temporaire déclenche une alerte et une reprise maîtrisée.
7. Borner les coûts et la durée
Fixez un budget par exécution et par période, un maximum d’appels et un arrêt d’urgence. Une alerte de consommation seule n’impose pas un plafond.
Critère à vérifier : Les nouvelles actions sont bloquées au seuil convenu ; les opérations déjà engagées sont prises en compte.
8. Conserver une trace utile
Reliez l’événement, les décisions, les validations et le résultat à un identifiant. Limitez les données personnelles et définissez une durée de conservation.
Critère à vérifier : Une personne peut reconstituer l’action sans afficher les secrets ni des données client inutiles.
Conserver les preuves
Pour chaque contrôle, notez la configuration testée, le scénario, le résultat attendu, le résultat observé et les limites du test. Cette checklist ne constitue ni un audit exhaustif ni une certification.
Ressource de référence : projet OWASP sur les risques des applications utilisant des LLM.