Superviser un agent IA en production : quoi contrôler, qui valide, à quel rythme

Ce qu’imposent l’AI Act et le RGPD, et à qui

L’AI Act ne crée pas de règle propre aux agents. La note de la CNIL et du Conseil de l’IA et du numérique (CIANum) du 20 juillet 2026 le rappelle : le règlement s’applique aux systèmes d’IA agentique, sans prévoir de règles spécifiques pour eux. Ce qui décide de vos obligations, c’est l’usage que vous faites de l’agent.

Pour un système à haut risque, deux articles organisent la supervision. L’article 14 oblige le fournisseur à concevoir le système pour qu’une personne puisse le surveiller pendant son utilisation : comprendre ses capacités et ses limites, rester consciente du biais d’automatisation, interpréter ses sorties, décider de ne pas les suivre, et l’interrompre par un bouton d’arrêt. L’article 26 oblige le déployeur, c’est-à-dire l’entreprise qui l’utilise, à confier ce contrôle à des personnes qui ont la compétence, la formation et l’autorité nécessaires, à surveiller le fonctionnement du système, à en suspendre l’usage et prévenir le fournisseur et l’autorité de surveillance du marché s’il présente un risque, et à garder ses journaux au moins six mois.

Pour un agent courant, rien de tel. L’AI Act vous demande de prendre des mesures pour la maîtrise de l’IA de vos équipes (article 4) depuis le 2 février 2025, et la transparence (article 50) depuis le 2 août 2026, quand l’agent échange avec des personnes ou génère du contenu. Le RGPD, lui, s’applique dans tous les cas : une décision fondée exclusivement sur un traitement automatisé, qui produit des effets juridiques sur une personne ou l’affecte de manière significative, reste interdite sauf exceptions (article 22). La CNIL et le CIANum précisent qu’une validation purement formelle ou automatique ne suffit pas : l’intervention humaine doit pouvoir changer la décision.

Hors haut risque, rien ne vous oblige à suivre l’article 14. Sa liste reste la grille la plus claire pour décider de ce qu’une personne doit pouvoir faire face à un agent : comprendre, interpréter, refuser une sortie, arrêter.

Les dates qui comptent pour la supervision

Le règlement (UE) 2026/1744, en vigueur depuis le 27 juillet 2026, a reporté les obligations des systèmes à haut risque. Certains sites affichent encore le 2 août 2026 pour le haut risque : c’est l’ancienne date, remplacée par le 2 décembre 2027 pour l’annexe III. Le calendrier complet et votre rôle de déployeur sont détaillés sur la page AI Act : ce qui s’applique à votre PME.

Les cinq contrôles d’un agent en production

Superviser ne se résume pas à relire. La supervision se prépare avant la mise en ligne (des tests), tourne à chaque exécution (des contrôles automatiques), remonte à une personne pour les cas sensibles (une revue humaine) et laisse une trace (des journaux). Cinq points la structurent.

Droits. Sur notre infrastructure, douze agents spécialisés ont chacun des outils limités à leur tâche : le relecteur ne peut pas modifier le code, la vigie ne peut rien corriger. La note CNIL et CIANum va dans le même sens : seules les données strictement nécessaires à la tâche devraient être accessibles à l’agent, dans un environnement cloisonné.

Sorties. Un premier contrôle peut être automatique : sur notre chaîne de contenus, un agent évaluateur note chaque texte sur 100 et bloque ceux qui n’atteignent pas 70, et un agent conformité oppose un veto que seule une personne peut lever. Le contrôle automatique filtre ; il ne remplace pas la personne pour ce qui engage l’entreprise. La CNIL le rappelle : un modèle peut produire des résultats inexacts qui paraissent plausibles.

Coûts. Sur notre infrastructure, un message simple est trié par un petit modèle plutôt que par le cycle complet, bien plus coûteux. Orienter chaque tâche vers le bon modèle est donc un contrôle à part entière. Le budget d’API y est plafonné chaque mois, avec une alerte avant d’atteindre le plafond.

Dérive. Un agent peut changer sans que vous touchiez à rien : le fournisseur fait évoluer ou retire un modèle. Sur notre vigie de visibilité, la mesure ChatGPT est interrompue depuis août 2026, l’éditeur ayant déprécié le modèle utilisé ; la part de voix dans les IA repose depuis sur Gemini seul. La note CNIL et CIANum recommande des tests de robustesse avant le déploiement et tout au long de celui-ci : rejouer les mêmes cas de test à chaque changement de modèle en est la forme la plus simple.

Qui valide quoi : classer les actions par niveau de risque

La note CNIL et CIANum propose de classer les actions possibles de l’agent sur chaque service par niveau de risque (accès à des données, modification ou suppression, envoi de données hors du système, nature des données : financières, de santé) et de réserver la validation humaine avant exécution aux plus critiques. Tout faire valider produit l’effet inverse : l’article 14 demande justement que la personne reste consciente du biais d’automatisation, la tendance à se fier par défaut à la sortie d’un système.

Sur notre infrastructure, la ligne est écrite : achats, mises en ligne et actions destructives attendent une validation humaine. La personne qui valide doit pouvoir refuser. La CNIL et le CIANum rappellent, après l’arrêt SCHUFA de la Cour de justice de l’Union du 7 décembre 2023, que l’intervention humaine doit être « réelle, effective et exercer une influence sur la décision finale ».

Au-dessus de cette personne, un référent. Pour les usages sensibles, la CNIL recommande un comité ou un référent qui donne un avis formel avant le déploiement ou toute nouvelle utilisation, et qu’on informe régulièrement, par exemple lors d’un bilan annuel. Dans une PME, ce rôle peut revenir au délégué à la protection des données s’il existe, que la CNIL cite pour cette gouvernance, ou au dirigeant.

Les journaux : tout tracer, sans tout garder

Le journal est l’outil central de la supervision, et le point où elle rencontre le RGPD. Il doit permettre de reconstituer chaque tâche : la note CNIL et CIANum cite les données personnelles mobilisées, les agents intervenus, les services tiers sollicités, les échanges réalisés et leur chronologie. Mais un journal qui recopie chaque e-mail client devient lui-même un fichier de données personnelles à protéger.

La recommandation de la CNIL sur la journalisation, adoptée le 14 octobre 2021, donne la méthode : enregistrer l’auteur, l’horodatage, la nature de l’opération et la référence des données concernées, sans dupliquer les données elles-mêmes, et conserver ces traces entre six mois et un an. Elle demande aussi un système d’analyse qui génère des alertes en cas de comportement anormal. Quand les données du traitement principal sont gardées moins de six mois, elle recommande de ne garder dans les journaux que des identifiants pseudonymes, ou de purger automatiquement ce qui a expiré.

Le contenu des échanges, lui, ne se garde pas plus longtemps que nécessaire (article 5 du RGPD) : sur nos missions, les journaux de l’agent sont conservés six mois, durée recommandée par la CNIL pour les journaux de traçabilité, sans copie des données traitées, puis supprimés. Pour un système à haut risque, l’article 26 impose au déployeur de garder au moins six mois les journaux qu’il contrôle, sauf disposition contraire, notamment du droit de la protection des données : la durée se fixe alors au cadrage. Mémoire de l’agent, droits d’accès et sous-traitants sont traités dans le guide agents IA et données personnelles.

Ce que la supervision a mesuré sur notre infrastructure

Notre infrastructure fait tourner en production un orchestrateur et douze agents spécialisés. Chaque action est inscrite dans un registre : qui, quoi, résultat, coût. Une surveillance quotidienne détecte les échecs (intégration continue, workflows n8n), envoie une alerte et propose un correctif, fusionné seulement si les tests passent. Cinq rapports récurrents remontent à une personne : erreurs informatiques, indexation Google, comportement des visiteurs, indicateurs, audit qualité.

Dix incidents y sont documentés en post-mortem ; les collisions entre sessions d’agents ont produit les règles qui s’appliquent aujourd’hui. Ce que ces chiffres ne disent pas : aucun gain de temps global n’est mesuré, et le rapport d’audit qualité part encore sur Telegram au lieu de l’e-mail. L’architecture est décrite sur la page notre infrastructure d’agents IA, en production, et la coordination de plusieurs agents sur la page orchestrateur d’agents IA.

Reprendre la main quand l’agent se trompe

Un agent en production ne vaut que si vous pouvez le reprendre en main sans dépendre de personne. L’article 14 et la note CNIL et CIANum prévoient tous deux un bouton d’arrêt ; le reste tient en cinq gestes, dans cet ordre.

Pour un système à haut risque, l’article 26 ajoute une obligation : suspendre l’usage et prévenir le fournisseur et l’autorité de surveillance du marché dès que le système présente un risque, et signaler sans délai tout incident grave.

Vos données, pendant la supervision

Les six décisions à prendre avant tout outil d’IA sont détaillées sur la page IA et protection des données. Pour un agent supervisé, voici ce qui est écrit au cadrage.

Sources

Questions fréquentes