Un agent se gouverne par sa porte, son contrat et son mandat
Une tâche déléguée à un agent est exécutée par l’agent. Les conséquences de cette exécution restent celles du donneur d’ordre. Cette asymétrie est tout le sujet de la gouvernance agentique, et c’est celle que l’on déplace le plus souvent. Le réflexe consiste à chercher la garantie manquante dans un meilleur modèle, dans une supervision humaine plus attentive, ou dans une journalisation plus complète. Chacune de ces réponses traite un fragment du problème. Aucune ne clôt la question de savoir qui répond de ce qu’un agent fait au nom d’une organisation. La position défendue ici est plus étroite et, pour cette raison, opérationnelle. Un agent qui produit des effets sur le monde n’est gouvernable que lorsque trois couches sont rendues explicites en même temps : une porte qui détermine ce qu’il peut faire, un contrat qui détermine qui en répond, et un mandat qui détermine ce qu’il est légitime de lui déléguer. L’exécution se délègue. La responsabilité, non.
Cette thèse concerne les agents qui agissent, soit ceux qui rédigent des livrables, transmettent des informations, déclenchent des opérations, prennent des décisions opérationnelles ou interagissent avec des tiers. Elle ne concerne pas un assistant passif sans capacité d’action.
La distinction structurante oppose deux verbes que la discussion tend à confondre. Déléguer, c’est confier l’accomplissement d’une tâche. Se décharger, c’est en abandonner la réponse. Le premier geste est légitime et souvent nécessaire. Le second n’est jamais disponible, quelle que soit l’architecture. Celui qui délègue une action demeure, à son niveau, comptable d’avoir choisi de la déléguer, des limites qu’il a posées, et des conséquences lorsque la délégation échoue.
L’analogie avec les organisations humaines est exacte jusqu’à un point, et ce point fonde la thèse plutôt qu’il ne l’affaiblit. Un salarié, un avocat, un mandataire social peuvent agir au nom d’autrui sans devenir les détenteurs ultimes de la responsabilité, parce qu’ils sont eux-mêmes des sujets de droit qui répondent de leurs actes. L’agent artificiel n’est sujet de rien. Il n’a ni patrimoine, ni volonté juridiquement reconnue, ni capacité à supporter une sanction. Précisément parce que l’agent ne peut rien assumer, la responsabilité ne s’arrête jamais à lui. Elle reflue, par construction, vers celui qui lui a accordé le pouvoir d’agir.
Deux réflexes dominent la pratique actuelle, et tous deux sont nécessaires sans être suffisants.
Le premier renforce les contrôles techniques. Une porte d’admission réduit la surface d’attaque, limite les privilèges et bloque les comportements hors périmètre. Elle ne répond qu’à une question : que peut faire le système ? Le second renforce la traçabilité. Chaque appel d’outil, chaque écriture, chaque décision est enregistrée afin de reconstituer les événements après coup. Cela répond à une autre question : que s’est-il passé ?
Aucune des deux ne répond à la question de la responsabilité, pour une raison qui se compresse en deux propositions. Autoriser n’est pas imputer. Tracer n’est pas répondre. Une porte décide des actions permises. Un journal restitue les actions réalisées. Ni l’une ni l’autre ne désigne nécessairement qui devait contrôler l’action, qui possédait l’autorité de la déléguer, ni qui assume les conséquences de l’échec. Cet écart devient critique dès que plusieurs acteurs interviennent simultanément : fournisseur du modèle, équipe informatique, responsable métier, utilisateur final, direction de l’organisation. La responsabilité ne disparaît pas dans ces configurations. Elle se dilue.
Une première réponse exige qu’un propriétaire humain soit nommé pour chaque agent. L’exigence est utile et insuffisante. Dans les systèmes simples, un propriétaire unique peut être désigné. Dans les systèmes complexes, la représentation devient artificielle. Les infrastructures critiques, de l’aéronautique au nucléaire civil, reposent rarement sur un responsable unique. Elles s’organisent en chaînes de responsabilité distribuées, mécanismes d’escalade et rôles clairement bornés. L’objectif n’est donc pas d’attribuer fictivement toutes les responsabilités à une seule personne. Il est de rendre explicite la structure de délégation.
C’est ici qu’une notion plus robuste s’impose : le mandat. Un agent n’est pas seulement un outil. Il agit comme un mandataire artificiel, recevant une autorisation bornée d’agir au nom d’une personne ou d’une organisation dans un périmètre déterminé. La question de gouvernance se déplace de « qui utilise l’agent ? » vers « qui lui a accordé le pouvoir d’agir, et dans quelles limites ? »
Le contrat est la deuxième couche. Il relie l’action technique à la responsabilité organisationnelle, et il se décline en trois clauses minimales, à ne pas confondre avec les trois couches qui les englobent.
La première est l’information et la transparence. Toute personne concernée doit pouvoir savoir lorsqu’un agent intervient dans un processus produisant des effets significatifs. Selon le contexte, cela prend la forme d’un consentement explicite, d’une obligation d’information ou d’un droit d’opposition. La forme varie ; le principe demeure.
La deuxième est l’imputation. Chaque action doit pouvoir être reliée à une chaîne de responsabilité explicite, et l’identité technique de l’agent n’en constitue jamais le point terminal. Elle doit renvoyer vers les personnes ou fonctions qui détiennent effectivement l’autorité de délégation et la responsabilité résiduelle.
La troisième est le contrôle. Un système gouvernable doit permettre l’interruption, la reprise en main ou la limitation de son action. Cela ne se réduit pas à un bouton d’arrêt. Lorsque les temps d’exécution se mesurent en millisecondes, l’interruption humaine est illusoire, et le véritable objectif devient le contrôle du rayon d’action : confinement, plafonnement des effets, réversibilité des opérations, limitation des privilèges.
À mesure que les agents gagnent en autonomie, valider chaque action à la main devient économiquement impraticable. Les systèmes les plus utiles sont précisément ceux qui réduisent la fréquence des interventions humaines, raison pour laquelle la gouvernance ne peut reposer sur les seuls points d’approbation.
Le centre de gravité se déplace. La question n’est plus « un humain valide-t-il chaque action ? » mais « quelles actions a-t-il autorisé l’agent à entreprendre avant même qu’elles ne surviennent ? » La gouvernance des agents est, principalement, une gouvernance de la délégation ex ante. Le mandat devient l’objet central. Il définit le périmètre d’action, les limites d’autonomie, les seuils d’escalade et les conditions de suspension. Il transforme une série d’autorisations ponctuelles en cadre stable de responsabilité.
La question a quitté le terrain théorique. L’EU AI Act, en son article 14, impose une supervision humaine effective des systèmes à haut risque, incluant la capacité d’intervenir sur un système ou de l’interrompre.
Le 22 janvier 2026, Singapour a publié son Model AI Governance Framework for Agentic AI, premier cadre national consacré aux systèmes agentiques. Sa structure mérite attention : elle sépare explicitement la responsabilité humaine effective des contrôles techniques, et fait du bornage des risques en amont l’une de ses quatre dimensions. La distinction défendue ici n’est donc pas inventée. Elle est retrouvée, indépendamment, dans le premier instrument réglementaire qui s’est confronté au problème.
La jurisprudence a commencé à trancher dans le même sens. Dans l’affaire Moffatt v. Air Canada (2024 BCCRT 149), le tribunal civil de Colombie-Britannique a rejeté l’argument de la compagnie selon lequel son agent conversationnel constituait une entité distincte répondant de ses propres actes, et a tenu l’organisation responsable de l’information délivrée. Un agent conversationnel n’est pas un système agentique au sens retenu ici, et une décision administrative n’est pas un précédent général. Le principe qu’elle pose est néanmoins celui défendu tout au long : la responsabilité ne se délègue pas à l’identité technique qui exécute.
PREDICARE, ensemble d’agents dédiés à la prise en charge de la déshérence médicale dans le cadre du syndrome métabolique, illustre un cas d’aide à la décision clinique où la gouvernance repose simultanément sur les trois couches. La porte refuse les requêtes hors périmètre clinique. Le contrat garantit l’information du praticien, l’imputation des recommandations et la possibilité d’écarter une proposition. Le mandat définit ce que l’agent est autorisé à recommander sans validation supplémentaire.
OCTOPUS, système d’orchestration multimodèles, est le cas le plus exigeant. Plusieurs agents contribuent à un résultat unique, et la traçabilité technique permet de reconstituer la chaîne. La gouvernance ne devient effective que lorsque le mandat identifie clairement l’entité responsable de la sortie composite, indépendamment du nombre d’agents intermédiaires impliqués. Ces instances illustrent la thèse. Elles ne prétendent pas l’épuiser.
La position comporte ses propres limites, et les nommer fait partie de la tenir.
Le contrat ne remplace pas les contrôles techniques. Une responsabilité parfaitement attribuée ne corrige pas un système dangereux. Le mandat ne supprime pas les coûts organisationnels ; toute délégation explicite introduit des arbitrages, des délais et des mécanismes de supervision. Le contrôle humain direct devient impraticable lorsque les temps d’exécution tombent à la milliseconde, et la réversibilité comme le confinement remplacent alors l’interruption. Enfin, la responsabilité demeure distribuée dans les systèmes complexes. La gouvernance n’élimine pas cette distribution. Elle la rend visible.
L’erreur stratégique consisterait à attendre du prochain modèle, ou du prochain système de journalisation, qu’il résolve un problème qui relève d’abord de la gouvernance. Un journal d’audit restitue qui a signé. Il n’a jamais dit qui aurait dû.
La question fondamentale ne porte ni sur ce qu’un agent peut faire, ni sur ce qu’il a fait. La porte et les journaux y répondent déjà. Elle porte sur qui possède l’autorité de déléguer l’action, dans quelles limites, et sous quelle responsabilité résiduelle. À partir du moment où un agent agit au nom d’une organisation, il devient un nouveau sujet de gouvernance, et la décision cesse d’être uniquement technique. Elle touche à la délégation d’autorité, à la responsabilité juridique et à la gouvernance d’entreprise.
Un agent n’est gouvernable que lorsque son architecture relie explicitement trois choses : ce qu’il peut faire, ce qu’il lui est permis de faire, et qui en répond. On délègue l’exécution. On ne délègue jamais la responsabilité.
Cadres réglementaires. Règlement (UE) 2024/1689 (AI Act), article 14 (supervision humaine des systèmes à haut risque). Entrée en vigueur le 1er août 2024. Infocomm Media Development Authority et AI Verify Foundation (Singapour), Model AI Governance Framework for Agentic AI, 22 janvier 2026.
Jurisprudence. Tribunal civil de Colombie-Britannique (Civil Resolution Tribunal), Moffatt v. Air Canada, 2024 BCCRT 149.
Texte intégral librement disponible dans le PDF ci-dessous (5 pages).
Notes doctrinales et explorations sur l’IA en systèmes régulés. Une à deux fois par mois. Désabonnement en un clic.