Article — Position doctrinale · ○ Accès libre

L'architecture du feedback

Pourquoi des distributions d'erreurs égales produisent des dérives institutionnelles inégales

Jérôme Vetillard · · Twingital Institute · 11 pages · 20 min de lecture
🇬🇧 Read in English ↓ Télécharger en PDF

La porte de fiabilité a été proposée comme un dispositif constructif : un lieu unique et inline où le compromis entre sûreté et utilité cesse d’être laissé à la discrétion pour être encodé par l’architecture. Cette proposition tient. Ce volet lui fait subir l’opération inverse. Il retourne le dispositif contre lui-même et le regarde fonctionner, parce qu’une porte qui rend exactement les verdicts qu’on lui a spécifiés produit néanmoins une pathologie, et que cette pathologie n’est pas un défaut d’exécution. Elle est une conséquence de sa forme. Le domaine de validité est borné et énoncé une fois : tout système dont l’ajustement de politique passe par une boucle de décision locale.

Le terrain de démonstration est celui que ces travaux instrumentent depuis plusieurs volets : le port de promotion, la charge de preuve qu’il exige, et l’écart de promotion qui mesure la distance entre cette charge et celle qui est réellement servie. La question posée ici est en amont de cette mesure. Elle porte sur ce qui décide, avant toute mesure, quelles erreurs auront le droit d’entrer au registre.

Pourquoi deux portes de performances identiques ne dérivent pas de la même façon

Prenez deux portes de fiabilité aux métriques initiales indiscernables : même précision, même rappel, même distribution d’erreurs sur les deux classes. La lecture classique les déclare équivalentes et passe à autre chose. La thèse ici est qu’elles peuvent diverger, et que la divergence est prédictible à partir d’une propriété qu’aucune des deux métriques ne capture.

Une politique de fiabilité ne dérive pas selon la fréquence de ses erreurs, ni selon leur coût pris comme distribution. Elle dérive selon la manière dont son architecture distribue le feedback : quelles erreurs renvoient un signal assez contraignant, et assez tôt, pour peser sur la décision, et lesquelles ne renvoient rien à l’instant qui compte. Les politiques n’évoluent pas à partir des distributions d’erreurs. Elles évoluent à travers l’architecture qui transforme certaines erreurs en feedback contraignant et en laisse d’autres muettes.

Cet article se situe en amont des théories de l’apprentissage et de l’oubli organisationnels. Il ne demande pas comment une institution interprète mal ce qu’elle reçoit, ni comment elle perd ce qu’elle a su. Il demande quelles erreurs laissent une trace, et soutient que ce filtre est fixé avant tout apprentissage et avant tout oubli.

L’asymétrie du feedback n’est pas un paramètre exogène

Prétendre que le compte rendu classique est aveugle à ce mécanisme serait faux, et l’argument n’en a pas besoin. Un modèle de coût sait porter des coûts de détection, des délais, des probabilités de découverte, des coûts différés, des asymétries d’information. Ce qu’il ne fait généralement pas, c’est traiter l’asymétrie du feedback comme un mécanisme architectural autonome de dérive. Il la classe comme un paramètre exogène, un nombre remis de l’extérieur, plutôt que comme une propriété structurelle de la porte qui engendre la dérive de l’intérieur.

Les disciplines oublient rarement des variables. Elles les rangent en annexe. La contribution consiste à déplacer celle-ci de l’annexe vers le mécanisme, et à la lier à l’architecture qui la produit.

Trois assertions sont tenues séparées par leur statut, et cette séparation n’est pas une précaution rhétorique. Le principe, selon lequel à distribution d’erreurs égale l’architecture du feedback gouverne la divergence des politiques, est général et conjectural. La loi, sa spécialisation falsifiable aux systèmes gouvernés par une boucle de décision locale, est démontrée sur le terrain borné des portes de fiabilité de l’IA. L’extension aux autres domaines de haute fiabilité est nommée comme conjecture et rien de plus. La théorie est, à ce stade, plus mûre que sa preuve.

Trois primitives, une frontière, et pas de quatrième

Une théorie est stable quand elle repose sur peu d’objets et dérive le reste. Avant de réduire, il faut fixer l’unique frontière sur laquelle l’argument pivote. L’architecture du feedback désigne ici le mécanisme sociotechnique local qui transforme une décision et ses conséquences en un signal adressé à la boucle de politique. Un audit ou une régulation est à l’intérieur de l’architecture lorsqu’il fait partie de ce mécanisme local, à l’extérieur lorsqu’il n’en fait pas partie. La frontière peut inclure ou exclure un dispositif donné selon le système étudié, mais elle est fixée pour la durée d’une analyse, faute de quoi endogène et exogène deviennent déplaçables au gré des besoins.

Trois primitives portent l’argument. La politique Π est la politique de décision de la porte, l’ensemble des paramètres institutionnels qui gouvernent ses verdicts : c’est l’objet qui dérive. La force contraignante B est la contrainte qu’un signal de feedback exerce sur la boucle de décision locale. La mémoire institutionnelle M est la référence formelle qui fait foi.

Tout le reste se dérive et ne doit jamais être traité comme fondamental. Le Requis, cette charge de preuve qu’une politique exige à un port au sens de l’architecture hexagonale, est une projection de Π. La traçabilité constitutive, cette propriété d’un système qui consigne au moment de l’acte plutôt qu’à la demande d’un auditeur, est une propriété de M. Le coût relatif de transformation est une fonction de Π, M et B. Bruyant et Silencieux sont deux régimes de B. Le déclassement est une transformation de Π. Le cliquet est une propriété dynamique de Π sous une certaine structure de M. Aucune quatrième primitive n’est admise.

L’architecture possède une capacité, non une réalisation

B est l’objet le plus exposé au reproche d’être une notation commode, et il vaut mieux traiter le reproche que l’attendre. B ne se construit pas à partir d’une liste de parties incommensurables : la latence est un temps, l’attribution une information, la récurrence un compte, le coût une monnaie. Ces quatre-là sont ses déterminants, non ses coordonnées, et B est monotone dans les directions évidentes.

Reste une ambiguïté plus sérieuse. B ne peut pas être une propriété du signal, de l’architecture et de l’organisation à la fois, énoncée de façon interchangeable. La résolution est une distinction interne à B plutôt qu’une quatrième primitive. B_A désigne la capacité contraignante architecturale, la contrainte que l’architecture seule pourrait imposer, présente partout où l’architecture est présente. B_R désigne la force contraignante réalisée, ce que cette capacité devient dans une organisation donnée à un moment donné, relevée ou abaissée par un droit de contournement ou une autorité laxiste. B_A est endogène à l’architecture ; B_R est relationnelle. L’architecture possède la capacité, non la réalisation, et l’article ne lui attribue que la capacité.

Définir B par son effet exige une prise qui ne soit pas l’effet qu’il prédit. La prise candidate est le coût de suppression, et brut il mesure autre chose : une alerte faiblement contraignante peut coûter cher à faire taire dans une maison bureaucratique, une alerte fortement contraignante peut être réduite au silence en deux clics dans une maison laxiste. La quantité utilisable est normalisée, C_s* = C_s / C_change, le coût de suppression divisé par le coût générique de modification de la politique dans cette organisation. Cela retire l’enveloppe administrative et laisse la part attribuable au signal. Même normalisée, elle demeure un proxy de la contrainte réalisée, et elle est employée comme tel.

Le confinement est le terme que l’argument binaire manquait

Pourquoi un signal contraignant produit-il une dégradation du Requis plutôt qu’une amélioration ? La flèche est réelle mais non directe, et c’est dans la médiation que l’argument gagne sa crédibilité.

Une erreur bruyante, un faux BLOCK ou un REPAIR qui arrête le clinicien en temps réel, produit un signal contraignant sur la boucle. Le signal produit une pression de correction. La pression élève le coût institutionnel perçu du maintien de la ligne, c’est-à-dire du maintien du Requis là où il se tient tandis que la friction persiste. Ce coût perçu entre alors dans un choix, et le choix n’est pas binaire. Entre relever la barre et l’abaisser s’étend une famille de réponses de confinement : suspendre le système, restreindre son domaine, escalader le cas vers un humain, revenir au traitement manuel, réduire le volume envoyé à travers la porte. Le confinement maintient le Requis en place tout en limitant l’exposition.

Le cliquet n’apparaît donc pas simplement lorsque la dégradation coûte moins cher que la promotion. Il apparaît lorsque la dégradation coûte moins cher que la promotion et moins cher que toute réponse de confinement disponible. Là où un confinement bon marché existe, la friction bruyante est soulagée sans toucher au Requis. Là où il n’existe pas, la dégradation est le chemin de moindre coût, et la dérive n’est rien d’autre que le gradient de coût, suivi.

L’asymétrie n’est pas une défaillance du personnel. C’est la forme du champ d’incitations que l’architecture construit. Un acteur parfaitement rationnel dégrade le Requis sous ce champ, parce que réduire au silence l’erreur bruyante est bon marché et récompensé aussitôt par la chute de la friction, tandis que relever la barre contre l’erreur silencieuse est coûteux et récompensé par rien que la boucle puisse sentir.

La mémoire par non-inscription : le registre ne penche pas parce qu’il oublie

Voici le centre de l’argument. Une décision locale, prise une fois, n’est pas encore une norme. Un seuil abaissé un mardi est une exception aussi longtemps qu’il reste une exception au registre. Il devient norme à un moment précis : lorsque l’état dégradé est inscrit comme la référence qui fait foi, lorsque l’attestation de classe trois remplace la vérification de classe un comme l’artefact au regard duquel la conformité future est jugée. La mémoire institutionnelle opère cette inscription, et elle est donc le niveau où un choix local se durcit en règle permanente.

L’assertion la plus forte porte sur ce que la mémoire n’inscrit pas. Une institution n’enregistre pas ce qui lui arrive. Elle enregistre ce qui laisse une trace. L’erreur bruyante en laisse une par construction : elle a bloqué quelqu’un, généré un contournement, produit un artefact qui entre au registre. L’erreur silencieuse ne laisse rien. Un faux ALLOW, passé à l’exécution contre un angle mort, ne produit ni interruption ni document, et n’entre pas en mémoire parce qu’il n’a jamais rien produit que la mémoire puisse retenir.

Le biais de la mémoire institutionnelle n’est donc ni décroissance ni amnésie. C’est une non-inscription. Le registre penche vers le bruyant non parce que le silencieux a été oublié mais parce que le silencieux n’a jamais été écrit.

La distinction avec deux corpus voisins doit être posée nettement, la ressemblance étant assez proche pour être prise pour une identité. L’apprentissage organisationnel, d’après Levitt et March (1988), prend le signal reçu comme donné et étudie sa mauvaise interprétation. L’oubli organisationnel, d’après de Holan et Phillips (2004), étudie la perte d’un savoir une fois acquis. La non-inscription est en amont des deux : ni mauvaise lecture d’un signal disponible, ni perte d’un signal une fois détenu, mais absence structurelle du signal au seuil du registre, une absence que l’architecture décide à l’avance par la force contraignante qu’elle assigne.

Une précision que le concept exige. Une trace peut être documentaire, comportementale, métrique, juridique, narrative, ou implicite dans une routine, et une théorie générale de la mémoire les admettrait toutes. Cet article n’en a pas besoin. Sur son terrain borné, le système de fiabilité régulé, M est la référence formelle qui fait foi : l’artefact d’audit, le seuil enregistré, l’attestation conservée comme l’étalon au regard duquel la conformité est jugée. Restreindre M à ce registre l’empêche d’enfler en omnivore. Le résidu relève de ce que ces travaux appellent ailleurs la reconstructibilité : ce qui ne peut être reconstruit après coup, parce que rien n’a été consigné à partir de quoi reconstruire.

Ce qui rend le retour coûteux n’est pas la mémoire, c’est son asymétrie

Un premier examen suggère que la mémoire rend le retour coûteux. C’est faux, et le corriger nomme le remède. Une mémoire bien construite rend le retour bon marché, par le versionnage, l’historique de décision, le rollback, un enregistrement conservé de l’ancien seuil. Ce qui rend le retour coûteux est une structure particulière de mémoire : l’état dégradé devient la référence par défaut, l’état antérieur perd son statut, la restauration exige une nouvelle autorisation, et la charge de preuve entre l’abaissement et le relèvement cesse d’être symétrique.

L’irréversibilité n’est pas produite par la mémoire en tant que telle. Elle est produite par l’asymétrie de ré-inscription et de restauration qu’une mémoire donnée encode.

Une mémoire construite contre le cliquet versionnerait ses politiques, conserverait le niveau antérieur au lieu de l’écraser, exigerait une justification signée pour chaque dégradation, ferait expirer les exceptions automatiquement au lieu de les laisser se déposer dans la ligne de base, tiendrait la charge de preuve symétrique, et garderait un rollback à portée. Le but n’est pas d’enregistrer davantage. Il est de rendre les dégradations non auto-perpétuantes, afin qu’un seuil abaissé décroisse vers l’étalon à moins d’être activement renouvelé, plutôt que de s’y durcir par défaut.

Régime bruyant, régime silencieux, et trois états à ne pas confondre

Le mot attracteur doit être écarté : il promet un espace d’états, des équations de transition et des conditions de stabilité que l’argument ne fournit pas. Régimes de feedback suffira.

Le régime bruyant est en quête de correction, et le terme est choisi contre celui d’auto-correcteur, qui revendiquerait trop. Le signal crée une pression de correction ; il ne garantit pas que la correction aboutisse. Le système peut être immodifiable, la cause externe, les utilisateurs peuvent contourner sans améliorer, les gestionnaires ignorer les contournements. Ce que le régime bruyant garantit, c’est un signal qui pèse sur la boucle, non une réparation. La pression est réelle et pointe vers la correction, ce qui est précisément ce dont le régime silencieux manque.

Le régime silencieux n’est pas en quête de correction, et l’assertion exacte doit rester prudente : l’absence de correction ne fait pas croître par elle-même l’erreur silencieuse, elle la fait persister. Trois états restent distincts et séparent deux dynamiques. La persistance silencieuse est l’erreur demeurant à politique constante, invisible, stationnaire, charge latente. L’accumulation normative silencieuse est la dynamique de politique, des déclassements successifs dont chacun abaisse la barre dont part la décision suivante, déplaçant Π elle-même. L’amplification silencieuse de l’exposition est la dynamique de volume, davantage de cas envoyés à travers la politique dégradée sans autre changement de Π. Le premier état est inerte. Le cliquet vit dans le deuxième et, par lui, dans le troisième.

La migration du régime bruyant vers le régime silencieux est ce qu’un titre antérieur nommait le cliquet d’observabilité. Rester dans le régime bruyant est coûteux, puisque rester signifie payer la friction encore et encore. Se déplacer vers le régime silencieux est bon marché, celui-ci étant tranquille et non surveillé. Le système ne manque pas de corriger l’erreur silencieuse par négligence. Il est tiré, par la forme de son feedback et l’asymétrie de son registre, hors de la région qu’il peut corriger et dans la région qu’il ne peut voir. L’irréversibilité de cette migration est une hystérésis au sens strict de dépendance au chemin : l’état après une séquence de déclassements n’est pas une fonction des seules pressions courantes mais du registre que ces déclassements ont consigné, et ce registre ne s’efface pas quand la pression s’efface.

Ce que la loi prédit, et le programme qui la mettrait en défaut

Une théorie devient intéressante quand elle prédit ce que le cadre en place ne peut prédire, assez nettement pour pouvoir avoir tort. La loi prédit que deux portes de performances initiales identiques, différant par la force contraignante que leur architecture assigne aux deux classes d’erreur, dériveront à des rythmes différents et dans des mesures différentes.

L’écart mesuré appelle sa propre définition, puisqu’un passage de la classe un à la classe deux n’est pas un passage de la classe deux à la classe trois, et qu’un décompte non pondéré les traiterait à l’identique. Soit l’écart de promotion au temps t une somme pondérée sur les ports, G(t) = Σ w_i d(R_i_cible, R_i_réel), où d est une distance définie par le domaine entre classes de charge de preuve, non une soustraction. Les classes sont ordinales, les poids seuls ne fournissent pas la métrique manquante, et d doit se construire à partir des coûts ou des exigences que le domaine attache à chaque classe, ou céder la place à un indicateur ordinal tel que le décompte pondéré des transitions de dégradation. La vélocité de dérive est v = ΔG / Δt ; la distance de dérive à un horizon H est D_H = G(H) − G(0). La formalisation est illustrative, et son service est de fixer ce qui serait enregistré.

Ceci se lit mieux comme un programme expérimental que comme une expérience unique, et trois difficultés l’empêchent d’être propre. Échantillonner les décisions ALLOW change plus que la force contraignante : cela change le coût d’audit, la charge humaine, la disponibilité des étiquettes, la fréquence de correction, possiblement le modèle lui-même. Les conditions réclament randomisation ou simulation, puisque des opérateurs qui se savent observés s’adaptent à l’être. L’unité d’analyse doit être fixée, porte ou port ou décision ou période ou équipe ou type de risque, l’effet pouvant apparaître à un grain et disparaître à un autre. Rien de cela ne rend la prédiction intestable. Cela fait du test un programme conçu, ce qui est la description honnête de ce qu’exige une assertion sur la dynamique institutionnelle.

Une instance mesurée, et ce qu’une instance prouve

L’unique illustration disponible dans l’intervalle doit être cadrée pour ce qu’elle est et rien de plus. Une instance de fiabilité pour la prédiction toxicologique, construite sur une featurization moléculaire qui encode les atomes par un numéro atomique en one-hot, porte un angle mort structurel pour les complexes de coordination métalliques, dont le comportement dépend d’états d’oxydation et d’une chimie des ligands que la featurization ne représente pas. Un faux ALLOW confiant sur un tel composé est une erreur silencieuse au sens exact employé ici : accepté à l’exécution, force contraignante proche de zéro, pas d’artefact, pas d’entrée au registre.

Cette instance a été mesurée ailleurs, dans l’audit du domaine d’applicabilité qui établit qu’un domaine calculé en aval de la featurization certifie une conformité sans référent. Elle montre que la classe silencieuse n’est pas une commodité théorique : elle a une instance concrète avec une cause concrète. Une instance prouve l’existence, non la généralité, raison pour laquelle le programme ci-dessus est dû plutôt que présumé.

Ce que le cadre déplace, et quelle force il isole

Les comparaisons se lisent mieux comme un déplacement de priorité causale que comme la découverte d’un terrain vierge. Ces corpus ne sont pas aveugles à la sélectivité du feedback. Vaughan (1996) voit le non-événement qui n’alarme pas ; la sûreté organisationnelle a bâti tout un appareillage autour de ce qui est rapporté et ignoré. Ce que ce cadre fait, c’est ériger cette sélectivité en objet primaire plutôt qu’en un facteur parmi d’autres, et la lier à l’architecture de la porte et à la transformation de la politique.

Chaque distinction est alors un changement d’accent et de mécanisme, non une prétention d’absence. Levitt et March décrivent l’apprentissage à partir d’un signal reçu ; ici l’objet est la condition sous laquelle le signal existe. De Holan et Phillips décrivent la perte d’un savoir acquis ; ici il s’agit d’un savoir jamais inscrit. Le biais d’automatisation, d’après Parasuraman et Manzey (2010) et Mosier et ses collègues (1998), siège dans la cognition de l’opérateur ; ici le niveau est la politique institutionnelle. La loi de Goodhart, dans la formulation de Strathern (1997), décrit une mesure corrompue par le fait de devenir une cible ; ici c’est le port qui se dégrade sous un champ que la mesure ne capte pas, ce qui prolonge la distinction entre performance mesurée et fiabilité opérationnelle.

Le quasi-accident appelle un placement exact, et le placer renforce la théorie. Un quasi-accident laisse habituellement bien une trace ; l’organisation la pondère simplement faiblement, aucune conséquence sérieuse n’ayant suivi. Le problème là n’est pas un signal absent mais un signal faiblement contraignant, ce qui situe les quasi-accidents non à l’extrême silencieux mais à l’intérieur d’un continuum : un signal peut être absent, présent mais faiblement contraignant, ou fortement contraignant, et la dérive est gouvernée par l’endroit de ce continuum où tombe le feedback d’une erreur. L’erreur silencieuse est le cas limite où la force contraignante atteint zéro ; le quasi-accident est le milieu instructif.

La littérature clinique sur la fatigue d’alerte relève d’ici comme instance plutôt que comme rivale. Les taux de contournement rapportés pour les alertes médicamenteuses vont d’environ quarante-six à quatre-vingt-seize pour cent, et les institutions répondent en supprimant des alertes et en reconfigurant des seuils. Lue à travers la lentille classique, c’est de la réduction de bruit. Lue à travers la loi, c’est le cliquet observé sur le terrain sous un autre nom, la suppression du signal bruyant étant le mécanisme par lequel la politique migre vers le régime tranquille. Les données sont fortes comme illustration et faibles comme preuve, ayant été recueillies pour étudier la fatigue et non la dérive.

Reste à défendre l’isolement de B. Appeler B structurel et le reste perturbations confondrait deux distinctions : une régulation peut être aussi structurelle qu’une architecture, un budget aussi durablement inscrit qu’un port. La distinction honnête n’est pas structurel contre perturbation mais endogène contre exogène à l’architecture du feedback, sur la frontière fixée plus haut. B_A est endogène, propriété de la façon dont la porte transforme les erreurs en signaux. Régulation, budget, culture, leadership sont exogènes, et peuvent expliquer davantage de la variance dans un cas donné que ne le fait B. B est isolé non parce qu’il domine mais parce qu’il est la seule force que l’architecture elle-même produit, et donc la seule qu’un architecte puisse changer.

La configuration immunitaire, et les limites portées sur la page

Le mécanisme a une condition d’annulation, et la nommer fait plus de travail que ne le pourrait aucune défense du mécanisme. Que la promotion soit signée par une partie indépendante, les décisions ALLOW échantillonnées systématiquement, le point d’ajustement déplacé hors de l’exécution vers un cycle d’audit distinct. Alors les forces de rappel exogènes rencontrent la force endogène, le coût de la dégradation s’élève vers le coût de la promotion, les absences sont instrumentées, la mémoire cesse d’être biaisée, et la dérive ne s’amorce pas.

C’est une hypothèse de conception, non une réfutation propre. Un système unique qui satisfait la configuration et dérive malgré tout prouve peu, la dérive pouvant venir d’un auditeur capturé, d’un registre falsifié, d’une revue sous-échantillonnée, d’un choc budgétaire, de n’importe laquelle des forces exogènes que la loi admet. Réfuter la loi requiert une comparaison contrôlée où ces forces sont tenues immobiles et où seule l’architecture du feedback varie.

Les domaines nommés comme sites d’extension méritent une description plus nette, et cette netteté renforce l’argument plutôt qu’elle ne l’affaiblit. Le signalement des quasi-accidents dans l’aviation, l’analyse des précurseurs dans le nucléaire, le signalement en culture juste des secteurs à haute fiabilité ne sont pas un terrain vierge attendant la théorie. Ils sont le mécanisme déjà pris pour cible par l’ingénierie, chacun un appareillage destiné à donner un signal contraignant à l’erreur qui, sans lui, passerait silencieuse. La comparaison doit alors séparer trois quantités, sans quoi elle ne prouve rien : le dispositif nominal, le taux réel d’inscription qu’il atteint, et la force contraignante réelle qu’il porte dans la décision. Un système de quasi-accidents à faible taux d’inscription réel est une configuration immunitaire de nom seulement. Le corollaire falsifiable survit à la réserve et en sort plus tranchant : les secteurs qui atteignent une inscription réelle élevée et une force contraignante réelle élevée devraient dériver plus lentement que les secteurs dont les instruments sont nominaux.

Une tentation est mise à l’écart par cloison. Il est tentant de conclure que les institutions convergent non vers la vérité mais vers ce qui contraint le plus fort, et d’énoncer cela comme une loi. C’est une formule doctrinale, gardée comme telle, utile comme compression et disqualifiée comme autorité. La loi est conditionnelle et ne vaut que là où une boucle de décision locale gouverne l’ajustement de la politique.

Les limites sont portées sur la page. La théorie est plus développée que sa preuve, laquelle repose sur une instance et un corpus de données cliniques réaffecté. Le programme central est spécifié mais non exécuté. Le rapport de coûts est argumenté mais non quantifié. La force contraignante reçoit un proxy, le coût normalisé de suppression, lui-même impur et non validé.

Ce que l’architecture décide avant tout apprentissage

La porte de fiabilité a d’abord été offerte comme un moyen d’encoder un compromis. Elle encode aussi autre chose, sans que personne décide qu’elle le doive. En rendant une erreur bruyante et l’autre silencieuse, elle fixe la force contraignante de leurs signaux, et par cette force elle fixe quelles erreurs atteignent le registre et lesquelles n’y parviennent jamais. La politique se déplace alors vers les erreurs qu’elle ne peut ignorer et loin des erreurs qu’elle ne peut voir, et le registre formel, ne retenant que ce qui a laissé une trace, transforme le mouvement en règle permanente par la seule asymétrie qui compte : il est moins coûteux d’inscrire l’état dégradé que de l’inscrire en retour.

Le cliquet d’observabilité, qui a donné à ce travail son premier titre, est la moindre part de ce qu’il revendique désormais. La part plus grande est conditionnelle et, parce que conditionnelle, testable : à distributions d’erreurs initiales égales, les politiques institutionnelles divergent lorsque leurs architectures de feedback imposent des forces contraignantes différentes à la boucle de décision locale.

Une institution n’enregistre pas ce qui lui arrive. Elle enregistre ce qui laisse une trace, et quelque chose décide à l’avance ce qui a le droit d’en laisser une. Cette chose qui décide est l’architecture du feedback. Elle vaut d’être nommée, parce qu’une dérive située dans l’architecture peut être contrée par l’ingénierie plutôt que traitée par la seule culture. Une culture de sûreté peut changer ce qui est rapporté, attribué et inscrit, et dans cette mesure elle change aussi l’architecture. La thèse est seulement que l’architecture est le lieu où la dérive s’écrit, et donc le lieu où on peut la contrer.

Lire le document