À information démontrablement égale, le choix de l'axe de tête décide de ce que la machine tiendra pour proche, et cet écart se mesure avant tout entraînement
Deux tenseurs. Les mêmes octets. Deux apprentissages. Une cohorte longitudinale se range en [patient, temps, variables] ou en [temps, patient, variables] ; les deux dispositions sont reconstructibles l’une dans l’autre par une bijection déterministe, vérifiée par test d’égalité aller-retour sur l’ensemble des configurations, de sorte qu’aucune ne contient un bit de plus que l’autre. À budget de paramètres égalisé, sur les mêmes données, la même tâche transversale atteint 0,997 d’AUC sous l’une et 0,715 sous l’autre. Ce n’est pas un écart de contenu. C’est un écart de facilité, et la facilité n’est pas une propriété du modèle seul. La condition sous laquelle cela se produit est assez étroite pour être nommée, mesurée avant tout entraînement, et réfutée par une observation qu’on peut désigner à l’avance.
Le mot information couvre trois grandeurs que la pratique confond et que le résultat sépare. La première est l’information de Shannon : deux sérialisations liées par une bijection portent les mêmes bits, chacune fonction sans perte de l’autre, et sur ce plan il n’y a rien à discuter. La deuxième est l’accessibilité algorithmique : les mêmes bits peuvent être arbitrairement plus coûteux à exploiter sous une disposition que sous l’autre. La troisième est l’efficience statistique : la cible peut être une statistique exhaustive minimale dans une représentation et une fonction profondément intriquée dans l’autre.
Le résultat vit tout entier dans l’écart entre le premier sens et les deux suivants. L’intérêt de la contrainte de bijection n’est pas d’être élégante, il est d’être privative : elle interdit l’explication paresseuse selon laquelle un format aurait simplement plus de données. Quand l’information est bloquée par construction, ce qui bouge encore ne peut plus être imputé au contenu. Une bijection préserve l’information. Elle ne préserve pas la facilité.
Ce que l’ingénierie des données appelle l’ontologie se réduit computationnellement à une décision : quel axe est traité comme l’unité échangeable, celle sur laquelle on constitue les lots i.i.d., et comment s’imbriquent les axes restants. De Finetti l’a formalisé en 1937 sans le savoir sous cette forme : déclarer des observations échangeables, c’est poser un modèle latent, et choisir l’unité échangeable, c’est fixer l’objet dont on suppose la répétition.
L’objection prévisible mérite d’être formulée mieux qu’un contradicteur ne le ferait. Un lecteur venu de la représentation des connaissances dira qu’une disposition tensorielle n’est pas une ontologie au sens des entités, des relations et des types. Il a raison sur le vocabulaire et il manque le mécanisme. La décision qui porte le nom d’ontologie dans un projet de données est, à l’exécution, un choix de disposition, et c’est ce choix, pas un vocabulaire, dont on montre qu’il agit sur l’apprentissage. Rien n’est revendiqué au-delà : « représentation » est ici opérationnalisée comme le choix de l’axe de regroupement, et l’article s’interdit d’en tirer une thèse sur les taxonomies.
La conséquence est une correction de la chaîne causale que la plupart des équipes tiennent pour acquise. Ce n’est pas Architecture → Fonction. C’est Architecture → Représentation → Fonction. Le même encodeur, entraîné sur deux sérialisations d’un même jeu de données, apprend deux fonctions différentes, parce que la représentation a déjà fixé les proximités à l’intérieur desquelles opère le biais architectural. Une représentation préconditionne, au sens strict de l’optimisation numérique : le préconditionneur ne change pas la solution du système, il change la facilité de l’atteindre.
Un croisement brut ne prouve rien tant que chaque ontologie reçoit l’encodeur taillé pour elle, puisque représentation et encodeur restent alors confondus. Le contrôle qui tranche est un encodeur unique appliqué de deux façons ne différant que par l’axe d’agrégation, par tranche contre par patient. Il décompose l’écart transversal : 0,282 se scinde en 0,178 de représentation et 0,104 d’encodeur. Un peu plus du tiers du chiffre d’affiche était un artefact d’appariement ; la plus grande part ne l’était pas.
Trois contrôles complètent le faisceau, et le second est le plus instructif parce qu’il est négatif. Sur un générateur neutre du point de vue de la représentation, l’écart entraîné tombe à +0,001 en individuel et +0,000 en transversal, très en dessous du seuil de réfutation préenregistré à 0,05 : le pipeline ne fabrique pas d’écart en l’absence de mécanisme asymétrique. Sur cette même donnée nulle, la métrique sans modèle continue pourtant de favoriser temps-en-tête de +0,19 alors que les modèles entraînés sont à parité, ce qui n’est pas une fuite mais la dissociation entre métrique et apprenabilité prise sur le fait : un écart structurel n’engendre un écart de performance que si le modèle désavantagé ne peut pas reconstruire ce qui lui manque. Enfin, une sonde des k plus proches voisins, qui n’entraîne aucun modèle, reproduit le croisement à 0,998 contre 0,740. Le phénomène est antérieur à tout optimiseur.
L’honnêteté impose la contrepartie. Le croisement est asymétrique : l’avantage transversal est net, autour de 0,28 ; l’avantage individuel est modeste, autour de 0,02, et un bootstrap à dix graines de la comparaison pré-spécifiée donne +0,033 avec un intervalle de confiance à 95 % de [−0,004, 0,071], qui enjambe zéro. Ce pied-là est fragile. Le publier fragile vaut mieux que le publier arrondi.
Une représentation induit une métrique, donc un graphe de voisinage. La pureté de voisinage est la fraction moyenne des k plus proches voisins qui partagent l’étiquette du point : une propriété du couple (métrique, étiquette), calculable sans aucun modèle entraîné, sur les données telles qu’elles sont servies. C’est cette absence de modèle qui la rend utilisable en amont d’un budget, et non après.
En paramétrant les tâches par un curseur qui interpole l’unité d’étiquette de l’individuel au transversal, l’écart d’alignement sans modèle et l’écart de performance d’un apprenant véritable basculent ensemble du négatif au positif, et le croisement devient un passage par zéro au même point : r = 0,996, pente 0,84. Une corrélation aussi haute sur un balayage lisse invite à la suspicion, et la réserve appartient au texte : 21 points sur 7 niveaux de tâche, bootstrap naïf [0,995, 0,998], bootstrap par grappes rééchantillonnant des niveaux entiers [0,994, 0,999], permutation p < 0,001. Le problème n’est pas la significativité, il est l’interprétation, puisque alignement et performance sont tous deux pilotés par la famille de tâches. C’est précisément pour cette raison que l’ablation causale devient nécessaire plutôt que décorative.
Le faisceau se réplique sur quatre mondes différant par la modalité d’observation : survie longitudinale, panel continu à innovations de Student-t, matrice bipartite sans temps, graphe issu d’un modèle à blocs stochastiques appris par passage de messages. L’écart de croisement à encodeur fixé y vaut 0,178, 0,207, 0,108 et 0,104, la corrélation alignement-écart entre 0,996 et 0,999, avec permutation p < 0,001 partout. La généralité revendiquée est celle du signe, pas celle de l’amplitude, et deux limites voyagent avec le résultat : les quatre mondes partagent un squelette latent à deux échelles, de sorte que leur indépendance est de modalité et non statistique, et ils passent par une seule implémentation, de sorte qu’un artefact de pipeline commun n’est pas exclu.
Un prédicteur corrélationnel ne dit pas dans quel sens tirer le levier. Pour passer de la prédiction à la cause, l’intervention porte sur la métrique elle-même, à étiquette fixée et information fixée, par un redimensionnement diagonal inversible du bloc discriminant. Une application inversible ne retire aucun bit et change pourtant la métrique euclidienne, donc la pureté, donc l’apprenabilité pour un apprenant sensible au voisinage. Pureté et performance d’une machine à noyau s’élèvent alors ensemble, r = 0,942, au-dessus du seuil préenregistré de 0,7, et l’erreur de l’apprenant se révèle affine en l’impureté, R² = 0,887, comme le prédit un biais de régularité.
Deux conditions de portée sont déclarées plutôt que suggérées. Les redimensionnements diagonaux forment une sous-famille de l’ensemble des déformations métriques possibles. Et l’intervention agit sur des coordonnées construites, ce qui établit la causalité le long de métrique → voisinage → performance, non de bout en bout depuis la représentation, dont le premier maillon repose sur la construction et sur la reproduction sans modèle. Les deux extrêmes du balayage sont exactement les deux ontologies : le choix d’ontologie n’est donc pas une alternative binaire, c’est un point sur un continuum de métriques.
Le balayage de la taille de cohorte sous encodeur fixé livre le résultat le plus dur à avaler pour qui espère qu’un mauvais format se rattrape avec plus de données. Temps-en-tête atteint une AUC supérieure à 0,90 dès N ≤ 200 et reste proche du plafond. Patient-en-tête plafonne sous 0,85 et ne referme pas l’écart sur deux ordres de grandeur de taille d’échantillon.
Le vocabulaire doit rester exact, parce que deux affirmations distinctes se cachent sous un seul mot. L’affirmation d’efficience en échantillons dit que la représentation la mieux alignée atteint un seuil commun avec moins d’échantillons ; elle vaut là où les deux sérialisations convergent. L’affirmation de plafond représentationnel dit que la représentation désalignée n’atteint pas du tout la performance de l’autre ; elle vaut là où le débiaisage est impossible. Elles partagent une cause et ne sont pas le même énoncé. Le critère qui décide laquelle s’applique est vérifiable : le regroupement désaligné peut-il, en principe, récupérer l’étiquette. Sur une tâche bipartite dont l’étiquette est un véritable agrégat de groupe mais ne porte aucune nuisance inaccessible, les deux représentations convergent à 0,001 près. Le plafond n’est donc pas une propriété du désalignement en général ; il est la conséquence d’un désalignement qui rend une nuisance inatteignable.
La pureté de voisinage seule explique R² = 0,992 de l’écart de performance et l’ajout de la séparabilité ne l’améliore que de 0,006 : elle est une statistique suffisante. Elle n’est pas unique. La séparabilité seule atteint 0,997, marginalement mieux, et les corrélations partielles penchent contre la pureté. Les données ne couronnent pas la pureté, et le texte le dit contre l’attente initiale de son auteur.
Élargir la compétition affine le diagnostic au lieu de le diluer. Quatre mesures structurelles sensibles à l’étiquette, pureté, séparabilité, information mutuelle et marge géométrique, prédisent toutes l’écart entre 0,99 et 1,00. Deux descripteurs géométriques aveugles à l’étiquette, rang effectif et dimension intrinsèque locale, n’en prédisent rien du tout, r = 0,00, parce qu’ils ne distinguent même pas les deux sérialisations, qui sont des recentrages des mêmes points. La quantité active est la structure de classes, sensible à l’étiquette, dans la métrique induite ; la pureté en est un estimateur suffisant et commode, pas la variable fondamentale. Une géométrie aveugle à la question ne voit rien, quel que soit le raffinement du descripteur.
Un indicateur qui prétend valoir partout ne vaut nulle part en gouvernance, parce qu’on ne peut pas écrire de critère d’arrêt avec lui. Deux tests préenregistrés bornent celui-ci. Sur une tâche balayée du linéairement séparable au structuré en XOR, à représentation fixée, la pureté reste modérée autour de 0,81 au pôle XOR et une machine à noyau à base radiale la suit fidèlement, r = 0,99 sur le balayage, tandis qu’un apprenant linéaire global s’effondre au niveau du hasard, 0,50, malgré cette pureté. Le prédicteur caractérise donc l’apprentissage dominé par le voisinage induit : plus proches voisins, machines à noyau, empiriquement les ensembles d’arbres. Un apprenant à biais global sur une étiquette localement pure mais globalement non linéaire lui échappe, et une caractérisation formelle de ce domaine de validité reste à écrire.
Le préenregistrement supposait que l’échec frapperait la machine à noyau. C’est l’inverse qui s’est produit. L’inversion est rapportée telle quelle, ce qui est la seule raison d’écrire un préenregistrement. Le second test injecte une perte d’information dans une des sérialisations, de sorte que les deux ne soient plus qu’approximativement reconstructibles : la corrélation alignement-écart se dégrade progressivement et reste au-dessus de 0,99 jusqu’à une corruption substantielle, parce que l’indicateur est empirique et mesure la pureté de la représentation effectivement fournie. La bijection exacte est une condition suffisante propre, pas une exigence fragile, ce qui déplace le résultat du régime de la démonstration vers celui de l’ingénierie.
L’Institut avait établi ailleurs, sur un dispositif de contrôle toxicologique, que l’information disponible pour un dispositif de gouvernance est bornée par la représentation sur laquelle il est branché. Le présent travail livre la moitié symétrique de cet énoncé, et il la livre mesurée : l’apprenabilité disponible pour un modèle est bornée, elle aussi, par la représentation sur laquelle il est branché. Un audit ne peut pas rattraper une propriété que la featurization a détruite ; un modèle ne peut pas rattraper, avec plus de données, une proximité que la sérialisation a défaite. Les deux énoncés descendent du même ordonnancement élémentaire : une quantité calculée en aval d’un canal n’en sait pas plus que le canal.
La conséquence est positionnelle, comme elle l’était pour le port de validité. La réparation ne consiste pas à enrichir le modèle mais à mesurer plus tôt. La pureté de voisinage se calcule sur les données servies, avant toute allocation de budget, et elle donne le signe de l’écart avant qu’un GPU ne soit réservé. Une équipe qui la mesure ne gagne pas un modèle meilleur ; elle gagne le droit de ne pas financer le mauvais format pendant deux trimestres. C’est un déplacement de branchement, pas un gain de richesse.
L’heuristique d’ingénierie tient en quatre gestes ordonnés : identifier l’unité de décision, construire l’ontologie dont les objets élémentaires coïncident avec elle, vérifier qu’elle préserve les dépendances pertinentes, adapter l’architecture seulement ensuite. Sur une plateforme de génération de jumeaux numériques comme TweenMe, où la même cohorte alimente des questions individuelles et des questions populationnelles, cette ordonnance cesse d’être une clause de style : elle décide de ce qui est modélisable à budget constant, et elle le décide avant que le premier paramètre ne soit initialisé. L’instance n’établit rien à elle seule ; elle indique où la contrainte mord. L’ontologie n’est pas un gain inconditionnel, c’est un pari sur l’alignement, et ce pari se perd. Le cas le plus instructif reste celui où la représentation la plus riche apprend le moins, parce que sa richesse est orthogonale à la question posée.
La thèse vaut pour l’apprentissage dominé par le voisinage induit, ce qui couvre une part large mais non totale de l’apprentissage automatique déployé, et elle ne vaut pas pour les apprenants dont le biais est global ou symbolique. La démonstration est synthétique, complétée par deux panels longitudinaux réels, dietox et BtheB, où le prédicteur tient à r = 0,983 et r = 0,996 avec passage par zéro dans les deux cas. Les panels réels confirment la moitié aval, corrélationnelle, de la chaîne ; ils ne confirment pas la moitié causale, puisque l’intervention représentation-vers-métrique demeure entièrement synthétique. Le dire autrement serait une extrapolation.
Quatre limites supplémentaires appartiennent au résultat plutôt qu’à ses marges. Les quatre mondes partagent un squelette latent à deux échelles, et un générateur brisant cette structure reste à tester. L’ablation ne couvre qu’une sous-famille des déformations métriques et reste locale à la métrique. La minimalité est réfutée, non établie, et la dérivation formelle est validée dans sa forme, non écrite comme une borne. Enfin, parce que les deux agrégations induisent des distributions d’entrée et de mini-lots différentes même à encodeur fixé, un confondant distributionnel résiduel ne peut pas être totalement exclu, et la famille de tâches est une interpolation construite dont rien ne garantit que des tâches véritablement indépendantes reproduiraient la continuité.
L’observation qui réfuterait la thèse est nommable, et c’est ce qui en fait une thèse. Une paire de sérialisations en bijection, sur une tâche dominée par le voisinage, présentant un écart d’alignement franc et aucun écart de performance, la réduirait à une coïncidence de famille de tâches. Elle n’a pas été observée ici, y compris sur le générateur nul, où l’écart de performance a correctement disparu.
À information constante et démontrablement égale, la représentation fixe les proximités qu’un apprenant utilise, et donc ce qu’il peut apprendre avec les données dont il dispose. La question n’est pas de savoir si votre format contient l’information. La question est de savoir si votre format la rend proche.
Argument complet, protocole des quatre mondes, décomposition à encodeur fixé, ablation causale, compétition élargie des médiateurs, régime d’échec préenregistré, validation sur panels réels et équations des générateurs dans le PDF ci-dessous (15 pages, version FR de la soumission TMLR v3.3).
Voir aussi : Représenter n’est pas reproduire · Un domaine d’applicabilité mesure une proximité, pas une capacité · Le modèle n’a jamais été l’objet · Apprendre ce qui ne peut pas varier · Gouverner les trajectoires, gouverner les invariants · Clinically-Informed Neural Networks
Notes doctrinales et explorations sur l’IA en systèmes régulés. Une à deux fois par mois. Désabonnement en un clic.