Les agents agiront en notre nom. Qui se porte garant pour eux ?

Lorsque les logiciels se contentaient de répondre à des questions, la confiance était un problème de qualité : la réponse est-elle correcte, est-elle équitable, est-elle sûre ? Dès que les logiciels commencent à agir en notre nom, pour réserver, acheter, négocier, classer, la question change de nature. Michael J. Casey, journaliste et co-auteur de The Truth Machine, pose la nouvelle question sans détour : l'enjeu décisif n'est plus seulement ce que produit un système d'IA, mais quels acteurs le soutiennent, et si leur autorité sur ce système peut être prouvée plutôt que simplement affirmée.

Synthèse

Il a raison, et son argument rejoint précisément la direction que prenaient nos propres travaux sur la confiance numérique : la confiance n'est pas une caractéristique d'un modèle ; c'est une relation entre des corps en mouvement. Cet article analyse l'argument récent de Michael Casey en parallèle de notre article de recherche La confiance numérique est une orbite, pas un pilier, applique les tensions qu'il identifie à la vision du problème à trois corps, et montre où la plateforme validant.ai y répond aujourd'hui, où elle y répondra demain, et une annonce que nous sommes vraiment heureux de faire au passage.

Les observations fondamentales de Casey méritent d'être prises au sérieux, une par une. Premièrement : dans une économie agentique, la confiance migre du contenu vers les contreparties. Nous cessons d'évaluer les résultats individuels pour commencer à évaluer les personnes, les institutions et les infrastructures qui se trouvent derrière les agents autonomes. Deuxièmement : revendiquer le contrôle d'un agent est une chose, le prouver en est une autre. Sa notion de preuve de contrôle saisit la différence entre la gouvernance comme affirmation et la gouvernance comme preuve vérifiable. Troisièmement : la solution de facilité, qui consiste à externaliser entièrement la confiance à une poignée de plateformes mondiales, a un coût structurel. La confiance centralisée s'adapte magnifiquement à grande échelle et s'effondre de manière catastrophique, et les systèmes dans lesquels un seul acteur détient toute l'autorité dérivent vers des arrangements que personne n'aurait choisis ouvertement.

Ce sont exactement les dynamiques que prédit la vision du problème à trois corps de la confiance numérique. Lorsque le corps de l'organisation, ici une plateforme mondiale, acquiert trop de masse, l'orbite entre le modèle, la personne et l'organisation cesse de se refermer. La réponse n'est ni une confiance civile aveugle dans les marques d'entreprise, ni un repli sur la philosophie. C'est une évaluation indépendante, continue et honnêtement délimitée des trois corps, ainsi que des instruments qui restituent une autorité vérifiable à la personne. Tel est le programme de validant.ai, et il franchit une étape concrète le 26 juillet 2026, avec le début d'une bêta fermée pour la validation scientifique des premiers modules et parties de la plateforme.

Ce que Casey a bien compris

L'article de Casey est à la hauteur de son titre. Quatre points ressortent.

• 01La confiance se déplace des résultats vers les acteurs. Lorsqu'un agent effectue des transactions en votre nom, vous ne pouvez pas examiner chaque action qu'il entreprend. Vous êtes obligé de décider, à l'avance, à qui vous faites confiance : le développeur du modèle, le déployeur qui l'a configuré, l'émetteur de ses certificats. La confiance devient une question de contreparties, et non de contenu, ce qui explique précisément pourquoi les scores de benchmark anonymes se transposent si mal dans le monde agentique.
• 02Le contrôle doit être prouvable, et non affirmé. Casey établit une distinction nette entre le fait de dire que l'on a des contrôles et celui de le démontrer. Les mandats cryptographiques, les certificats vérifiables et les preuves d'audit transforment le « faites-nous confiance » en « vérifiez par vous-même ». Dans notre vocabulaire : la confiance est évaluée, et non affirmée. Les deux formulations relèvent de la même discipline vue sous l'angle de deux professions, celle du cryptographe et celle de l'auditeur.
• 03L'externalisation de la confiance centralisée est une véritable tentation qui a un prix bien réel. La voie la plus simple pour tout consommateur ou entreprise est de laisser une seule société mondiale détenir les clés : l'agent, l'identité, les données, les recours. Cette confiance civile, accordée par défaut à une marque familière, concentre l'autorité d'une manière qui est pratique le premier jour et corrosive avec le temps. Un système dans lequel un seul corps définit les règles, exécute les agents et arbitre les litiges ne laisse à la personne aucun terrain indépendant sur lequel s'appuyer.
• 04L'alternative est une souveraineté définie localement. Casey plaide pour une architecture ouverte, respectueuse de la vie privée et auto-souveraine, dans laquelle les entreprises et les individus détiennent la preuve du contrôle de leurs données et de leurs agents. L'autorité est ancrée dans le mandant humain, et non absorbée par la plateforme.

Rien de tout cela ne relève d'un pessimisme anti-technologie. C'est le contraire : une description des conditions dans lesquelles la délégation aux machines peut réellement être suffisamment sûre pour être déployée à grande échelle.

La même tension, perçue comme la gravité

Lue à travers le prisme du problème à trois corps, la critique de Casey décrit un mode de défaillance spécifique de l'orbite. Les trois corps de tout déploiement d'IA sont le modèle, la personne et l'organisation, et la confiance est l'orbite qu'ils tracent ensemble lorsqu'ils sont maintenus en équilibre. Notre précédent article nommait trois arbitrages qui agissent comme une force de gravité entre eux : précision contre confidentialité, supervision contre autonomie, rapidité contre assurance.

L'ère agentique ajoute cette quatrième force d'attraction, et c'est celle que Casey isole : commodité contre souveraineté, agissant entre l'organisation et la personne. Déléguer tout à une seule plateforme mondiale de confiance minimise les frictions pour la personne et maximise la masse pour l'organisation. Chaque gain de commodité transfère un peu d'autorité. Aucun des transferts individuels ne semble dangereux. La somme est un corps si lourd que les deux autres ne font que tourner autour de lui, et une orbite dominée par une seule masse n'est pas une relation de confiance ; c'est une dépendance.

Agrandir

C'est le diagramme de l'enchevêtrement de l'article sur l'orbite, mais sous un angle économique, et le remède est le même : non pas faire comme si la force n'existait pas, mais la nommer, la mesurer et la contrebalancer. Il existe deux contrepoids. Le premier est l'évaluation indépendante : un évaluateur sans intérêt dans la plateforme, qui vérifie de manière répétée les trois corps, à la manière d'une agence de notation qui contrôle un émetteur. Le second est constitué d'instruments auto-souverains : des certificats et des mandats que la personne détient directement, de sorte que l'autorité sur un agent est ancrée dans la cryptographie plutôt que dans un contrat de service. Casey fournit la philosophie du second. Le Framework Iceberg, notre modèle à quatre couches évalué par des pairs et publié lors de la Conférence suisse IEEE 2026 sur la science des données et l'IA, fournit la discipline de mesure du premier. Ils ne sont pas rivaux. Ce sont les deux mains qui maintiennent l'orbite fermée.

La place des agents dans l'orbite

L'IA agentique apporte une autre modification à la vision du problème à trois corps : elle brouille la frontière entre les corps. Un agent agissant sous votre mandat est en partie un modèle, en partie une extension de la personne. Lorsqu'il se comporte mal, s'agit-il d'une défaillance du modèle, d'un défaut de consentement ou d'un échec de la gouvernance ? La réponse honnête est que cela dépend du périmètre de l'évaluation, c'est précisément pourquoi notre espace d'évaluation nomme explicitement trois axes : quel corps, quelle trajectoire, quel public. Les systèmes agentiques et multi-agents constituent leur propre trajectoire sur cet axe, planifiée et délibérément marquée comme telle, car une méthode adaptée à un classifieur prédictif ne vous apprend presque rien sur un flux de travail qui agit dans le monde. La question de Casey, qui est responsable lorsqu'un agent agit en votre nom et commet une erreur, est la question déterminante de la trajectoire agentique, et on ne peut y répondre qu'avec un périmètre défini.

Correspondance entre la critique et la plateforme

Les exigences de Casey se traduisent, une par une, dans la structure de l'offre de validant.ai.

Le pied de page de notre propre site énonce l'ambition en une seule phrase : une fondation numérique dans laquelle l'identité est auto-souveraine, la confiance est vérifiable et les agents d'IA personnels agissent uniquement dans votre intérêt. Lue à la lumière de l'article de Casey, cette phrase n'est pas un slogan. C'est une liste de contrôle, et le tableau ci-dessus en est l'état actuel, présenté honnêtement.

Agrandir

Une différence structurelle est importante et mérite d'être explicitée. validant.ai n'est pas une plateforme qui vous demande votre confiance civile. Nous opérons comme un évaluateur indépendant, plus proche dans l'esprit d'une agence de notation que d'un fournisseur qui noterait son propre travail. Nous n'exécutons pas vos agents, ne détenons pas votre identité et ne vous vendons pas le modèle que nous évaluons. Mais l'indépendance n'est que la moitié de l'équation. Nous mettons également les outils d'évaluation directement entre les mains de chaque partie prenante, la personne, l'organisation comme l'auditeur externe, afin que chacun puisse prendre des décisions éclairées et fondées sur des preuves, à partir de ses propres mesures plutôt que sur notre parole. La même rigueur que nous appliquons est restituée aux personnes qui construisent un système, le gouvernent, y sont soumises et l'examinent de l'extérieur, sous la forme d'instruments qu'elles peuvent utiliser elles-mêmes. Nous sommes autant un catalyseur qu'un évaluateur. Cette indépendance n'est pas un positionnement marketing ; c'est la condition préalable pour que l'évaluation ait un sens. Une orbite ne peut pas être certifiée par l'un de ses propres corps.

L'annonce : bêta fermée le 26 juillet

Ce qui nous amène à la nouvelle. Nous sommes heureux d'annoncer qu'une bêta fermée pour la validation scientifique de la plateforme débutera le 26 juillet 2026, portant sur une sélection des premiers modules et de certaines parties de la plateforme validant.ai.

La validation scientifique est à prendre au sens littéral. Le Iceberg Framework a été publié avec ses limites clairement énoncées ; la validation empirique dans des contextes de déploiement réels a été désignée comme la phase suivante, et non pas tenue pour acquise. La bêta fermée marque le début de cette phase. Les participants effectuent des évaluations sur les premiers modules de production, les résultats sont vérifiés par rapport à des vérités de terrain connues et des protocoles documentés, et les conclusions alimentent à la fois la plateforme et le programme de recherche. L'objectif n'est pas de recueillir des témoignages. L'objectif est de soumettre notre propre instrument à la norme que nous appliquons à ceux des autres.

La participation est limitée et le nombre de places volontairement restreint. Si votre organisation déploie l'IA, prend le virage agentique au sérieux et souhaite que sa posture de confiance soit évaluée par un tiers indépendant plutôt qu'affirmée par un fournisseur, c'est le moment de vous manifester.

En résumé

Casey pose la bonne question pour l'ère agentique : à qui faisons-nous confiance, et peuvent-ils le prouver ? La réponse est un problème à trois corps : la confiance est l'orbite que le modèle, la personne et l'organisation tracent ensemble ; la nouvelle force la plus redoutable est la commodité, qui attire l'autorité vers quelques grandes plateformes ; et les contrepoids sont l'évaluation continue indépendante et la preuve de contrôle auto-souveraine. Nous construisons le premier aujourd'hui et le second ensuite, et à partir du 26 juillet, l'instrument lui-même sera soumis à un examen scientifique.

“À l'ère agentique, la question n'est plus de savoir si la réponse est correcte. Il s'agit de savoir si l'acteur derrière la réponse peut prouver qui détient le contrôle.”

Les agents agiront en notre nom. Qui se porte garant pour eux ?

Sources et lectures complémentaires