Los agentes actuarán por nosotros. ¿Quién responde por ellos?

Cuando el software se limitaba a responder preguntas, la confianza era un problema de calidad: ¿es la respuesta correcta, es justa, es segura? En el momento en que el software empieza a actuar en nuestro nombre (reservando, comprando, negociando, presentando documentos), la pregunta cambia de forma. Michael J. Casey, periodista y coautor de *The Truth Machine*, plantea la nueva pregunta con claridad: la cuestión decisiva ya no es solo lo que produce un sistema de IA, sino qué actores están detrás de él y si su autoridad sobre el mismo puede demostrarse en lugar de simplemente afirmarse.

Resumen ejecutivo

Tiene razón, y su argumento encaja precisamente con la dirección que ha tomado nuestro propio trabajo sobre la confianza digital: la confianza no es una característica de un modelo, sino una relación entre cuerpos en movimiento. Este artículo analiza el argumento reciente de Michael Casey junto con nuestro trabajo de investigación La confianza digital es una órbita, no un pilar, proyecta las tensiones que él nombra sobre el modelo de los tres cuerpos y muestra dónde les da respuesta la plataforma validant.ai hoy, dónde lo hará en el futuro y un anuncio que nos complace especialmente hacer.

Las observaciones centrales de Casey merecen ser tomadas en serio, una por una. Primero: en una economía agéntica, la confianza migra del contenido a las contrapartes. Dejamos de evaluar los resultados individuales y empezamos a evaluar a las personas, instituciones e infraestructuras que respaldan a los agentes autónomos. Segundo: una cosa es afirmar que se tiene control sobre un agente y otra demostrarlo. Su noción de prueba de control captura la diferencia entre la gobernanza como afirmación y la gobernanza como evidencia verificable. Tercero: la opción cómoda por defecto, externalizar la confianza por completo a un puñado de corporaciones de plataformas globales, conlleva un coste estructural. La confianza centralizada escala magníficamente y fracasa catastróficamente, y los sistemas en los que un solo actor ostenta toda la autoridad derivan hacia acuerdos que nadie habría elegido abiertamente.

Estas son exactamente las dinámicas que predice el modelo de los tres cuerpos de la confianza digital. Cuando el cuerpo de la organización, en este caso una plataforma global, adquiere demasiada masa, la órbita entre el modelo, la persona y la organización deja de cerrarse. La respuesta no es ni una confianza civil ciega en las marcas corporativas ni una retirada a la filosofía. Es una evaluación independiente, continua y honestamente delimitada de los tres cuerpos, además de instrumentos que devuelven una autoridad verificable a la persona. Ese es el programa de validant.ai, y da un paso concreto el 26 de julio de 2026, cuando comience una beta cerrada para la validación científica de los primeros módulos y partes de la plataforma.

Los aciertos de Casey

El artículo de Casey hace honor a su título. Destacan cuatro puntos.

• 01La confianza se desplaza de los resultados a los actores. Cuando un agente realiza transacciones en su nombre, usted no puede revisar cada acción que realiza. Se ve obligado a decidir de antemano en quién confía: el desarrollador del modelo, el implementador que lo configuró, el emisor de sus credenciales. La confianza se convierte en una cuestión de contrapartes, no de contenido, que es precisamente la razón por la que las puntuaciones de referencia anónimas se adaptan tan mal al mundo agéntico.
• 02El control debe ser demostrable, no afirmado. Casey traza una línea clara entre decir que se tienen controles y demostrar que se tienen. Los mandatos criptográficos, las credenciales verificables y las pruebas de auditoría convierten el «confíe en nosotros» en un «verifíquenos». En nuestro vocabulario: la confianza se evalúa, no se afirma. Las dos formulaciones son la misma disciplina vista desde dos profesiones, la del criptógrafo y la del auditor.
• 03La externalización de la confianza centralizada es una tentación real con un precio real. El camino más fácil para cualquier consumidor o empresa es dejar que una corporación global guarde las llaves: el agente, la identidad, los datos, el recurso. Esta confianza civil, extendida por defecto a una marca familiar, concentra la autoridad de una manera que es conveniente el primer día y corrosiva con el tiempo. Un sistema en el que un solo cuerpo define las reglas, ejecuta los agentes y arbitra las disputas deja a la persona sin un terreno independiente sobre el que apoyarse.
• 04La alternativa es la soberanía definida localmente. Casey aboga por una arquitectura abierta, que preserve la privacidad y sea autosoberana, en la que las empresas y los individuos posean la prueba de control sobre sus datos y sus agentes. La autoridad se ancla en el principal humano, no es absorbida por la plataforma.

Nada de esto es pesimismo antitecnológico. Es lo contrario: una descripción de las condiciones bajo las cuales la delegación en las máquinas puede ser realmente lo suficientemente segura como para escalar.

La misma tensión, vista como gravedad

Leída a través de la lente de los tres cuerpos, la crítica de Casey describe un modo de fallo específico de la órbita. Los tres cuerpos de cualquier despliegue de IA son el modelo, la persona y la organización, y la confianza es la órbita que trazan juntos cuando se mantienen en equilibrio. Nuestro artículo anterior nombraba tres contrapartidas que actúan como la gravedad entre ellos: exactitud frente a privacidad, supervisión frente a autonomía, y velocidad frente a garantía.

La era agéntica añade esa cuarta fuerza, y es la que Casey aísla: comodidad frente a soberanía, que actúa entre la organización y la persona. Delegar todo en una única plataforma global de confianza minimiza la fricción para la persona y maximiza la masa para la organización. Cada incremento de comodidad transfiere un poco de autoridad. Ninguna de las transferencias individuales parece peligrosa. La suma es un cuerpo tan pesado que los otros dos simplemente lo orbitan, y una órbita dominada por una única masa no es una relación de confianza, es una dependencia.

Ampliar

Este es el diagrama de enredo del artículo de la órbita con ropaje económico, y la cura es la misma: no fingir que la fuerza no existe, sino nombrarla, medirla y contrarrestarla. Existen dos contrapesos. El primero es la evaluación independiente: un evaluador sin participación en la plataforma que comprueba repetidamente los tres cuerpos, de la misma manera que una agencia de calificación comprueba a un emisor. El segundo son los instrumentos autosoberanos: credenciales y mandatos que la persona posee directamente, de modo que la autoridad sobre un agente se ancla en la criptografía en lugar de en un acuerdo de servicio. Casey aporta la filosofía del segundo. El Iceberg Framework, nuestro modelo de cuatro capas revisado por pares y publicado en la Conferencia Suiza sobre Ciencia de Datos e IA de la IEEE de 2026, aporta la disciplina de medición del primero. No son rivales. Son las dos manos que mantienen la órbita cerrada.

Dónde se sitúan los agentes en la órbita

La IA agéntica le hace una cosa más al modelo de los tres cuerpos: desdibuja la línea entre ellos. Un agente que actúa bajo su mandato es en parte modelo y en parte una extensión de la persona. Cuando se comporta mal, ¿es un fallo del modelo, un fallo del consentimiento o un fallo de la gobernanza? La respuesta honesta es que depende del alcance de la evaluación, que es exactamente por lo que nuestro espacio de evaluación nombra tres selectores explícitamente: qué cuerpo, qué vía, qué audiencia. Los sistemas agénticos y multiagente son su propia vía en ese selector, planificada y marcada deliberadamente como tal, porque un método ajustado para un clasificador predictivo no dice casi nada sobre un flujo de trabajo que actúa en el mundo. La pregunta de Casey, quién es responsable cuando un agente actúa en su nombre y se equivoca, es la pregunta que define la vía agéntica, y solo puede responderse con un alcance declarado.

Proyectando la crítica sobre la plataforma

Las exigencias de Casey se traducen, una por una, en la estructura de la oferta de validant.ai.

El pie de página de nuestro propio sitio web declara la ambición en una frase: una base digital en la que la identidad es autosoberana, la confianza es verificable y los agentes de IA personales actúan únicamente en su interés. Leída en el contexto del artículo de Casey, esa frase no es un eslogan. Es una lista de verificación, y la tabla anterior es su estado actual, declarado con honestidad.

Ampliar

Una diferencia estructural es importante y merece ser explicitada. validant.ai no es una plataforma que pida su confianza civil. Operamos como un evaluador independiente, más cercano en espíritu a una agencia de calificación que a un proveedor que califica sus propios deberes. No ejecutamos sus agentes, no guardamos su identidad ni le vendemos el modelo que evaluamos. Pero la independencia es solo la mitad de la cuestión. También ponemos las herramientas de evaluación directamente en manos de todas las partes interesadas: la persona, la organización y el auditor externo por igual, para que cada uno pueda tomar decisiones informadas y basadas en la evidencia a partir de sus propias mediciones en lugar de fiarse de nuestra palabra. El mismo rigor que aplicamos se devuelve a las personas que construyen un sistema, lo gobiernan, están sujetas a él y lo revisan desde fuera, como instrumentos que pueden ejecutar por sí mismas. Somos tanto un facilitador como un evaluador. Esa independencia no es una postura de marketing; es la precondición para que la evaluación signifique algo. Una órbita no puede ser certificada por uno de sus propios cuerpos.

El anuncio: beta cerrada el 26 de julio

Lo que nos lleva a la noticia. Nos complace anunciar que el 26 de julio de 2026 comienza una beta cerrada para la validación científica de la plataforma, que cubrirá una selección de los primeros módulos y partes de la plataforma validant.ai.

Validación científica significa exactamente eso. El Iceberg Framework se publicó declarando abiertamente sus limitaciones; la validación empírica en contextos de despliegue reales se señaló como la siguiente fase, no se dio por sentada. La beta cerrada es el comienzo de esa fase. Los participantes realizan evaluaciones en los primeros módulos de producción, los resultados se comparan con verdades fundamentales conocidas y protocolos documentados, y los hallazgos se reincorporan tanto a la plataforma como al programa de investigación. El objetivo no es recopilar testimonios. El objetivo es someter nuestro propio instrumento al estándar que aplicamos a los de los demás.

La participación es limitada y deliberadamente reducida. Si su organización despliega IA, se toma en serio el cambio agéntico y desea que su postura de confianza sea evaluada por un tercero independiente en lugar de ser afirmada por un proveedor, este es el momento de dar un paso al frente.

En una línea

Casey plantea la pregunta correcta para la era agéntica: ¿en quién confiamos y pueden demostrarlo? La respuesta del problema de los tres cuerpos es que la confianza es la órbita que el modelo, la persona y la organización trazan juntos, que la nueva fuerza más grave es la conveniencia, que arrastra la autoridad hacia unas pocas plataformas pesadas, y que los contrapesos son la evaluación continua independiente y la prueba de control autosoberana. Construimos lo primero hoy y lo segundo a continuación, y a partir del 26 de julio, el propio instrumento se somete a escrutinio científico.

“En la era agéntica, la pregunta ya no es si la respuesta es correcta. Es si el actor detrás de la respuesta puede demostrar quién tiene el control.”

Los agentes actuarán por nosotros. ¿Quién responde por ellos?

Fuentes y lecturas adicionales

• 01Casey, M. J. (2026). En la era de la IA agéntica, en quién confiamos importa más que nunca. LinkedIn.
• 02Glinz, D. (2026). La arquitectura de la confianza digital: Un marco multinivel para cerrar la brecha de valor de la IA. 2026 IEEE Swiss Conference on Data Science and AI (SDS), Zurich, pp. 60-67.
• 03Glinz, D. (2026). La confianza digital es una órbita, no un pilar. validant.ai Signal.
• 04Casey, M. J., & Vigna, P. (2018). La máquina de la verdad: El blockchain y el futuro de todo. St. Martin’s Press.
• 05National Institute of Standards and Technology. (2023). Marco de gestión de riesgos de la inteligencia artificial (AI RMF 1.0). NIST AI 100-1.
• 06World Economic Forum. (2022). Ganar la confianza digital: toma de decisiones para tecnologías confiables.