La confianza digital es una órbita, no un pilar

Durante años, la confianza se ha tratado como algo que se puede construir y certificar: una propiedad más que incorporar a un sistema y marcar como completada, evaluada junto con la exactitud, la robustez, la privacidad y la Fairness. Marcos de trabajo enteros se organizan de esta manera, desde las directrices éticas de la UE para una IA fiable hasta el NIST AI Risk Management Framework, cada uno con su propia lista de verificación para la evaluación. Esto tiene un valor real y ha permitido que el campo avance mucho. Pero la confianza no es exactamente una característica que se construye y se aprueba una sola vez: demasiadas variables la alimentan y nunca permanece estática. Se parece más a una órbita, la trayectoria que tres cuerpos en movimiento (el modelo, la persona y la organización) trazan juntos cuando se mantienen en equilibrio.

Resumen ejecutivo

La mayor parte del pensamiento sobre la IA responsable toma sus imágenes de la arquitectura: la fiabilidad como un conjunto de pilares, o requisitos, que se incorporan a un sistema y se certifican. Los principales marcos de trabajo se organizan de esta manera: las directrices éticas de la UE con sus siete requisitos y una lista de autoevaluación correspondiente (Grupo de expertos de alto nivel de la UE, 2019) y las siete características del NIST AI Risk Management Framework. Apílelos, etíquetelos, certifíquelos. El problema es que los sistemas de IA reales nunca permanecen estáticos. Un modelo se reentrena. Una persona retira su consentimiento. Un regulador publica nuevas directrices. Una credencial se filtra. Cada suceso cambia la carga sobre todo lo demás a la vez, y un conjunto de pilares estáticos no puede describir un sistema que está siempre en movimiento.

Este informe ofrece una imagen diferente, extraída de la física. La confianza digital se comporta como el famoso problema de los tres cuerpos: tres cuerpos que se atraen mutuamente, sin una solución única y definitiva, extremadamente sensible a pequeños impulsos y, sin embargo, capaz de estabilizarse en unas pocas formas elegantes y estables. Los tres cuerpos son el modelo, la persona y la organización. La confianza no es ninguno de ellos. Es la órbita que trazan juntos. De esto se derivan tres consecuencias prácticas: la confianza debe evaluarse de forma continua en lugar de sellarse una vez al año; toda evaluación honesta debe indicar exactamente lo que abarca (qué cuerpo, qué tipo de IA, qué lector); y las compensaciones entre los cuerpos no son errores que ocultar, sino fuerzas que gestionar abiertamente. El Iceberg Framework, desarrollado en iceberg.digital y publicado en la Conferencia Suiza de IEEE sobre Ciencia de Datos e IA de 2026, donde recibió el premio al mejor artículo (Best Paper Award), es una forma estructurada de hacer exactamente eso.

De los pilares a las órbitas

La metáfora del pilar conlleva una suposición implícita: que la confianza es algo en sí mismo, una propiedad que se puede construir y certificar por sí sola. Más a menudo es el resultado de la Fairness, la privacidad, la gobernanza, la explicabilidad y muchas otras fuerzas que actúan conjuntamente, un resultado más que un insumo. Cuando la confianza se trata como un insumo, la medida natural y bienintencionada es establecer una política para cada pilar y esperar que la confianza del público la siga. Es una trampa en la que es fácil caer, y es una de las razones por las que las organizaciones cuidadosas pueden hacer todo lo que figura en la lista de verificación y aun así descubrir que la confianza no ha llegado del todo (Foro Económico Mundial, 2022).

Si la confianza no es un pilar, ¿qué es? Una metáfora mejor habita en el cielo nocturno.

Lo que el problema de los tres cuerpos nos enseña en realidad

En 1885, el rey de Suecia ofreció un premio a quien pudiera predecir, de una vez por todas, el movimiento de tres cuerpos que se atraen por gravedad, por ejemplo, una estrella y dos planetas. Henri Poincaré ganó el premio en 1889, pero no por resolverlo. Demostró algo más extraño y útil: para tres o más cuerpos, no existe una fórmula única y definitiva. El movimiento es tan sensible que una pequeña diferencia al principio produce una enorme diferencia más tarde. Décadas más tarde, el meteorólogo Edward Lorenz redescubrió el mismo efecto en el clima y le dio su famoso nombre: el efecto mariposa.

Esta es la parte esperanzadora. Un sistema sin una solución clara no es lo mismo que el caos puro. Joseph-Louis Lagrange encontró cinco disposiciones especiales en las que tres cuerpos pueden viajar en formación para siempre; los asteroides troyanos de Júpiter ocupan dos de ellas hoy en día, y el telescopio espacial James Webb está estacionado en otra. Más tarde, los matemáticos encontraron una órbita en la que tres masas iguales se persiguen eternamente a lo largo de un único ocho. En otras palabras, un sistema caótico puede estabilizarse en formas de verdadera elegancia, siempre que los cuerpos se mantengan en la relación correcta. (Para conocer la historia completa, la entrada de Wikipedia sobre el problema de los tres cuerpos es un excelente punto de partida.)

Esa es exactamente la forma correcta de pensar en la confianza digital. No se puede resolver una vez y darlo por terminado. Hay que observarlo, paso a paso, y devolverlo a una forma estable cada vez que se desvía. Los ingenieros tienen un nombre para esa observación paso a paso, y volveremos a ello: garantía continua.

Los tres cuerpos de la confianza digital

Si la confianza es la órbita, ¿cuáles son los cuerpos? Hay una forma clara de dividir cualquier despliegue de IA en exactamente tres actores, sin que sobre nada.

El modelo es lo que hace el sistema de IA: ¿decide de forma justa y puede mostrar su razonamiento? Su peso en el sistema proviene de lo bien que funciona y de cuánto cuestan sus errores. Las cualidades que hacen que un modelo sea fiable (Fairness, exactitud, robustez, explicabilidad y seguridad) son las que el National Institute of Standards and Technology de EE. UU. agrupa bajo el epígrafe de IA fiable (NIST, 2023). Un único sesgo que el desarrollador nunca haya probado puede desviar todo el sistema.

La persona es el ser humano al que afecta el sistema: su identidad, su privacidad, su capacidad para decir sí o no y para ser escuchado cuando una decisión va en su contra. Aquí es donde residen el consentimiento y el derecho a la reparación, y donde la Fairness deja de ser una cifra en un informe y se convierte en algo que una persona experimenta realmente. También es donde se siente la confianza, en el sentido humano cotidiano de si se cree que un sistema es competente y está de su parte.

La organización es quien implementa el sistema: la empresa o institución que lo pone en el mundo y responde por él. Su peso se compone de gobernanza, supervisión, transparencia y rendición de cuentas. Este es el organismo que publica la documentación, aprueba la evaluación de riesgos, atiende la llamada del regulador y se encarga de la reparación cuando algo falla. Soporta la reputación del sistema ante el público (World Economic Forum, 2023).

La confianza es lo que aparece cuando estos tres elementos se encuentran en una disposición estable. Es el punto de equilibrio compartido que orbitan, y nunca es idéntico a ninguno de ellos. Ese es todo el planteamiento: dejar de intentar generar confianza directamente y empezar a mantener los tres cuerpos en la relación que permite que la confianza mantenga su forma.

Ampliar

Una nota rápida sobre una palabra que cumple una doble función. validant.ai ofrece un producto llamado Digital Trust, junto con AI Fairness & Explainability, y un tercer producto previsto, Self-Sovereign Identity, para el individuo. Cada producto es la lente que garantiza un cuerpo. Así que la palabra “confianza” nombra tanto a uno de los cuerpos como al resultado perceptible de los tres a la vez: el producto es un cuerpo, y el resultado perceptible es la órbita.

Este es también el porqué, el qué y el quién con el que abrimos nuestra página de inicio, leído desde el lado del lector. El qué pregunta qué hace realmente su modelo y si puede mostrar su razonamiento: ese es el modelo, garantizado por AI Fairness & Explainability. El quién pregunta quién es usted y quién puede afirmarlo: esa es la persona, el trabajo de Self-Sovereign Identity. El porqué es la propia confianza digital, la razón por la que vale la pena hacerlo: no es una cuarta cosa, sino la órbita que trazan los otros dos, mantenida unida a nivel de la organización a través de la señal de confianza de iceberg.digital. La siguiente tabla lo resume todo en una sola vista.

La misma imagen explica el fracaso. Si un cuerpo gana demasiado peso o empuja a otro al margen, la órbita deja de cerrarse. Un modelo optimizado para la exactitud a expensas de todo lo demás; una persona cuyo consentimiento se trata como una casilla de verificación; una organización cuya gobernanza se ha desviado silenciosamente: cualquiera de estos elementos reconfigura toda la trayectoria, no solo su propio rincón. Este es el efecto mariposa en su versión más simple. Un pequeño sesgo, una credencial filtrada o una brecha de gobernanza no se quedan en el ámbito local, sino que perturban toda la órbita.

Ampliar

Donde tira la gravedad: las contrapartidas

La imagen de los tres cuerpos demuestra su utilidad cuando hace que las tensiones entre ellos sean imposibles de ignorar. En el espacio, la gravedad es la única fuerza. En los sistemas de confianza, las atracciones son más interesantes, porque cada una es una auténtica contrapartida entre cosas que la gente valora.

• 01Modelo frente a persona: precisión frente a privacidad. Un modelo suele ser más preciso cuando se le suministran más datos personales y más sensibles. Ambos no siempre se oponen, y existen tecnologías que mejoran la privacidad para aliviar la tensión, pero la tensión es real.
• 02Organización frente a persona: supervisión frente a autonomía. El registro, la supervisión y la capacidad de investigar son esenciales para que una institución rinda cuentas; sin embargo, cada uno de ellos también afecta a la autonomía de un individuo. Una buena gobernanza respeta a la persona en lugar de absorberla.
• 03Modelo frente a organización: velocidad frente a garantía. Los equipos de ingeniería quieren lanzar productos; los equipos de gobernanza quieren estar seguros. La respuesta saludable no es ni «lanzar de todos modos» ni «no lanzar nunca», sino un ritmo en el que cada cambio significativo en el modelo desencadena una nueva comprobación proporcionada.

Nombrar estas tensiones no es pesimismo. Es el primer paso para mantener estable la configuración, porque una fuerza a la que se le ha puesto nombre es una fuerza que se puede equilibrar.

Definir el alcance con honestidad: cuerpo, ruta y público

La idea de los tres cuerpos es la filosofía. En la práctica, comprobar si la órbita es saludable significa ser honesto sobre qué se ha evaluado exactamente. Imagine tres diales independientes. Si gira uno, los otros dos no se mueven. Una evaluación real es un ajuste en cada dial y, a menudo, un pequeño rango en lugar de una sola muesca.

El cuerpo es el qué: cuál de los tres está bajo el microscopio. La ruta es el tipo de sistema, y es importante porque cada tipo cambia la naturaleza del problema de confianza. Un modelo predictivo plantea cuestiones de calibración y equidad de grupo; un sistema generativo plantea problemas de alucinación y procedencia (Ji et al., 2023); un agente autónomo plantea la cuestión de quién es responsable cuando un flujo de trabajo actúa en su nombre y se equivoca. El público es el más sutil y el más importante que hay que dejar claro: el lector cambia la redacción, nunca los números. Un consejo de administración, un ingeniero, un cliente afectado y un auditor externo necesitan cada uno un marco diferente para las mismas pruebas.

Ampliar

La clave es definir el alcance con honestidad. Cualquiera que afirme haber evaluado «la fiabilidad de la IA», sin más, sin nombrar el cuerpo, la ruta y el público, está vendiendo un eslogan, no una auditoría. También explica por qué los benchmarks se adaptan tan mal: una puntuación de Fairness ajustada para un clasificador predictivo y redactada para un regulador no dice casi nada sobre un sistema multiagente utilizado por el público.

La profundidad oculta: el iceberg de cuatro capas

Si el problema de los tres cuerpos es la descripción honesta de la dificultad, las organizaciones aún necesitan una forma de ponerle orden. Eso es lo que aporta el trabajo revisado por pares que hay detrás de este artículo. «The Architecture of Digital Trust», publicado en la 2026 IEEE Swiss Conference on Data Science and AI, establece el Iceberg Framework: un modelo sociotécnico de cuatro capas que trata la confianza como una propiedad estratificada de un sistema, oculta en su mayor parte bajo la superficie como un iceberg (Glinz, 2026). Las capas no se encuentran dentro de un solo cuerpo, sino que atraviesan los tres. Precisamente por eso ninguna oferta puede por sí sola proporcionar confianza.

A través de estas capas, el marco de trabajo define diez constructos y 127 señales de confianza individuales, extraídos de una cuidadosa síntesis de investigaciones de varios campos. Las cifras exactas importan menos que la lección que transmiten: la confianza nunca es una puntuación única. Es una lectura matizada a través de muchas señales cuya importancia cambia según la audiencia y el tipo de sistema. Los cuerpos le indican qué observar; las capas le indican cómo hacer que la órbita sea medible.

Aquí es también donde importa la posición de validant.ai. Operamos como un evaluador independiente, más cercano en espíritu a una agencia de calificación crediticia que a un proveedor que califica sus propios deberes. La evaluación repetida e independiente es la versión real de cómo los astrónomos manejan el problema de los tres cuerpos: no se puede resolver de una vez, pero se puede calcular paso a paso, y se puede detectar una desviación lo suficientemente pronto como para corregirla.

¿Qué cambia si acepta la órbita?

Tres cosas cambian en la práctica una vez que deja de tratar la confianza como un pilar.

• 01La garantía continua reemplaza el sello anual. Una evaluación de la confianza no es un certificado que se enmarca en la pared. Es un cálculo continuo. Cualquier cambio en un modelo, una credencial o una política es un impulso, y los impulsos viajan a través de todo el sistema.
• 02El alcance se convierte en algo que se declara de antemano. Toda declaración de confianza seria debe nombrar su cuerpo, su trayectoria y su audiencia. Un informe combinado puede entonces recorrer los cuerpos uno por uno y mostrar la órbita completa, en lugar de presentar un solo cuerpo y esperar que se confunda con el sistema.
• 03Las contrapartidas se vuelven visibles y negociables. Exactitud frente a privacidad, supervisión frente a autonomía, velocidad frente a garantía: no son fallos de diseño. Son las fuerzas que dan forma a la órbita, y nombrarlas es la forma de mantener esa forma.

En una línea

El modelo, la persona y la organización trazan una órbita compartida, y esa órbita es la IA confiable. Una evaluación es una ubicación en el espacio del cuerpo, la trayectoria y la audiencia, y un informe combinado recorre los cuerpos para mostrar la órbita completa de una vez. El Iceberg Framework es una forma estructurada de averiguar dónde se encuentra uno en esa órbita, y de detectar la deriva antes de que se convierta en caos.

“La confianza no es algo que se construye. Es la forma que traza su sistema cuando el modelo, la persona y la organización están en la relación correcta, y usted los mantiene ahí.”

La confianza digital es una órbita, no un pilar

Fuentes y lecturas adicionales

• 01Glinz, D. (2026). La arquitectura de la confianza digital: un marco multinivel para cerrar la brecha de valor de la IA. 2026 IEEE Swiss Conference on Data Science and AI (SDS), Zurich, pp. 60-67. doi:10.1109/SDS70563.2026.00016.
• 02Poincaré, H. (1890). Sur le problème des trois corps et les équations de la dynamique. Acta Mathematica, 13, 1-270.
• 03Lorenz, E. N. (1963). Deterministic Nonperiodic Flow. Journal of the Atmospheric Sciences, 20(2), 130-141.
• 04National Aeronautics and Space Administration. (n.d.). ¿Qué son los puntos de Lagrange?
• 05National Institute of Standards and Technology. (2023). Marco de gestión de riesgos de la inteligencia artificial (AI RMF 1.0). NIST AI 100-1.
• 06World Economic Forum. (2022). Ganar la confianza digital: toma de decisiones para tecnologías confiables.
• 07World Economic Forum. (2023). Medir la confianza digital: apoyo a la toma de decisiones para tecnologías confiables.
• 08Ji, Z., et al. (2023). Estudio sobre la alucinación en la generación de lenguaje natural. ACM Computing Surveys, 55(12).
• 09Problema de los tres cuerpos. (n.d.). En Wikipedia.