Todo el mundo está invirtiendo dinero en IA. Casi nadie puede decir qué ha obtenido a cambio. La distancia entre lo que la IA promete y lo que realmente ofrece dentro de una organización en funcionamiento tiene un nombre en un nuevo artículo de Daniel Glinz: la brecha de valor de la IA. El artículo ganó el Best Paper Award en la IEEE Swiss Conference on Data Science and AI de 2026, y su afirmación central es incómoda de una manera precisa. Durante una década, se ha encargado a la ingeniería la tarea de cerrar esta brecha. Pero nunca fue una tarea que la ingeniería pudiera resolver. Es un déficit de confianza con disfraz técnico.
Resumen ejecutivo
Un premio es un indicador poco fiable de si una idea sobrevive al contacto con la práctica, y el artículo dice lo mismo sobre su propio marco, al que califica de punto de partida en lugar de veredicto. Lo que el premio señala es algo más acotado y útil: una sala llena de profesionales reconoció el problema al instante. Durante años, la brecha de valor se trató como una deficiencia técnica, bajo el supuesto de que mejores modelos y canalizaciones más limpias acabarían por cerrarla. El argumento del artículo es que la mayor parte de la brecha nunca fue técnica. Los sistemas no fallan porque no puedan funcionar, sino porque nadie está dispuesto a confiar en ellos.
Hay una rima histórica que merece la pena mencionar desde el principio. Las tecnologías de propósito general siempre han concentrado la inversión en infraestructura al principio y los aumentos de productividad al final, y el análisis económico sugiere que la contribución de la IA a corto plazo sigue siendo en gran medida infraestructural, con ganancias duraderas que tardan años en materializarse tras su adopción. Así que parte de la brecha de valor es simplemente una cuestión de tiempo, y esa parte se cierra por sí sola. El déficit de confianza es la parte que no lo hará. A continuación se expone la descripción que hace el artículo de este déficit: los siete mecanismos que amplían la brecha, la arquitectura de cuatro capas y el iceberg que subyace, tres paradojas que no se resuelven y cinco principios de diseño que se derivan de todo ello. Termina donde termina el trabajo: con lo que una organización puede hacer en la práctica el lunes por la mañana.
Una votación que no tuvo nada que ver con la tecnología
Suiza sometió una vez a votación nacional un sistema de identidad electrónica. Desde el punto de vista técnico, había poco que objetar. La arquitectura era sólida, la privacidad se había diseñado desde el principio en lugar de añadirse a posteriori y, según cualquier criterio de ingeniería razonable, el sistema funcionaba. Aun así, los votantes lo rechazaron.
Lo que no se les pudo hacer aceptar no era si el sistema era seguro hoy, sino si seguiría siéndolo dentro de quince años, bajo un gobierno diferente, con otros socios comerciales y bajo presiones que nadie había imaginado todavía. La pregunta nunca fue «¿funciona esto?». Fue «¿quién lo controlará más adelante y qué les impedirá cambiarlo?».
El artículo da un nombre a ese reflejo: desconfianza anticipatoria. Es la ilustración más clara posible del punto central, porque no había ningún defecto que corregir. Ningún informe de error, ninguna auditoría fallida, ningún incidente que documentar. La ingeniería era correcta. La confianza no existía, y ninguna ingeniería adicional la habría creado. Ese es todo el tema del artículo: no los sistemas que no pueden funcionar, sino los sistemas de los que nadie está dispuesto a depender.
El malestar, en cifras
La evidencia de las encuestas debería hacer reflexionar a cualquier equipo de producto. En estudios realizados en Estados Unidos, el Reino Unido y Alemania, aproximadamente uno de cada cinco consumidores afirma confiar en las empresas que utilizan IA. Uno de cada cinco. Y cuando se preguntó a las instituciones financieras suizas qué les impide realmente escalar la IA más allá del prototipo, no señalaron la preparación técnica ni un caso de negocio débil. Señalaron la calidad de los datos, la privacidad y el cumplimiento normativo. La resistencia organizativa apenas tuvo relevancia. La gente está dispuesta; la gobernanza aún no está lista.
Siete mecanismos, no uno
Antes de construir nada, el artículo descompone la brecha de valor. Identifica siete mecanismos estructurales distintos, y es importante nombrarlos por separado, porque la mayoría de las organizaciones sufren dos o tres de ellos, no los siete, y la solución depende de cuáles sean.
| Mecanismo | Lo que realmente falla |
|---|---|
| Desajuste entre gobernanza e IA | Los marcos de riesgo y cumplimiento creados para sistemas deterministas se aplican a sistemas probabilísticos con comportamiento emergente. |
| Brecha entre investigación y práctica | Las métricas de Fairness y los métodos de explicabilidad que funcionan de maravilla en un artículo se resisten a ser puestos en práctica a escala empresarial. |
| Brecha entre principios y acción | Los compromisos de IA ética se quedan en aspiraciones porque nadie los ha traducido en controles técnicos aplicables. |
| Brecha entre inversión y ROI | La capacidad escala más rápido que la habilidad de la organización para absorberla y gobernarla. |
| Brecha entre cumplimiento y confianza | Cumplir plenamente con la normativa no hace, por sí solo, que nadie confíe en usted. |
| La paradoja de la calidad | El resultado de la IA iguala la calidad humana y aun así se considera inauténtico. |
| El problema de la inundación | El enorme volumen de contenido de IA degrada la confianza en todo el contenido digital, incluidas las partes honestas. |
El último de ellos es un problema de acción colectiva, y ninguna organización puede resolverlo por sí sola. Esa limitación reaparece casi al final, cuando el artículo aborda la infraestructura compartida.
Cuatro capas y el iceberg que subyace
El marco se basa en una revisión interdisciplinaria de 56 fuentes que abarca la psicología organizacional, los sistemas de información, la economía, la gobernanza y la ética de la IA, la interacción persona-ordenador, la ciencia de la complejidad y el derecho, con un hilo conductor de la dinámica de la confianza que las atraviesa todas. El método es un híbrido de Design Science Research y una revisión de la literatura basada en la teoría fundamentada, codificada a través de fases abiertas, axiales y selectivas. El resultado es una arquitectura de cuatro capas, diez constructos y 127 señales de confianza individuales.
- 01
Agencia, la capa humana
Cómo las personas interpretan la intención, la competencia y la responsabilidad. Juzgamos a las máquinas con modelos mentales creados para juzgar a las personas, y la confianza disminuye cuando esas señales son débiles, independientemente del rendimiento real del sistema.
- 02
Ingeniería, donde la confianza se vuelve medible
Garantía de identidad, procedencia, integridad criptográfica, pruebas adversarias, fallo controlado. Los modos de fallo modernos (alucinación, deriva, inyección de prompts) necesitan evaluación continua, no un certificado único.
- 03
Gobernanza, la capa organizativa
Gobernanza adaptativa que evoluciona con el riesgo, resiliencia que absorbe las interrupciones sin colapsar, y evidencia en tiempo real de que los sistemas se comportan como se espera. La supervisión periódica de procesos estables no se ajusta a la IA.
- 04
Institucional, la capa macro
Ley, regulación, organismos de normalización, certificación, infraestructura pública. Esta capa existe para que la confianza no dependa únicamente de la buena voluntad de las empresas privadas.
El iceberg es donde el marco demuestra su valía. Las señales que una organización elige mostrar al mundo son la punta visible: certificaciones, informes de transparencia, avisos de privacidad. Debajo de la línea de flotación se encuentran las estructuras a las que ningún equipo de marketing puede llegar: la disposición a confiar, la confianza basada en instituciones, las creencias previas, el residuo acumulado de cada decepción digital anterior. No se puede superar con campañas lo que se encuentra debajo de la línea de flotación, que es exactamente la razón por la que tratar la confianza como un ejercicio de comunicación falla de forma tan fiable.
Tres paradojas que no se resolverán
La sección más interesante es la que se niega a ofrecer respuestas claras. Tres tensiones son, según el documento, características estructurales de la interacción humano-IA. Usted las gestiona. No las resuelve.
El efecto de la autoría
Etiquete contenido idéntico como «generado por IA» en lugar de «hecho por humanos» y la gente lo calificará como menos fiable, menos persuasivo, menos atractivo emocionalmente. La calidad no cambia; el juicio sí. La autoría humana conlleva una carga simbólica, artesanía, cuidado, responsabilidad moral, y la autoría de la máquina se interpreta en cambio como reducción de costes o indiferencia.
La versión del mundo real se ejecutó en público. La campaña navideña de Coca-Cola impulsada por IA fue calificada de desalmada y visualmente incoherente a pesar de un gran presupuesto, y provocó llamamientos al boicot. La secuencia de Apple TV+ de Apple mostró el proceso artesanal detrás de una animación de logotipo y fue ampliamente elogiada. Ambiciones similares, recepciones opuestas, y la diferencia fue quién creían las audiencias que había hecho la cosa. Observe la trampa que esto establece: revelar la participación de la IA es lo transparente que hay que hacer, y aquí la transparencia puede reducir la confianza en lugar de construirla, especialmente donde la confianza ya es baja. Eso es un verdadero dilema, no un fallo de mensajería.
La paradoja de la intimidad
La paradoja clásica de la privacidad es la brecha entre lo que la gente dice sobre la privacidad y lo que realmente hace. La IA generativa la amplía. Los sistemas conversacionales son pacientes, receptivos, nunca críticos, siempre disponibles, y crean lo que Sherry Turkle llama una ilusión de diálogo, una que reduce la barrera a la divulgación. Así, la gente le cuenta a estos sistemas cosas que nunca pondría en un formulario, y las mismas personas, preguntadas directamente, dicen que no confían en las empresas que los gestionan. La interfaz se siente como una habitación privada; es una tubería que procesa entradas a escala. Es probable que la brecha entre la seguridad percibida y la exposición real se amplíe a medida que las herramientas de IA gratuitas se desplacen hacia modelos basados en publicidad, donde la conversación misma se convierte en datos de comportamiento.
La paradoja de la agencia
Queremos que la carga cognitiva se nos quite de encima, y nos molesta cuando lo que se nos quita es algo que consideramos nuestro: nuestro juicio, nuestra escritura, nuestra identidad profesional. La observación de Helga Nowotny es que la IA nos permite ver más allá, pero si empezamos a creer que el futuro predicho es el único posible, cerramos silenciosamente las alternativas. Las características que hacen que la IA sea atractiva son las mismas que la hacen sentir amenazante. Eso no es un defecto en el diseño. Es el diseño.
Cinco principios, y lo que exigen
De la arquitectura, el documento deriva cinco principios de diseño, cada uno mapeado a una interacción específica entre las capas.
| Principio | Lo que exige | Prioridad |
|---|---|---|
| Arquitectura en capas | Alineación coherente en las cuatro capas, no excelencia en una sola. Capacidad mínima viable en todas partes antes de la optimización en cualquier lugar. | Fundación |
| Confianza prospectiva | Restricción creíble: límites arquitectónicos, eliminación exigible, restricciones de uso que perduren más allá de las adquisiciones y los ciclos políticos, incorporadas en lugar de prometidas. | Crítico |
| Fricción productiva | Pausas deliberadas, confirmaciones, razonamiento visible y puntos de control humanos donde una respuesta incorrecta fluida costaría más. | Alta |
| Gestión de paradojas | Diseñar teniendo en cuenta las tres paradojas. Minimizar la recopilación precisamente porque la IA es muy buena para provocar la divulgación; mantener el diálogo con las partes interesadas. | Continuo |
| Integración del ecosistema | Construir sobre cimientos compartidos (identificadores descentralizados, credenciales verificables, procedencia C2PA, la pila Trust over IP) antes de que se conviertan en requisitos. | Estratégico |
Dos de ellos soportan la mayor parte del peso. La confianza prospectiva es el principio sobre el que realmente trataba la votación del e-ID: los usuarios juzgan un sistema no solo por lo que hace ahora, sino por lo que podría llegar a ser bajo una propiedad diferente. La respuesta no es una promesa sobre la intención, sino una restricción creíble, un límite arquitectónico o una garantía de eliminación exigible que siga siendo válida cuando la intención cambie, y tales restricciones son mucho más creíbles si están incorporadas que si se añaden a posteriori. La fricción productiva va en contra del instinto de la industria de tratar cada pausa como un defecto. Cuando un sistema produce una salida fluida y segura sin ninguna señal de su propia incertidumbre y luego resulta ser incorrecta, la gente se siente traicionada en lugar de advertida. El documento califica la interfaz sin fricciones como una suavidad inmerecida que oculta la alucinación. En la atención sanitaria, la justicia penal y los servicios financieros, la fricción deliberada es lo que hace que la confianza sea calibrada en lugar de ciega.
De la reputación a la prueba
Subyacente a todo esto, existe un argumento más discreto sobre dónde reside ahora la confianza. La confianza digital tradicional se basaba en señales implícitas: el reconocimiento de marca, el dominio de la plataforma, la sensación general de que una gran empresa probablemente no le defraudará. En un mundo de identidades sintéticas, contenido generado y 'deepfakes' convincentes, esas señales pierden su peso. El informe sobre fraude de identidad de Entrust de 2025 registró un intento de 'deepfake' aproximadamente cada cinco minutos en 2024, constituyendo los 'deepfakes' cerca del 40 por ciento de todo el fraude biométrico y siendo los documentos nacionales de identidad el documento más atacado. El ataque se ha desplazado a los cimientos.
Lo que reemplaza la confianza implícita es una garantía explícita y verificable por máquinas: identidad autosoberana que pone las credenciales en manos de la persona a través de identificadores descentralizados; credenciales verificables que pueden comprobarse sin contactar al emisor; procedencia del contenido vinculada criptográficamente en el momento de la creación; marcos de delegación que permiten a una persona otorgar a un agente de IA una autoridad limitada, revocable y auditable; prueba de humanidad ('proof-of-personhood') que establece que alguien es humano sin exponer quién es. El cambio es de la confianza como reputación a la confianza como una propiedad del sistema, de algo que se afirma a algo que se puede demostrar.
La parte que merece reflexión
El artículo es sincero sobre sus límites, y esa sinceridad es parte de por qué resulta creíble en lugar de promocional. Los constructos y las señales fueron derivados por un único programador, por lo que la fiabilidad entre evaluadores no ha sido evaluada formalmente. El marco es conceptual y todavía espera una validación empírica independiente. La confianza también varía según la cultura, siendo notablemente más alta en China que en los países occidentales, por lo que una única arquitectura podría no ser aplicable sin cambios. Nada de esto invalida la afirmación central.
La confianza se ha gestionado como una función de comunicación, algo que se aborda con el mensaje correcto después del lanzamiento del producto. El artículo argumenta que es una propiedad del sistema, integrada o ausente, y ofrece a las organizaciones algo sobre lo que actuar: una forma de evaluar la madurez en cuatro capas, determinar cuál de los siete mecanismos les está perjudicando realmente y establecer prioridades a partir de ahí. El camino a seguir no es escalar la IA más rápido, sino escalarla de forma responsable. Una frase menos emocionante para una presentación directiva, pero considerablemente más útil.
“La confianza se ha tratado como un mensaje que se envía después del lanzamiento del producto. Es una propiedad que se integra, o está ausente. No se puede superar con una campaña de comunicación lo que yace bajo la línea de flotación.”
La arquitectura de la confianza digital
Lea el artículo
El artículo completo, «The Architecture of Digital Trust: A Multi-Level Framework for Bridging the AI Value Gap», aparece en las actas de la 2026 IEEE Swiss Conference on Data Science and AI y está disponible en IEEE Xplore. Léalo o descárguelo aquí. El marco y sus señales de confianza se mantienen en iceberg.digital.
La presentación
El marco se presentó como una ponencia en la conferencia SDS 2026, abarcando desde la votación suiza sobre la e-ID, pasando por la brecha de valor y las tres paradojas, hasta el método de la teoría fundamentada, el iceberg y las cuatro capas. La presentación de diapositivas completa está disponible para su descarga. Descargar las diapositivas de la presentación (PDF).
La postura de validant.ai
Construimos el instrumento que describe el artículo. Si la confianza es una propiedad del sistema que debe medirse en lugar de afirmarse, entonces alguien tiene que realizar la medición, de forma independiente del proveedor cuyo sistema se está probando. Ese es todo el propósito de validant.ai. El artículo es la teoría; la plataforma es donde una organización la ve aplicada a sus propios sistemas.
| Lo que argumenta el artículo | Capa de la arquitectura | La respuesta de validant.ai | Estado |
|---|---|---|---|
| La confianza es una propiedad del sistema, integrada o ausente, no un mensaje añadido tras el lanzamiento | La arquitectura en su conjunto | Evaluación independiente y continua de la confianza digital a través de la señal de confianza de iceberg.digital | Beta cerrada, T3 2026 |
| Solo la medición externa distingue la seguridad del marketing de seguridad | Ingeniería, el modelo | AI Fairness y Explainability: Pulse, Navigator y la biblioteca de código abierto vfairness | Beta cerrada, T3 2026 |
| La autoridad que reside en un acuerdo de servicio puede ser revocada por un tercero | Agencia, la persona | Identidad autosoberana: credenciales verificables y mandatos de agente firmados | Previsto |
El hilo conductor es la independencia. validant.ai no ejecuta sus modelos, no custodia su identidad ni le vende el sistema que evalúa. Nos parecemos más a una agencia de calificación que a un proveedor que califica sus propios deberes, y entregamos las mismas pruebas a todas las partes interesadas para que cada una pueda decidir basándose en sus propias mediciones en lugar de en la palabra de nadie.
La confianza se evalúa, no se afirma. Si su organización implementa IA y desea que su postura de confianza sea medida por un tercero independiente —abarcando 'fairness', 'explainability' y gobernanza— en lugar de ser afirmada por un proveedor, nuestra beta cerrada se abrirá a un grupo reducido en el T3 de 2026. Lea el galardonado artículo para conocer el marco y permítanos aplicarlo a sus propios sistemas. Escriba a hello@validant.ai con el asunto «Closed Beta» o solicite una demostración. Las plazas son limitadas y se asignan por orden de idoneidad, no por orden de llegada.
En una línea
Todo el mundo está invirtiendo en IA y casi nadie puede decir qué ha obtenido a cambio, porque la pieza que faltaba nunca fue la ingeniería. Era la confianza, y la confianza es una propiedad que se integra en un sistema a través de cuatro capas, no un mensaje que se le añade después. El galardonado artículo identifica la brecha; validant.ai la mide.
Fuentes y lecturas adicionales
- 01Glinz, D. (2026). The Architecture of Digital Trust: A Multi-Level Framework for Bridging the AI Value Gap. 2026 IEEE Swiss Conference on Data Science and AI (SDS), Zúrich, pp. 60-67. Premio al mejor artículo.
- 02Glinz, D. (2026). La confianza digital es una órbita, no un pilar. validant.ai Signal.
- 03Glinz, D. (2026). Bias is the Foundation. validant.ai Signal.
- 04Brynjolfsson, E. & McAfee, A. (2014). The Second Machine Age. Sobre cómo las tecnologías de propósito general adelantan la inversión en infraestructura y retrasan la productividad.
- 05Entrust (2025). Identity Fraud Report. Frecuencia de los 'deepfakes' y la proporción del fraude biométrico.
- 06Unión Europea. (2024). Reglamento (UE) 2024/1689 (el Reglamento de IA). Diario Oficial de la Unión Europea.
- 07Consejo de Europa. (2024). Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (CETS n.º 225).
- 08National Institute of Standards and Technology. (2023). Marco de gestión de riesgos de la inteligencia artificial (AI RMF 1.0). NIST AI 100-1.
- 09Turkle, S. (2011). Alone Together. Sobre la «ilusión de diálogo».
- 10Nowotny, H. (2021). In AI We Trust: Power, Illusion and Control of Predictive Algorithms.
- 11Coalition for Content Provenance and Authenticity (C2PA); Trust over IP Foundation. Estándares abiertos para la procedencia del contenido y la confianza descentralizada.
InvestigaciónAbrir para leerCuando un modelo se convierte en munición
Un modelo de IA de frontera fue desconectado en todo el mundo por una sola carta gubernamental. Una lectura del cierre de junio de 2026 a través de la imagen del problema de los tres cuerpos de la confianza digital: cómo el interruptor de apagado dejó de ser una metáfora, por qué el laboratorio más gobernable fue el gobernado con menos cuidado de todos y lo que la dependencia de un único proveedor y una única jurisdicción le cuesta ahora a un consejo de administración.
Leer
InvestigaciónAbrir para leerLa confianza digital es una órbita, no un pilar
La confianza no es un pilar más que añadir. Es la órbita que tres cuerpos trazan juntos: el modelo, la persona y la organización. Por qué el problema de los tres cuerpos es la metáfora más honesta para una IA fiable y cómo saber en qué punto de la órbita se encuentra.
Leer
InvestigaciónAbrir para leerLos agentes actuarán por nosotros. ¿Quién responde por ellos?
Cuando los agentes empiecen a actuar en nuestro nombre, la confianza se desplazará de los resultados a los actores. Leemos el argumento de Michael Casey a favor de la prueba de control junto con nuestro modelo de los tres cuerpos de la confianza digital: dónde la comodidad atrae sigilosamente la autoridad hacia unas pocas plataformas globales, cómo responde validant.ai a ello y una beta cerrada para la validación científica que se abrirá en el tercer trimestre de 2026.
Leer