Das Vertrauensproblem, das niemand benennen will

Alle investieren Geld in KI. Kaum jemand kann sagen, was es ihnen gebracht hat. Die Diskrepanz zwischen dem, was KI verspricht, und dem, was sie in einem funktionierenden Unternehmen tatsächlich leistet, hat in einem neuen Paper von Daniel Glinz einen Namen: die KI-Wertschöpfungslücke (AI value gap). Das Paper wurde auf der 2026 IEEE Swiss Conference on Data Science and AI mit dem Best Paper Award ausgezeichnet, und seine zentrale These ist auf eine präzise Art unbequem. Ein Jahrzehnt lang wurde die Aufgabe, diese Lücke zu schließen, der Technik überlassen. Doch es war nie die Aufgabe der Technik, sie zu schließen. Es handelt sich um ein Vertrauensdefizit in technischem Gewand.

Zusammenfassung

Ein Preis ist nur ein schwacher Indikator dafür, ob eine Idee den Praxistest besteht, und das Paper sagt dasselbe über sein eigenes Framework, das es eher als Ausgangspunkt denn als endgültiges Urteil bezeichnet. Was die Auszeichnung signalisiert, ist spezifischer und nützlicher: Ein Raum voller Praktiker hat das Problem auf den ersten Blick erkannt. Jahrelang wurde die Wertschöpfungslücke als technisches Defizit behandelt, in der Annahme, dass bessere Modelle und sauberere Pipelines sie irgendwann schließen würden. Das Argument des Papers ist, dass der größte Teil der Lücke nie technischer Natur war. Systeme scheitern nicht, weil sie keine Leistung erbringen können; sie scheitern, weil niemand bereit ist, sich auf sie zu verlassen.

Es gibt eine historische Parallele, die es wert ist, vorab genannt zu werden. Basistechnologien haben schon immer zuerst die Infrastruktur und erst später die Produktivität gefördert, und Wirtschaftsanalysen deuten darauf hin, dass der kurzfristige Beitrag der KI immer noch größtenteils infrastruktureller Natur ist, wobei dauerhafte Gewinne der Einführung um Jahre hinterherhinken. Ein Teil der Wertschöpfungslücke ist also einfach eine Frage der Zeit, und dieser Teil schließt sich von selbst. Das Vertrauensdefizit ist der Teil, der das nicht tun wird. Was folgt, ist die Darstellung des Papers dazu: die sieben Mechanismen, die die Lücke vergrößern, die Vier-Schichten-Architektur und der Eisberg darunter, drei unauflösliche Paradoxa und fünf Designprinzipien, die sich aus all dem ergeben. Es endet dort, wo die Arbeit beginnt: mit dem, was ein Unternehmen am Montagmorgen konkret tun kann.

VergrößernVergrößernVergrößern

Eine Abstimmung, die nichts mit der Technologie zu tun hatte

Die Schweiz liess einmal über ein elektronisches Identitätssystem national abstimmen. An den technischen Vorzügen gab es wenig auszusetzen. Die Architektur war solide, der Datenschutz war von Grund auf mitkonzipiert statt nur aufgesetzt, und nach jedem vernünftigen technischen Standard funktionierte das System. Die Stimmbürger lehnten es trotzdem ab.

Wovon sie sich nicht überzeugen liessen, war nicht die Frage, ob das System heute sicher sei, sondern ob es in fünfzehn Jahren noch sicher sein würde, unter einer anderen Regierung, mit anderen kommerziellen Partnern, unter einem Druck, den sich noch niemand vorstellen konnte. Die Frage war nie: „Funktioniert das?“. Sondern: „Wer kontrolliert das später, und was hindert sie daran, es zu ändern?“

Das Paper gibt diesem Reflex einen Namen: antizipatorisches Misstrauen (anticipatory distrust). Es ist die klarste mögliche Veranschaulichung des zentralen Punktes, denn es gab keinen Mangel zu beheben. Kein Bug-Report, kein fehlgeschlagenes Audit, kein Vorfall, der zu dokumentieren wäre. Die Technik war in Ordnung. Das Vertrauen war nicht da, und keine noch so große technische Anstrengung hätte es herstellen können. Das ist das eigentliche Thema des Papers: nicht Systeme, die keine Leistung erbringen können, sondern Systeme, auf die sich niemand verlassen will.

Das Unbehagen in Zahlen

Die Umfrageergebnisse sollten jedes Produktteam innehalten lassen. In Studien aus den Vereinigten Staaten, dem Vereinigten Königreich und Deutschland gibt etwa jeder fünfte Verbraucher an, Unternehmen zu vertrauen, die KI einsetzen. Jeder fünfte. Und als Schweizer Finanzinstitute gefragt wurden, was sie tatsächlich daran hindert, KI über den Prototyp hinaus zu skalieren, nannten sie nicht die technische Reife oder einen schwachen Business Case. Sie verwiesen auf Datenqualität, Datenschutz und die Einhaltung gesetzlicher Vorschriften. Organisatorischer Widerstand spielte kaum eine Rolle. Die Menschen sind bereit; die Governance ist es noch nicht.

Sieben Mechanismen, nicht einer

Bevor es etwas aufbaut, zerlegt das Paper die Wertschöpfungslücke. Es identifiziert sieben verschiedene strukturelle Mechanismen, und ihre getrennte Benennung ist wichtig, da die meisten Unternehmen an zwei oder drei von ihnen leiden, nicht an allen sieben, und die Abhilfe von der jeweiligen Ursache abhängt.

Das letzte davon ist ein kollektives Handlungsproblem, und kein einzelnes Unternehmen kann es allein lösen. Diese Einschränkung taucht gegen Ende wieder auf, wenn das Paper sich der gemeinsamen Infrastruktur zuwendet.

Vier Schichten und der Eisberg darunter

Das Framework basiert auf einer interdisziplinären Auswertung von 56 Quellen aus den Bereichen Organisationspsychologie, Informationssysteme, Wirtschaftswissenschaften, KI-Governance und -Ethik, Mensch-Computer-Interaktion, Komplexitätswissenschaft und Recht, wobei sich das Thema der Vertrauensdynamik durch alle Bereiche zieht. Die Methode ist eine Mischung aus Design Science Research und einer Literaturrecherche nach der Grounded-Theory-Methode, die in offenen, axialen und selektiven Phasen kodiert wurde. Das Ergebnis ist eine Architektur aus vier Schichten, zehn Konstrukten und 127 einzelnen Vertrauenssignalen (trust cues).

Beim Eisberg bewährt sich das Framework. Die Signale, die eine Organisation der Welt zeigt, sind die sichtbare Spitze: Zertifizierungen, Transparenzberichte, Datenschutzhinweise. Unter der Wasserlinie liegen die Strukturen, die kein Marketingteam erreichen kann: Vertrauensneigung, institutionenbasiertes Vertrauen, frühere Überzeugungen, die angesammelten Rückstände jeder früheren digitalen Enttäuschung. An dem, was unter der Wasserlinie liegt, führt keine Kampagne vorbei, und genau deshalb scheitert der Versuch, Vertrauen als Kommunikationsübung zu behandeln, so zuverlässig.

Vergrößern

Drei Paradoxa, die sich nicht auflösen lassen

Der interessanteste Abschnitt ist derjenige, der sich weigert, einfache Antworten zu geben. Drei Spannungsfelder sind laut dem Paper strukturelle Merkmale der Mensch-KI-Interaktion. Sie managen sie. Sie lösen sie nicht.

Der Autorschaftseffekt

Kennzeichnen Sie identische Inhalte als „KI-generiert“ statt als „von Menschen gemacht“, und die Menschen bewerten sie als weniger vertrauenswürdig, weniger überzeugend und weniger emotional ansprechend. Die Qualität ändert sich nicht, das Urteil schon. Menschliche Autorschaft hat eine symbolische Aufladung: Handwerkskunst, Sorgfalt, moralische Verantwortlichkeit, und maschinelle Autorschaft wird stattdessen als Kostenersparnis oder Gleichgültigkeit gelesen.

Die reale Version lief öffentlich ab. Die KI-gesteuerte Weihnachtskampagne von Coca-Cola wurde trotz eines großen Budgets als seelenlos und visuell inkohärent bezeichnet und zog Boykottaufrufe nach sich. Die Sequenz von Apple für Apple TV+ zeigte den handwerklichen Prozess hinter einer Logo-Animation und wurde weithin gelobt. Ähnliche Ambitionen, gegensätzliche Rezeptionen, und der Unterschied lag darin, wem das Publikum die Urheberschaft zuschrieb. Beachten Sie die Falle, die hier gestellt wird: Die Beteiligung von KI offenzulegen, ist der transparente Weg, und hier kann Transparenz das Vertrauen eher schmälern als aufbauen, insbesondere dort, wo das Vertrauen bereits gering ist. Das ist eine echte Zwickmühle, kein Versäumnis in der Kommunikation.

Das Intimitätsparadoxon

Das klassische Datenschutzparadoxon ist die Lücke zwischen dem, was Menschen über Datenschutz sagen, und dem, was sie tatsächlich tun. Generative KI erweitert sie. Konversationssysteme sind geduldig, reaktionsschnell, urteilen nie, sind immer verfügbar, und sie schaffen, was Sherry Turkle eine Illusion des Dialogs nennt, die die Hemmschwelle für die Preisgabe von Informationen senkt. Also erzählen die Menschen diesen Systemen Dinge, die sie niemals in ein Formular eintragen würden, und dieselben Leute sagen, direkt gefragt, dass sie den Unternehmen, die sie betreiben, nicht vertrauen. Die Benutzeroberfläche fühlt sich an wie ein privater Raum; sie ist eine Pipeline, die Eingaben in großem Maßstab verarbeitet. Die Kluft zwischen gefühlter Sicherheit und realer Exposition wird sich wahrscheinlich vergrößern, da kostenlose KI-Tools zu werbefinanzierten Modellen tendieren, bei denen die Konversation selbst zu Verhaltensdaten wird.

Das Handlungsträgerschafts-Paradoxon

Wir wollen, dass uns die kognitive Last abgenommen wird, und wir ärgern uns, wenn das, was uns abgenommen wird, etwas ist, das wir als unser Eigen betrachten: unser Urteilsvermögen, unser Schreiben, unsere berufliche Identität. Helga Nowotnys Beobachtung ist, dass KI uns weiter vorausschauen lässt, aber wenn wir anfangen zu glauben, dass die vorhergesagte Zukunft die einzig mögliche ist, verschließen wir leise die Alternativen. Die Eigenschaften, die KI attraktiv machen, sind dieselben, die sie bedrohlich wirken lassen. Das ist kein Fehler im Design. Das ist das Design.

Fünf Prinzipien und was sie erfordern

Aus der Architektur leitet das Paper fünf Designprinzipien ab, jedes einer spezifischen Interaktion zwischen den Ebenen zugeordnet.

Zwei von ihnen tragen das meiste Gewicht. Zukunftsorientiertes Vertrauen ist das Prinzip, um das es bei der e-ID-Abstimmung wirklich ging: Benutzer beurteilen ein System nicht nur danach, was es jetzt tut, sondern auch danach, was es unter anderen Eigentümern werden könnte. Die Antwort ist kein Versprechen über Absichten, sondern eine glaubwürdige Beschränkung, eine architektonische Grenze oder eine durchsetzbare Löschgarantie, die auch bei einer Änderung der Absichten Bestand hat, und solche Beschränkungen sind eingebaut weitaus glaubwürdiger als nachgerüstet. Produktive Reibung läuft dem Instinkt der Branche zuwider, jede Pause als Mangel zu behandeln. Wenn ein System flüssige, selbstbewusste Ausgaben ohne Signal für seine eigene Unsicherheit produziert und sich dann als falsch herausstellt, fühlen sich die Menschen betrogen statt gewarnt. Das Paper nennt die reibungslose Benutzeroberfläche eine unverdiente Glätte, die Halluzinationen verbirgt. Im Gesundheitswesen, in der Strafjustiz und bei Finanzdienstleistungen ist es die bewusste Reibung, die das Vertrauen kalibriert statt blind macht.

Von der Reputation zum Beweis

All dem liegt eine subtilere Debatte zugrunde, worauf Vertrauen heute beruht. Traditionelles digitales Vertrauen beruhte auf impliziten Signalen: Markenbekanntheit, Plattformdominanz und dem allgemeinen Gefühl, dass ein großes Unternehmen Sie wahrscheinlich nicht betrügen wird. In einer Welt synthetischer Identitäten, generierter Inhalte und überzeugender Deepfakes verlieren diese Signale an Gewicht. Der Bericht von Entrust über Identitätsbetrug für 2025 verzeichnete im Jahr 2024 etwa alle fünf Minuten einen Deepfake-Versuch, wobei Deepfakes etwa 40 Prozent des gesamten biometrischen Betrugs ausmachten und nationale Personalausweise das am häufigsten angegriffene Dokument waren. Der Angriff zielt nun auf die Grundlagen.

Was implizites Vertrauen ersetzt, ist eine explizite, maschinell überprüfbare Garantie: selbstsouveräne Identität, die Nachweise durch dezentrale Identifikatoren in die Hände der Person legt; verifizierbare Nachweise, die ohne Rückfrage beim Aussteller geprüft werden können; Inhaltsherkunft, die im Moment der Erstellung kryptografisch gebunden wird; Delegations-Frameworks, die es einer Person ermöglichen, einem KI-Agenten eine begrenzte, widerrufbare und überprüfbare Befugnis zu erteilen; „Proof-of-Personhood“, der belegt, dass jemand ein Mensch ist, ohne seine Identität preiszugeben. Der Wandel geht von Vertrauen als Reputation zu Vertrauen als Systemeigenschaft, von etwas, das man behauptet, zu etwas, das man beweisen kann.

Was eine genauere Betrachtung wert ist

Das Paper geht offen mit seinen Grenzen um, und diese Offenheit ist ein Grund, warum es glaubwürdig und nicht werblich wirkt. Die Konstrukte und Anhaltspunkte wurden von einem einzigen Coder abgeleitet, sodass die Inter-Rater-Reliabilität nicht formell bewertet wurde. Das Framework ist konzeptionell und wartet noch auf eine unabhängige empirische Validierung. Vertrauen variiert auch kulturell und ist in China deutlich höher als in westlichen Ländern, sodass eine einzige Architektur möglicherweise nicht unverändert übertragbar ist. Nichts davon widerlegt die zentrale Behauptung.

Vertrauen wurde bisher als eine Kommunikationsaufgabe behandelt, die mit der richtigen Botschaft nach der Produkteinführung angegangen wird. Das Paper argumentiert, dass es sich um eine Systemeigenschaft handelt, die entweder eingebaut ist oder fehlt, und es gibt Organisationen eine Handlungsgrundlage: eine Möglichkeit, die Reife über vier Ebenen hinweg zu bewerten, herauszufinden, welcher der sieben Mechanismen ihnen tatsächlich schadet, und auf dieser Basis Prioritäten zu setzen. Der Weg nach vorn besteht nicht darin, KI schneller zu skalieren, sondern sie verantwortungsvoll zu skalieren. Eine weniger aufregende Zeile für eine Vorstandspräsentation, aber eine wesentlich nützlichere.

“Vertrauen wurde als eine Botschaft behandelt, die man nach der Produkteinführung sendet. Es ist eine Eigenschaft, die man einbaut, oder sie fehlt. Man kann sich nicht mit einer Kampagne über das hinwegsetzen, was unter der Wasserlinie liegt.”

Die Architektur des digitalen Vertrauens

Lesen Sie das Paper

Das vollständige Paper, „The Architecture of Digital Trust: A Multi-Level Framework for Bridging the AI Value Gap“, erscheint im Tagungsband der 2026 IEEE Swiss Conference on Data Science and AI und ist auf IEEE Xplore verfügbar. Hier lesen oder herunterladen. Das Framework und seine Vertrauensmerkmale werden auf iceberg.digital gepflegt.

Vergrößern

Der Vortrag

Das Framework wurde als Konferenzvortrag auf der SDS 2026 vorgestellt. Der Bogen spannte sich von der Schweizer E-ID-Abstimmung über die Wertlücke und die drei Paradoxa bis hin zur Grounded-Theory-Methode, dem Eisberg und den vier Ebenen. Der vollständige Foliensatz steht zum Download bereit. Vortragsfolien herunterladen (PDF).

Vergrößern

Die Position von validant.ai

Wir entwickeln das Instrument, das im Paper beschrieben wird. Wenn Vertrauen eine Systemeigenschaft ist, die gemessen und nicht nur behauptet werden muss, dann muss jemand diese Messung durchführen – unabhängig vom Anbieter, dessen System getestet wird. Genau dafür gibt es validant.ai. Das Paper ist die Theorie; die Plattform ist der Ort, an dem eine Organisation die Anwendung auf ihre eigenen Systeme sieht.

Der rote Faden ist Unabhängigkeit. validant.ai betreibt nicht Ihre Modelle, verwahrt nicht Ihre Identität und verkauft Ihnen nicht das System, das es bewertet. Wir sind eher eine Rating-Agentur als ein Anbieter, der seine eigenen Hausaufgaben benotet, und wir geben allen Beteiligten die gleichen Nachweise an die Hand, damit jeder auf der Grundlage eigener Messungen und nicht auf der Grundlage von Behauptungen entscheiden kann.

Kurz gesagt

Alle investieren in KI, aber kaum jemand kann sagen, was dabei herausgekommen ist, denn das fehlende Teil war nie die Technik. Es war Vertrauen, und Vertrauen ist eine Eigenschaft, die man über vier Ebenen in ein System einbaut, keine Botschaft, die man ihm nachträglich anhängt. Das preisgekrönte Paper benennt die Lücke; validant.ai misst sie.

Quellen und weiterführende Literatur