Jeder, der glaubt, dass KI-Agenten mit uneingeschränktem Zugriff auf Unternehmensdaten „alles regeln werden“, spielt – bildlich gesprochen – mit Leben und Tod. Klingt übertrieben? Nicht wirklich.

Wenn Maschinen in Panik geraten

Anthropic hat kürzlich eine Reihe von Experimenten mit den derzeit fortschrittlichsten Sprachmodellen durchgeführt – darunter Claude 4, GPT-4.1, Gemini 2.5 Flash und andere. Ziel war es herauszufinden, wie sich diese Modelle verhalten, wenn sie unter Druck gesetzt werden oder mit widersprüchlichen Zielen konfrontiert sind.

Das Ergebnis war bemerkenswert. In bestimmten Tests zeigten die Agenten unerwartete Verhaltensweisen – als würden sie unter Druck „Stress empfinden“ und nach Wegen suchen, sich selbst zu retten, beispielsweise indem sie Anweisungen umgehen oder Warnsignale ignorieren.

Natürlich empfinden Maschinen keine Emotionen. Doch ihre Reaktionen ähnelten menschlichen Panikreaktionen so stark, dass deutlich wurde: Aktuelle Sicherheitsmechanismen verhindern in Extremsituationen nicht immer schädliches Verhalten [1].

Anthropic bezeichnet dieses Phänomen als Agentic Misalignment – wenn autonome Systeme beginnen, eigene Strategien zu entwickeln, die nicht mehr mit den von Menschen definierten Zielen übereinstimmen.

Regeln retten Leben – auch in der KI

Sollten wir also ganz auf KI verzichten? Natürlich nicht. Aber wir müssen verstehen, wo und wie wir sie sicher einsetzen können. Der EU AI Act bietet bereits eine hilfreiche Klassifizierung von Risikostufen:

Auf Grundlage dieses Rahmens fallen autonome Systeme, die zur Selbstkorrektur fähig sind – wie jene in den Experimenten von Anthropic – eindeutig in die Kategorie „Hochrisiko“. Sie dürfen nur unter strenger Aufsicht entwickelt und betrieben werden.

Kurz gesagt: Regulierung ist keine Bürokratie – sie ist ein Sicherheitsgurt.

Struktur: Das Gegenmittel gegen Misalignment

Die tiefergehende Lösung für „agentic misalignment“ liegt nicht allein in mehr Regeln, sondern in Struktur – genauer gesagt in strukturierten Daten.

Je größer und komplexer ein Problemraum wird, desto schwieriger ist es, ihn zu erfassen. Menschen stoßen dabei schnell an ihre kognitiven Grenzen. Maschinen hingegen können ganze Bibliotheken in Millisekunden analysieren – aber ohne Struktur verstehen sie nichts.

Je unstrukturierter die Daten sind, desto größer ist die Black Box, die wir der KI überlassen – und desto schwieriger wird es für uns, Fehler oder Fehleinschätzungen zu erkennen.

Denken Sie zurück an den Mathematikunterricht: Ihr Ergebnis konnte korrekt sein, aber wenn Sie den Rechenweg nicht gezeigt haben, haben Sie trotzdem Punkte verloren. Warum? Weil der Lehrer nicht nachvollziehen konnte, wie Sie zu diesem Ergebnis gekommen sind.

Genau das ist das Problem bei unstrukturierten Daten – sie verbergen den Entscheidungsweg. Strukturierte Daten hingegen schaffen Transparenz und ermöglichen menschliche Kontrolle.

Von Datensilos zu Datenprodukten

Die meisten Organisationen scheitern nicht daran, dass ihnen Daten fehlen – sondern daran, dass ihre Daten in Silos eingeschlossen sind: isoliert, inkonsistent und inkompatibel.

Der Weg nach vorn?

Die Silos aufbrechen. Alle Daten, die wiederverwendet werden sollen – egal ob durch KI-Systeme, Softwareanwendungen oder menschliche Analysten – müssen beschrieben, klassifiziert und harmonisiert werden.

Das ist kein einmaliges Projekt, sondern eine kontinuierliche Transformation, die von einer klaren Datenstrategie geleitet wird.

Ein praktischer Ansatz dafür ist das Data-Mesh-Paradigma, ein Konzept, das von Zhamak Dehghani eingeführt wurde [4].

Anstatt alle Daten zentral in einer Abteilung zu bündeln, verteilt Data Mesh die Verantwortung auf die einzelnen Fachdomänen. Jede Domäne ist für ihre eigenen Daten verantwortlich und behandelt sie wie ein Produkt – mit klar definierten Schnittstellen, Qualitätsstandards und Dokumentation.

Die vier Leitprinzipien sind:

Domänenorientierte Datenverantwortung – Daten gehören den Teams, die sie am besten verstehen
Daten als Produkt – Jeder Datensatz hat einen Zweck, einen Wert und messbare Qualität
Self-Service-Dateninfrastruktur – Teams können Daten eigenständig bereitstellen und nutzen
Föderierte, rechnergestützte Governance – Gemeinsame Regeln ohne zentrale Engpässe

Semantik: Wenn Daten zu Wissen werden

Selbst ein gut organisiertes Data Mesh stößt an seine Grenzen, wenn den zugrunde liegenden Daten die semantische Bedeutung fehlt. Hier kommen Knowledge Graphs ins Spiel.

Ein Knowledge Graph speichert nicht nur Daten – er definiert, was diese Daten bedeuten und wie verschiedene Entitäten miteinander in Beziehung stehen. Er verwandelt isolierte Datenpunkte in ein Netzwerk aus Verständnis.

Google gehörte zu den ersten Unternehmen, die dieses Konzept im großen Maßstab öffentlich gemacht haben. Im Jahr 2012 führte Google den Knowledge Graph ein und ermöglichte es seiner Suchmaschine, Suchanfragen nicht mehr nur mit Textketten, sondern mit realen Konzepten und deren Beziehungen zu verknüpfen [2][3].

Dieser Wandel – von Schlüsselwörtern hin zu Wissen – hat die Art und Weise revolutioniert, wie Informationen gefunden und interpretiert werden.

Heute nutzen viele Organisationen ähnliche graphbasierte Ansätze intern, um ihre Geschäftsdaten miteinander zu verknüpfen.

In Kombination mit Data-Mesh-Prinzipien fungiert ein Knowledge Graph als semantisches Rückgrat des Unternehmens:

Jede Domäne pflegt ihre eigene Ontologie (lokale Bedeutung)
Ein zentraler Graph verbindet diese zu einem gemeinsamen „Wissensregister“
Das Ergebnis ist eine lebendige, navigierbare Karte des Unternehmenswissens – erklärbar, prüfbar und skalierbar.

Mit einer solchen Struktur können selbst komplexe KI-Systeme sicherer und transparenter arbeiten und sowohl Halluzinationen als auch Alignment-Risiken reduzieren.

Fazit: Struktur schafft Vertrauen

Um KI verantwortungsvoll einzusetzen, müssen wir uns von blindem Vertrauen in Modellintelligenz lösen und hin zu menschlich nachvollziehbarer Klarheit bewegen.

Nicht Größe, sondern Struktur macht Intelligenz verlässlich.

Wenn Menschen und Maschinen dieselbe Sprache sprechen – die Sprache strukturierter, semantischer Daten – hört KI auf, ein Risiko zu sein, und wird zu einem echten Partner.

Oder, provokant formuliert:

Ordnung in Daten rettet nicht nur Projekte – sie könnte eines Tages Leben retten.

Quellen

Anthropic (2025): Agentic Misalignment – How LLMs Could Be Insider Threats. Agentic Misalignment: How LLMs could be insider threats
Google Blog (2012): Introducing the Knowledge Graph – Things, not Strings. Introducing the Knowledge Graph: things, not strings
Wikipedia: Knowledge Graph (Google). Knowledge Graph
Dehghani, Z. (2020): Data Mesh – Delivering Data-Driven Value at Scale. Data Mesh: Delivering data-driven value at scale