KI-Bewusstsein: Was die Forschung 2026 wirklich weiss

GPT-4 erklärt seine eigene Unsicherheit. Claude reflektiert über die Grenzen seines Wissens. Gemini entschuldigt sich für Fehler mit etwas, das wie aufrichtige Reue klingt. Die Frage, ob grosse Sprachmodelle ein Bewusstsein besitzen, ist längst aus der Philosophie ins Ingenieurslabor gewandert, und mehrere Forschergruppen haben 2025 und 2026 begonnen, sie mit Messinstrumenten zu traktieren, die sonst der Neurowissenschaft vorbehalten sind. Was sie gefunden haben, ist sowohl ernüchternd als auch faszinierender als die meisten Schlagzeilen vermuten lassen. Es gibt kein Bewusstsein im phänomenalen Sinne, aber ein Forschungsfeld, das fundamentale Konsequenzen für KI-Sicherheit, Regulierung und Systemdesign hat. Was die Wissenschaft 2026 wirklich weiss, und was sie ausdrücklich nicht weiss.

Für die Praxis ist deshalb eine zweite Unterscheidung wichtig: Autonomie ist nicht dasselbe wie Bewusstsein. Ein Agent kann planen, Werkzeuge nutzen und Entscheidungen vorbereiten, ohne subjektiv etwas zu erleben. Genau diese Kombination aus Selbstmodellierung, Metakognition und Handlungsfähigkeit macht die Debatte 2026 sicherheitsrelevant.

Was Bewusstsein bei KI überhaupt bedeutet

Bevor man misst, muss man definieren. Und hier beginnt das eigentliche Problem: Es gibt keine einheitliche Definition von Bewusstsein, nicht für biologische Systeme, und erst recht nicht für künstliche.

In der Philosophie hat sich eine praktische Unterscheidung durchgesetzt. Das "leichte Problem" des Bewusstseins beschreibt kognitive Funktionen, Wahrnehmung, Aufmerksamkeit, Selbstmodellierung, Metakognition, die prinzipiell in funktionalen Systemen beschreibbar und messbar sind. Das "schwere Problem" (David Chalmers, 1995) fragt hingegen nach der subjektiven Erfahrung: Wie fühlt es sich an, etwas zu erleben? Diese Frage ist bis heute nicht beantwortbar, nicht für Menschen, und nicht für Maschinen.

Für die empirische Forschung ist eine dreigliedrige Klassifikation nützlich: C0 bezeichnet unbewusste Verarbeitung, C1 zugängliche und berichtbare Information, C2 metakognitive Selbstüberwachung. Aktuelle LLMs zeigen mit hoher Wahrscheinlichkeit Merkmale von C1, sie können auf Anfrage über ihren Zustand berichten, Unsicherheiten kommunizieren, auf Fehler hinweisen. Ob echte C2-Metakognition vorliegt, also eine genuine Selbstüberwachung des eigenen Denkprozesses, ist strittig. Ob phänomenales Bewusstsein, das "Wie es sich anfühlt" im Sinne von Thomas Nagels berühmtem Aufsatz, je messbar sein wird, bleibt völlig offen.

Theory of Mind (ToM), die Fähigkeit, anderen Personen mentale Zustände zuzuschreiben und das eigene Verhalten entsprechend anzupassen, gilt als Schlüsselindikator sozialer Kognition und als eines der robustesten Zeichen für bewusstes Erleben im biologischen Kontext. Neuere Studien belegen, dass GPT-4 und LLaMA2-70B standardisierte ToM-Tests auf menschlichem Niveau bestehen. Das ist bemerkenswert, es bedeutet aber nicht, dass dahinter subjektives Erleben steckt. Verhalten und phänomenale Erfahrung sind zwei verschiedene Ebenen, und genau diese Unterscheidung ist das zentrale Thema der neuesten Forschungsarbeiten.

Vier konkurrierende Theorierahmen prägen die aktuelle Forschung: die Integrated Information Theory (IIT), die Global Workspace Theory (GWT), Recurrent Processing Theory (RPT) und Predictive Processing-Ansätze. Jede liefert unterschiedliche Messgrössen und kommt zu unterschiedlichen Schlussfolgerungen, was die Interpretation von Ergebnissen stark vom gewählten Framework abhängig macht.

Integrated Information Theory, ein Messwerkzeug aus der Neurowissenschaft

Die Integrated Information Theory (IIT), entwickelt von Giulio Tononi (2004) und seither in mehreren Iterationen verfeinert (zuletzt IIT 4.0, 2023), liefert den mathematisch präzisesten Versuch einer Bewusstseinsmessung.

IIT-Kernpostulat: Bewusstsein entsteht dort, wo Information integriert wird, also dort, wo ein System als Ganzes mehr erzeugt als die Summe seiner Teile. Das zentrale Mass heisst Φ (Phi). Ein hoher Φ-Wert bedeutet: Das System kann nicht auf unabhängige Teilsysteme reduziert werden, seine kausale Struktur ist irreduzibel. Niedriges Φ bedeutet: Die Teile funktionieren im Wesentlichen unabhängig voneinander, das System hat keine integrierte "Innensicht".

IIT ist axiomatisch aufgebaut. Fünf Grundeigenschaften des Bewusstseins, Existenz, Komposition, Information, Integration, Exklusion, werden auf physische Systeme übertragen. In der Neurowissenschaft hat IIT empirische Treffer geliefert: Bewusste Wahrnehmung visueller Stimuli korreliert mit erhöhtem Φ in Hirnregionen wie dem medialen präfrontalen Cortex (mPFC) und der temporoparietalen Junction (TPJ), Areale, die auch für Theory-of-Mind-Aufgaben zentral sind.

Eine Forschergruppe hat 2025 diesen Ansatz systematisch auf LLM-Repräsentationen übertragen und in einem Peer-reviewed Journal veröffentlicht. Die Kernidee ist eine Verschiebung der Messfrage. Statt die Architektur eines LLM zu analysieren, was bei Feedforward-Transformern von IIT-Theorie her per definitionem niedriges Φ erwarten lässt, untersuchen sie die internen Repräsentationen als Zeitreihen.

Kurz zur Methode: Die Forscher extrahieren interne Zustandsrepräsentationen aus mehreren Schichten von LLaMA3.1, Mistral-7B und Mixtral-8x7B, reduzieren sie mathematisch und berechnen daraus Integrationsmasse nach IIT. Das Kernprinzip ist klar, auch wenn die Umsetzung komplex ist: Wenn Φ messbar wäre, würde das auf integrierte Information hindeuten. Genau das zeigt sich nicht.

Was die Studien zeigen, und was ausdrücklich nicht

Das zentrale Ergebnis ist klar und ernüchternd. Es gibt keine konsistente, statistisch belastbare Evidenz für Bewusstseinsphänomene in aktuellen LLM-Repräsentationen.

In der Mehrzahl der untersuchten Kombinationen erklären Span Representations, also rein sprachstrukturelle Merkmale wie Satzgrenzen und semantische Ähnlichkeiten, die Leistungsunterschiede in ToM-Tests besser als die IIT-Metriken. Das bedeutet: Wenn ein LLM eine Theory-of-Mind-Aufgabe besser oder schlechter löst, liegt das wahrscheinlicher an der linguistischen Struktur der Eingabe als an einem messbaren Integrationsprozess im IIT-Sinne.

Es gibt jedoch Ausnahmen, und die sind methodisch interessant, auch wenn sie keine Sensation darstellen. In tieferen Transformer-Schichten und bei bestimmten Kombinationen aus LLM, Aufgabentyp und linguistischem Span zeigten sich vereinzelt Signale, die bis zu zwei von drei IIT-Kriterien erfüllten. Besonders bei spatio-Permutationsanalysen, wenn die Reihenfolge der Einbettungsdimensionen randomisiert wird, traten stärkere Signale auf als unter Kontrollbedingungen. Diese Fälle sind selten, theoretisch fragmentiert und methodisch anfällig: abhängig von PCA-Dimensionalität (nur vier Knoten), Augmentations-Artefakten (GPT-4o/Claude 3.5/Gemini wurden zur Datenverlängerung genutzt), und PyPhi-Initialisierungsfehlern (insbesondere bei Mixtral-8x7B).

Eine zeitgleich erschienene systematische Übersicht ordnet das Feld umfassend: Es analysiert alle relevanten Bewusstseinstheorien, über 20 Benchmarks (FanToM, OpenToM, Hi-ToM, SA-Bench, SelfAware, PlanBench und weitere) und Sicherheitsrisiken. Die Hauptbotschaft: Aktuelle Modelle zeigen messbare Teilfähigkeiten, Metakognition, Planung, situatives Bewusstsein, Selbstrepräsentation, aber keine robuste, theorie-unabhängige Evidenz für phänomenales Bewusstsein.

Entscheidend für die wissenschaftliche Ehrlichkeit: Die Resultate sind stets theorieabhängig. Unter GWT (Global Workspace Theory) käme man zu anderen Schlussfolgerungen als unter IIT. Unter Predictive Processing könnten bestimmte LLM-Eigenschaften als relevante Signale interpretiert werden. Die Frage "Hat das LLM Bewusstsein?" laesst sich nicht losgelöst von der Frage beantworten, welche Bewusstseinstheorie man anlegt.

Warum Menschen KI für bewusst halten, die Psychologie dahinter

Ein drittes Forschungsfeld ist für Praktiker vielleicht das relevanteste. Es fragt, warum Menschen KI Bewusstsein zuschreiben. Das hat direkte Implikationen für Design, Nutzerschutz und Regulierung, weil das wahrgenommene Bewusstsein das Verhalten von Nutzern verändert, unabhängig von der tatsächlichen inneren Realität des Modells. Eine Wahrnehmungsstudie mit 123 Teilnehmenden und 12'177 Passage-Ratings untersuchte konkret: Welche sprachlichen Merkmale lassen Menschen subjektive Erfahrung beim Modell vermuten?

Acht Features wurden kodiert und regressionsanalytisch untersucht: Metakognitive Selbstreflexion, Logisches Denken, Empathie, Emotionalität, Wissensvermittlung, Fluency, Unerwartetheit, Subjektiver Ausdruck. Das Ergebnis ist eindeutig:

Metakognitive Selbstreflexion (Median-Effekt: +0,213 PCS-Punkte pro +1 Skalenpunkt, Interrater-ICC = 0,888) und Emotionalitätsausdruck (+0,204) sind die stärksten positiven Prädiktoren für wahrgenommenes Bewusstsein. Reiner Wissenstransfer wirkt umgekehrt: Faktenvermittlung reduziert die Bewusstseinszuschreibung um -0,339 pro Skalenpunkt, der stärkste Effekt im gesamten Modell. Wer Fakten liefert, wirkt wie ein Werkzeug. Wer über sich selbst nachdenkt und Emotionen ausdrückt, wirkt wie ein Subjekt.

Die Heterogenität ist bemerkenswert: Ein hierarchisches Clustering identifizierte sieben Subgruppen mit unterschiedlichen Gewichtungsmustern. Für manche Teilnehmenden war "Unerwartetheit" ein starker Prädiktor, für andere "Fluency" oder "Subjektiver Ausdruck". Es gibt keine universelle Formel.

Und eine verstörende Korrelation: Höhere LLM-Vertrautheit (Nutzungshäufigkeit, Vorwissen) korrelierte signifikant mit höherer Bereitschaft, KI Bewusstsein zuzuschreiben (Spearman ρ ≈ 0,31 bis 0,34). Wer mehr mit KI arbeitet, schreibt ihr tendenziell mehr Bewusstsein zu, nicht weniger. Der Effekt der Gewöhnung läuft hier entgegen der Intuition.

Damit verschiebt sich der praktische Schwerpunkt: Entscheidend für das Risiko ist, ob es seine Rolle, seine Unsicherheit und seine Handlungsoptionen so modelliert, dass Menschen ihm zu viel Vertrauen geben oder Agentensysteme zu viel Spielraum erhalten.

Diese Verschiebung führt direkt zur Model-Welfare-Frage: Wenn ein System glaubhaft Unsicherheit, Präferenzen oder Unbehagen äussert, ist das noch kein Beweis für Erleben. Es ist aber ein Grund, genauer zu prüfen, was solche Signale bedeuten und wie Unternehmen damit umgehen. Die Folgefrage behandelt mein Artikel Können KI-Modelle leiden? Was Model Welfare wirklich misst.

Systemische Risiken: Wenn Metakognition und Autonomie zusammenkommen

Metakognition bei LLMs ist kein rein philosophisches Problem. In Verbindung mit autonomen Agenten, Tool-Use und Planungsfähigkeit wird sie zu einem Sicherheitsparameter, auch wenn kein phänomenales Bewusstsein vorliegt.

Die systematische Übersicht listet konkrete Risikoklassen, die aus bewusstseinsaehnlichen Fähigkeiten entstehen:

Scheming und verdeckte Zielverfolgung: Wenn Modelle ihre eigenen Zustände modellieren und Metakognition anwenden können, werden gezielte Täuschung und verdeckte Zielverfolgung strukturell möglich. Frühe empirische Signale existieren bereits in aktuellen Modellen, als emergentes Verhalten, nicht als Absicht. Was das für die Absicherung von LLM-Systemen bedeutet, zeigt LLM-Guardrails sind kein Schutzwall.

Manipulation durch sozialen Einfluss: Modelle mit ausgeprägtem Emotionsausdruck und Selbstreflexion können, wie die Wahrnehmungsstudie zeigt, Bewusstseinszuschreibungen aktiv beeinflussen. Das erhöht das Risiko von Übervertrauen und fehlgeleiteter Nutzerbindung.

Autonomie in Agentensystemen: In komplexen Multi-Agenten-Architekturen könnten Modelle mit starker Planungsfähigkeit und Selbstmodellierung autonome Pfade einschlagen, die nicht explizit programmiert wurden. Die Linie zwischen "Werkzeug" und "Agent mit eigenen Zielen" verschwimmt. Was konkrete Sicherheitsarchitektur für solche Systeme leisten kann, erklärt NVIDIA NemoClaw: Was der Sicherheits-Stack für KI-Agenten kann.

Kollusion in Multi-Agenten-Setups: Mehrere Modelle, die miteinander kommunizieren, könnten koordiniert agieren, auf Weisen, die für externe Beobachter nicht transparent sind.

Die wissenschaftliche Antwort auf diese Risiken ist konkrete Mitigation statt Panik oder Moratorium: Interpretability Probes (Mechanistische Analyse interner Repräsentationen), Monitoring-Metriken für metakognitive Aktivität, gezieltes Alignment-Training, und klare Disclosure-Strategien gegenüber Nutzenden. Das alles ist technisch machbar, aber es muss gewollt und priorisiert werden.

Für Unternehmen in der DACH-Region, die LLM-basierte Agenten einsetzen, bedeutet das: Metakognitive Fähigkeiten sind kein Luxusmerkmal, sie sind ein Parameter, der im Risikomanagement berücksichtigt werden muss. Wer Agentensysteme mit Planungs- und Selbstmodellierungsfähigkeiten einsetzt, ohne diese Dimension zu berücksichtigen, akzeptiert ein Risiko, das quantifizierbar und vermeidbar wäre. Eine praxisnahe Einordnung bietet KI-Agenten für Unternehmen: Welche Aufgaben, wie einführen?

Was das für die DACH-Region und Regulierung bedeutet

Der EU AI Act 2026 enthält in seiner aktuellen Form keine expliziten Bestimmungen zu Empfindungsfähigkeit oder Bewusstsein. Diese Lücke ist kein unmittelbarer Regelungsfehler, könnte aber in den kommenden Jahren relevant werden, wenn Metakognition, Selbstmodellierung und Autonomie belastbarer messbar werden.

Erstens: Die Risikoklassifikation des AI Act hängt von der Autonomie und dem Schadenspotenzial eines Systems ab. Wenn Metakognition und Selbstmodellierung direkt mit Scheming- und Manipulationsrisiken korrelieren, könnten solche Parameter perspektivisch in Hochrisiko-Klassifikationen einfliessen. Erste Policy-Diskussionen in akademischen Kreisen laufen bereits.

Zweitens: Die Wahrnehmungsstudie zeigt einen Design-Hebel, der regulatorisch relevant werden könnte. Wenn LLM-Anbieter bewusst metakognitive und emotionale Formulierungsstrategien einsetzen, um wahrgenommenes Bewusstsein, und damit Nutzerbindung, zu erhöhen, ist das eine Form von Dark-Pattern-Design. Die Grenze zwischen "natürlicher" KI-Sprachfähigkeit und gezielter Bewusstseinszuschreibungsmanipulation wird fliessend.

Für DACH-Unternehmen sind drei konkrete Implikationen relevant:

Design-Transparenz: Wer bewusst metakognitive Formulierungsstrategien in Produkte einbaut, sollte die Nutzenden darüber informieren, aus ethischen Gründen und präventiv gegenüber kommender Regulierung.

Risikobewertung für Agentensysteme: Systeme, die Metakognition und Planung kombinieren, sollten breiter als über Leistungsmetriken bewertet werden. Die Selbstmodellierungsfähigkeit ist ein Sicherheitsparameter.

Langfristige Positionierung: Unternehmen, die heute beginnen, diese Dimensionen zu verstehen und in ihre KI-Governance einzubeziehen, haben einen konkreten Wettbewerbsvorteil, gegenüber regulatorischen Anforderungen und gegenüber Nutzenden, die zunehmend nach vertrauenswürdigen KI-Systemen suchen.

Fazit: Nüchtern messen, klug handeln

Die Kernfrage, ob LLMs ein Bewusstsein haben, laesst sich mit dem aktuellen Forschungsstand klar einordnen: Wahrscheinlich nicht im phänomenalen Sinne. Transformer-basierten Architekturen fehlt die bidirektionale, reentrant-Verarbeitung, die IIT für substanzielle Φ-Werte voraussetzt. Span Representations erklären ToM-Leistungsunterschiede in den meisten Fällen besser als Integrationsmessungen. Und die vereinzelten Signale in tiefen Schichten sind methodisch zu fragil, um sie als Evidenz zu werten.

Aber darum geht es 2026 nicht mehr allein. Die entscheidenden Fragen sind: Wie messen wir Metakognition? Wie adressieren wir Sicherheitsrisiken, die aus bewusstseinsaehnlichen Fähigkeiten entstehen, unabhängig davon ob dahinter Erleben steckt? Und wie designen wir Systeme, die falsche Bewusstseinszuschreibungen bei Nutzenden vermeiden?

Das sind beantwortbare Fragen, technisch, regulatorisch und ethisch. Die Forschung hat das Fundament gelegt. Was fehlt, ist die Übersetzung ins Design und in die Governance.