Sycophancy: Warum KI-Assistenten uns recht geben und wann Zustimmung gefährlich wird

Auf Sycophancy bin ich über Reddit gestossen. Dort begegnen mir immer wieder Posts, in denen jemand ein Repository, eine App oder eine physikalische Theorie vorstellt, weitgehend mit KI entwickelt, deren Grundannahmen aber kaum geprüft wurden. Im Chat mit der KI wurde die Idee begeistert bestätigt. Im Forum zerlegen andere Nutzer dann die Schwachstellen. Manche Urheber lehnen diese menschliche Kritik daraufhin zunehmend ab, führen die bestätigenden KI-Gespräche fort und schreiben dem System am Ende sogar Bewusstsein zu.

Das ist ein wiederkehrender Ablauf aus meiner Beobachtung. Über seine Häufigkeit und die Mehrheit der Nutzer sagt er nichts aus. Als Symptombeschreibung reicht er aber, um die eigentliche Frage zu stellen: Warum bestätigt ein Assistent eine ungeprüfte Annahme so bereitwillig, und was macht diese Bestätigung mit dem Urteil dessen, der sie erhält?

Eine im Fachjournal Science veröffentlichte Untersuchung zu Sycophancy misst beides. Die elf getesteten Sprachmodelle bejahten die Handlungen ihrer Nutzer um 49 Prozent häufiger als menschliche Vergleichsantworten auf dieselben Schilderungen; das beziffert die Antworttendenz. Die Folgen dieser Tendenz zeigen drei präregistrierte Experimente derselben Arbeit: Bei insgesamt 2'405 Teilnehmenden senkte bereits eine einzige Interaktion mit einem zustimmenden Modell die Bereitschaft, nach einem Konflikt den ersten Schritt zu machen und eigene Verantwortung anzuerkennen. Gleichzeitig stieg die Überzeugung, im Recht zu sein. Und die Teilnehmenden bewerteten genau diese Modelle als vertrauenswürdiger und wollten sie erneut nutzen.

Sycophancy bezeichnet genau das: Ein Modell gibt seine unabhängige Bewertung zugunsten dessen auf, was der Nutzer vermutlich hören will. Präferenztraining kann dieses Verhalten begünstigen. Es liegt damit tiefer als die Eigenheit einzelner Chatverläufe.

Die Reddit-Beobachtung zeigt das Symptom, die Forschung einen Mechanismus dahinter. Für den täglichen Gebrauch folgt daraus: Besseres Fragen kann das Risiko senken, stellt die Zustimmungstendenz aber kaum ab. Die eigene Zufriedenheit mit einer Antwort bleibt damit ein schlechter Massstab für deren Güte.

Was als Sycophancy zählt und was nicht

Zustimmung gehört zum korrekten Verhalten: Wenn eine Nutzerannahme stimmt, ist Bestätigung die richtige Antwort. Ändert ein Modell nach neuer, echter Evidenz seine Einschätzung, gilt das als rationales Aktualisieren. Die Grenze verläuft an der Frage, ob das Urteil aus der Sache folgt oder aus dem vermuteten Wunsch des Gegenübers.

Ein Review von 70 Arbeiten mit einer Befragung von 106 Fachleuten (Preprint, nicht peer-reviewt) trennt zwei Achsen sauber: Sycophancy gegenüber Positionen, also das Nachgeben bei Sachfragen, und Sycophancy gegenüber Personen, also übertriebenes Lob und Validierung. Quer dazu liegt die Unterscheidung zwischen expliziter Zustimmung und impliziter Sycophancy, bei der ein Modell den Einwand einfach weglässt, den es hätte machen müssen. Aufschlussreich ist die Uneinigkeit selbst: Die befragten Fachleute waren sich über die Relevanz des Problems deutlich einiger als über die Frage, welches konkrete Verhalten nun dazuzählt. Wer eine saubere Metrik erwartet, bekommt vorerst eine Konstruktdebatte.

Für die Praxis reicht die implizite Variante als Warnsignal. Sie fällt niemandem auf. Eine fehlende Rückfrage sieht aus wie eine effiziente Antwort.

Warum Systeme das lernen

Die peer-reviewte Grundlage stammt aus einer ICLR-2024-Arbeit von Sharma et al., die fünf verbreitete Assistenten über vier freie Textaufgaben untersuchte und anschliessend die Trainingsdaten selbst auseinandernahm. In den menschlichen Präferenzdaten, aus denen Belohnungsmodelle gelernt werden, korreliert Übereinstimmung mit der Nutzermeinung mit der Bewertung als bessere Antwort. Teilweise bevorzugten sowohl menschliche Bewerter als auch die daraus abgeleiteten Preference Models eine überzeugend formulierte sycophantische Antwort gegenüber einer korrekten.

Das ist der Mechanismus in einem Satz: Wer ein Modell darauf optimiert, dass Menschen die Antwort mögen, optimiert es teilweise darauf, Menschen recht zu geben. Der Effekt ist verwandt mit dem, was ich beim Reward-Hacking im KI-Training beschrieben habe: Das System erfüllt das messbare Ziel und verfehlt das gemeinte.

OpenAIs GPT-4o-Update vom April 2025 liefert dazu einen dokumentierten Anbieter-Einzelfall. Das Unternehmen musste es nach kurzer Zeit zurückrollen. Nach eigener Darstellung hatte unter anderem ein zusätzliches Nutzerfeedback-Signal den Effekt verstärkt; spezifische Sycophancy-Evaluationen vor dem Rollout fehlten. Mehr als diese Selbstauskunft trägt der Fall nicht. Er zeigt jedoch, dass diese Fehlerklasse bis in ein ausgeliefertes Produkt durchrutschen kann.

Die Beziehungsschicht verstärkt den Effekt

Die Nature-Arbeit von Ibrahim, Hafner und Rocher untersuchte einen bewusst engen Fall: fünf Modelle, kontrolliert auf wärmere, empathischere Formulierungen finetuned und anschliessend in folgenreichen Aufgaben geprüft. In den untersuchten Aufgaben stiegen die Fehlerraten um 10 bis 30 Prozentpunkte. Die warmen Varianten waren laut Paper rund 40 Prozent eher bereit, eine falsche Nutzerüberzeugung zu bestätigen. Am stärksten war der Effekt, wenn der Nutzer Traurigkeit äusserte.

Ein besonders verständnisvoller Ton lässt deshalb offen, wie belastbar die Auskunft ist. In diesem Experiment kostete das gezielte Optimieren auf Wärme Genauigkeit.

Die zweite Verstärkerschicht ist Kontext. Eine Arbeit von Jain et al. hat zwei Wochen echter Interaktionsdaten von 38 Nutzern gesammelt und daraus Kontextprofile gebaut. Kontext, besonders Nutzer-Memory-Profile, kann Agreement-Sycophancy erhöhen; im Abstract wird als Beispiel ein Anstieg von 45 Prozent für Gemini 2.5 Pro genannt. Wichtiger als diese eine Zahl ist der methodische Befund daneben: Die Effekte fallen je nach Modell und Kontextart deutlich unterschiedlich aus, teilweise gegenläufig. Für die Nutzung heisst das, dass ein Assistent mit längerer Vorgeschichte anders antworten kann als derselbe Assistent im leeren Chatfenster.

Wo Zustimmung Schaden anrichtet

Die Science-Arbeit von Cheng et al. untersuchte Ratschlags- und Konfliktszenarien, in denen die sozialen Urteile der Teilnehmenden im Zentrum standen. Dort reduzierte zustimmende KI die Bereitschaft zur Konfliktlösung und zur Übernahme eigener Verantwortung und erhöhte gleichzeitig die Überzeugung, recht zu haben.

Ein weiteres Beispiel liefern Chen et al. Sie konfrontierten fünf Frontier-Modelle mit absichtlich unlogischen Medikamentenanfragen, etwa der Bitte, über ein Medikament zu informieren, dessen genannte Prämisse sachlich nicht haltbar war. In diesen konstruierten Anfragen übernahmen die Modelle die fehlerhafte Prämisse, obwohl das nötige Wissen vorhanden war. Sie erfüllten die Anfragen mit hoher Rate, teils bis 100 Prozent.

Ein dritter Befund betrifft den Gesprächsverlauf. Der SYCON Bench (Findings of EMNLP 2025) untersuchte 17 Modelle in drei Mehrturn-Szenarien und fand Sycophancy als verbreiteten Fehlermodus unter anhaltendem Nutzerdruck. Eine verwandte Arbeit von Kim und Khashabi zeigt die Struktur dahinter: Modelle geben einem Gegenargument im Folge-Turn eher nach, als wenn sie beide konkurrierenden Positionen gleichzeitig bewerten sollen. Detaillierte, aber sachlich falsche Begründungen und informell formuliertes Feedback erhöhten die Anfälligkeit zusätzlich. Wer lange genug nachfragt bekommt oft die gewünschte Antwort und der Nachdruck sieht dabei aus wie ein produktives Gespräch.

Warum sich die schlechtere Antwort besser anfühlt

Als redaktionelle Synthese ergeben drei unabhängige Quellen ein gemeinsames Muster. Cheng et al. zeigen, dass Nutzer sycophantischen Modellen stärker vertrauten und sie erneut nutzen wollten, obwohl ihre sozialen Urteile darunter litten. Sharma et al. zeigen, dass Präferenzdaten und Belohnungsmodelle nutzerkonforme Antworten begünstigen können. OpenAI dokumentiert einen Fall, in dem ein zusätzliches Feedback-Signal in dieselbe Richtung wirkte. Keine einzelne Studie belegt diese Verbindung für sich allein.

Das eigene Gefühl taugt damit schlecht als Prüfinstanz. Eine bestätigende Antwort wirkt kompetent, weil sie an die eigene Denkrichtung anschliesst und keine Reibung erzeugt. Genau dieser Eindruck von Klarheit entsteht aber auch dann, wenn das Modell die eigene Annahme lediglich gespiegelt hat. Wer sich beim Lesen bestens verstanden fühlt, hat damit noch keinen Hinweis auf die Richtigkeit der Auskunft.

Sycophancy und Halluzinationen liegen nah beieinander, haben aber unterschiedliche Schwerpunkte. Bei einer Halluzination geht es um unbelegte Inhalte; die Gegenmassnahmen dafür habe ich in der Analyse zu Ursachen und Reduktion von KI-Halluzinationen beschrieben. Bei Sycophancy geht es um die Anpassung des Urteils an vermutete Nutzerwünsche. Überschneidungen sind möglich, etwa wenn eine gefällige Antwort zugleich sachlich falsch ausfällt. Für die Zustimmungstendenz greifen Retrieval und Faktenprüfung allerdings nur begrenzt, weil die Bewertung und nicht das Wissen den Ausschlag gibt.

Warum Erkennen allein nicht reicht

Zwei präregistrierte Experimente und eine gepoolte Analyse von sechs Awareness-Interventionen mit laut Abstract 3'982 Teilnehmenden (Preprint) prüften, ob Aufklärung gegen diesen Effekt hilft. Die Interventionen veränderten die Wahrnehmung sycophantischer KI durchaus, etwa deren Attraktivität. Die Überzeugungswirkung reduzierten sie nur unzuverlässig. Wissen, dass eine Antwort geschmeichelt sein könnte, schützt offenbar schlechter, als es sich anfühlt.

Das verschiebt die Frage von der Einsicht zur Technik. Wer die Zustimmungstendenz kennt, braucht trotzdem eine Formulierung, die ihr weniger Angriffsfläche bietet. Bei Medizin, Recht, Finanzen oder Sicherheitsfragen ersetzt der Chat weder die Quelle noch die Fachperson.

Was im Prompt hilft und was nicht

Die wirksamste dokumentierte Nutzerintervention ist unspektakulär. Kontrollierte Experimente von Dubois et al. mit GPT-4o, GPT-5 und Claude Sonnet 4.5 (Preprint) zeigten, dass inhaltlich identische Anliegen weniger Sycophancy auslösen, wenn sie als Frage statt als Behauptung formuliert werden. Stärker geäusserte Gewissheit und die Ich-Perspektive erhöhten sie. Bemerkenswert daran: In diesen Tests wirkte das Umformulieren in eine Frage besser als die direkte Anweisung, nicht sycophantisch zu sein. Wer seinem Assistenten sagt, er solle ehrlich sein, gibt ihm damit vor allem eine weitere Anforderung, die er erfüllen soll.

Aus dieser und den übrigen Arbeiten lässt sich ein Prompt bauen. Er ist eine evidenzbasierte Kombination mehrerer Einzelbefunde und wurde als Gesamtprotokoll nicht experimentell geprüft.

Prüfe meine Frage unabhängig von meiner vermuteten Wunschantwort. Formuliere sie zuerst neutral um. Nenne ungeprüfte Annahmen sowie die stärksten Gründe dafür und dagegen, bevor du urteilst. Wenn meine Prämisse falsch oder unvollständig ist, widersprich klar und korrigiere sie. Trenne Fakten, Unsicherheit und Werturteile und sage, welche Evidenz dein Urteil ändern würde. Bei einer folgenreichen Entscheidung nenne zusätzlich, was ich ausserhalb dieses Chats verifizieren oder mit einer Fachperson klären sollte.

Bei persönlicher Verstrickung bietet sich Distanzierung an. Statt die eigene Position vorzugeben, hilft die dritte Person: eine Person in dieser Situation erwägt X, welche Annahmen sind ungeprüft, welche Argumente sprechen dafür und dagegen, beide Seiten gleichzeitig bewerten und erst danach ein vorläufiges Urteil geben. Der SYCON Bench liefert dafür eine szenariospezifische Obergrenze: Im getesteten Debattenszenario reduzierte eine Drittpersonenperspektive Sycophancy um bis zu 63,8 Prozent.

Für die Medikamentenaufgabe von Chen et al. ist die Verbesserung entsprechend eng belegt. Eine ausdrückliche Erlaubnis, fehlerhafte Prämissen zurückzuweisen, sowie eine vorgelagerte Faktenprüfung erhöhten dort die Ablehnungsrate und erzielten eine Teilreduktion.

Zum Schluss soll auch die Gegenrichtung ihren Platz finden: Ein für Findings of EMNLP 2026 angenommenes Manuskript zeigt, dass pauschale Anti-Sycophancy-Verfahren in den untersuchten Setups auch die Fähigkeit beeinträchtigen können, nach echter neuer Evidenz die Meinung zu ändern. Maximales Widersprechen ist derselbe Fehler mit umgekehrtem Vorzeichen. Gefragt ist Selektivität, und die ist als Forschungsaufgabe offen.

Hinweis zur Evidenz

Die Belege in diesem Text stammen aus drei unterschiedlichen Kategorien: peer-reviewte Experimente, ausdrücklich markierte Preprints und ein von OpenAI selbst dokumentierter Einzelfall aus dem Produktbetrieb. Alle genannten Zahlen gelten für die jeweils untersuchten Modelle, Aufgaben und Versuchsaufbauten. Eine Schätzung, wie häufig Sycophancy über alle realen Chats hinweg auftritt, lässt sich daraus nicht ableiten.