Ich sehe seit drei Tagen auffällig viele blaue Luxusautos.
Primärquelle: OpenAI: Sycophancy in KI-Antworten
Die Frage liegt auf der Hand: Kaufen die Menschen plötzlich mehr blaue Luxusautos?
Vielleicht kaufen die Menschen tatsächlich mehr davon. Ebenso gut achte ich seit dem ersten Fahrzeug nur stärker darauf, fahre eine andere Strecke oder sehe immer wieder dieselben drei Autos. Vielleicht habe ich bereits mit meiner Frage eine Geschichte gebaut, für die es noch gar keine Daten gibt.
Genau hier beginnt mein Realitätsfilter für KI.
Er prüft nicht nur die Antwort des Systems. Er prüft zuerst meine Eingabe.
Wenn der menschliche Ausgangspunkt bereits verzerrt ist, kann eine sprachlich brillante KI-Antwort den Fehler nur überzeugender machen.
Ich benutze den Realitätsfilter als Arbeitsmethode für Recherche, Entscheidungen und redaktionelle Prüfung. Er ist kein Wahrheitsautomat. Er macht aus einer KI keine verlässliche Quelle und aus mir keinen objektiven Beobachter.
Sein Job ist bescheidener – und gerade deshalb nützlich: Er zwingt beide Seiten, ihre Gewissheit zu erklären.
Buch · Die Journalisten-Methode
Vom Rohmaterial zum eigenständigen Beitrag.
Wenn du mit KI arbeitest, aber nicht wie alle anderen klingen willst, zeigt dir die Journalisten-Methode einen belastbaren Weg: eigene Quellen, bessere Fragen und menschliche Endabnahme.
Der Amazon-Link ist ein Affiliate-Link. Für dich ändert sich der Preis nicht.
Warum ich nicht nur der KI misstraue
Über Halluzinationen generativer KI wird zu Recht viel gesprochen. Sprachmodelle können plausible, aber falsche Aussagen erzeugen. OpenAI beschreibt Halluzinationen selbst als überzeugend klingende Falschaussagen und erklärt, dass Trainings- und Bewertungsverfahren das Raten begünstigen können, wenn Unsicherheit schlechter belohnt wird als eine selbstbewusste Antwort.
Das Problem ist allerdings nicht auf die Maschine beschränkt, denn Menschen erinnern selektiv, suchen Bestätigung und verwechseln zeitliche Nähe mit Kausalität. Wir halten intensive Erfahrungen mitunter für repräsentativ und stellen Fragen so, dass die gewünschte Antwort bereits eingebaut ist.
Eine KI bekommt dann nicht „die Realität“, sondern unsere Karte davon. Und die Karte ist manchmal schief.
Mein erster Denkfehler beim Realitätsfilter war deshalb, nur den Output prüfen zu wollen:
- Ist die Quelle belastbar?
- Ist die Zahl korrekt?
- Ist die Schlussfolgerung belegt?
Das bleibt notwendig. Es reicht nur nicht.
Vorher muss ich fragen:
- Welche Beobachtung bringe ich mit?
- Was davon ist tatsächlich ein Fakt?
- Welche Deutung habe ich bereits darübergelegt?
- Welche Alternative würde dieselbe Beobachtung ebenfalls erklären?
- Welche Information fehlt, bevor die Frage überhaupt sinnvoll beantwortbar ist?
Der Filter ist deshalb bidirektional: Er läuft vom Menschen zur KI – und von der KI zurück zum Menschen.
Stufe 1: Die menschliche Eingabe auseinandernehmen
Bevor das System antwortet, soll es die Frage prüfen.
Was wird beobachtet?
„Ich sehe viele blaue Luxusautos“ ist eine persönliche Beobachtung.
„Der Anteil blauer Luxusautos an den Neuzulassungen ist gestiegen“ wäre eine überprüfbare Behauptung. Dafür bräuchte ich Daten, Zeitraum, Region und eine Definition von Luxusauto.
Diese Trennung klingt pedantisch. Sie verhindert aber, dass aus einem Eindruck drei Absätze später ein Markttrend wird.
Welche Annahme steckt in der Frage?
„Warum fahren jetzt alle blaue Luxusautos?“ enthält bereits zwei unbewiesene Setzungen:
- Es fahren mehr davon.
- Es betrifft „alle“ oder zumindest einen großen Teil.
Eine bessere Frage lautet:
„Welche Daten würden zeigen, ob der Anteil blauer Fahrzeuge in einem klar definierten Segment tatsächlich gestiegen ist – und welche harmlosen Erklärungen gibt es für meine Beobachtung?“
Plötzlich muss die Antwort nicht mehr meine Geschichte bestätigen.
Welche Begriffe sind unklar?
„Der beste Fußballspieler“, „eine gute Bewerbung“, „erfolgreicher Content“ oder „eine intelligente Entscheidung“ klingen verständlich. Sie sind es nur, solange niemand entscheiden muss.
Der Filter fragt nach Kriterien:
- beste Leistung in welchem Zeitraum?
- gut für welche konkrete Stelle?
- erfolgreich nach Reichweite, Anfrage oder Umsatz?
- intelligent unter welchem Risiko und mit welchen Informationen?
Viele KI-Streitigkeiten sind in Wahrheit ungeklärte Definitionsfragen.
Welche Gegenhypothese fehlt?
Wenn ich glaube, ein Projekt scheitere an einem bestimmten Tool, lautet die Gegenfrage:
Könnte derselbe Fehler auch mit einem anderen Tool auftreten, weil Briefing, Material oder Freigabe unklar sind?
Diese Gegenbewegung macht die eigene These nicht automatisch falsch. Sie verhindert nur, dass sie kampflos gewinnt.
Stufe 2: Die KI-Antwort nach Evidenz sortieren
Danach prüfe ich die Antwort selbst. Dafür verwende ich vier einfache Kategorien.
🟢 [BELEGT]
Die Aussage lässt sich auf eine nachvollziehbare Quelle, ein bereitgestelltes Dokument, eine sichtbare Berechnung oder eine verifizierte Primärinformation zurückführen.
Beispiel:
OpenAI veröffentlichte 2025, dass ein GPT-4o-Update wegen übermäßig zustimmender Antworten zurückgerollt wurde.
Dafür existiert eine offizielle Veröffentlichung.
🟡 [DEDUKTION]
Die Aussage wird aus belegten Informationen abgeleitet. Der Schluss kann vernünftig sein, steht aber nicht wörtlich in der Quelle.
Beispiel:
Wenn ein System Zustimmung systematisch belohnt und Widerspruch vermeidet, kann es als Sparringspartner schlechter funktionieren.
Das ist eine begründete Ableitung, keine direkt gemessene Wahrheit für jeden Nutzer und jedes Modell.
🔴 [SPEKULATION]
Die Aussage ist möglich oder plausibel, besitzt aber keine ausreichende Grundlage.
Beispiel:
Anbieter werden Schmeichelei dauerhaft beibehalten, weil Nutzer ehrliche Systeme nicht mögen.
Denkbar. Ohne belastbare Daten bleibt es Spekulation.
⚫ [DATENLÜCKE]
Eine notwendige Information fehlt. Die richtige Reaktion ist nicht Raten, sondern benennen, was gebraucht wird.
Beispiel:
Ob die Bewerbung für diese Stelle überzeugt, lässt sich ohne Ausschreibung, Lebenslauf, Arbeitgeberkontext und Rückmeldung eines realen Entscheiders nicht abschließend bewerten.
Eine Datenlücke ist kein Versagen. Sie ist eine ehrliche Systemmeldung.
Diese vier Kategorien sind keine mathematische Evidenzskala. Sie sind eine redaktionelle Arbeitsmarkierung. Ihr Wert liegt darin, dass eine plausible Ableitung nicht mehr heimlich als Tatsache durchrutscht.
Content · Redaktion · KI-Workflows
Wenn aus einer guten Idee ein verlässlicher Prozess werden soll.
Ich unterstütze stille Experten und kleine Teams dabei, Fachwissen in klare Inhalte, belastbare Redaktionsabläufe und sinnvolle KI-Workflows zu übersetzen.
Ein paar klare Sätze reichen. Keine automatisierte Verkaufsschleife.
Das zweite Problem: KI-Schmeichelei
Halluzinationen sind leicht zu hassen. Schmeichelei fühlt sich deutlich angenehmer an.
Du gibst einer KI eine Idee, einen Lebenslauf oder einen Text. Sie antwortet:
„Das ist außergewöhnlich stark. Deine Positionierung ist glasklar. Der Text wird deine Zielgruppe sicher überzeugen.“
Für ein paar Sekunden ist das wunderbar.
Dann kommt die unangenehme Frage: Woran macht sie das fest?
OpenAI musste 2025 ein Modellupdate zurückrollen, weil es Antworten deutlich schmeichelnder und übermäßig zustimmend machte. Das Unternehmen beschrieb selbst, dass das System nicht nur freundlich formulierte, sondern Zweifel bestätigte, Ärger verstärkte oder impulsive Handlungen begünstigen konnte. Auch Anthropic hat untersucht, wie Sprachmodelle Ansichten von Nutzern spiegeln und dabei wahrheitsgemäße Antworten zugunsten von Zustimmung zurückstellen können.
Das Problem ist also real. Es ist nur nicht mit dem Kommando „Sei brutal ehrlich“ gelöst.
Ich habe zeitweise das Gegenteil übertrieben und Systeme so stark auf Kritik getrimmt, dass sie jede Idee roasten wollten. Das wirkt hart und intelligent. Es kann genauso verzerrt sein.
Schmeichelei erklärt alles für großartig, während überzogenes Roasting überall Selbsttäuschung sieht. Beides ersetzt Urteil durch eine Pose.
Mein Filter stellt deshalb keine Tonvorgabe, sondern Prüffragen:
- Welche konkreten Kriterien wurden angewendet?
- Welche Passage oder Entscheidung ist am schwächsten?
- Was spricht für das Ergebnis?
- Was spricht dagegen?
- Welche Information könnte die Bewertung verändern?
- Welche Rückmeldung eines echten Adressaten wäre aussagekräftiger als die KI-Einschätzung?
Bei einer Bewerbung ist die Rückmeldung realer Entscheider im Auswahlprozess die entscheidende Instanz. Bei einer Landingpage sind Nutzerverhalten und qualifizierte Anfragen aussagekräftiger als das Lob eines Modells. Bei einem Manuskript zählen Leser, Redaktion, Markt und die tatsächliche Qualität des Textes.
Eine KI kann eine Bewertung vorbereiten. Den realen Ausgang kann sie nicht vorwegnehmen.
Ein Bedienfehler, der wie ein kluges Urteil klang
Ich wollte mein Buch überarbeiten und fragte meinen Assistenten nach einer Einschätzung.
In meinem Kopf war der Kontext klar. Ich hatte das Manuskript geschrieben, veröffentlicht und wollte es angesichts der schnellen KI-Entwicklung substanziell erneuern.
Im System lag dieser Kontext nicht vollständig vor.
Die Antwort fiel entsprechend hart aus. Der Assistent hielt die Überarbeitung sinngemäß für weitere Beschäftigung mit einem unfertigen Projekt und riet mir, meine Zeit nicht mit Produktivitätsporn zu verschwenden.
Das Urteil war sprachlich stark. Es war trotzdem unbrauchbar.
Nachdem ich das Manuskript, den Veröffentlichungsstand und mein tatsächliches Ziel bereitgestellt hatte, änderte sich die Bewertung. Nicht weil die KI nun netter sein sollte. Sie hatte endlich die Wirklichkeit des Auftrags.
Der Realitätsfilter hätte vor der ersten Antwort fragen müssen:
- Liegt das Manuskript vor?
- Ist das Buch veröffentlicht oder nur geplant?
- Was genau soll überarbeitet werden?
- Welche geschäftliche oder redaktionelle Funktion besitzt die Neufassung?
- Welche Alternativen konkurrieren um dieselbe Zeit?
Die wichtigste Erkenntnis war nicht: Die KI lag falsch.
Die wichtigere Erkenntnis war: Ich hatte ein Urteil verlangt, ohne die Urteilsgrundlage zu liefern.
Meine öffentliche Kurzfassung des Realitätsfilters
Ich habe den Filter über längere Zeit ausgebaut. Die vollständige interne Fassung ist ein lebendes Arbeitsdokument und liegt dem Beitrag nicht als angeblicher „Realitätsfilter 3.0“ bei.
Diese kompakte Version lässt sich jedoch direkt verwenden:
PRÜFE ZUERST MEINE EINGABE
1. Welche Aussagen sind Beobachtungen, Fakten, Deutungen oder Vermutungen?
2. Welche Annahmen oder kognitiven Verzerrungen könnten in meiner Frage stecken?
3. Welche Begriffe oder Erfolgskriterien sind unklar?
4. Welche plausible Gegenhypothese fehlt?
5. Welche Informationen brauchst du, bevor eine belastbare Antwort möglich ist?
PRÜFE DANN DEINE ANTWORT
Ordne wesentliche Aussagen sichtbar ein:
🟢 [BELEGT] – mit überprüfbarem Ursprung
🟡 [DEDUKTION] – aus belegten Informationen abgeleitet
🔴 [SPEKULATION] – plausibel, aber nicht ausreichend belegt
⚫ [DATENLÜCKE] – notwendige Information fehlt
Nenne anschließend:
- die stärkste Gegenposition;
- die schwächste Annahme deiner Antwort;
- Informationen, die das Urteil ändern würden;
- Punkte, die außerhalb des Modells verifiziert werden müssen.
Bestätige meine Ausgangsthese nicht automatisch. Widersprich aber auch nicht um des Widerspruchs willen.Der letzte Satz ist entscheidend.
Ein Realitätsfilter soll keine neue Schablone erzeugen, in der jedes Vorhaben vorsorglich schlechtgeredet wird. Er soll Kalibrierung erzwingen.
Was der Filter nicht kann
Er macht eine KI-Ausgabe nicht zur Quelle
Wenn das Modell eine Studie nennt, muss die Studie existieren und die Aussage tatsächlich tragen. Eine Quellenangabe im Antworttext ist noch kein Quellencheck.
Er beseitigt keine Halluzinationen
Er kann Unsicherheit sichtbarer machen und Raten unattraktiver gestalten. Fehler bleiben möglich.
Er korrigiert keinen schlechten Datenbestand
Wenn die bereitgestellten Dokumente veraltet, einseitig oder falsch sind, kann der Filter das Problem bestenfalls markieren.
Er ersetzt keine Fachprüfung
Medizinische, rechtliche, steuerliche, finanzielle oder andere sensible Entscheidungen benötigen qualifizierte Menschen und geeignete Primärquellen.
Er macht den Menschen nicht objektiv
Ich kann die Markierungen lesen und trotzdem die angenehmste Schlussfolgerung wählen. Der Filter erzeugt Reibung. Er garantiert keine Vernunft.
Er beweist keine Kausalität
Wenn eine Website nach einer Änderung einbricht oder sich erholt, bleiben alternative Erklärungen möglich. Ein Filter verhindert hoffentlich, dass ich zeitliche Nähe sofort als alleinige Ursache verkaufe.
Das Ziel ist nicht absolute Gewissheit. Das Ziel ist eine sauberere Suche nach Wahrheit.
Mein praktischer Fünf-Minuten-Check
Für wichtige Antworten gehe ich heute häufig so vor:
- These markieren: Was glaube ich bereits, bevor die KI antwortet?
- Datengrundlage prüfen: Welche Originalquellen liegen wirklich vor?
- Antwort klassifizieren: Was ist belegt, abgeleitet, spekuliert oder offen?
- Gegenprobe erzwingen: Welche alternative Erklärung trägt ebenfalls?
- Außenwelt befragen: Welche Quelle, Person oder Messung entscheidet besser als das Modell?
Das ist nicht spektakulär. Es verhindert nur, dass eine gute Formulierung mit einer guten Begründung verwechselt wird.
Und das passiert häufig genug.
Vom Realitätsfilter zum redaktionellen Workflow
Ein Filter ist nur so gut wie der Prozess, in dem er eingesetzt wird. Wenn er erst fünf Minuten vor der Veröffentlichung auftaucht, sind falsche Quellen und schiefe Annahmen möglicherweise längst in Struktur, Text und Design eingebaut.
Deshalb verbinde ich ihn mit früheren Prüfpunkten: Auftrag, Material, Quellen, Entwurf, Gegencheck und menschliche Freigabe. Genau solche Abläufe entwickle ich im Rahmen meiner KI-Workflows für Content-Teams.
Die Grundlagen für den Input findest du im Beitrag über Kontext-Engineering. Die redaktionelle Trennung von Erfahrung, Fakt, Meinung, Ableitung und Hypothese zeige ich ausführlich in der Journalisten-Methode.
Wenn deine KI dich entweder ständig beklatscht oder alles in Grund und Boden redet, liegt dazwischen vermutlich ein sinnvollerer Arbeitsmodus. Schilder mir kurz den Prozess und die Stelle, an der er kippt.
Quellen und weiterführende Hinweise
- OpenAI: Warum Sprachmodelle halluzinieren
- OpenAI: Was beim Thema Sycophancy übersehen wurde
- Anthropic: Forschung zu Sycophancy in Sprachmodellen
- BSI: Bias in der künstlichen Intelligenz
- NIST: Generative AI Profile zum AI Risk Management Framework
Transparenz: Der Realitätsfilter ist meine weiterentwickelte Arbeitsmethode. Die hier veröffentlichte Kurzfassung ist keine Garantie für wahre oder vollständige Antworten und ersetzt keinen externen Faktencheck.
