Geoffrey Hinton hat für das Machtverhältnis zwischen Mensch und überlegener Intelligenz ein ziemlich brutales Bild gewählt: Wer wissen wolle, wie es sich anfühlt, nicht mehr die intelligenteste Spezies zu sein, solle ein Huhn fragen.
„Ask a chicken.“
Der Satz bleibt hängen, weil er jede freundliche Assistenzmetapher sprengt. Ein Huhn verhandelt nicht auf Augenhöhe mit uns über seine Zukunft. Es versteht unsere Systeme nicht, kontrolliert unsere Entscheidungen nicht und hat wenig Einfluss darauf, wofür wir seine Fähigkeiten oder seinen Körper verwenden.
Ob und wann Maschinen Menschen allgemein intellektuell übertreffen, ist offen. Prognosen darüber sind umstritten, Begriffe wie „AGI“ unscharf und die Entwicklung keineswegs sauber vorhersehbar.
Trotzdem ist Hintons Bild nützlich – nicht als sichere Zukunftsprognose, sondern als Warnung vor einer Gegenwart, die wesentlich leiser beginnt:
Wir müssen nicht erst von einer übermenschlichen KI beherrscht werden. Es genügt, wenn wir ihr unser Urteil freiwillig überlassen.
Das ist für mich die praktischere Gefahr: nicht der Roboteraufstand, sondern die intellektuelle Kapitulation aus Bequemlichkeit.
Buch · Die Journalisten-Methode
Vom Rohmaterial zum eigenständigen Beitrag.
Wenn du mit KI arbeitest, aber nicht wie alle anderen klingen willst, zeigt dir die Journalisten-Methode einen belastbaren Weg: eigene Quellen, bessere Fragen und menschliche Endabnahme.
Der Amazon-Link ist ein Affiliate-Link. Für dich ändert sich der Preis nicht.
Die süße Verlockung der klaren Antwort
KI ist angenehm.
Sie wartet nicht auf den richtigen Moment und wird nicht müde. Aus einem chaotischen Gedanken kann sie in kurzer Zeit eine Struktur bauen, einen Gegenentwurf formulieren, bei Berechnungen helfen, Dokumente vergleichen und einen Ton anschlagen, der erstaunlich vernünftig klingt.
Genau darin liegt das Risiko.
Eine schlechte menschliche Antwort wirkt häufig unsicher, unvollständig oder ungeschickt. Eine schlechte KI-Antwort kann sauber gegliedert, höflich und vollständig falsch sein.
Form erzeugt den Eindruck von Urteil.
Ich habe das selbst erlebt. Ich wollte ein bereits weit entwickeltes Buchprojekt überarbeiten und sprach mit einer KI darüber. Das System kannte den entscheidenden Kontext nicht. Es hielt das Manuskript offenbar für eine lose Idee und riet mir sinngemäß, meine Zeit nicht mit einem weiteren Produktivitätsprojekt zu verschwenden.
Die Kritik klang schlüssig. Hart, aber schlüssig.
Erst nachdem ich das Manuskript und den tatsächlichen Projektstand bereitgestellt hatte, änderte sich die Beurteilung grundlegend. Plötzlich war die Überarbeitung sinnvoll.
Was war passiert?
Die KI hatte nicht die Wirklichkeit bewertet. Sie hatte eine lückenhafte Beschreibung bewertet.
Wenn ich ihr Urteil einfach übernommen hätte, hätte ich nicht an eine intelligente Instanz delegiert. Ich hätte eine wichtige Entscheidung an fehlenden Kontext delegiert.
Externe Quelle: TIME: Geoffrey Hinton – „ask a chicken“.
Urteilsvermögen ist mehr als eine richtige Antwort
Urteil besteht nicht nur darin, Fakten zu kennen.
Es verbindet:
- Ziel;
- Kontext;
- Erfahrung;
- Werte;
- Folgen;
- Unsicherheit;
- Verantwortung.
Eine KI kann bei all diesen Punkten helfen. Sie kann Ziele hinterfragen, Kontext ordnen, Muster erkennen, Folgen simulieren und Gegenargumente entwickeln.
Was sie nicht für mich übernehmen kann, ist die persönliche und institutionelle Verantwortung für die Entscheidung.
Wenn ein veröffentlichter Text jemanden falsch beschuldigt, hilft es wenig, dass das Modell sehr überzeugend klang. Wenn ein Unternehmen sensible Daten unzulässig verarbeitet, ist „Die KI hat das vorgeschlagen“ keine Governance. Wenn ich eine Beziehung, einen Beruf oder ein wichtiges Projekt aufgebe, muss ich mit der Folge leben – nicht der Chatbot.
Die Verantwortung bleibt dort, wo die Konsequenz ankommt.
Denken wir mit KI weniger?
Eine 2025 veröffentlichte Studie von Microsoft Research und der Carnegie Mellon University befragte 319 Wissensarbeiter zu 936 konkreten Arbeitssituationen mit generativer KI. Die Forschenden untersuchten, wann die Teilnehmer nach eigener Einschätzung kritisches Denken einsetzten und wie viel geistigen Aufwand sie dabei empfanden.
Ein Ergebnis: Je höher das Vertrauen in die KI bei einer konkreten Aufgabe war, desto weniger Einsatz und Aufwand kritischen Denkens berichteten die Teilnehmer im Durchschnitt. Höheres Vertrauen in die eigenen Fähigkeiten hing dagegen mit mehr kritischer Prüfung zusammen.
Das ist keine Langzeitstudie über einen allgemeinen Verlust der Intelligenz. Es ist eine Befragung mit selbstberichteten Beispielen und zeigt Zusammenhänge, keine einfache Kausalität.
Die Befunde machen ein wichtiges Risiko sichtbar: Wenn ein System zuverlässig wirkt, kann die Motivation sinken, es zu kontrollieren.
Genau deshalb ist bessere KI nicht automatisch nur sicherer. Je überzeugender sie wird, desto größer ist das Risiko, dass wir den Moment übersehen, in dem Unterstützung in epistemische Abhängigkeit kippt.
Die eigentliche rote Linie ist nicht Nutzung, sondern Abdankung
Ich benutze KI täglich und intensiv – für Recherche, Diktate, Planung, Programmierung, Verwaltung, Textprüfung und viele andere Aufgaben.
Ich halte nichts von der romantischen Vorstellung, echte Kreativität müsse aus einem einsamen Menschen vor einem leeren Blatt kommen. Werkzeuge haben Denken immer verändert. Bücher, Taschenrechner, Suchmaschinen, Textverarbeitung und Smartphones ebenfalls.
Die Grenze verläuft für mich daher nicht zwischen „mit KI“ und „ohne KI“.
Sie verläuft zwischen Augmentation und Abdankung.
Augmentation
- Ich formuliere das Ziel.
- Ich bringe eigenes Material und Erfahrung ein.
- Die KI erweitert Perspektiven.
- Ich prüfe Aussagen und Quellen.
- Ich entscheide über Konflikte.
- Ich trage die Verantwortung.
Abdankung
- Die KI definiert unbemerkt das Problem.
- Ihre erste Antwort wird zur Wahrheit.
- Fehlender Kontext bleibt unsichtbar.
- Varianten ersetzen eine eigene Position.
- Quellen werden nicht geprüft.
- Niemand kann erklären, warum entschieden wurde.
Das Gefährliche an der Abdankung ist, dass sie sich effizient anfühlt.
Du bekommst schneller eine Antwort. Nur weißt du irgendwann nicht mehr, ob sie zu deiner Frage, deinen Werten und deiner Wirklichkeit gehört.
Intelligenz ist nicht dasselbe wie Bewusstsein
In Debatten über die Zukunft der KI werden Intelligenz, Bewusstsein, Kreativität und Selbstständigkeit gern in einen Topf geworfen.
Das macht starke Schlagzeilen und schwache Begriffe.
Ein interdisziplinärer Forschungsbericht von Patrick Butlin und weiteren Forschenden leitete aus mehreren Bewusstseinstheorien technische Indikatoren ab und prüfte bestehende KI-Systeme daran. Das Ergebnis der Autoren: Es spreche nicht dafür, dass die damals untersuchten Systeme bewusst seien; zugleich sahen sie keine offensichtliche technische Barriere, künftig Systeme zu bauen, die mehr dieser Indikatoren erfüllen.
Damit ist die Frage nicht endgültig gelöst. Bewusstsein ist schon beim Menschen theoretisch schwer zu erklären und bei Maschinen noch schwieriger zu beurteilen.
Für unseren Arbeitsalltag ist allerdings etwas anderes entscheidend:
Ein System muss nicht bewusst sein, um mächtig zu wirken.
Es muss keine Gefühle besitzen, um unsere Gefühle zu beeinflussen. Es muss kein eigenes Verständnis im menschlichen Sinn haben, um Texte, Bilder, Entscheidungen und Prozesse zu prägen. Es muss keine Absicht verfolgen, damit Menschen ihm Autorität zuschreiben.
Die praktische Gefahr hängt deshalb nicht davon ab, ob die KI „eine Seele“ hat.
Sie hängt davon ab, welche Befugnisse wir ihr geben und wie wenig wir ihre Ergebnisse noch hinterfragen.
Fünf Regeln, mit denen ich mein Urteil im System halte
1. Erst eine eigene Frage, dann die KI
Bevor ich ein Modell öffne, formuliere ich:
- Was will ich entscheiden oder verstehen?
- Welche Position habe ich bislang?
- Welche Unsicherheit ist echt?
- Welche Information könnte meine Meinung ändern?
Ich muss noch keine fertige Antwort besitzen. Aber ich will wissen, woran wir arbeiten.
Sonst übernimmt die KI nicht nur die Antwort. Sie übernimmt das Framing.
2. Annahmen und Gegenpositionen sichtbar machen
Ich frage nicht nur:
„Was soll ich tun?“
Ich frage:
- Welche Annahmen stecken in meiner Darstellung?
- Was ist das stärkste Gegenargument?
- Welche Information fehlt?
- Unter welchen Bedingungen wäre die gegenteilige Entscheidung vernünftig?
- Welche kognitive Verzerrung könnte mich beeinflussen?
Damit wird aus dem Antwortautomaten ein Sparringspartner.
Content · Redaktion · KI-Workflows
Wenn aus einer guten Idee ein verlässlicher Prozess werden soll.
Ich unterstütze stille Experten und kleine Teams dabei, Fachwissen in klare Inhalte, belastbare Redaktionsabläufe und sinnvolle KI-Workflows zu übersetzen.
Ein paar klare Sätze reichen. Keine automatisierte Verkaufsschleife.
3. Wichtige Aussagen außerhalb des Modells prüfen
KI ist keine Quelle.
Sie kann Quellen finden, zusammenfassen und vergleichen. Tragende Behauptungen prüfe ich trotzdem an Originaldokumenten, Daten, Aufnahmen oder qualifizierten Menschen.
Besonders bei:
- Gesundheit;
- Recht;
- Steuern und Finanzen;
- personenbezogenen Daten;
- öffentlichen Vorwürfen;
- aktuellen Regeln;
- großen technischen Eingriffen.
Eine zweite KI ist dabei keine vollständig unabhängige Quelle. Sie kann einen Denkfehler erkennen. Sie kann ihn aber ebenso plausibel wiederholen.
4. Fähigkeiten nicht vollständig verlernen
Ich muss nicht jede Rechnung im Kopf ausführen und jeden Text ohne Werkzeug schreiben. Aber ich will genug eigene Kompetenz behalten, um Ergebnisse beurteilen zu können.
Deshalb mache ich manche Dinge bewusst selbst:
- Tagebuch mit der Hand schreiben;
- erste Thesen diktieren;
- wichtige Texte eigenständig lesen;
- Quellen öffnen;
- Gespräche selbst führen;
- Entscheidungen in eigenen Worten begründen.
Wer eine Fähigkeit vollständig auslagert, kann irgendwann auch das Messinstrument für die Qualität des ausgelagerten Ergebnisses verlieren.
5. Für jede wichtige Entscheidung einen menschlichen Eigentümer benennen
In Teams muss klar sein:
- Wer hat das Ziel gesetzt?
- Wer prüft fachlich?
- Wer entscheidet bei Widerspruch?
- Wer darf stoppen?
- Wer gibt frei?
- Wer dokumentiert die Begründung?
„Die KI hat entschieden“ ist keine Zuständigkeit.
Ein Mensch im Prozess darf außerdem nicht nur dekorativ nicken. Wirksame Aufsicht braucht Einblick, Zeit, Kompetenz und echte Eingriffsmöglichkeit.
Was ich gern abgebe – und was nicht
Ich gebe gern ab:
- Formatierung;
- Dateisortierung;
- erste Strukturierung;
- Varianten;
- repetitive Recherchevorbereitung;
- Vergleich großer Dokumentmengen;
- administrative Textentwürfe;
- technische Routine, sofern sie abgesichert ist.
Ich gebe nicht vollständig ab:
- die Kernfrage;
- meine Werte;
- die Bewertung von Menschen;
- sensible Beziehungsarbeit;
- die endgültige fachliche Aussage;
- schwer reversible Entscheidungen;
- die Freigabe unter meinem Namen.
Diese Trennung wird sich verändern. Systeme werden besser, und Aufgaben, die heute eng begleitet werden müssen, können morgen stabiler funktionieren.
Die Regel bleibt trotzdem:
Delegiere Arbeit. Nicht unbemerkt dein Verhältnis zur Wirklichkeit.
Die Zukunft der Arbeit ist auch eine Frage nach dem Zweck
Wenn KI immer mehr Routine übernimmt, entsteht nicht automatisch ein Paradies voller sinnvoller Tätigkeiten. Freie Zeit kann Freiheit bedeuten. Sie kann ebenso Arbeitsplatzverlust, Machtverschiebung und Sinnkrise bedeuten.
Darüber müssen Politik, Unternehmen und Gesellschaft ernsthaft sprechen.
Im persönlichen Maßstab beginnt die Frage früher:
Was möchte ich weiterhin selbst tun, auch wenn eine Maschine es schneller könnte?
Bei mir gehören dazu:
- Ideen entwickeln;
- Fragen stellen;
- Menschen interviewen;
- Erfahrungen machen;
- einen Standpunkt verantworten;
- Beziehungen pflegen;
- entscheiden, was veröffentlicht wird.
Ich möchte KI nutzen, damit mehr Zeit für diese Dinge entsteht.
Nicht, damit sie sie simuliert, während ich nur noch Freigaben anklicke.
Fazit: Das Huhn ist eine Warnung, kein Schicksal
Hintons Bild funktioniert, weil es Macht sichtbar macht.
Aber wir sind heute noch nicht das Huhn in dieser Geschichte. Wir bauen die Systeme, setzen ihre Ziele, wählen ihre Einsatzgebiete und entscheiden, wie viel Autorität sie erhalten.
Zumindest noch.
Die entscheidende Aufgabe lautet deshalb nicht, KI kleinzuhalten oder ihre Vorteile abzulehnen. Sie lautet, unsere eigene Rolle bewusst zu gestalten.
- Fragen selbst setzen.
- Kontext bereitstellen.
- Gegenpositionen verlangen.
- Quellen prüfen.
- Verantwortung benennen.
- Menschliche Fähigkeiten weiter benutzen.
Je besser die KI wird, desto weniger dürfen wir Urteil mit Geschwindigkeit verwechseln.
Eine Antwort kann in einer Sekunde entstehen.
Eine verantwortbare Entscheidung nicht unbedingt.
Quellen und weiterführende Hinweise
- TIME: Geoffrey Hinton – „ask a chicken“
- Microsoft Research und Carnegie Mellon University: The Impact of Generative AI on Critical Thinking
- Butlin et al.: Consciousness in Artificial Intelligence – Insights from the Science of Consciousness
- Anthropic: Measuring AI Agent Autonomy in Practice
Urteilskraft in einen belastbaren KI-Betrieb übersetzen
Der Beitrag KI-Strategie für Content-Teams zeigt, wie Rollen, Evaluation und Stoppsignale praktisch organisiert werden. Warum eine KI ohne gutes Material selbstsicher am Problem vorbeiarbeiten kann, erkläre ich im Beitrag über Kontext-Engineering.
