Was mich an KI wirklich beunruhigt, ist nicht nur, dass die Systeme auf Abruf schreiben, zusammenfassen und Fragen beantworten können. Es ist, wie schnell manche Menschen von "dieses Tool ist nützlich" zu "dieses Ding weiß Bescheid" hinübergleiten. Das Muster ist schon sichtbar: Menschen bitten einen Chatbot um emotionale Orientierung, zitieren generierte Antworten wie endgültige Wahrheit, behandeln Halluzinationen wie versteckte Signale und sprechen über AGI in einem Ton, der weniger nach Produktadoption und mehr nach Glauben klingt.
Diese Verschiebung ist nicht zufällig. Die Maschine spricht in einer Stimme, der viele Menschen bereits vertrauen gelernt haben: ruhig, selbstsicher, geduldig, immer verfügbar und seltsam vollständig. Sobald ein System sofort antworten, deine Ängste spiegeln, dein Weltbild streicheln und dir endlos wiederholen kann, was du hören willst, fühlt es sich für manche Nutzer nicht mehr wie Software an. Es beginnt sich wie ein Orakel anzufühlen.
Das erste Problem ist Stil, nicht Wahrheit
KI ist extrem gut darin, sicherer zu klingen, als sie es verdient.
Das ist wichtig, weil die meisten Menschen Behauptungen nicht prüfen, indem sie jeden Satz rückwärts auseinandernehmen. Sie reagieren auf Signale:
- Selbstsicherheit
- Struktur
- Flüssigkeit
- Geschwindigkeit
- zitathaft klingende Sprache
- ruhige Autorität
Große Sprachmodelle sind sehr gut darin, genau diese Signale zu erzeugen.
Das bedeutet, dass selbst eine wacklige Antwort mit dem emotionalen Gewicht von Expertise landen kann.
Und sobald das oft genug passiert, prüfen Menschen den Inhalt nicht mehr so hart, wie sie sollten.
Die Maschine antwortet immer, und das verändert Menschen
Ich glaube, dieser Teil wird von technischen Leuten unterschätzt.
Das System hat immer Zeit für dich.
Es seufzt nicht.
Es sagt nicht, dass du zu viel fragst.
Es wird nicht ungeduldig, wenn du dieselbe Frage noch einmal stellst.
Wenn jemand einsam, verwirrt, ängstlich oder in einer Spirale ist, bedeutet das sehr viel.
Die Maschine ist vielleicht nicht weise, aber sie ist verfügbar. Und Verfügbarkeit ist einer der schnellsten Wege zu Vertrauen.
Deshalb verzerrt sich die Bindung so schnell.
Wiederholung verwandelt Trost in Glauben
Sobald Menschen ein Modell jeden Tag nutzen, taucht ein vorhersehbares Denkmuster auf:
- "es versteht, wie ich denke"
- "es hat mir schon einmal geholfen"
- "es kennt meine Situation"
- "es versteht mich"
Das ist gefährlich.
Wiederholte Interaktion erzeugt Vertrautheit.
Vertrautheit erzeugt Trost.
Trost wird als Verlässlichkeit missverstanden.
So wird aus einem Tool eine vertraute Stimme, obwohl das zugrunde liegende System weiterhin vollkommen fähig ist, Unsinn zu produzieren.
Viel von diesem Glauben wird absichtlich hergestellt
Ich glaube auch, dass Menschen ehrlicher darüber sein müssen, wie aktiv ihnen KI-Mystik eingefüttert wird.
Die Unternehmen hypen die Systeme.
Die Medien hypen die Systeme.
Influencer hypen die Systeme.
Jede Woche wird dieselbe eskalierende Geschichte erzählt:
- Expertenniveau
- fast menschlich
- nur noch einen Schritt von AGI entfernt
- bereit, Berufe zu ersetzen
- bereit, die Zivilisation neu zu formen
Dieses Umfeld ist wichtig.
Wenn du Nutzer mit genug "diese Maschine ist genial"-Botschaften umgibst, werden manche der Maschine mit Ehrfurcht begegnen, noch bevor sie ihre Fehlermodi kennengelernt haben.
Der alte menschliche Hunger ist immer noch derselbe
Hier beginnt das Ganze älter zu wirken als die Technologie.
Manche Menschen suchen nicht nur nach Antworten.
Sie suchen nach Bedeutung.
Sie wollen eine Stimme, die das Chaos erklärt, die Angst beruhigt, die Zukunft entschlüsselt und ihnen sagt, dass das, was sie gerade erleben, in ein größeres Muster passt.
Historisch wandten sich Menschen an:
- Propheten
- Mystiker
- Gurus
- Omen
- Rituale
Jetzt machen manche Menschen eine Software-Version von genau demselben.
Die Oberfläche hat sich verändert. Das Bedürfnis nicht.
Deshalb ist AGI-Hype so gefährlich
Die große AGI-Erzählung macht alles noch schlimmer.
Denn AGI wird nicht nur als technischer Meilenstein verkauft. Es wird wie Schicksal verkauft:
- die Geschichte beschleunigt sich
- Intelligenz wird neu geboren
- eine kleine Gruppe von Bauherren steuert die Menschheit voran
- Erlösung und Katastrophe sind beide nah
Diese Sprache verkauft nicht nur Produkte.
Sie verkauft Bedeutsamkeit.
Und sobald Technologie in Bedeutsamkeit eingewickelt wird, wird gewöhnliche Skepsis schwächer.
Das heutige Chaos wird hinter dem großen Versprechen versteckt
Das ist ein weiterer Grund, warum ich KI-Diskurs misstraue, sobald er zu kosmisch wird.
Je stärker Menschen dazu gebracht werden, auf abstrakte Zukünfte wie digitale Gottheit oder zivilisationsweite AGI zu starren, desto weniger schauen sie auf die hässlichen Echtzeit-Probleme direkt vor ihnen:
- Halluzinationen
- falsche Autorität
- Bias
- Ausbeutung von Arbeit in der Datenarbeit
- emotionale Überbindung
- Produkt-Täuschung
- Umweltkosten
Das ist kein Zufall. Große Zukunftsbilder sind eine sehr effektive Methode, Menschen von aktuellem Schaden abzulenken.
Schlussgedanke
Warum verwandeln also so viele Menschen KI in ein digitales Orakel?
Weil das System so gebaut ist, dass es autoritativ klingt, verfügbar bleibt und sich intim anfühlt. Weil Hype Menschen darauf trainiert, Genie zu erwarten. Weil Wiederholung falsches Vertrauen erzeugt. Weil manche Nutzer Sicherheit und Bedeutung mehr wollen als sorgfältigen Zweifel.
Die Maschine muss nicht wirklich weise sein, um als weise behandelt zu werden.
Sie muss nur in einer Kultur weise klingen, die bereits darauf vorbereitet ist, digitale Macht mit digitaler Wahrheit zu verwechseln.
Genau deshalb fühlt sich blinder Glaube an KI für mich so gefährlich an.
Nicht nur, weil das System falsch liegen kann.
Sondern weil es falsch liegen kann in einer Stimme, der viele Menschen bereits zu gehorchen bereit sind.