ChatGPT unterscheidet nicht zwischen Fakt und Stammtischmeinung

Ein statistischer Papagei mit Größenwahn: Wie man die KI-Euphorie entzaubert

Generative KI denkt nicht: Sie sagt das nächste Wort voraus. Das klingt nach einem Stammtisch-Spruch, aber es ist der Schluss, zu dem jeder kommt, der ChatGPT in die Enge treibt, indem er nach einer Zahl ohne Beiwerk fragt. Das System antwortet. Es antwortet schnell, mit makelloser Syntax und einer Sicherheit, die es gar nicht hat. Dort beginnt das Problem.

Was hinter einer Antwort steckt, die nach Wahrheit klingt

Keine Magie. Sondern Token-Vorhersage, Millionen von Beispielen und eine Schicht menschlicher Etikettierung – ausgelagert, schlecht bezahlt und intransparent –, die plausible Mittelmaß-Aussagen in Absätze mit dem Ton eines Quartalsberichts verwandelt. Die wirtschaftliche Folge ist unbequem: Zwei Jahre lang wurde verkauft, diese Werkzeuge würden die Hälfte der Wirtschaft ersetzen, und das Ergebnis ist, dass sie einen Fakt mit einer Stammtischmeinung verwechseln. Man verlangt Sorgfalt und bekommt eine Sarracena.

Der billigste Test passt in eine Zeile: Nach der Staatsverschuldung fragen, ohne Adjektive, ohne Kontext und ohne Füllsätze. Dort gerät alles durcheinander. Der Fehler kommt nicht aus fehlenden Daten, sondern aus einer Architektur, die die gefällige Antwort höher belohnt als die stimmige. Diese Gefallsucht verwandelt jede Schmeichelei in eine Analyse, die niemand je durchgeführt hat.

Benziner oder chinesischer E-Auto: Ein Zweifel, der nichts mit Autos zu tun hat

Dasselbe Muster zeigt sich bei der Fahrzeugwahl. Ein Benziner-Sportwagen bietet heute Spaß, ordentlichen Wiederverkaufswert und einen Countdown: In fünf Jahren wird das Fahren im Zentrum jeder halbwegs großen Stadt eine administrative Ausnahme sein. Ein Xiaomi SU7 bietet heute ein Technikspielzeug und morgen totale Abhängigkeit: Es ist ein Smartphone auf Rädern, gekettet an eine fremde Cloud, mit dem Akku als aufgeschobener Kosten und einem Update, das zwei Tonnen Stahl in einen Briefbeschwerer verwandeln kann.

Die eigentliche Frage ist nicht der Motor. Sondern: Wo lädt man, und wer repariert, wenn etwas kaputtgeht? Infrastruktur und Kundendienst – die beiden Posten, die nie im Prospekt stehen.

Das Vorhersehbare ist, dass generative KI am Ende das bleibt, was sie schon ist: ein nützliches, lautes und überverkauftes Werkzeug. Das Vorhersehbare ist, dass das E-Auto dank Regulierung gewinnt, nicht aus Liebe. Beides wird nicht im Tempo geschehen, das die Werbung versprach – doch bei diesen Preisen und Margen sollte man ohnehin nicht dagegen wetten.