ChatGPT vertrauen: Der Wasserflaschen-Fehler, der seine Grenzen zeigt

ChatGPT vertrauen: Der Wasserflaschen-Fehler, der das Vertrauen entkräftet

Letzte Woche stellte ein Nutzer ChatGPT eine Aufgabe aus der Elementarphysik: Wie viel wiegt das Wasser in einer handelsüblichen Flasche mit 33 Zentilitern bei 80 Grad? Die Antwort, scheinbar präzise berechnet, lautete 321 Gramm. Das Problem: Die Frage war ein Trick. Die Flasche ist verschlossen, die Masse ändert sich mit der Temperatur nicht. Das Modell lag jedoch nicht nur falsch, sondern lieferte auch noch eine fehlerhafte Erklärung und bot sogar an, im Detail zu erläutern, warum das Wasser beim Abkühlen fast 9 Gramm 'verliert'. Ein grober Fehler, der als Metapher für ein größeres Problem dient: das blinde Vertrauen in generative Künstliche Intelligenzen.

Warum ein probabilistisches Modell keine Wahrheitsmaschine ist

ChatGPT ist keine Datenbank, in der richtige Antworten nachgeschlagen werden. Es ist ein System, das das jeweils wahrscheinlichste nächste Wort im Kontext vorhersagt. Das bedeutet: Es kann Text mit voller Sicherheit generieren, selbst wenn der Inhalt falsch ist. Im Fall der Flasche wandte das Modell die Formel für die Dichte von Wasser bei 80 Grad (0,972 g/ml) an und rechnete 321 Gramm aus – und ignorierte dabei, dass die Masse in einem geschlossenen System unabhängig von der Temperatur ist. KI denkt nicht: Sie reproduziert statistische Muster. Und wenn das Muster falsch ist, ist das Ergebnis eine elegante, aber falsche Antwort.

Der Uhrzeit-Faktor: Beeinflusst sie die Qualität der Antworten?

Eine Hypothese, die unter erfahrenen Nutzern kursiert, besagt, dass die Qualität von ChatGPT je nach Tageszeit schwankt. Zwischen Mitternacht und 6 Uhr morgens, in den Nebenzeiten, habe das Modell Zugriff auf leistungsfähigere Versionen mit größerem Kontextfenster. In den Spitzenzeiten (von 6 Uhr morgens bis 22 Uhr) würden dagegen leichtere und generischere Modelle eingesetzt, was oberflächliche oder schlicht dumme Antworten erklären würde. Offizielle Belege gibt es nicht, doch die Beobachtung taucht immer wieder auf: Um 3 Uhr nachts scheint sich ChatGPT frühere Gespräche besser zu merken und liefert feinere Antworten. Am Mittag wird es zu einem generischen 'Bruder', der Selbstverständlichkeiten von sich gibt.

Die Notwendigkeit der Überprüfung: Prompt Engineering ist nicht unfehlbar

Prompt Engineering – Kontext liefern, Format verlangen, den Rahmen eingrenzen – reduziert die Unsicherheit, beseitigt sie aber nicht. Ein guter Prompt kann verhindern, dass die KI etwas erfindet, garantiert aber nicht, dass sie sich nicht irrt. Der Fehler mit der Wasserflasche ist ein perfektes Beispiel: Der Nutzer stellte keinen schlechten Prompt, sondern eine Fangfrage, die die KI nicht richtig interpretierte. Die Schlussfolgerung: Menschliche Überprüfung bleibt unverzichtbar. Wer sich bei Berechnungen, Daten oder Analysen ohne Gegenprüfung auf ChatGPT verlässt, geht ein Risiko ein, das er nicht eingehen sollte.

Das Risiko der Selbstüberschätzung: Wenn die KI über Menschen etwas erfindet

Ein weiteres aufschlussreiches Ereignis: Auf Fragen zu Nutzerprofilen aus Online-Communities hin erstellte das Modell generische und teils erfundene Zusammenfassungen. Statt zuzugeben, dass ihm Informationen fehlten, konstruierte es eine plausible Charakterisierung. Das ist besonders gefährlich, wenn KI als Quelle genutzt wird, um den Ruf einer Person einzuschätzen oder Entscheidungen auf Grundlage ungeprüfter Informationen zu treffen. KI unterscheidet nicht zwischen dem, was sie weiß, und dem, was sie sich vorstellt; sie generiert einfach kohärenten Text.

Die Schlussfolgerung ist unbequem: KI ist ein nützliches Werkzeug, aber kein Orakel. Der Fehler mit der Wasserflasche ist trivial, zeigt aber, dass Vertrauen bedingt sein muss. Das System funktioniert, weil ein Mensch es korrigiert. Ohne diese Korrektur ist KI nur ein Generator plausibler Texte, kein Generator von Wahrheit.