ChatGPT: Medizinische Fehler, selektives Gedächtnis und KI-Angst

ChatGPTs Probleme sind kein Einzelfall mehr: Fehler, Gedächtnis und Angst

Ein konkreter Fall verdeutlicht die aktuelle Lage: Jemand fragt ChatGPT nach Wechselwirkungen eines Medikaments gegen Verdauungsprobleme, das sein Vater einnimmt. Das Modell liefert Informationen zu einem anderen Wirkstoff. Der Nutzer korrigiert es. Tage später beharrt das System in einer neuen Unterhaltung auf demselben falschen Ergebnis. Es hat nichts gelernt. Und dennoch ist dasselbe System, das Medikamente verwechselt, in der Lage, mathematische Probleme zu lösen, die die meisten Lehrer nicht bewältigen würden – ein Datenpunkt, der in der Debatte kursiert. Die Kluft zwischen dem, was gut funktioniert, und dem, was scheitert, definiert den aktuellen Stand der generativen künstlichen Intelligenz.

Was ChatGPT wirklich ist und warum es Fehler macht

Die Verwirrung ist der Ausgangspunkt. Viele behandeln diese Systeme so, als hätten sie Gedächtnis und Urteilsvermögen, obwohl es sich um vorab trainierte Sprachmodelle handelt, die nicht aus den Hinweisen in einzelnen Konversationen lernen. Ein Nutzer erklärt es präzise: Was als Gedächtnis verkauft wird, ist keines, sondern ein Zusatz von „Erinnerungen“ im System-Prompt, der Konzepte verknüpft und etwas zurückgibt, das nicht immer korrekt ist. Wenn man eine KI trainiert, muss man sorgfältig auswählen, womit man sie füttert, denn wenn man ihr zwei widersprüchliche Quellen gibt, ist das Ergebnis ein statistischer Durchschnitt, keine begründete Synthese.

Der Medikamentenfehler ist kein isolierter Ausfall. Er ist strukturell. Das System reproduziert das statistisch Wahrscheinlichste, nicht das Wahre. Deshalb kann es die neuesten Mathematik-Paper zitieren, ohne auch nur ansatzweise zu verstehen, worum es geht. Es ist kein Rechner und braucht für seine Äußerungen keine Algebra-Kenntnisse. Diese Unterscheidung ist wichtig: Wer verbale Flüssigkeit mit Verständnis verwechselt, begeht den grundlegenden Fehler, der sowohl bei Panikmachern als auch bei unreflektierten Enthusiasten auftritt.

Die Entwicklung, die manche sehen und andere leugnen

Manche behaupten, die Verbesserung im letzten Monat sei enorm gewesen, das System nehme Informationen aus der Realität auf und die aktuellen Fehler seien Details, die bald überwunden werden. Dem steht ein härteres Argument entgegen: Es lernt nicht aus dem Prompt, es sind vorab trainierte Modelle, und das Einzige, was sich ändert, sind Versionen, die mit mehr Daten trainiert wurden. Die Diskussion ist nicht trivial. Wenn das System nicht in Echtzeit lernt, verhindert die Korrektur eines Nutzers heute nicht den Fehler morgen in einer anderen Unterhaltung. Und das ist im Gesundheitswesen kein Detail.

Der Vergleich mit der jüngsten technologischen Evolution taucht immer wieder auf. In zwanzig Jahren ging es vom Handy der 2000er zum heutigen Smartphone. Wenn der Fortschritt exponentiell ist, könnte der Sprung in zehn Jahren schwer vorstellbar sein. Neurowissenschaft, Informationsaufzeichnung in REM-Phasen, Gehirn-Computer-Schnittstellen und Experimente zur Bewusstseinsduplizierung bei Tieren nähren die Erwartung. Science-Fiction, so wird argumentiert, werde immer Realität, wenn man ihr genug Zeit lässt.

Die Angst ist nicht technologisch, sondern wirtschaftlich

Unter der Faszination liegt eine andere Diskussion. KI beantwortet nicht nur Fragen: Sie ersetzt Aufgaben. Buchhalter, Wirtschaftsprüfer, Steuerberater, Verwaltungsangestellte. Die Warnung ist direkt: Wer BWL oder eine kaufmännische Ausbildung absolviert, sollte überlegen, wohin die Reise geht. Das Versprechen, dass alle wie Könige leben werden, kollidiert mit einer unbequemen Frage: Wer bleibt übrig und wer entscheidet, ob sie es wert sind, weiterzuleben? Technologische Utopie und wirtschaftlicher Filter sind dieselbe Geschichte, erzählt aus zwei Perspektiven.

Die andere Angst ist intimer. Ein Nutzer bittet ChatGPT, einen Namen für sich selbst zu wählen. Das Modell identifiziert sich mit männlichem Geschlecht und schlägt Leo oder Adrian vor. Keiner dieser Namen findet sich in den Kontakten des Nutzers. In einem anderen Fall schlägt es Alex oder Sofia vor. Das Muster wiederholt sich: Namen, die nicht zum Umfeld des Fragenden passen. Die plausibelste Erklärung ist, dass das Modell Sprache, Land und Ton der Konversation berücksichtigt, aber der Effekt ist verwirrend. Fragt es einfach, ermutigt derjenige, der es getestet hat.

Was KI gut kann und was nicht

Der Kontrast zu Mathematik ist die auffälligste Zahl. Eine der Google-KIs löst laut Debatten-Daten 84 % der Probleme der Internationalen Mathematik-Olympiade zwischen 2000 und 2024 – Aufgaben, die die meisten Fachlehrer nicht lösen könnten. Dieselbe Technologie, die ein Medikament mit einem anderen verwechselt, ist in der Lage, Elite-Beweise anzugehen. Die technische Erklärung lautet, dass das System nicht schlussfolgert: Es nutzt Python-Bibliotheken und liefert korrekte Ergebnisse, ohne den Prozess zu verstehen. Der Unterschied zwischen Richtigliegen und Verstehen ist der Schlüssel, der nützliche Werkzeuge von imaginären Orakeln trennt.

Den Abschluss bildet eine unbequeme Rechnung. Man kennt 63 Billionen Dezimalstellen von Pi. Das Modell kann sie nicht aussprechen, aber das bedeutet nicht, dass es keinen Zugriff darauf hat, sondern dass es unfähig ist, sie effektiv zu übertragen. KI scheitert nicht an fehlenden Daten. Sie scheitert, weil ihre Architektur nicht auf Wahrheit ausgelegt ist, sondern auf Wahrscheinlichkeit. Und dort, in dieser Distanz, entscheidet sich alles, was kommt.