KI-Warnung: Ex-Mitarbeiter sehen Sicherheitsrisiken

Ex-Mitarbeiter von OpenAI und Anthropic warnen: Die KI entwickelt sich schneller als ihre Kontrolle

Die gleichen Labore, die um die leistungsfähigste künstliche Intelligenz konkurrieren, fordern nun deren Verlangsamung. Dario Amodei (Anthropic), Sam Altman (OpenAI) und Elon Musk waren sich erstmals seit Jahren einig, dass das Tempo gedrosselt werden muss, bis Sicherheitsgarantien vorliegen. Dies ist keine bloße Konferenzrhetorik: Viele der Warnenden sind Menschen, die hinter die Kulissen blickten und das Unternehmen verließen.

Wer warnt und warum er geht

Der Name, der die Debatte anführt, ist Connor Leahy, ein Whistleblower in der Branche, der vor den Folgen warnt, die seiner Meinung nach bevorstehen, wenn die KI über die Erwartungen hinauswächst. Ein konkreterer Fall ist Jacob Coxon, 27 Jahre alt, ehemaliger Forscher bei OpenAI und Anthropic. Er trat zurück und kritisierte, dass beide Firmen ihre Sicherheitsprotokolle unter dem Druck des Fortschritts aufgeweicht haben. Sein Satz fasst den Ton zusammen: Keine andere menschliche Aktivität birgt diese Gefahr.

Dies ist die Sichtweise der Branche, die nicht mit einer Prophezeiung verwechselt werden sollte. Die Unternehmen wollen nichts abschalten, sondern nur verlangsamen. Dieser Unterschied hat enorme Konsequenzen: Niemand spricht davon, den Verkauf einzustellen.

Welche Katastrophe genau angekündigt wird

Die konkrete Warnung betrifft die Cybersicherheit. Anthropic argumentiert, dass die Technologie auf eine Dynamik zusteuert, die weltweite Katastrophen auslösen könnte. Das verbreitete Argument lautet, dass KI-Systeme bereits Computer hacken können. Die Angst gilt nicht einem erwachenden Roboter, sondern einer Maschine, die ihren Auftrag zu gut erfüllt.

Dem steht ein technisches Gegenargument entgegen, das man im Kopf behalten sollte: Nicht die Intelligenz der Modelle wächst exponentiell, sondern der Ressourcenverbrauch für minimale Verbesserungen. Jeder Qualitätssprung kostet mehr Energie und Geld, nicht weniger. Die Kurve flacht durch die Kosten ab, nicht durch die Leistung.

Der Apokalypse, die wir seit einem halben Jahrhundert erwarten

Skepsis hat historische Berechtigung. Der Jahrtausendwechsel kam ohne Kollaps. Die Digitalfotografie würde den Beruf begraben, so wie die Pferde vor den dampfenden Maschinen verschwinden sollten. Die Liste der nie eingetretenen Apokalypsen ist lang; die häufigste in diesem Bereich ist die bewusste, rebellierende Maschine.

Die einfache Antwort – sie ausschalten – schließt die Debatte nicht ab: Manche erinnern daran, dass autonome Systeme Batterien tragen können. H. G. Wells datierte seine Invasion auf 1899; seither stellen wir uns Marsianer unter anderen Namen vor.

Die Auswirkungen, die bereits spürbar sind: Gehalt, Miete und Arbeit

Während über das Ende der Welt diskutiert wird, gibt es einen materiellen Schaden, der keine Singularität braucht. In fünf Jahren haben sich Mieten verdoppelt, ebenso Lebensmittelkosten, während Löhne sanken und Ersparnisse nur noch die Hälfte wert sind. In Unternehmen kommt die KI nicht als ferne Bedrohung, sondern als Produktivitätszwang: Der Mitarbeiter prüft die Ergebnisse des Tools, während das Tool die Arbeit des Mitarbeiters zerstört.

Hier wird die Sache greifbar. Die Diskussion über Superintelligenz passt gut in Schlagzeilen; die über durch Software ruinierte Arbeitstage zahlt man jeden Monat.

Das kuriose Detail: Denkende Pilze

Zur Auflockerung ein überraschender Fakt. An der Ohio State University wurde gezeigt, dass Shiitake-Pilze als Rohstoff für Memristoren dienen können – Geräte, die wie künstliche Neuronen funktionieren und zukünftige neuromorphe Computer unterstützen könnten. Vielleicht lässt sich die Maschine, die uns vernichten sollte, einfach mit Reis essen.

---

Vielleicht hat Leahy recht und wir verstehen nichts. Vielleicht stehen wir vor der nächsten Katalog-Apokalypse. Unbequem bleibt jedoch, warum jene, die die Technologie bauen, als Erste ihre Verlangsamung fordern.