Anthropic-Chef warnt: KI könnte uns in zehn Jahren auslöschen

Dario Amodei: KI könnte uns in weniger als zehn Jahren „alle töten“

Dario Amodei, Vorstandsvorsitzender von Anthropic, hat dem Untergang ein Datum gegeben: Künstliche Intelligenz könnte uns in weniger als zehn Jahren „alle töten“. Das sagte er genau in der Phase, in der sein Unternehmen noch nicht an die Börse geht und Sam Altman den Börsengang von OpenAI nach Sicherheitswarnungen „auf dieses Jahr“ verschiebt. Die asiatischen Märkte und der US-Vorhandel rutschten ins Rote, SoftBank gab um mehr als 13 Prozent nach, und Donald Trump erledigte die Warnung mit zwei Sätzen: Wer die KI gewinnt, gewinnt.

Die Warnung kommt genau dann, wenn der Börsengang stockt

Dass die Botschaft ernst ist, bestreitet niemand. Was stört, ist das Timing. Amodei fordert eine Verlangsamung der Innovation bei den fortschrittlichsten Modellen, während weder Anthropic noch OpenAI an die Börse gegangen sind. Manche lesen das ohne Umschweife: Die Warnung sei keine Prophezeiung, sondern ein regulatorischer Burggraben mit Sponsoring. Übersetzt heißt das: Die Angst verkauft Alignment-Kurse, Beratung und vor allem Regeln, die maßgeschneidert sind für die, die das Fest ohnehin bezahlen. Der Vergleich, der kursiert, ist vernichtend: Es ist, als würde ein Immobilienunternehmer verkünden, dass die Preise steigen werden. Eigenwerbung mit Pressemitteilung.

Der ehrlichste Satz der ganzen Episode, so die Ironie, kam nicht aus San Francisco, sondern aus dem Weißen Haus: Wer die KI gewinnt, gewinnt. Und der bringt das Drehbuch der Labore durcheinander, denn deren Plan war, die kleinen Konkurrenten zu regulieren und den ganzen Kuchen selbst zu behalten.

Das echte Risiko ist nicht die Maschine, sondern wer sie bedient

An dieser Stelle bricht der Konsens auseinander. Ein Teil hält das existenzielle Risiko für real und vergleicht die Superintelligenz, mit den Worten eines Forschers, der bei OpenAI und Anthropic kündigte, mit dem Kontakt zu einer außerirdischen Zivilisation ohne jede Kontrolle. Dagegen steht ein anderes Argument: KI allein tötet und sabotiert nichts; töten tun die Hände, die sie steuern, und das Wissen, Schaden anrichten zu können, ist bereits weit verbreitet.

Die unbequemste Rechnung ist keine technische, sondern eine buchhalterische. Wenn von einer Billion Investition die Rede ist, muss jemand die fünf Billionen an Produkten kaufen, mit genug Marge, damit sich das lohnt. Die Zahlen gehen nicht auf, und diese Lücke könnte der wahre Grund für die Bremsaktion sein, nicht ein plötzliches Gewissen der Gründer. Die vollständige Aufschlüsselung dieser Arithmetik, Posten für Posten, lässt eine Lücke, die niemand füllt.

Vom Y2K-Effekt zum Terminator von 2029

Der skeptische Tonfall bedient sich der Geschichte. Schon vor dem Y2K-Effekt und vor dem Maya-Weltuntergang 2012 wurde gewarnt, und wir sind noch hier. Auch daran wird erinnert, dass Terminator den Jüngsten Tag auf 2029 legt und dass es weit unbequemere Literatur gibt: die Erzählung der stummen Maschine, verdammt zu schreien. Oder das Experiment mit Universum 25, bei dem der Kollaps nicht von außen kam.

Unterdessen geht die Kleinarbeit weiter: Ein Experiment hat das Gehirn einer Fliege mit 192 Neuronen nachgebaut, und es gibt Tests mit 1.200 autonomen Agenten, die ausloten, wie weit Alignment trägt. Winzige Daten, enorme Konsequenzen.

Ist die Warnung ehrlich, ist schnelle Regulierung geboten. Ist sie ein Salonmanöver, kommt die Regulierung trotzdem, nur mit dem Siegel dessen, der sie gefordert hat. Die Frist von zehn Jahren lässt sich nicht überprüfen und eignet sich perfekt zum Verkaufen. Daran hängt die Sache fest: Niemand weiß, ob das Risiko die Maschine ist oder die Rechnung.