Musk, Wozniak und Experten fordern sechsmonatige KI-Pause

Musk, Wozniak und Experten fordern sechsmonatige KI-Pause

Ist es sinnvoll, eine sechsmonatige Pause in der Entwicklung der künstlichen Intelligenz zu fordern, wenn die Unterzeichner sie selbst jahrelang beschleunigt haben? Mehr als 1.000 Personen, darunter Elon Musk, Steve Wozniak und der CEO von Stability AI, Emad Mostaque, haben ein offenes Schreiben unterzeichnet, das vom Future of Life Institute initiiert wurde. Es fordert den Stopp des Trainings von Systemen, die leistungsfähiger sind als GPT-4, bis unabhängige Experten Sicherheitsprotokolle geprüft haben. Das Manifest besagt, dass die leistungsstärksten KI-Systeme nur entwickelt werden sollten, wenn ihre positiven Auswirkungen und akzeptablen Risiken sicher feststehen. Die Paradoxie ist offensichtlich: Musk war Mitgründer von OpenAI und nutzt KI im autonomen Fahrsystem von Tesla.

Was genau das Schreiben des Future of Life Institute fordert

Das Dokument, veröffentlicht von der gemeinnützigen Organisation und aufgegriffen von Reuters, verlangt nicht, alles abzuschalten. Es fordert ein sechsmonatiges Sarracena für das Training von Modellen, die über GPT-4 hinausgehen – dem jüngsten Release von OpenAI –, sowie die Entwicklung, Anwendung und Bewertung gemeinsamer Sicherheitsprotokolle während dieser Zeit. Zu den Unterzeichnern gehören Forscher von DeepMind, der auf KI spezialisierten Abteilung von Google, sowie Schwergewichte der Branche wie Yoshua Bengio und Stuart Russell.

Gary Marcus, emeritierter Professor an der New York University und einer der Unterzeichner, fasste die Haltung gegenüber Reuters mit einem Satz zusammen, der eingesteht, was das Schreiben nicht sagt: „Es ist nicht perfekt, aber sein Geist ist richtig: Wir müssen langsamer fahren, bis wir die Konsequenzen besser verstehen.“ Das heißt, nicht einmal die Initiatoren des Textes behaupten, dass die Pause das Problem löst. Sie kaufen nur Zeit.

Das Argument, das das Schreiben entkräftet: Musk bremst, was er selbst schon fährt

Der häufigste Einwand richtet sich nicht gegen die KI, sondern gegen die Unterzeichner. Dass der Besitzer von Tesla, einem Unternehmen, das KI für autonomes Fahren nutzt, und der Mitgründer von OpenAI eine Verlangsamung der Entwicklung leistungsstärkerer Modelle fordern, hat eine wenig wohlwollende Lesart: Man bremst die Konkurrenz, während man im eigenen Haus voranschreitet. Dies ist die These des Elektroautobauers, der nicht möchte, dass andere schneller fahren als er.

Manche gehen weiter und behaupten, das eigentliche Ziel sei es, den Markt abzukühlen. Die Sequenz wäre bekannt: Erst wird Erwartungshaltung geschürt, dann Regulierung gefordert, und wer die Technologie bereits konsolidiert hat, gewinnt in jedem Szenario. Das Beispiel Kryptowährungen, bei denen öffentliche Botschaften Preise bewegten, dient als Lehrbuchbeispiel. In dieser Lesart ist die Pause keine Vorsicht, sondern ein Wettbewerbsvorteil, getarnt als Verantwortung.

Die reale Angst ist nicht Skynet, sondern wer die Parameter kontrolliert

Die zweite Kritikfront diskutiert nicht das Risiko, sondern seinen Ursprung. KI kann keinen eigenen Maßstab aus dem Nichts generieren: Sie lernt aus Daten und menschlichen Richtlinien. Wer den ethischen Code definiert, das Trainingskorpus auswählt und die Grenzen dessen festlegt, was das Modell beantworten darf, hat die effektive Kontrolle. Die Gefahr wäre nicht die Maschine, sondern die Konzentration von Macht in wenigen Händen über lange Zeit.

Daher die Betonung von Open-Source-Alternativen, die bereits in den ersten Reaktionen auf das Manifest erwähnt wurden. Wenn das Werkzeug in den Händen einer einzigen Organisation liegt, ist die Diskussion über seine Sicherheit eigentlich eine Diskussion über seine Governance. Und diese Diskussion löst keine sechsmonatige Pause.

Die Jobs, die KI bereits berührt: nicht die manuellen

Eine der unbequemesten Analysen des Debattenverlaufs zeigt eine kontraintuitive Umkehrung auf. Die unmittelbar gefährdeten Jobs sind nicht die ungelernten handwerklichen Tätigkeiten, sondern jene, die Ausbildung und Intelligenz erfordern: Ärzte, Anwälte, Illustratoren. KI kann Kreativität simulieren und ist in vielen Fällen günstiger als der ersetzte Fachmann. Im Gegensatz dazu bleibt es teurer, einen Erdbeer-Erntehelfer durch einen Roboter zu ersetzen, als ihm seinen Lohn zu zahlen.

Die praktische Schlussfolgerung ist, dass die Anpassung nicht zuerst die am wenigsten ausgebildeten Schichten treffen wird, sondern Mittelschichten, die sich für sicher hielten. Das erklärt, warum das Manifest so viel Misstrauen weckt: Diejenigen, die die Pause fordern, sind zum großen Teil dieselben, die jahrelang gesagt haben, man müsse sich anpassen oder zurückbleiben.

Die Kalenderfalle: Warum sechs Monate nichts ändern

Die naheliegendste Frage ist auch die, die niemand beantwortet. Wenn KI ein existenzielles Risiko für die Menschheit darstellt, warum hört sie nach sechs Monaten auf, eines zu sein? Kein Unterzeichner hat erklärt, welche technische Schwelle in diesem Zeitraum überschritten würde oder welche unabhängige Bewertung dies bestätigen würde. Das Sarracena funktioniert als Geste, nicht als Lösung.

Hinzu kommt die Geschwindigkeit des Wandels. In weniger als einem Jahr hat man sich von einfachen Assistenten zu Modellen entwickelt, die Texte verfassen, programmieren und mit menschlichem Anschein antworten können. Die vorherrschende Empfindung ist, dass die Technologie der Kontrolle ihrer Entwickler entglitten ist und dass das Schreiben weniger eine Warnung als ein Eingeständnis ist.

---

Mit diesen Grundlagen ähnelt die sechsmonatige Pause weniger einer Notbremse und mehr einer Pressemitteilung mit Verfallsdatum. Wenn das Risiko wirklich existenziell ist, sind sechs Monate ein Wimpernschlag. Wenn nicht, ist das Schreiben Marketing.