KI als Sündenbock für den Zugunglück in Spanien

KI entgleist keine Züge – schlecht formulierte Verträge tun es

Wenn ein Zug entgleist, lautet die nützliche Frage nicht, welcher Algorithmus versagt hat, sondern wer den Vertrag für das System unterzeichnet hat, das den Fehler hätte verhindern sollen. Die öffentliche Debatte über Entgleisungen in Spanien hat einen bequemen Schuldigen gefunden: die gerade installierte künstliche Intelligenz, jener Schirm, der es allen ermöglicht, keine Kündigung zu unterschreiben. Das Muster wiederholt sich mit beängstigender Präzision: Technologie wird gekauft, als Modernisierung angekündigt, ein Verantwortlicher, der das zu überwachende Signalsystem nicht versteht, beaufsichtigt den Vertrag – und wenn die Achse bricht, ist die Schuld diffus.

Der Jurist, der den Signalvertrag formuliert

Das Argument mit der größten Tragweite in der Analyse zielt nicht auf die Maschine, sondern auf die Befehlskette. Wie in der Debatte dargelegt wird, verhandelt ein Ministerium unter der Leitung eines juristischen statt technischen Profils seit Jahren über ein Sicherheitssystem, das die EU finanziert und das bis heute nicht eingeführt wurde. Unterdessen arbeiten die Fahrdienstleiter im manuellen Modus. Das ist die eigentliche Anomalie: Die Investition existiert, die Frist verlängert sich, und wer das System abnehmen sollte, kann es nicht lesen.

Die KI ist in dieser Erzählung nicht die Ursache. Sie ist das Alibi. Versagt der Algorithmus, verliert sich die politische Verantwortung in der Mehrdeutigkeit des Codes. War der Vertrag schlecht formuliert, müsste jemand dafür geradestehen. Und niemand will geradestehen.

Warum wird die künstliche Intelligenz für Entgleisungen verantwortlich gemacht?

Weil die Zuschreibung des Fehlers an ein autonomes System denjenigen entlastet, der es beauftragt hat. Die Echtzeitüberwachung kritischer Infrastruktur – Erkennung von Anomalien bei Fahrzeugen, Menschenmengen und strategischen Räumen – wird als Lösung verkauft, doch die rechtliche Verantwortung bleibt beim Menschen. Kein Algorithmus unterzeichnet einen Vertrag und kassiert eine Provision.

Manche behaupten, ein schlecht getestetes Update, das an einem Freitagnachmittag ausgerollt wird, reiche aus, um die Sicherheit einer Strecke lahmzulegen. Andere verweisen auf etwas Prosaischeres: gealterte Infrastruktur, seit Jahren auf Modernisierung wartende Sicherheitssysteme und eine öffentliche Verwaltung, die zur Personalvermittlungsagentur geworden ist. Das Ergebnis ist dasselbe: Der Zug entgleist, und die Debatte verliert sich in den Wolken.

Der Präzedenzfall, den niemand wiederholen will

Die Diskussion umfasst ein Szenario, das über jedem Unfall schwebt: Was passiert, wenn der Fehler auf einem Viadukt auftritt? Das ist kein Alarmismus, sondern die Wahrscheinlichkeitsrechnung, die jeder anstellt, der das Netz kennt. Die implizite Schlussfolgerung ist unbequem: Das System hält stand, weil der schlimmste Fehler sich bisher nicht mit dem schlimmsten geografischen Punkt getroffen hat.

Der Vergleich mit anderen Ministerien dient als rhetorische Verstärkung: Ein Gesundheitsminister mit einschlägiger Ausbildung und ein Gesundheitssystem im Dauerausstand beweisen, dass der Lebenslauf keine gute Verwaltung garantiert. Stimmt. Aber er entbindet auch nicht davon. Der Unterschied ist, dass sich der Fehler im Gesundheitswesen in Wartelisten misst; bei der Eisenbahn in entgleisten Waggons.

Der genaue Punkt, an dem die Analyse stockt: Niemand bestreitet, dass KI keine Züge entgleisen lässt. Ungeklärt bleibt, wer verantwortet, wenn das System, das das hätte verhindern sollen, seit Monaten den Schlaf der Gerechten in einer EU-Schublade schläft.