AGI-Traum vom Ende der Programmierer scheitert an Tests

AGI sollte Informatiker ersetzen, hinterlässt aber 700 Dateien pro Commit

Die Vorhersage wiederholt sich wie ein Uhrwerk: Künstliche Allgemeine Intelligenz (AGI) werde die Notwendigkeit von Software-Ingenieuren innerhalb von sechs Monaten eliminieren. Das Argument ist verführerisch. Jeder werde das benötigte Software einfach beim Modell anfragen – „Ich baue mir mein eigenes SAP für meine Firma mit 1000 Büroangestellten“, fasst das aktuelle Beispiel zusammen – doch der Ökonom Benedict Evans hat dies längst entkräftet: Es verwechselt, wie die meisten Menschen denken, damit, woher Software tatsächlich stammt.

Was in den letzten Tagen bei realen Projekten geschah, deutet auf etwas anderes hin. Nicht darauf, dass KI nutzlos sei. Sondern darauf, dass sich der Flaschenhals verschoben hat.

Warum kostet das Testen des Codes mehr als das Schreiben?

Weil niemand genau weiß, was die Maschine generiert hat. Eine unter Entwicklern kursierende Zahl fasst es zusammen: Was früher 10 Minuten zum Testen brauchte, dauert nun 2 Tage. Die KI schreibt in Minuten, aber die Validierung dieses Codes ist zum teuren Teil des Prozesses geworden.

Dieser Effekt multipliziert sich in kritischen Systemen. Banken, Luftfahrt, Transport, Medizin. Dort wird die Toleranz eng: Entweder man testet gründlich, oder der Dienst fällt wochenlang aus. Die Paradoxie ist unbequem. Derselbe Motor, der die Schreibzeit reduziert, vervielfacht die Verifizierungszeit, und wer früher prüfte, unterschreibt nun nur noch.

700 Dateien im Commit und 400 Änderungen am Tag

Der häufigste Fall hat eine skandalöse Zahl. Ein Plattform-Ingenieur produzierte drei bis vier Wochen lang zwischen 300 und 400 Änderungen täglich, mit Spitzenwerten eines Commits von 700 Dateien, basierend auf Anforderungsdateien, die das Modell allein umsetzte. Der Rest des Teams kannte den Code nicht mehr und war aus dem eigenen Projekt ausgeschlossen, während sie zusahen, wie ein Programm wuchs, das sie nicht mehr lesen konnten. Das Erscheinungsbild war nach vier Tagen makellos. Was passiert, wenn das System Sichtbarkeit gewinnt, garantiert niemand.

Es ist kein Einzelfall. Ein anderes Team kam nach drei Wochen Urlaub mit 160 Commits und 70 % geändertem Code zurück. Dreieinhalb Wochen Reverten und Patchen. Am anderen Ende errichtete jemand eine robuste Architektur auf einem Server mit mehr als 60.000 Zeilen, und das Modell implementierte sie „auf den Punkt“: anderthalb Monate für Arbeit, die sonst anderthalb Jahre gedauert hätte, mit Technologien, die er zuvor nie berührt hatte.

Die gesamte Spannbreite hängt davon ab, wer die Anforderungen definiert.

Von Agile zur Spezifikation: Die Methode wechselt über Nacht

Einige Teams sind über Nacht von Agile zu spekulationsgetriebener Entwicklung (SDD) gewechselt. Die Logik: Den Rahmen abstecken, damit das Modell den Kontext nicht verliert. Wer es getestet hat, warnt vor dem Üblichen: Die aktuelle KI hat einen zu allgemeinen Kontext und „zwingt dich zur Wahl: entweder die KI oder ich, wir beide können nicht koexistieren“.

Dahinter liegt die Rechnung. Wie viel kostet KI pro Jahr? Wer generiert neue Daten, wenn alle Konsumenten sind? Manche zahlen bereits 100 Euro monatlich zwischen Frontier-Modellen und APIs. Und schwebende 3 Billionen Dollar an unfinanzierten Ausgabenverpflichtungen, die dem Sektor zugeschrieben werden, mahnen, dass der Preis der Tokens geschlossener Modelle auf das Niveau offener Modelle kollabieren könnte. Ein weiterer Grund, lokale Modelle oder Alternativen aus Compliance-Gründen in Betracht zu ziehen, wie die Nutzung einer französischen KI statt amerikanischer Anbieter.

Lokale KI, die funktioniert, und solche, die Murks macht

Nicht alles ist teurer Rauch. Modelle, die lokal laufen, funktionieren „vernünftig gut für klar definierte Probleme“: String-Handling, Persistenz statischer Speicherstrukturen, Erweiterungen auf einer vorbereiteten Architektur. Der Satz, der die Debatte ordnet, kommt aus derselben Ecke: „Bitte sie nicht, ein Programm dafür zu erstellen, denn sie machen dir nur Murks.“

Daraus ergibt sich die Schlussfolgerung, die sich durchsetzt. Der Ingenieur verschwindet nicht; er verschiebt sich hin zur Integration von Teilen und zur Definition dessen, was gewünscht ist. Software wird zur Integration, nicht zum Schreiben von Null. Die Grenze zwischen dem, was ein Modell allein löst, und dem, was einen Menschen erfordert, zieht sich jeden Monat enger zusammen, aber sie verschwindet nicht. Selbst jene, die darüber früher gelacht hätten, sagen das jetzt: Angesichts der Warnung, dass Junior-Profile es schwer haben werden, räumt jemand ein, dass man vielleicht wieder nach ihnen suchen muss, zumindest für Nutzertests.

Und wenn das Problem am Ende darin besteht, dass niemand gebraucht wird? Die pessimistischsten Strömungen fordern Grundeinkommen, um durchzuhalten, bis die Demografie die Arbeit erledigt, während die Geburtenraten weltweit einbrechen. Klingt nach Film. Niemand hat die Kalkulation vorgelegt.

Bei diesen Differenzen müsste die Ersetzung des Informatikers unmittelbar bevorstehen. Niemand sieht sie kommen. Der ewige Skeptiker hatte es notiert: „Wenn kein Geld im Spiel ist, mache ich hier keinen Streit. In 6 Monaten rudern wir weiter wie immer.“ Und man antwortete ihm, dass genau das vor sechs Monaten auch gesagt wurde. Genau dort stockt die Berechnung.