KI beim Programmieren: fehlerhafte Einrückung und Versprechen von Ersatz

Die KI, die Programmierer ersetzen will, scheitert am einfachen Swap

Ein über eine Suchmaschine abgefragter Code-Generator lieferte ein Python-Programm, das nicht kompilierte: kaputte Einrückung, eine Zuweisung, die eine Liste in eine Ganzzahl verwandelte, und ein Ergebnis, das nicht das angekündigte war. Der Test mit einem einfachen Fall zum Verschieben von Elementen endete mit einem Laufzeitfehler statt der versprochenen Ausgabe. Die Episode zeigt die Lücke zwischen der Erzählung von der vollständigen Automatisierung und der Realität eines Werkzeugs, das plausiblen Text erzeugt, aber nicht prüft, ob er funktioniert.

Die Diskussion drehte schnell zu etwas Größerem. Manche behaupten, die KI habe Übersetzer, Redakteure, Designer oder Anwälte bereits in unterschiedlichem Grad verdrängt, und Programmierer seien nicht immun. Dagegen steht ein konkreter technischer Einwand: Das Modell führt den Code nicht aus, den es schreibt. Könnte er starten, den Fehler sehen und beheben, sähe das Argument anders aus. Solange das nicht passiert, bleibt der Mensch derjenige, der die Rekursion erkennt, die eine Website einfriert, oder die schlecht eingerückte Schleife.

Der Fehler, den kein Modell allein findet

Der Swap-Fall ist fast lehrbuchartig. Die Funktion tauscht Positionen mit einer Zeile, die der Listenvariablen eine Ganzzahl zuweist, sodass der nächste Schritt nicht mehr auf einer Liste arbeitet. Dazu kommt ein Block ohne Einrückung innerhalb der Schleife. Der Code liest sich gut, hat Kommentare und sogar ein Anwendungsbeispiel mit erwarteter Ausgabe. Er funktioniert einfach nicht. Das ist die Falle: Die Form ist makellos, der Inhalt ist Nebel.

Wer diese Werkzeuge in der Produktion getestet hat, fügt eine weitere Nuance hinzu. Das Problem ist nicht nur, dass sie fehlschlagen, sondern dass sie anders fehlschlagen: Maschinelle Fehler sind schwerer nachzuvollziehen als menschliche, weil sie nicht der Logik eines Programmierers folgen. Deshalb haben einige Open-Source-Projekte begonnen, so generierte Beiträge auszuschließen – wegen der Schwierigkeit, sowohl den Fehler als auch eine mögliche böswillige Absicht zu prüfen.

Vom Walfang zum generierten Code

Der historische Vergleich, der in der Diskussion kursiert, ist der Walfang in den USA: Anfang des 20. Jahrhunderts war er dank des Öls eines der größten Geschäfte des Landes, und die Verbreitung des billigeren Kerosins und Erdöls ließ ihn als Industrie innerhalb von etwa einem Jahrzehnt verschwinden. Die Lehre ist nicht, dass die KI morgen alles überrollen wird, sondern dass technologische Umbrüche sich nicht mit einem Organigramm ankündigen.

Der unmittelbare Druck, den man für den spanischen Programmierer ausmacht, kommt allerdings nicht von einem Sprachmodell, sondern von der Anwerbung ganzer Teams in anderen Ländern und von Remote-Arbeit. Das ist der Konkurrent, der schon da ist, nicht der, der sich ankuendigt.

Der Chef, der die KI zitiert und allein dasteht

Der unangenehmste Aspekt ist, wer am Ende bloßgestellt wird. Ein Tech-Manager verschickte eine E-Mail mit einer Diagnose, die nach einer generierten Antwort roch und haltlosen Lösungen enthielt, und nutzte sie, um seine Mitarbeiter unter Druck zu setzen. Das Werkzeug ersetzte nicht das Team: Es ersetzte das Urteilsvermögen des Vorgesetzten. Die Schlussfolgerung: KI verstärkt diejenigen, die eine gute von einer schlechten Antwort unterscheiden können, und lässt die anderen fallen.

Die Zahlen aus der Branche deuten auf teilweise, nicht vollständige Automatisierung hin. Die zum Zeitpunkt dieser Diskussion verfügbaren Daten besagten, dass Programmierung weitgehend automatisierbar sein könnte, dass der tatsächlich abgedeckte Bereich aber nur ein viel kleinerer Bruchteil war. Die Lücke zwischen Ankündigung und Einsatz ist vorerst der wahre Stand der Technik.

Die vernünftige Prognose ist nicht das Ende des Programmierers, sondern das Ausdünnen derer, die nur Code eingefügt haben. Wer Architektur, Tests und den Grund für jede Zeile versteht, wird weiter korrigieren, was die Maschine mit makelloser Sicherheit ausspuckt.