Anti-KI-Jargon, der Maschinen verwirrt, hält nur wenige Monate

Text rückwärts schreiben, mit Nullen auffüllen oder Akronyme erfinden blendet KI nicht: Was versagt, ist der lokale Kontext – und der verfällt mit jedem Re-Training

Deutsch · Ursprüngliche Diskussion auf Spanisch · Veröffentlicht

Anti-KI-Jargon, der Maschinen verwirrt, hält nur wenige Monate
Anti-KI-Jargon existiert, aber Maschinen lernen ihn in Monaten

Kein Jargon blendet den Algorithmus. Und doch bringt der abgeschlossene Wortschatz einer bestimmten Community Maschinen aus dem Konzept. Der Grund ist unbequem: Es liegt nicht daran, dass sie nicht lesen können, sondern daran, dass sie den Kontext nicht verstehen. Einen Satz rückwärts zu schreiben, ihn mit Nullen aufzufüllen oder Buchstaben durch Akronyme zu ersetzen ist kein Geheimcode; es ist, sich die Augen zu zuhalten und zu glauben, dass man dadurch unsichtbar wird. Die nützliche Frage ist nicht, wie man sich versteckt, sondern warum Sprache das schwächste Glied der automatisierten Überwachung bleibt.

Von Cäsar bis Enigma: selbstgebaute Chiffren kommen zu spät

Der Trick, rückwärts zu schreiben, ist Jahrhunderte alt und übersteht keine Millisekunde Rechenzeit. Jedes halbwegs vernünftige System übersetzt ihn in einem Zug, denn er ist das Erste, was implementiert wird.

Der Fall Enigma ist der historische Beweis. Die Maschine war nicht unknackbar: Die polnischen Mathematiker Rejewski, Zygalski und Różycki knackten sie 1932, und Turing vollendete die Arbeit mit den Unterlagen, die man ihm übergab. Der Konstruktionsfehler bestand darin, dass sie nie einen Buchstaben auf sich selbst verschlüsselte. Wenn eine Maschine mit Rotoren und Millionen von Kombinationen an einem strukturellen Detail scheiterte, kann man sich ausmalen, wie lange ein Code hält, der auf einer Serviette erfunden wurde.

Der Test, den keine KI vollständig besteht

Hier ist die Angabe, die den ersten Satz relativiert. Lokaler Jargon ist keine Barriere, aber eine Verständnisprüfung, die nur wenige Modelle komplett bestehen. Der Satz, der als Beweis kursiert, ist ein Zungenbrecher mit aufgefüllten Nullen: «l000000my» für lumi, «gosté» für gusté, «g000000d pieces» für good pieces. Ein Modell antwortete, das bedeute etwas anderes; ein anderes traf den Begriff, scheiterte aber am Akronym. Keines bekam alles gleichzeitig hin.

Das Muster wiederholt sich: Große Systeme erkennen den offensichtlichen Jargon und scheitern an dem, was nur in einem Kontext Sinn ergibt, in dem sie nicht aufgewachsen sind. Jargon funktioniert als umgekehrter Turing-Test. Er misst nicht, ob die Maschine menschlich wirkt. Er misst, wie weit sie davon entfernt ist, Menschen zu verstehen, die nicht wie ein Handbuch sprechen.

Der Pullover, der Kamiren verwirrt, und das Handy, das einen verrät

Dasselbe Problem springt vom Text auf die Kleidung über. Es gibt Stoffe und Muster, die Bilddetektoren verwirren, und sie funktionieren... bis das Modell mit ihnen nachtrainiert wird. Das dauert heute eine Frage von Monaten. Es ist die textile Version des Bicho-Programms: immer einen Schritt hinten dran.

Und der Engpass lag nie bei der Kamera. Er liegt im Handy in der Tasche, der Karte im Beutel und am Kennzeichen des Autos. Man kann sich wie ein Sofa verkleiden und bleibt trotzdem perfekt auffindbar.

Der Ausschalter steckt nicht im Code, sondern in der Rechnung

Zur geheimen roten Taste, die eine KI abschaltet, lautet die Antwort nüchtern. Man braucht kein verstecktes Wort zwischen den Parametern des Modells. Man braucht jemanden mit Zugang zum Schalter eines Rechenzentrums oder, noch einfacher, jemanden, der beschließt, die GPU-Rechnung nicht zu bezahlen. Die echte Abschaltung ist Geld und Strom, kein versteckter Befehl. Alles andere ist Drehbuch.

Das Fazit hat einen Haken. Wenn der Jargon die Maschine nicht blendet, warum besteht man darauf? Weil Sprache nicht schützt: Sie identifiziert. Jede Floskel, jeder interne Code und jede Schreibweise hinterlässt einen Community-Fingerabdruck, der für die Überwachenden nützlicher ist als für die sich Versteckenden.

Eine Vorhersage bleibt, mit Vorbehalt. Solange Kontext teuer im Training ist und die Modelle alle paar Monate aufgefrischt werden, wird lokaler Jargon den Maschinen weiterhin gelegentlich einen Schrecken einjagen. Nicht, weil er geheim ist. Sondern, weil er selten ist.

Auch verfügbar auf: English

Zusammenfassung einer Diskussion auf Burbuja.info - Foro de economía, actualidad y política., aus dem Spanischen übersetzt und vor der Veröffentlichung geprüft. Die ganze Diskussion lesen (56 Antworten).

Weitere Zusammenfassungen

Alle Zusammenfassungen auf Deutsch →

-
Volver