Anwalt wegen 48 erfundener KI-Urteile nur mit 420 Euro Bußgeld belegt

Anwalt sanktioniert, weil eine KI 48 falsche Urteile erfand

Was kostet blindes Vertrauen in die künstliche Intelligenz? Für einen Anwalt in Spanien: 420 Euro. Das ist die Geldstrafe, die ein Gericht verhängt hat, nachdem bekannt wurde, dass er in einem Berufungsverfahren bis zu 48 falsche Urteile zitiert hatte – alle erfunden von einem KI-System, dem er die Recherche zur Rechtsprechung übertragen hatte. Der Anwalt räumte seinen Fehler ein: "Ich übernehme die volle Verantwortung für meine Nachlässigkeit. Ich habe den Zitaten vertraut und sie nicht überprüft."

Warum ist die Sanktion so niedrig?
Das Bußgeld entspricht der Hälfte der Kosten einer speziell für juristische Zwecke entwickelten KI, so die Entscheidung. Kommentatoren weisen darauf hin, dass das Problem nicht die Nutzung von KI ist, sondern welche genutzt wird: eine kostenlose oder eine kostenpflichtige. Der Richter, der eine kostenpflichtige Version verwendete, entdeckte die Erfindungen. Die Strafe, von manchen als "eine halbe Stunde Gehalt" bezeichnet, wirft die Frage auf, ob sie abschreckend wirkt oder nur ein milder Hinweis ist.

Das Risiko von KI-Halluzinationen
Der Fall veranschaulicht ein bekanntes Phänomen: Generative Modelle "halluzinieren" Informationen, die plausibel wirken. "KI-Grundkurs Stunde eins: Die KI erfindet Dinge", heißt es dazu. In einem gerichtlichen Kontext, wo Präzision entscheidend ist, kann Delegieren ohne Überprüfung nicht nur finanziell teuer werden, sondern auch an Glaubwürdigkeit und Ergebnis des Verfahrens kosten. Die Lehre: KI ist ein Assistent, kein Orakel; die letzte Verantwortung liegt beim Menschen.

Die Ironie des Falls: Das Bußgeld wirkt wegen seiner Lächerlichkeit wie ein Witz. Doch die Botschaft ist ernst: Wenn ein Anwalt einen Prozess verliert, weil er die Quellen nicht überprüft hat, ist nicht die KI der Geschädigte.