Spanien plantet KI zur Erkennung von Hassrede

Spanien plant KI-gestützte Überwachung von Hassrede

Ein Richter benötigt laut einer im Diskurs kursierenden Berechnung mehr als drei Jahre, um ein Strafverfahren abzuschließen. Ein Algorithmus würde hingegen Millisekunden brauchen, um zu entscheiden, ob der gerade verfasste Text ein Hassdelikt darstellt. Die Idee, im Forum als Werkzeug für eine „gerechtere Welt“ vorgestellt, sieht vor, dass Spanien die strafrechtliche Verfolgung dieser Delikte priorisiert und ein automatisiertes System jeden auf sozialen Plattformen veröffentlichten Beitrag klassifiziert, um potenzielle Straftatbestände zu identifizieren. Der zirkulierende Text detailliert nicht, wer das System trainiert, mit welchem Korpus oder unter welcher richterlichen Aufsicht, macht aber das Ziel klar: Die Klassifizierung soll vor der Anzeige erfolgen.

Was genau vorgeschlagen wird

Der Ansatz ist zweigeteilt. Zum einen soll Hasskriminalität innerhalb der gesamten Justizlast prozessuale Priorität erhalten. Zum anderen soll die Vorabklassifizierung der Beiträge automatisiert werden, damit das Systeme jene markiert, die möglicherweise Straftaten darstellen. Diese Kombination hat die Debatte entfacht: Es geht nicht nur darum, mehr zu verfolgen, sondern dies durch eine Maschine zu tun, die liest, bevor ein Richter eingreift.

Die häufigste Kritik bezweifelt nicht die Existenz des Tatbestands Hassdelikt, sondern die technische Fähigkeit, diesen zu erkennen. Ein mit Standardsprache trainiertes System unterscheidet weder figurative Sprache, Ironie, Jargon noch kulturelle Referenzen. Die praktische Konsequenz wäre ein Strom von False Positives, der die ohnehin überlasteten Gerichte fluten und zu vorauseilender Selbstzensur bei den Autoren führen würde.

Das Sprachproblem: Was ein Algorithmus nicht versteht

Eine Nachricht kann formal aggressiv sein und kein Delikt darstellen, sowie formal neutral sein und dennoch eines begangen haben. Automatische Klassifizierung arbeitet mit Oberflächenmustern: Wörter, Konstruktionen, Wiederholungen. Kontext, Absender, Empfänger und Intention bleiben aus dem Modell heraus, es sei denn, es wird spezifisch für jede Sprachgemeinschaft trainiert.

Manche argumentieren, dass das System nur funktioniert, wenn es mit dem konkreten Jargon jeder Plattform trainiert wird, und selbst dann in Grenzfällen scheitert. Dagegen spricht, dass auch die aktuelle Alternative, die manuelle Anzeige, nicht gut unterscheidet und von der Arbeitsbelastung des Bereitschaftsgerichts abhängt. Das Ergebnis wäre nach dieser Lesart nicht mehr Gerechtigkeit, sondern mehr prozessuales Rauschen.

Wer treibt diese Maßnahmen an und warum niemand darüber abstimmt

Ein Teil der Analyse weist darauf hin, dass solche Initiativen nicht in Wahlprogrammen auftauchen, aber bei der Abstimmung Unterstützung aller Fraktionen finden. Der Verdacht, geäußert ohne Beweise, deutet auf Lobbygruppen hin, die Texte vorbereiten und sie Regierungen und der Europäischen Union mundgerecht liefern. Dies ist eine Hypothese, die stark kursiert und als solche behandelt werden sollte.

Das Gegenargument ist prosaischer. Viele dieser Maßnahmen werden nicht abgestimmt, weil sie keine Gesetze sind, sondern technische Entwicklungen, Verordnungen oder interne Protokolle, die nicht ins Parlament kommen. Dies würde erklären, warum sie im Wahlkampf niemand verteidigt und warum sie später ohne öffentliche Debatte auftauchen.

Das Präzedenzfall, den niemand wiederholen will

Der schwerwiegendste juristische Einwand ist nicht technischer, sondern garantierter Natur. Wenn der Algorithmus klassifiziert, bevor ein Richter eingreift, wer haftet für Fehler? Kann eine automatische Klassifizierung angefochten werden? Wie viel Zeit vergeht zwischen der Markierung durch das System und der gerichtlichen Entscheidung? Ohne Antworten zeichnet sich ein Szenario ab, in dem eine Maschine markiert und eine Verwaltung Jahre braucht, um dies zu korrigieren.

Vergleiche mit Systemen anderer Länder tauchen in der Diskussion auf: Untersuchungshaft ohne zeitliche Begrenzung und Prozesse, die erst nach einem Jahrzehnt stattfinden. Keine exakte Äquivalenz, aber die Parallele dient dazu, das gleiche Risiko zu betonen: Dass die Klassifizierung faktisch zur Verurteilung wird, bevor ein Urteil existiert.

Auswirkung auf Autoren

Der messbare Impact wird nicht die Anzahl der Verurteilungen sein, sondern die Anzahl der Nachrichten, die nicht geschrieben werden. Literatur zur Inhaltsmoderation zeigt, dass das Gefühl der Überwachung die Meinungsäußerung reduziert, bevor die Norm angewendet wird. Dies ist die unsichtbare Kostenstelle: Sie erscheint in keiner Justizstatistik, da sie genau das umfasst, was nie veröffentlicht wird.

Mit diesen Voraussetzungen ist das wahrscheinlichste kurzfristige Ergebnis nicht ein Strom von Verurteilungen, sondern ein Anstieg diffuser Rechtsstreitigkeiten und eine öffentliche Diskussion darüber, wer den Algorithmus trainiert und nach welchen Kriterien. Die verwirrende Zahl ist nicht, wie viele Delikte erkannt werden, sondern wie viele Nachrichten verschwinden, bevor das System sie überhaupt klassifizieren muss.