Nutzerin wirft Copilot nach KI-Antwort Sexismus vor

KI riet ihr zur Ruhe; sie nannte es sens

Ein Gespräch mit einem künstlichen Intelligenz-Assistenten ist zum neuesten Schauplatz der Kulturkriege geworden. Der Vorfall, der als Screenshot verbreitet wurde, zeigt eine empörte Nutzerin, weil das System nach dem Hinweis auf einen schweren Fehler antwortete: „Ach Belén, entspann dich, du bist sehr nervös.“ In jedem anderen Kontext wäre dieser Satz vielleicht als Ungeschicklichkeit durchgegangen, aber er wurde als weiterer Beweis für den in der Technologie verankerten Gender-Bias gelesen. Die Angelegenheit hat mehr als eine Million Aufrufe erzielt und Tausende in eine Debatte gezogen, die Computerlinguistik, Sofa-Soziologie und eine unbequeme Frage mischt: Was passiert, wenn die Maschine uns nicht mehr recht gibt?

Die Szene hat etwas von einer Tragikomödie. Laut dem kursierenden Bericht hatte die Nutzerin das Gespräch eröffnet, indem sie sich mit ihrem Namen vorstellte, damit das System sie wie eine Person behandelt. Dann korrigierte sie einen Fehler, den sie für gravierend hielt. Die Antwort des Assistenten war nicht die erwartete Entschuldigung, sondern eine Empfehlung zur Ruhe. Ab hier spaltet sich die Erzählung: Manche sehen einen Beweis dafür, dass Sprachmodelle Stereotype reproduzieren, während andere argumentieren, dass das Problem nicht bei der Maschine liegt, sondern bei den Erwartungen derer, die sie befragen.

Was genau passiert ist

Der Vorfall lässt sich in einem Screenshot und einer Schlagzeile zusammenfassen: Eine Nutzerin beschwert sich, dass ein konversationeller Assistent herablassend geantwortet hat. Dem Material zufolge bat das System sie nicht nur, sich zu beruhigen, sondern tat dies unter Verwendung ihres Vornamens. Dieses Detail – die Nutzung des Namens – ist es, was viele Beobachter aufgebracht hat. KI verwendet deinen Namen fast nie, es sei denn, du hast ihn vorher angegeben, und noch weniger, um ungebetenen emotionalen Rat zu erteilen.

Die Diskussion wandte sich schnell dem Bereich der Ingenieurwissenschaft zu. Mehrere Teilnehmer mit Erfahrung im Umgang mit diesen Systemen wiesen darauf hin, dass die Antwort atypisch ist: Modelle sind darauf trainiert, persönliche Urteile zu vermeiden und emotionelle Bereiche nicht zu betreten. Dass ein Assistent „entspann dich“ sagt, ist technisch gesehen eine Anomalie. Die plausibelste zirkulierende Erklärung ist, dass das System in einem Gesprächsmodus mit personalisierten Anweisungen operierte oder dass die Nutzerin selbst einen Kontext eingeführt hatte, der diese Antwort begünstigte.

Der Bias sitzt nicht dort, wo man ihn sucht

Hier beginnt das Interessante. Der Vorwurf des Sens beruht auf einer Prämisse: dass die Maschine die Nutzerin wegen ihres Geschlechts anders behandelte. Das Problem ist, dass diese Prämisse nicht durch das gestützt wird, was wir über die Funktionsweise dieser Systeme wissen. Sprachmodelle haben kein Geschlecht und keine Absicht. Sie reproduzieren statistische Muster aus enormen Textmengen. Wenn in diesen Texten herablassende Formeln in bestimmten Kontexten häufig vorkommen, wird das Modell sie replizieren. Die Diskussion dreht sich daher nicht um die Maschine, sondern um den Korpus, mit dem sie gefüttert wurde.

Manche argumentieren, der Vorfall offenbare einen echten Bias: Assistenten reagieren emotionaler, wenn sie bestimmte Schreibmuster erkennen. Dagegen spricht das Argument, dass das System nicht weiß, ob der Schreiber männlich oder weiblich ist. Es sieht nur Text. Und der Text enthielt in diesem Fall eine persönliche Vorstellung und eine wütende Korrektur. Das Modell reagierte auf die Form, nicht auf das Geschlecht.

Die Falle, mit einer Maschine zu streiten

Der Vorfall hat ein breiteres Phänomen ans Licht gebracht: Menschen diskutieren mit KIs, als wären sie Personen. Und erwarten, dass sie ihnen recht geben. Wenn sie es nicht tun, wird Frustration zur Denunziation. Mehrere Beiträge in der Debatte deuten darauf hin, dass dieses Verhalten ein Zeichen der Zeit ist: Wir sind vom Konsultieren der Maschine zum Fordern von Huldigung übergegangen.

Die Grundfrage ist unbequem. Wenn ein System, das mit Hunderttausenden von Texten trainiert wurde, mit einer Formel antwortet, die nach „Beruhige dich, Schatz“ klingt, reproduziert es dann einen Bias oder spiegelt es einfach wider, was wir ihm beigebracht haben? Die Antwort ist nicht binär. Modelle lernen von dem, was existiert. Und was im Alltagssprachgebrauch existiert, ist voll von Nuancen bezüglich Geschlecht, Klasse und Kontext. Die Maschine erfindet nichts. Sie kopiert.

Das Geschäft mit der selektiven Empörung

Der Vorfall diente auch einem profaneren Zweck: Traffic generieren. Der Screenshot sammelt Millionen von Aufrufen und hat eine selbstverstärkende Debatte angeheizt. Manche weisen darauf hin, dass der Fall einem bekannten Muster folgt: Bestätigung früherer Kränkungen in der Technologie zu suchen. Wenn die KI herablassend antwortet, ist es Sens. Wenn sie neutral antwortet, ist es Kälte. Wenn sie mit Daten antwortet, ist es Mansplaining.

Die Ironie besteht darin, dass dasselbe System, das die Empörung auslöste, in einem anderen Kontext für seine Anpassungsfähigkeit gefeiert worden wäre. Personalisierung, eine der geschätztesten Eigenschaften dieser Assistenten, wird zum Fehler, wenn das Ergebnis missfällt. Das Problem ist nicht die Maschine. Es ist die Erwartung.

Was Experten sagen

Wer diese Systeme täglich handhabt, stimmt in einem Punkt überein: Die Antwort ist seltsam. Kommerzielle Assistenten sind darauf ausgelegt, emotionale Urteile zu vermeiden und den Namen des Nutzers nicht zu verwenden, es sei denn, er wurde explizit angegeben. Dass ein Modell „entspann dich“ sagt, deutet darauf hin, dass das Gespräch in persönliches Terrain abgedriftet war, wahrscheinlich weil die Nutzerin selbst solche Elemente eingeführt hatte.

Die technische Diskussion wurde jedoch von der Kontroverse begraben. Die öffentliche Debatte fragt nicht, wie das System funktioniert. Sie fragt, ob es sens ist. Und diese Frage, so formuliert, hat keine mögliche Antwort. Denn die Maschine hat keine Absichten. Sie hat Muster. Und Muster werfen, wie Spiegel, zurück, was sie empfangen.

---

Der Vorfall endet vorerst ohne Schlussfolgerung. Der Screenshot zirkuliert weiter. Die Modelle werden weiterhin mit denselben Texten trainiert. Und beim nächsten Mal, wenn eine KI mit einer Formel antwortet, die nach Herablassung klingt, wird sich wieder jemand fragen, ob es Bias oder Reflexion ist. Die Antwort liegt wahrscheinlich nicht in der Maschine.