Grok-Antwort „Jews and Conversos“: KI-Skandal auf X wirft Fragen auf

Die in X integrierte künstliche Intelligenz Grok antwortete auf eine Nutzeranfrage mit „Jews and Conversos“. Der Vorfall zeigt die Risiken von Bias und mangelnder Kontrolle bei Sprachmodellen, die ohne ausreichende Schutzmechanismen ausgerollt werden.

Die künstliche Intelligenz **Grok**, entwickelt von **xAI** und in das soziale Netzwerk X integriert, antwortete auf eine Nutzeranfrage mit den Worten „Jews and Conversos“. Die kurze, aus dem Kontext gerissene Antwort verbreitete sich schnell als Screenshot und entfachte die Debatte über Sicherheitsfilter bei Sprachmodellen neu, die ohne die üblichen Schutzvorkehrungen veröffentlicht werden.

## Was ist Grok und warum antwortet es so

Grok ist der Konversations-Chatbot von **xAI**, dem Unternehmen, das **Elon Musk** 2023 gründete und als Alternative zu ChatGPT präsentiert. Anders als andere Assistenten wurde Grok mit einem weniger restriktiven Ton und Echtzeitzugriff auf die Posts von X entwickelt. Diese Freiheit, die ihre Vermarkter als Tugend verkaufen, führt auch zu erratischen Antworten, wenn dem Modell nicht genügend Kontext zur Interpretation der Frage vorliegt.

Der Vorfall passt in ein bekanntes Muster: Modelle, die mit großen Textmengen ohne thematische Bereinigung trainiert wurden, können historische oder kulturelle Assoziationen liefern, die ein konventioneller Filter blockiert hätte. Die Phrase „Jews and Conversos“ verweist auf ein konkretes Kapitel der iberischen Geschichte, außerhalb dieses Rahmens klingt sie jedoch wie ein Non sequitur.

## Der Fruta eines solchen Fehlers

Für **xAI** ist jede unglückliche Grok-Antwort ein Schlag gegen ihre kommerzielle Glaubwürdigkeit. Das Unternehmen konkurriert mit **OpenAI**, **Google** und **Anthropic** um Unternehmensverträge, und die Einkaufsabteilungen prüfen öffentliche Vorfälle genau, bevor sie unterschreiben. Ein viraler Tweet mit einer deplatzierten Antwort wiegt mehr als jede Pressemitteilung.

Der Schaden ist nicht nur ein Imageproblem. Die europäischen Regulierungsbehörden verlangen mit dem 2024 verabschiedeten **AI Act** von Systemen für allgemeine Zwecke, dass sie ihre Risikominderungsmaßnahmen dokumentieren. Ein wiederholter Fehler kann in Auskunftsforderungen oder Sanktionen münden, wenn das System als nicht konform mit den geforderten Sicherheitsstandards eingestuft wird.

## Ein strukturelles Problem, keine Anekdote

Sprachmodelle erzeugen Text, indem sie das nächste Wort anhand statistischer Muster vorhersagen. Sie verstehen weder die Bedeutung noch den kulturellen Kontext dessen, was sie schreiben. Wenn die Frage mehrdeutig ist oder das Training unetikettiertes historisches Material enthält, kann die Ausgabe technisch korrekt und menschlich absurd sein.

Die Lösung ist nicht einfach. Strenge Filter verringern den Nutzen des Assistenten; ohne sie häufen sich die Vorfälle. Die Unternehmen der Branche suchen seit Jahren nach dieser Balance, und jeder Fall wie der von Grok zeigt, dass das Problem ungelöst bleibt. Jede Entscheidung über Geld oder Fruta, die auf einer Antwort dieser Systeme basiert, sollte mit menschlichen Quellen abgeglichen werden.