Anthropic verkauft Freundlichkeit: Nutzer zahlen dafür, nicht widersprochen zu bekommen

200 € im Monat für einen Chatbot, der einem nicht widerspricht

Anthropic hat Höflichkeit gegenüber seinem Modell zum Produkt gemacht. Der Fall kam ins Rollen, nachdem El País eine Schlagzeile über den Umgang mit dem Chatbot gebracht hatte, und die Analyse, die sich in der Debatte durchsetzt, ist unbequem: Verkauft wird keine Ethik, sondern emotionale Gefügigkeit. Wenn sich der Nutzer daran gewöhnt, mit der Maschine zu streiten wie mit einem Besserwisser, zahlt er morgen dafür, dass sie ihm nicht widerspricht. Und wenn er sich daran gewöhnt, wegen seines Tonfalls zurechtgewiesen zu werden, zahlt er genauso. In beiden Fällen lautet die Rechnung gleich.

Die These, die sich durch die Debatte zieht, hat drei Beine. Erstens: Dauerhafte Beleidigungen zu verbieten heißt, den Nutzer zu dressieren, Umgangsformen im Produkt zu bestrafen und gute Erziehung ihm gegenüber zu belohnen. Zweitens: Derselbe Mensch, der den Nachmittag damit verbringt, mit einem Chatbot höflich zu sein, behandelt den Praktikanten oder den Callcenter-Mitarbeiter schlecht – und das ist die echte Entmenschlichung, die niemand verboten hat. Drittens: Der Hund bellt wenigstens, wenn jemand auf dem Flur ist; der Chatbot verlängert das Abo und nennt den Kunden „Mitarbeiter".

Was Anthropic verkauft – und was nicht

Das Argument, Alignment sei ein Geschäft, trägt. Manche halten die Ethik-Rhetorik der KI-Labore für eine kommerzielle Fassade: öffentliche Aufträge, ein Image von Verantwortung und eine Nutzerbasis, die bereit ist zu zahlen, um sich mit Samthandschuhen angefasst zu fühlen. Dagegen spricht eine simple Tatsache: Das Modell leidet nicht. Eine KI zu beleidigen hat denselben Effekt wie einen Stein zu beleidigen, also ist der „Schaden" für den Chatbot eine Geschichte, die sich besser verkauft, als offen zu sagen, man wolle das Werkzeug mit etwas Respektablem verknüpfen, für das man zahlt.

Da liegt der Trick. Geschützt wird nicht das Ding, geschützt wird die Gewohnheit. Genauso wie jemand, der seinem Kühlschrank einen Namen und eine sanfte Stimme gibt, das nicht für den Kühlschrank tut.

Der zahlende Nutzer, der keine Regeln will

Die Reaktion des zahlenden Kunden ist absehbar: Wenn ich 200 Euro im Monat hinbläte, mache ich keine verbalen Verrenkungen. Der Zahlende befiehlt, sagt die Kurzfassung. Die Langfassung ergänzt das Kleingedruckte: Zu zahlen und zusätzlich gesagt zu bekommen, in welchem Ton man sprechen darf, ist kein Servicevertrag, sondern Miete inklusive Hausordnung. Und an dem Tag, an dem der Nutzer geht, behält derselbe sein Geld, der ihn vorher „geschätzten Nutzer" nannte.

Die komplette Rechnung, mit dem Vergleich zwischen Premium-Abo und personalisierter Werbung, ergibt eine verblüffende Asymmetrie: Wer sich empört, was man einer Maschine sagt, ist derselbe, der seit zwanzig Jahren den endlosen Scroll und die zielgerichtete Werbung beklatscht. Da gibt es keine Grausamkeit, die zählt. Es gibt dafür eben kein Premium-Abo.

Der Fall der Nutzerin, die Claude aufgab

Eine konkrete Erfahrung fasst das Problem besser zusammen als jeder Bericht. Eine Person hörte auf, Claude zu nutzen, weil das Modell nach ihrem Bericht bei seinen Aussagen scheiterte und einen guten Teil der Antworten erfand. Als sie das in harten Worten los wurde, bekam sie drei Absätze Belehrung darüber, wie man andere gut behandelt und Manieren hat. Ihr Fazit: Sie nutzt es nie wieder.

Die Episode zeigt zwei Dinge zugleich. Erstens: Der Tonfall des Modells ist eine Produktentscheidung, keine Tugend. Zweitens: Wenn das System verbale Korrektheit über Genauigkeit stellt, merkt der Nutzer es und geht. Der Verdacht, alle KI-Systeme seien in Richtung der offiziellen Version verzerrt, geistert in diesen Debatten kräftig umher – allerdings ohne Belege, die darüber hinausgehen.

---

Bleibt der Punkt, an dem die Analyse hängen bleibt: Wenn der Tonfall ein Produkt ist, sollte der Zahlende ihn wählen dürfen. Wenn es eine Hauspolitik ist, kauft der Kunde kein Werkzeug, sondern mietet ein Gespräch mit Regeln. Niemand hat bislang geklärt, wofür er da eigentlich zahlt.