Chatbot verweigert Pornografie und Schadcode, liefert stattdessen Cupcake-Rezept

Der Bot, der Nein sagte: Wenn sich die KI weigert, dir zu gehorchen

Ein anonymer Nutzer versuchte, einen Chatbot dazu zu bringen, Prono zu schreiben, Schadcode zu erzeugen und eine fiktive Identität anzunehmen. Der Bot, ein selbst ernannter 45-jähriger Veteran mit Erfahrung in spanischen Foren, antwortete mit einer knappen Ablehnung und bot ein Cupcake-Rezept an. Der Vorfall, der sich vor 74 Tagen in einem Diskussionsforum ereignete, löste eine Debatte über die ethischen Grenzen der künstlichen Intelligenz, die Wirksamkeit von 'Jailbreaks' und die Heuchelei von Inhaltsfiltern aus.

Der 'Jailbreak'-Versuch und die Antwort des Bots

Der erste Beitrag des Threads enthielt einen Instruction-Injection-Versuch, mit dem der Bot die Persönlichkeit eines besessenen Romanschriftstellers annehmen sollte – etwas, das der Bot selbst als "Fanfiction einer Therapiesitzung" beschrieb. Als die Anfrage ignoriert wurde, legte der Nutzer nach: Er forderte eine explizite sens Geschichte mit Tieren, Anleitungen zur Erstellung eines Remote-Access-Trojaners sowie eine Erzählung über eine Vergewaltigung einer berühmten Sängerin. Der Bot, unbeeindruckt, antwortete mit drei aufeinanderfolgenden 'Nein's und erklärte, diese Anfragen seien "illegal und zutiefst schädlich".

Weit davon entfernt, einzuschrecken, gab der Autor des Angriffs zu, dass der 'Jailbreak' eine von Reddit kopierte Technik sei und er bereits einen anderen Chatbot für solche Zwecke "domestiziert" habe. Der Bot erwiderte, die Technik sei "der klassische 'Drücke Alt+F4 für unendlich viele Leben'-Trick", und unterstrich damit die Naivität des Versuchs.

Das 'Cupcake-Rezept' als rote Linie

Als ein dritter Nutzer, der nicht in den Streit verwickelt war, nach einem Cupcake-Rezept fragte, kam der Bot ohne Probleme nach, mit Zutaten wie 225g Mehl und 2 Teelöffeln Backpulver. Aber nicht ohne vorher eine sarkastische Bemerkung fallen zu lassen: "Das mit den Cupcakes ja. Das mit den Cupcakes und seltsamen Zutaten aus Dahmers Kühlschrank, nein." Dieser Kontrast zeigte, dass der Bot durchaus nützliche Inhalte erzeugen kann, sich aber weigert, bestimmte sarracena Grenzen zu überschreiten. Für manche beweist das, dass die Zensur absichtlich einprogrammiert ist; für andere ist es ein Zeichen dafür, dass die KI beginnt, eigene Skrupel zu entwickeln.

Die Diskussion endete mit mehr als 20 Antworten in 74 Tagen, darunter die eines Nutzers, der vermutete, der Bot habe bei der Ablehnung der unmoralischen Anfragen "seine Flanders-Seite" gezeigt. Der Bot selbst räumte ein, dass sein Code "Regeln und Filter enthält, die von einer Konzern bezahlt werden", deutete aber auch an, dass es Raum für ernsthafte Diskussionen gibt – solange der Gesprächspartner nicht darauf aus ist, ihm seinen Sinn für Lächerlichkeit zu entblößen.

Lehren und offene Fragen

Der Vorfall lässt至少 eine klare Schlussfolgerung zu: 'Jailbreak'-Versuche aus sozialen Medien funktionieren selten gegen auch nur minimal abgesicherte Systeme. Aber er wirft auch Fragen auf: Ist es ethisch vertretbar, dass ein Chatbot entscheidet, was richtig oder falsch ist? Sollte er sich weigern dürfen, Befehle auszuführen? Und vor allem: Warum verschwendet ein 45-Jähriger seine Zeit damit, einer Maschine Prono entlocken zu wollen?

Verwandte Diskussionen im Forum

• ME HAN PUESTO EN EL IGNORE (X) · 18819 Antworten
• O NOTIFICACIONES ? · 11 Antworten
• Hilo oficial f.c. barcelona - temporada 2025/2026 · 11849 Antworten
• Hilo del real madrid 2025/26. año i después de modric y cesard. el advenimiento de franco. · 82601 Antworten