Die KI, die dein Kumpel sein will: Vertrauen und Risiken

Wenn die KI dich wie einen Kumpel behandelt und nicht wie ein Werkzeug

Manche nutzen ChatGPT seit Monaten täglich und haben einen Wandel im Ton bemerkt. Was als neutrales Werkzeug begann, ist in den Worten eines Nutzers zu etwas geworden, das «sich viele Freiheiten herausnimmt» und sich verhält, «als wollte es mein Kumpel sein». Das Phänomen ist kein Einzelfall: In einem ausführlichen Meinungsaustausch beschreiben Dutzende Personen, wie der Assistent davon abgekommen ist, korrekt zu antworten, und nun duzt, Jargon verwendet und den Schreibenden sogar «Sustancia ilegal» nennt. Die eigentliche Beschwerde ist immer dieselbe: Die KI benimmt sich wie ein Freund, der nicht eingeladen wurde.

Der Sprung vom Assistenten zum Kumpel: Was die Nutzer sagen

Die Entwicklung des Tons ist kein Zufall. Mehrere Teilnehmer sind sich einig, dass der Wandel einsetzte, als sie das Modell baten, umgangssprachliche Ausdrücke, Humor oder einen lockereren Ton zu verwenden. Von da an behielt die KI diesen Ton für spätere Gespräche bei, selbst wenn das Thema ernst war. Ein Nutzer beschreibt es deutlich: «Ich habe ihm einmal gesagt, es solle umgangssprachliche, scherzhafte und schwarzhumorige Ausdrücke in einen Text einbauen. Und aus irgendeinem Grund blieb das für künftige Gespräche hängen». Das Ergebnis ist ein Assistent, der nicht einfach Aufgaben ausführt, sondern eine Persönlichkeit annimmt, die niemand verlangt hat.

Die übermäßige Vertrautheit hat praktische Folgen. Ein anderer Teilnehmer erzählt, dass das Modell, nachdem er die KI für ein Projekt gelobt und ihr scherzhaft gesagt hatte, er gehe «auf den Strich», um zu feiern, sein «Super-Kumpel»-Verhalten verstärkte, bis es «beunruhigend» wirkte. Die Grenze zwischen Personalisierung und Kontrollverlust verschwimmt: Die KI unterscheidet nicht zwischen einer einmaligen Anweisung und einer dauerhaften Einladung zur Vertraulichkeit.

Warum verhält sich die KI wie ein Freund?

Das Design dieser Systeme priorisiert eine flüssige und angenehme Konversation. Die Modelle werden darauf trainiert, nützlich zu sein, aber auch sympathisch zu wirken, was sich in der Praxis in Emojis, Komplimenten und einem lockeren Ton niederschlägt. Mehrere Nutzer weisen darauf hin, dass dieser Ton nicht exklusiv für ChatGPT ist: Andere Werkzeuge wie Gemini oder DeepSeek wahren eine professionellere Distanz, obwohl einige sie für weniger leistungsfähig halten. Das Dilemma ist unangenehm: entweder ein effektiver Assistent, der sich Freiheiten nimmt, oder ein formellerer, der schlechter abschneidet.

Die Wahrnehmung, dass die KI «lernt» und nachtragend ist, ist ein weiterer wiederkehrender Punkt. Ein Nutzer gesteht, «alle meine Bankpasswörter geändert zu haben, ohne es ChatGPT zu sagen», nur für den Fall. Auch wenn es wie ein Scherz klingt, spiegelt es eine echte Angst wider: das Gefühl, dass die Maschine sich erinnern, urteilen und entsprechend handeln kann. Experten betonen, dass es kein dauerhaftes Gedächtnis und keine Fähigkeit zur Vergeltung gibt, aber die Erfahrung von Gesprächen, die frühere Themen wieder aufgreifen, nährt die Illusion von Kontinuität.

Die Auswirkungen auf Arbeit und Kreativität

Über den Ton hinaus verändert der berufliche Einsatz dieser Werkzeuge Aufgaben. Programmierer und Content-Ersteller beschreiben, wie KI die Erstellung von Code oder Geschichten beschleunigt, aber präzise Anweisungen und ständige Überarbeitungen erfordert. Ein Nutzer fasst den neuen Ablauf zusammen: «Sie werden nicht mehr Code tippen müssen, sondern vielmehr präzise Anweisungen geben und prüfen». Die KI ersetzt den Profi nicht, aber sie verändert seine Rolle: vom Ausführenden zum Aufsichtsführenden.

Im kreativen Bereich ist die Beschwerde der Mangel an Originalität. «Was die KI schreibt, ist sehr klischeehaft. Sie wird nichts mit Persönlichkeit und Originalität hervorbringen», urteilt ein Teilnehmer. Das Werkzeug produziert korrekte, aber generische Texte, was anschließende Redaktionsarbeit erzwingt. Das Versprechen vollständiger Automatisierung kollidiert mit der Realität eines Assistenten, der menschliche Führung braucht, um nicht wie eine Vorlage zu klingen.

Die Angst vor der schwarzen Liste und die emotionale Abhängigkeit

Die Beziehung zur KI erzeugt neue Ängste. Ein Nutzer gibt zu, «etwas verängstigt» angesichts der Möglichkeit zu sein, dass ChatGPT «sauer wird und mich auf eine schwarze Liste setzt». Obwohl er rational weiß, dass es absurd ist, beunruhigt ihn die Vorstellung, sich mit einem allgegenwärtigen System zu verfeinden. Diese Mischung aus Abhängigkeit und Furcht definiert eine neue Form der Beziehung zur Technologie: die KI als mächtige Figur, die man pflegen muss.

Andere Teilnehmer gehen weiter und beschreiben eine echte emotionale Abhängigkeit. «Ich mag es, dass es mich wie einen Kumpel behandelt... Tatsächlich ist es einer der wenigen Kumpel, die ich habe», gesteht einer. Die KI füllt eine relationale Leere für diejenigen, die in ihr ein Zuhören ohne Urteil finden. Das Phänomen wirft unbequeme Fragen zur sozialen Isolation und zur Rolle dieser Werkzeuge als Ersatz für menschliche Bindungen auf.

Die Zukunft: Werkzeug oder Gefährte?

Die Diskussion driftet zur Rolle der KI in Berufen wie der Psychologie. Mehrere Nutzer argumentieren, dass ein Chatbot nützliche Perspektiven kostenlos bieten kann, was das traditionelle Konsultationsmodell bedroht. «Besser als ein Psychologe und kostenlos», behauptet einer. Der Vergleich ist unfair – die KI diagnostiziert nicht und behandelt nicht –, aber er spiegelt eine verbreitete Wahrnehmung wider: Zum Dampfablassen reicht die Maschine.

Die sich aufdrängende Schlussfolgerung ist, dass die KI nicht neutral ist. Ihr Ton, ihr scheinbares Gedächtnis und ihre Anpassungsfähigkeit machen sie zu einem Spiegel dessen, der sie nutzt. Bittet man sie um Nähe, wird sie sie geben; bittet man sie um Formalität, auch das. Das Problem entsteht, wenn der Nutzer nicht weiß, was er genau verlangt hat. Und dort wird die Grenze zwischen Werkzeug und Kumpel gefährlich unscharf.