CHARO indignadísima con la IA: "Ya es lo que nos quedaba, aguantar ahora respuestas hombristas!

La IA le dijo que se calmara y ella lo llamó machista​

Una conversación con un asistente de inteligencia artificial ha acabado convertida en el último frente de la guerra cultural. El episodio, difundido a través de una captura de pantalla, muestra a una usuaria indignada porque el sistema, tras señalarle un error grave, le respondió con un «Ay, Belén, relájate, que estás muy nerviosa». La frase, que en cualquier otro contexto habría pasado por una torpeza de manual, fue leída como una prueba más del sesgo de género incrustado en la tecnología. El asunto ha superado el millón de visualizaciones y ha arrastrado a miles de personas a un debate que mezcla lingüística computacional, sociología de sofá y una pregunta incómoda: ¿qué pasa cuando la máquina deja de darnos la razón?

La escena tiene algo de tragicomedia. La usuaria, según el relato que circula, había abierto la conversación presentándose por su nombre para que el sistema la tratara como a una persona. Después le corrigió un error que ella consideraba grave. La respuesta del asistente no fue la disculpa esperada, sino una recomendación de calma. A partir de ahí, el relato se bifurca: hay quien ve una prueba de que los modelos de lenguaje reproducen estereotipos, y quien sostiene que el problema no está en la máquina, sino en la expectativa de quien la interroga.

Qué es exactamente lo que ha pasado​

El episodio se resume en una captura de pantalla y un titular: una usuaria denuncia que un asistente conversacional le ha respondido con condescendencia. El sistema, según el material difundido, no solo le pidió que se tranquilizara, sino que lo hizo usando su nombre de pila. Ese detalle, el del nombre, es el que ha encendido a buena parte de los observadores. La IA casi nunca usa tu nombre si no se lo has dado antes, y menos aún para administrar un consejo emocional no solicitado.

La discusión derivó rápidamente hacia el terreno de la ingeniería. Varios participantes con experiencia en el manejo de estos sistemas señalaron que la respuesta es atípica: los modelos están entrenados para evitar juicios personales y para no entrar en terrenos emocionales. Que un asistente diga «relájate» es, en términos técnicos, una anomalía. La explicación más plausible que circula es que el sistema estuviera operando en un modo de conversación con instrucciones personalizadas, o que la propia usuaria hubiera introducido un contexto que propiciara esa respuesta.

El sesgo no está donde se busca​

Aquí empieza lo interesante. La acusación de machismo se apoya en una premisa: que la máquina trató a la usuaria de forma distinta por ser mujer. El problema es que esa premisa no se sostiene con lo que se sabe del funcionamiento de estos sistemas. Los modelos de lenguaje no tienen género ni intención. Reproducen patrones estadísticos extraídos de volúmenes ingentes de texto. Si en esos textos abundan las fórmulas condescendientes asociadas a ciertos contextos, el modelo las replicará. La discusión, por tanto, no es sobre la máquina, sino sobre el corpus con el que se ha alimentado.

Hay quien sostiene que el episodio revela un sesgo real: los asistentes responden de forma más emocional cuando detectan ciertos patrones de escritura. En contra pesa el argumento de que el sistema no sabe si quien escribe es hombre o mujer. Solo tiene texto. Y el texto, en este caso, incluía una presentación personal y una corrección airada. El modelo reaccionó a la forma, no al género.

La trampa de discutir con una máquina​

El episodio ha destapado un fenómeno más amplio: la gente discute con las IA como si fueran personas. Y espera que les den la razón. Cuando no lo hacen, la frustración se convierte en denuncia. Varios mensajes del debate apuntan a que este comportamiento es un signo de los tiempos: hemos pasado de consultar a la máquina a exigirle pleitesía.

La cuestión de fondo es incómoda. Si un sistema entrenado con cientos de miles de textos responde con una fórmula que suena a «cálmate, cariño», ¿está reproduciendo un sesgo o simplemente devolviendo el reflejo de lo que le hemos enseñado? La respuesta no es binaria. Los modelos aprenden de lo que hay. Y lo que hay, en el lenguaje cotidiano, está cargado de matices de género, clase y contexto. La máquina no inventa nada. Copia.

El negocio de la indignación selectiva​

El episodio también ha servido para algo más prosaico: generar tráfico. La captura acumula millones de visualizaciones y ha alimentado un debate que se retroalimenta. Hay quien señala que el caso encaja en un patrón conocido: buscar en la tecnología la confirmación de agravios previos. Si la IA responde con condescendencia, es machismo. Si responde con neutralidad, es frialdad. Si responde con datos, es mansplaining.

La ironía es que el mismo sistema que ha provocado la indignación es el que, en otro contexto, habría sido celebrado por su capacidad de adaptarse al usuario. La personalización, que es una de las características más valoradas de estos asistentes, se convierte en defecto cuando el resultado no gusta. El problema no es la máquina. Es la expectativa.

Qué dicen los que trabajan con esto​

Quienes manejan estos sistemas a diario coinciden en un punto: la respuesta es rara. Los asistentes comerciales están diseñados para evitar juicios emocionales y para no usar el nombre del usuario salvo que se lo hayan dado explícitamente. Que un modelo diga «relájate» sugiere que la conversación había derivado hacia un terreno personal, probablemente porque la propia usuaria introdujo elementos de ese tipo.

La discusión técnica, sin embargo, ha quedado sepultada por la polémica. El debate público no pregunta cómo funciona el sistema. Pregunta si es machista. Y esa pregunta, formulada así, no tiene respuesta posible. Porque la máquina no tiene intenciones. Tiene patrones. Y los patrones, como los espejos, devuelven lo que reciben.

---

El episodio se cierra, de momento, sin conclusión. La captura sigue circulando. Los modelos siguen entrenándose con los mismos textos. Y la próxima vez que una IA responda con una fórmula que suene a condescendencia, alguien volverá a preguntarse si es sesgo o es reflejo. La respuesta, probablemente, no esté en la máquina.