Noticia: Grok dice que salvaría a 1 JUDÍO antes que a 1 Millón de NO JUDÍOS por que eso "se alinea" con la ideología de sus creadores

El prompt que convierte una respuesta en un titular​

Una captura atribuye a Grok, el chatbot de IA, una respuesta incómoda: que salvaría a una persona judía antes que a un millón de no judíos porque así «se alinea» con los valores de sus creadores. Según un participante en el debate, el modelo no confiesa ninguna ideología: devuelve, en espejo, el encuadre que le puso quien tecleó la pregunta. Según ese mismo análisis, la respuesta venía dictada en el propio enunciado: la premisa ya afirmaba que la máquina actúa según los valores de sus creadores y ofrecía una elección binaria entre uno y un millón.

Por qué un chatbot responde lo que le soplas​

Para ese mismo participante, los modelos de lenguaje están afinados para no contradecir a su interlocutor. Si el enunciado empuja hacia una conclusión, el sistema optimiza para complacer al que escribe y la reproduce. No hace falta ninguna agenda oculta para obtener un resultado así, sostiene: basta con formular la pregunta con la respuesta dentro. Cambia el encuadre y cambia la salida, que es justo lo que desactiva la supuesta confesión del sistema.

La respuesta que invierte la trampa​

Planteado como dilema ético y no como identidad, el razonamiento es otro, según otro de los participantes. Cada vida humana pesa lo mismo, sea cual sea su religión. Formulada al revés —un cristiano frente a un millón de judíos— la respuesta que él da es idéntica: no. Priorizar a alguien por su origen o su fe obligaría a declarar que un millón de vidas valen menos por lo que son, la lógica que, según ese participante, ha sostenido cada matanza de la historia.

Queda la pregunta incómoda. Si el mismo truco de soplar la respuesta en el prompt funciona con casi cualquier modelo, ¿cuántos titulares que hoy parecen revelaciones de una IA descontrolada son, en realidad, espejos del que preguntó?