Elon Musk, Steve Wozniak y otros 1.000 expertos en IA piden frenar el desarrollo de modelos más potentes que GPT-4 por posibles riesgos para la humani

Musk, Wozniak y 1.000 expertos piden parar la IA seis meses​

¿Tiene sentido pedir una pausa de seis meses en el desarrollo de la inteligencia artificial cuando los propios firmantes llevan años acelerándola? Más de 1.000 personas, entre ellas Elon Musk, Steve Wozniak y el director general de Stability AI, Emad Mostaque, han suscrito una carta abierta impulsada por el Future of Life Institute que reclama detener el entrenamiento de sistemas más potentes que GPT-4 hasta que existan protocolos de seguridad auditados por expertos independientes. El manifiesto sostiene que los sistemas de IA más potentes solo deberían desarrollarse cuando haya certeza de que sus efectos serán positivos y sus riesgos asumibles. La paradoja es evidente: Musk ayudó a fundar OpenAI y emplea IA en el sistema de conducción autónoma de Tesla.

Qué pide exactamente la carta del Future of Life Institute​

El documento, publicado por la organización sin ánimo de lucro y recogido por Reuters, no pide apagar nada. Pide una moratoria de seis meses en el entrenamiento de modelos superiores a GPT-4, el lanzamiento reciente de OpenAI, y que durante ese plazo se diseñen, apliquen y evalúen protocolos de seguridad comunes. Entre los firmantes figuran investigadores de DeepMind, la división de Google especializada en IA, y pesos pesados del sector como Yoshua Bengio y Stuart Russell.

Gary Marcus, profesor emérito de la Universidad de Nueva York y uno de los firmantes, resumió la postura a Reuters con una frase que admite lo que la carta no dice: «No es perfecto, pero su espíritu es el correcto: debemos ir más despacio hasta que comprendamos mejor las consecuencias». Es decir, ni los propios impulsores del texto sostienen que la pausa resuelva el problema. Solo compran tiempo.

El argumento que desmonta la carta: Musk frena lo que él ya corre​

La objeción más repetida no apunta a la IA, apunta a los firmantes. Que el dueño de Tesla, empresa que usa IA para el coche autónomo, y el cofundador de OpenAI pidan frenar el desarrollo de modelos más potentes tiene una lectura poco caritativa: se frena al competidor mientras se avanza en casa. Es la tesis del fabricante de coches eléctricos que no quiere que otros corran más que él.

Hay quien va más lejos y sostiene que el objetivo real es enfriar el mercado. La secuencia sería conocida: primero se genera expectación, después se pide regulación, y el que ya tiene la tecnología consolidada gana con cualquier escenario. El precedente de las criptomonedas, donde los mensajes públicos movieron precios, se cita como ejemplo de manual. La pausa, en esta lectura, no es prudencia: es ventaja competitiva disfrazada de responsabilidad.

El miedo real no es Skynet, es quién controla los parámetros​

El segundo frente de críticas no discute el riesgo, discute su origen. La IA no puede generar un criterio propio de la nada: aprende de datos y de directrices humanas. Quien define el código ético, quien selecciona el corpus de entrenamiento y quien fija los límites de lo que el modelo puede responder tiene el control efectivo. El peligro no sería la máquina, sino la concentración de poder en pocas manos durante mucho tiempo.

De ahí la insistencia en alternativas de código abierto, mencionada ya en las primeras reacciones al manifiesto. Si la herramienta queda en manos de una única organización, la discusión sobre su seguridad es en realidad una discusión sobre su gobernanza. Y esa discusión no la resuelve una pausa de seis meses.

Los empleos que la IA ya está tocando: no los manuales​

Uno de los análisis más incómodos que ha dejado el debate apunta a una inversión contraintuitiva. Los trabajos en riesgo inmediato no son los manuales sin especializar, sino los que requieren formación e inteligencia: médicos, abogados, ilustradores. La IA puede simular creatividad, y en muchos casos sale más barata que el profesional que sustituye. En cambio, sustituir a un recolector de fresas con un robot sigue siendo más caro que pagarle el jornal.

La conclusión práctica es que el ajuste no golpeará primero a quien menos formación tiene, sino a capas medias que se creían a salvo. Eso explica por qué el manifiesto genera tanta desconfianza: quienes piden la pausa son, en buena parte, los mismos que llevan años diciendo que hay que adaptarse o quedarse atrás.

La trampa del calendario: por qué seis meses no cambian nada​

La pregunta más obvia es también la que nadie responde. Si la IA es un riesgo existencial para la humanidad, ¿por qué deja de serlo en seis meses? Ningún firmante ha explicado qué umbral técnico se cruzaría en ese plazo ni qué evaluación independiente lo certificaría. La moratoria funciona como gesto, no como solución.

A eso se suma la velocidad del cambio. En menos de un año se ha pasado de asistentes básicos a modelos capaces de redactar, programar y responder con apariencia humana. La sensación dominante es que la tecnología se ha escapado del control de quienes la diseñaron, y que la carta es menos una advertencia que una confesión.

---

Con estos mimbres, la pausa de seis meses se parece menos a un freno de emergencia y más a una nota de prensa con fecha de caducidad. Si de verdad el riesgo es existencial, seis meses es un parpadeo. Si no lo es, la carta es marketing.