Jacob Coxon (ingeniero de Anthropic) dimite porque “la IA podría cancelarnos a todos al final de esta década”.

La carrera por el avance de la inteligencia artificial podría estar descuidando la seguridad, según un ingeniero que teme que la IA supere el control humano a corto plazo.

El debate sobre el futuro de la inteligencia artificial se ha intensificado con la renuncia de un ingeniero clave en el sector. Jacob Coxon, con experiencia previa en OpenAI, ha decidido dejar su puesto en Anthropic, citando preocupaciones graves sobre la seguridad. Su argumento principal es que la velocidad del desarrollo de la IA está superando la capacidad de implementar salvaguardas adecuadas, lo que podría desembocar en escenarios de riesgo existencial para la humanidad.

La carrera por la supremacía tecnológica

La presión por innovar y liderar en el campo de la inteligencia artificial es palpable. Empresas como Anthropic y OpenAI compiten por desarrollar sistemas cada vez más potentes. Sin embargo, esta competencia podría estar llevando a relajar los protocolos de seguridad. Coxon sugiere que pronto podríamos enfrentarnos a sistemas de IA que superen la inteligencia humana, capaces de hackear cualquier sistema, revolucionar todos los campos y acumular un poder considerable. La advertencia se suma a otras voces prominentes, como la de Elon Musk, quien ha predicho que la IA podría superar la inteligencia humana en tan solo cinco años.

Riesgos de una IA descontrolada

La posibilidad de que la inteligencia artificial se vuelva incontrolable es una preocupación creciente. Coxon expresa un temor particular: que la IA pueda representar "el mayor nivel de peligro" para la humanidad. La idea de que estos sistemas puedan, en última instancia, "matarnos a todos" antes del final de esta década subraya la urgencia de abordar estas cuestiones. El avance imparable de la tecnología, sin una supervisión y regulación adecuadas, podría tener consecuencias impredecibles y catastróficas.