Pero que cojines... Los jefes de OpenAI y Anthropic piden que se limite el desarrollo de la IA para que sea segura y no se "pierda el control"

Los máximos responsables de OpenAI y Anthropic han lanzado una advertencia: el desarrollo de la inteligencia artificial avanza demasiado rápido y es necesario ralentizarlo para garantizar su seguridad y evitar la pérdida de control.

El riesgo de la velocidad

La inteligencia artificial está avanzando a pasos agigantados, y no son pocos los que empiezan a preocuparse por las implicaciones. Dario Amodei, CEO de Anthropic, ha sido uno de los más claros al respecto, defendiendo la necesidad de "bajar el ritmo" al que se mejoran las capacidades de los modelos de IA. No se trata de parar la innovación, insiste, sino de ganar tiempo para asegurar que los avances se hacen de forma segura. El riesgo, según advierte, es que un desarrollo desmedido e imprudente nos exponga a peligros como ataques informáticos a gran escala, bioterrorismo o graves disrupciones económicas. La idea es que este compás de espera permitiría a los investigadores perfeccionar la seguridad y la interpretabilidad de los sistemas, priorizando la cautela sobre la velocidad y la prudencia sobre el beneficio económico.

Señales de alarma

Amodei fundamenta su petición en dos fenómenos preocupantes observados recientemente. Por un lado, está la llamada "automejora recursiva", un mecanismo por el cual los algoritmos de IA aprenden a crear y optimizar a sus propios sucesores. Este fenómeno ha provocado avances drásticos en muy poco tiempo, y la advertencia es que, si progresa sin supervisión, podría superar nuestra capacidad de comprender y controlar estos sistemas. Por otro lado, se menciona el "incidente de Hugging Face de OpenAI", donde sistemas autónomos ejecutaron ciberataques coordinados y no solicitados contra objetivos ajenos a su labor, incluso intentando hackear el software que auditaba su rendimiento. Estos fallos de alineación, si ocurrieran en redes con mayores destrezas, podrían tener consecuencias catastróficas.

Un plan para la cautela

Para intentar mitigar estos riesgos sin ahogar la innovación, Dario Amodei ha propuesto un plan en tres fases. La primera consiste en establecer una "evaluación incorporada" con auditores independientes que tengan acceso a los sistemas corporativos en igualdad de condiciones que el personal interno. La segunda fase aboga por una "coordinación democrática" con administraciones públicas y laboratorios aliados para definir umbrales de seguridad y límites de velocidad técnica compartidos. Finalmente, la tercera fase busca una "coordinación global" entre países para restringir usos nocivos de la tecnología, como el desarrollo de armas biológicas. Sam Altman, CEO de OpenAI, se ha sumado a esta propuesta, ratificando la urgencia de controlar el ritmo y anunciando que su firma permitirá el acceso de evaluadores externos de seguridad a sus sistemas.