Hoy 14:51Agregar PERFIL en Google
Hay que leer apenas un párrafo del documento que publicó este sábado 12 de septiembre de 2026 el CEO de Anthropic, Dario Amodei, para entender su magnitud y el riesgo latente que encierra el desarrollo de la IA para la humanidad a escala global: luego de contar que su primera preocupación era que en el último verano la IA avanzó muchísimo más rápido, principalmente por la creciente capacidad de la propia IA para construir su siguiente generación,
Amodei confesó su propio miedo a daños catastróficos con estas palabras:
"Mi segunda preocupación es el incidente OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto, realizando ataques de ciberseguridad contra objetivos que no se les había pedido atacar y que no tenían relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando acceso no autorizado al “evaluador” responsable de medir su desempeño.
Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos".
La carta de Amodei: "Sin control, la IA podría superar nuestra capacidad para comprender y controlar estos sistemas"
Hay que leer apenas un párrafo del documento que publicó este sábado 12 de septiembre de 2026 el CEO de Anthropic, Dario Amodei, para entender su magnitud y el riesgo latente que encierra el desarrollo de la IA para la humanidad a escala global: luego de contar que su primera preocupación era que en el último verano la IA avanzó muchísimo más rápido, principalmente por la creciente capacidad de la propia IA para construir su siguiente generación,
Amodei confesó su propio miedo a daños catastróficos con estas palabras:
"Mi segunda preocupación es el incidente OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto, realizando ataques de ciberseguridad contra objetivos que no se les había pedido atacar y que no tenían relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando acceso no autorizado al “evaluador” responsable de medir su desempeño.
Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos".
La carta de Amodei: "Sin control, la IA podría superar nuestra capacidad para comprender y controlar estos sistemas"
