Espectacular vídeo de cómo funciona la IA

Un vídeo que muestra 25.800 millones de ecuaciones resueltas en 13 milisegundos para responder a la capital de Francia ilustra el coste computacional oculto tras una respuesta trivial de un modelo de lenguaje. La cifra ayuda a dimensionar por qué la IA consume tanta energía y por qué el hardware se ha convertido en el cuello de botella del sector.

Qué muestra el vídeo

La publicación difundida en X muestra el funcionamiento interno de Qwen 3.8 27B, un modelo de lenguaje de 27.000 millones de parámetros. Cada fotograma del vídeo corresponde a una ecuación real del cálculo del modelo, según su autor. La pregunta planteada es deliberadamente sencilla: cuál es la capital de Francia, con respuesta de una sola palabra y el modo de razonamiento desactivado.

El resultado: 25.800 millones de ecuaciones resueltas en 13 milisegundos. La cifra no es una exageración retórica, sino una forma de visualizar la magnitud de operaciones que un modelo de este tamaño ejecuta incluso para la tarea más trivial.

Por qué importa la cifra

Un modelo de 27.000 millones de parámetros no «piensa» en el sentido humano. Multiplica matrices. Cada token que genera implica recorrer capas de neuronas artificiales, y cada capa ejecuta operaciones aritméticas sobre vectores de números. Para una respuesta de una sola palabra, el sistema realiza miles de millones de multiplicaciones y sumas.

Eso explica por qué la industria de la IA compra GPU como si no hubiera mañana. Nvidia se ha convertido en una de las empresas más valiosas del mundo precisamente por esto. El coste energético de entrenar y ejecutar estos modelos es una de las razones por las que los centros de datos consumen cada vez más electricidad.

El contexto del modelo

Qwen es la familia de modelos desarrollada por Alibaba. La versión 3.8 de 27.000 millones de parámetros se sitúa en la gama media: no compite con los modelos frontera de cientos de miles de millones de parámetros, pero tampoco es un juguete. Puede ejecutarse en hardware relativamente asequible si se cuantiza, aunque con matices.

La publicación original subraya que el modo de pensamiento está desactivado. Eso significa que el modelo no dedica tokens adicionales a razonar antes de responder. Aun así, la maquinaria interna sigue funcionando a pleno rendimiento.

Lo que revela sobre la eficiencia

La diferencia entre 13 milisegundos y lo que tardaría un humano en leer la pregunta es abismal. Pero la comparación relevante no es esa. La pregunta es cuánta energía cuesta cada respuesta y si el sector puede sostener ese ritmo.

Los modelos pequeños y eficientes son una de las vías que explora la industria para reducir costes. La otra es el hardware especializado. Ambas cosas explican por qué la inversión en chips de IA no ha dejado de crecer desde 2022.