La factura de 100.000 euros que empuja a la IA local
Una empresa ha dicho basta: 100.000 euros en créditos de Adobe en un mes y todas las suscripciones de IA canceladas. El plan pasa por montar un rig con GPUs y correr los modelos en local. Suena a golpe en la mesa, pero la letra pequeña técnica complica el deseo.
El sobrecoste de la nube
La factura se dispara porque las suscripciones cobran alrededor de diez veces la potencia realmente utilizada en créditos. Frente a eso, la idea es comprar varias GPUs con 24-32 GB de VRAM y trabajar con modelos de 14B a 35B, suficientes para programación, RAG o análisis de documentos. Es la misma lógica que ya aplican empresas que usan modelos open source en producción y reservan los de pago solo para experimentar.
Los límites de un rig doméstico
No todo son cuentas alegres. Las RTX 5090 no comparten memoria, así que el tope práctico son 32 GB por tarjeta, insuficiente para modelos grandes. Las GPUs de servidor que sí comparten memoria son otro mundo, más caro. Y la obsolescencia es un riesgo real: el sector avanza tan rápido que una infraestructura local puede quedar desfasada en poco más de un año.
La huida de la nube puede ser el principio de una desilusión mayor. Mientras las suscripciones mantengan esa prima, habrá quien prefiera comprar hardware a alquilar humo. Hasta que la próxima generación de modelos lo desmonte otra vez.