Resumen del debate: En mi empresa el mes pasado pagaron 100K en créditos de adobe y ya se han dado de baja de todas las IA, montaran un rig y van a correr la IA en local

La factura de 100.000 euros que empuja a la IA local​

Una empresa ha dicho basta: 100.000 euros en créditos de Adobe en un mes y todas las suscripciones de IA canceladas. El plan pasa por montar un rig con GPUs y correr los modelos en local. Suena a golpe en la mesa, pero la letra pequeña técnica complica el deseo.

El sobrecoste de la nube​

La factura se dispara porque las suscripciones cobran alrededor de diez veces la potencia realmente utilizada en créditos. Frente a eso, la idea es comprar varias GPUs con 24-32 GB de VRAM y trabajar con modelos de 14B a 35B, suficientes para programación, RAG o análisis de documentos. Es la misma lógica que ya aplican empresas que usan modelos open source en producción y reservan los de pago solo para experimentar.

Los límites de un rig doméstico​

No todo son cuentas alegres. Las RTX 5090 no comparten memoria, así que el tope práctico son 32 GB por tarjeta, insuficiente para modelos grandes. Las GPUs de servidor que sí comparten memoria son otro mundo, más caro. Y la obsolescencia es un riesgo real: el sector avanza tan rápido que una infraestructura local puede quedar desfasada en poco más de un año.

La huida de la nube puede ser el principio de una desilusión mayor. Mientras las suscripciones mantengan esa prima, habrá quien prefiera comprar hardware a alquilar humo. Hasta que la próxima generación de modelos lo desmonte otra vez.