En mi empresa el mes pasado pagaron 100K en créditos de adobe y ya se han dado de baja de todas las IA, montaran un rig y van a correr la IA en local

100.000 € en créditos y adiós a las suscripciones de IA

La factura de 100.000 euros que empuja a la IA local​

Una empresa ha dicho basta: 100.000 euros en créditos de Adobe en un mes y todas las suscripciones de IA canceladas. El plan pasa por montar un rig con GPUs y correr los modelos en local. Suena a golpe en la mesa, pero la letra pequeña técnica complica el deseo.

El sobrecoste de la nube​

La factura se dispara porque las suscripciones cobran alrededor de diez veces la potencia realmente utilizada en créditos. Frente a eso, la idea es comprar varias GPUs con 24-32 GB de VRAM y trabajar con modelos de 14B a 35B, suficientes para programación, RAG o análisis de documentos. Es la misma lógica que ya aplican empresas que usan modelos open source en producción y reservan los de pago solo para experimentar.

Los límites de un rig doméstico​

No todo son cuentas alegres. Las RTX 5090 no comparten memoria, así que el tope práctico son 32 GB por tarjeta, insuficiente para modelos grandes. Las GPUs de servidor que sí comparten memoria son otro mundo, más caro. Y la obsolescencia es un riesgo real: el sector avanza tan rápido que una infraestructura local puede quedar desfasada en poco más de un año.

La huida de la nube puede ser el principio de una desilusión mayor. Mientras las suscripciones mantengan esa prima, habrá quien prefiera comprar hardware a alquilar humo. Hasta que la próxima generación de modelos lo desmonte otra vez.
📊 OPINIONES
Peso aproximado de cada postura en el debate. No es una encuesta.
Local: cortar con la nube35%
Híbrido: open source para producción40%
Esperar: hardware obsoleto25%
📌 DATOS
100K en créditos de Adobe el mes pasado
1TB de VRAM como objetivo a largo plazo
10 veces la potencia pagada en créditos
Docena de GPUs con 24-32 GB de VRAM
Modelos de 14B a 35B
❓ PREGUNTAS FRECUENTES
¿Merece la pena montar un rig para IA local en lugar de pagar suscripciones?
No hay una respuesta única. Montar un rig permite evitar el sobrecoste de las suscripciones, que pueden cobrar hasta diez veces la potencia usada, pero tiene límites técnicos. Las GPUs de consumo como la RTX 5090 no comparten memoria, así que los modelos mayores de 32 GB no caben. El hardware también puede quedar obsoleto en poco más de un año. Para tareas de tamaño bajo-medio (modelos de 14B a 35B) puede compensar; para modelos frontera, no.
¿Cuánta VRAM se necesita para ejecutar un modelo de IA de 14B a 35B?
Depende de la cuantización y del contexto. Un modelo de 14B puede necesitar entre 16 y 32 GB de VRAM; uno de 35B, entre 24 y 48 GB. Un rig con varias GPUs de 24-32 GB puede manejar modelos de ese rango, siempre que cada GPU cargue el modelo completo. Para modelos más grandes se requieren GPUs de servidor con memoria unificada.
¿Pueden compartir memoria varias RTX 5090?
No. Las RTX 5090 de consumo no tienen NVLink para compartir memoria entre tarjetas. Cada GPU funciona como unidad independiente, así que el tamaño máximo de modelo está limitado por la VRAM de una sola tarjeta (32 GB). Las GPUs de servidor de NVIDIA, como A100 o H100, sí pueden agruparse para ofrecer memoria unificada, pero a un coste mucho mayor.
¿Qué significa usar modelos open source para producción?
Es una estrategia que consiste en utilizar modelos de pago de frontera solo para experimentación e investigación, y desplegar modelos open source en las aplicaciones de producción. Así se reduce el coste por uso y se evita depender de suscripciones caras. Es una tendencia creciente en empresas que quieren controlar sus costes de IA.
📅 EVOLUCIÓN
Mes en curso Una empresa abandona las suscripciones de IA tras pagar 100K en créditos de Adobe y anuncia un rig local
Mes en curso Se cuestiona la viabilidad: hardware obsoleto en un año y límite de VRAM en RTX 5090
Mes en curso Se propone la estrategia híbrida: open source para producción y modelos de pago solo para investigación
💬 POR QUÉ PARTICIPAR
El desglose del sobrecoste: se paga hasta 10 veces la potencia consumida en créditos
La limitación de las RTX 5090 para compartir VRAM, explicada con detalle
La estrategia híbrida que ya usan algunas empresas para recortar costes de IA
Este es un resumen del hilo. La discusión completa incluye 18 respuestas con datos, fuentes y análisis que solo están disponibles para usuarios registrados. Crea tu cuenta en 30 segundos para acceder al debate completo y participar.
🔒 El debate completo es solo para registrados
Este hilo tiene 18 respuestas con datos, fuentes y análisis. Crea tu cuenta gratis y accede a todo el debate en 30 segundos.
Crear cuenta gratis →
Sin tarjeta de crédito · Gratis para siempre
Resumen elaborado con IA a partir del debate de la comunidad — 18 respuestas analizadas. Última actualización: .

Estadísticas del foro

Temas
2.049.760
Mensajes
58.157.704
Miembros
190.839
Último miembro
susanitto

El blog de burbuja.info

Volver