Pues según el modelo, de ambos los hay para que te corran en una tablet, o para los que necesitarías un ordenador bastante potente. Igual que los juegos de ordenador, como intentes correrlos al máximo de resolución, sombras y fps ... Ya necesitas un máquina bastante importante. Y para el diseño también requieren unos recursos ingentes y años de desarrollo. No veo exáctamente donde quieres llegar.
Pues que para correr una IA completa (me refiero a comercial, un Gemini, ChatGPT, Claude...), el proceso no se hace ni de broma en tu ordenador o en tu móvil. Solo se gestiona la petición que se envía a la nube.
Para que una IA completa pueda responderte una simple pregunta necesitas una estructura de varios equipos a tope de gama con una serie de GPUs de esas que cada una vale decenas de miles. Pero porque para "existir" necesita eso.
Porque una IA en local suele tener unos pocos miles de millones de pesos. Algo que puede meterse en una RAM de un PC. Una comercial tiene como cien veces más pesos, lo que implica tener una serie de GPUs bastante importante para que quepa en memoria.
Y lógicamente, al multiplicar tanto los pesos, se multiplica la necesidad de cálculo para moverlos. Y sin contar con que tienen un entramado gigantesco de orquestación, cachés, etc. Todo el entorno.
Con lo cual una IA local puede tener su función, pero no es la misma "especie" que una IA comercial. Una no puede sustituir a la otra.
Y sí que creo que será un mercado que terminará llegando, pero con otro enfoque. IAs muy recortadas, muy enfocadas a tareas muy concretas, con un entrenamiento muy específico.
El problema es que entrenar una IA es increíblemente caro, cuesta una millonada. Porque ahí no necesitas unas cuantas máquinas con GPUs potentes; necesitas cientos o incluso miles, porque el proceso que hace la IA para sacar los pesos, o el recálculo del "backpropation" es simplemente inconcebible. Estamos hablando de trillones de cálculos.
Más tener curados los datasets que vas a meter, más tener decenas de ingenieros de un nivel alucinante en IA (que no los regalan), más tener cientos de personas para hacer la parte humana del entrenamiento.
Por eso cuando alguien dice "me bajo una IA al móvil y la entreno como quiero", creo que o no se está explicando muy bien en lo que quiere decir, o se está imaginando cosas que no son.
