Opciones para montar un IA workstation y valoaciones.

vallamete

¿De dónde a dónde según cuanto?
Desde
27 Jun 2025
Mensajes
258
Fruta
39
¿Qué opciones hay para montar un IA workstation? ¿Qué valoraciones merecen?
 
Creo que lo mejor es el Mac Studio M5 Ultra. Es de lo más rápido porque tiene mucho ancho de banda y también tiene mucha vram. Pero 7000€ es demasiado.

El mundo PC ha hecho la solución de aumentar la velocidad de la ram y el ancho de banda, aunque la velocidad no es de lo mejor, es usable según si se va a usar más en modo chat o se tiene tiempo para esperar más a que acabe de hacer las tareas la IA en modo agente. Se pueden comprar equipos de esos por 3000€

He visto RTX 5090 a 6000€

¿Se pueden montar equipos más baratos que valgan la pena?
 
Estoy de acuerdo contigo, pero tener tu privacidad, tu propiedad y tu control sobre las cosas que te afectan a ti, también es interesante. A un precio razonable, claro.
 
Estoy de acuerdo contigo, pero tener tu privacidad, tu propiedad y tu control sobre las cosas que te afectan a ti, también es interesante. A un precio razonable, claro.



Ahí esta el problema, el precio razonable ^^


En este vídeo te lo dejan claro
 
Para IA lo que más importa, además de que tenga muchos Giga Bytes de memoria vram o lpram o ram, es la velocidad del ancho de banda. El procesador se queda esperando a que le lleguen los datos de ram, porque la velocidad del ancho de banda es lenta.




La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.

El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.

Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.

Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.

Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
 
Para IA lo que más importa, además de que tenga muchos Giga Bytes de memoria vram o lpram o ram, es la velocidad del ancho de banda. El procesador se queda esperando a que le lleguen los datos de ram, porque la velocidad del ancho de banda es lenta.




La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.

El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.

Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.

Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.

Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
No es "velocidad de ancho de banda" sino ancho de banda a secas.
 
​














Para IA lo que más importa, además de que tenga muchos Giga Bytes de memoria vram o lpram o ram, es la velocidad del ancho de banda. El procesador se queda esperando a que le lleguen los datos de ram, porque la velocidad del ancho de banda es lenta.




La velocidad del ancho de banda depende del tamaño que tiene el propio ancho de banda y de la velocidad de la ram.

El Mac Studio M5 Ultra tiene una velocidad de ancho de banda de 1TB por segundo.

Los PC IA pueden tener un velocidad de ancho de banda de 250GB por segundo.

Una IA de 27B en una grafica de 900GB/s puede ir a 40 tokens por segundo. Entonces en un PC de 90GB/s iria a 4 t/s.

Simplemente con tener una velocidad de tokens por segundo, en vez segundos por token ya se pueden hacer cosas ¿No?
Pero que no se trata de eso, se trata de ver si te sale rentable, el video hace cuentas y ya te digo que para meter modelos buenos no te sale a cuenta.
 

Estadísticas del foro

Temas
2.053.096
Mensajes
58.260.464
Miembros
190.905
Último miembro
JorgeRNE

El blog de burbuja.info

Volver