Opciones para montar un IA workstation y valoaciones.

Opciones para montar un IA workstation y valoaciones.
Estoy de acuerdo contigo, pero tener tu privacidad, tu propiedad y tu control sobre las cosas que te afectan a ti, también es interesante. A un precio razonable, claro.
(imagen visible para usuarios registrados)

Instala ubuntu en un pendrive y gpt4all.io y tienes una IA portable que no deja rastro en la máquina que la uses y privada
 
alguien sabria decirme como o si es posible descargarme el burbubot, desgargue un archivo de varios gigas de deepseek, con el que no se ni que tengo que hacer

intente con ollama y otra que se llamaba llm no se que

pero no se cargaba el deepseek

partiendo de esa base de profundo desconocimiento, pregunto primero si es posible y luego como habria que hacer, cuanto pesaria, seria de pago, se podria instalar independiente o en la nube?

me interesaria tener en local el burbubot o una ia que hable asi como hablamos los foreros con sus chascarrillos, modismos, insultos, tacos,

para cuando cierren el foro tener lo mas parecido a un amigo del foro con el que poder chatear o pedirle resumenes o lo que sea
 
Lo más facil es que te instales el LMstudio. Y con LMstudio te descarges modelos. Te recomiendo:

Si tienes 8Gb de RAM descargate el Gemma 3 4B.
Si tienes 16Gb de RAM descargate el Gemma 4 E4B.
Si tienes 32Gb de RAM descargate el Gemma 4 26B A4B.

Los que más recomiendan son los Gemma, Qwen y GPT OSS.

Deepseek es enorme, en un PC normal no cabe.

Para un PC normal que puede ir a 30Gb de ancho de banda, lo mejor es usar modelos de 3B o 4B. Se pueden usar modelos más grades, por ejemplo de 25B pero que sean MoE de 3B o 4B.
 
Entonces los servidores de IA tienen una velocidad de ancho de banda de 8Tb. Lo cual se traduce en que aproximadamente Los modelos frontera de IA como chatgpt son MoE de 30B de parámetros activos para ir a una velocidad de 300 tokens por segundo.

Se rumorea que los modelos frontera tienen entre 1000B y 10000B de parámetros:

Gemma 4 26B A4B

Chatgpt 2600B A40B

Eso significa que aproximadamente la IA frontera es 10 veces mejor que la IA local.

Se rumorea que han inventado un nuevo material que va a sustituir al silicio, con lo cual la IA sería 10 veces más grande y rápida. En el futuro ¿Tendremos una IA frontera 100 veces más potente que una IA local o la IA local también aumentará 10 veces su potencia actual?
 
Lo más facil es que te instales el LMstudio. Y con LMstudio te descarges modelos. Te recomiendo:

Si tienes 8Gb de RAM descargate el Gemma 3 4B.
Si tienes 16Gb de RAM descargate el Gemma 4 E4B.
Si tienes 32Gb de RAM descargate el Gemma 4 26B A4B.

Los que más recomiendan son los Gemma, Qwen y GPT OSS.

Deepseek es enorme, en un PC normal no cabe.

Para un PC normal que puede ir a 30Gb de ancho de banda, lo mejor es usar modelos de 3B o 4B. Se pueden usar modelos más grades, por ejemplo de 25B pero que sean MoE de 3B o 4B.

tengo esto:

Mini PC FIREBAT AM02, AMD Ryzen 5 6600H, LP DDR5, 16GB RAM, 512GB SSD, Windows 11,​


como hago para que me responda como burbubot ? bastaria con pedirle que analice el usuario del foro , dandole mi contraseña para que pueda observarlo, o como?
 
No lo sé. Copia unos textos de ejemplo y pónselos en el prompt. Dile que lo imite.
 

Estadísticas del foro

Temas
2.054.751
Mensajes
58.297.251
Miembros
190.968
Último miembro
Osmundo Silla

El blog de burbuja.info

Volver