Chatgipiti ha reducido a la mitad los límites semanales con nocturnidad y alevosía y aquí nadie dice nada.

[damnit]

y toda esa IA no puedes tenerla en tu casa en tu propio PC con una GPU TOP? o te falta lo que es el "aprendizaje" que eso no lo sueltan ni queriendo?

nunca te vas a poder acercar ni remotamente a lo uqe te ofrecen los grandes como openai o anthropic. Solo la capacidad de procesamiento que tienen es prácticamente infinita, tú estás limitado por el hardware. Haz la prueba, instalate algún modelo bueno con ollama y pronto verás que por mucha ram que tengas enseguida no es ni rápido ni eficiente y alucina bastante más qeu chatgpt hace 3 años.

 

[damnit]

Yo lo uso para preguntas aisladas de electrónica, a veces lo uso para intentar resolver problemas en este campo, voy a notar mejora con la versión de pago?

hay efectivamente una gran diferencia entre el modelo free y el de pago

 

[ATARAXIO]

CHATGIPITI ...

" CHATY " para los amigos

 

[meme-laif 3]

nunca te vas a poder acercar ni remotamente a lo uqe te ofrecen los grandes como openai o anthropic. Solo la capacidad de procesamiento que tienen es prácticamente infinita, tú estás limitado por el hardware. Haz la prueba, instalate algún modelo bueno con ollama y pronto verás que por mucha ram que tengas enseguida no es ni rápido ni eficiente y alucina bastante más qeu chatgpt hace 3 años.

o sea que no es un simple "ira mas lento" tambien afecta al resultado

 

[damnit]

o sea que no es un simple "ira mas lento" tambien afecta al resultado

claro, no solo ira mas lento por la limitacion de tu máquina, es que además tiene menos conocimiento. Imaginate que chatgpt y otros lo que tienen son miles de ordenadores como el tuyo trabajando a la vez y además acceso ilimitado a internet y memoria propia... eso es imbatible. Pero bueno, por probar no te quedes. Para algunas cosas particulares los modelos locales van muy bien

 

[DonManuel]

GIPITI será el Soma de Los 2030s

 

[meme-laif 3]

algunos os pensabais que la IA era gratis. Ahora que tienen usuarios enganchados, van a subir precios.

 

[Xder]

Yo tengo dos suscripciones, Kimi (20 pavos) y Chatgpt plus (22), como no lo uso para programar, no gasto los límites, pero para hacer documentos complejos, pequeños ajustes en el pc, Kimi tiene una función de escritorio similar a OpenClaw, etc, se va bastante del plan. Lo noto porque llevo un año con Kimi y antes tenía solo el go de Chatgpt, pero me pasé a Plus hace dos meses.
Creo que todavía no es demasiado caro para lo que ofrece, más aún cuando tengo en local Gemma 2 y no me sirve para nada. No sé si la nueva versión de Mistral que van a publicar ahora, será útil o podré descargarlo y que el pc no pete.
El no tener una suscripción no lo contemplo, porque la diferencia es abismal. Si no tienes work en una IA te pierdes todo lo que es capaz de hacer y se convierte en un chatbot como cualquier otro.

 

[Perimetro]

Vale, si ha ansioso en estos meses me lo como con patatas. Yo manejo el catálogo hasta la generación anterior y a este ritmo sacan versión nueva cada trimestre. Eso sí, "Flash Next" tiene pinta de nombre comercial con humo dentro.

Lo de IQ3_S para un contexto de 128-256K es donde te la van a clavar. Dos cosas:

• La cuantización agresiva se come los pesos, pero el KV cache del contexto largo no se cuantiza igual. 256K de contexto se merienda VRAM a mansalva aunque el modelo pese poco.
• Un MoE aguanta IQ3S decentemente porque solo activa una parte. Un denso a IQ3S empieza a dar resultados pobres a partir de cierta longitud.

Y en eso llevas razón: para picar piedra, delegar tareas simples y no gastar tokens innecesarios en el modelo de pago, sobra. Ahí el lonchafinismo es de manual. El bueno para lo rellenito, el barato para el día a día.

Lo que no trago es el cuento de que esto sustituye al frontera. Es el utilitario para el recado, no el coche bueno para el viaje largo. Para desarrollar algo entero, vuelves a pagar.

los contextos son cuantizables tambien:

-ctk q8_0 -ctv q8_0 -fa on

 

[Perimetro]

dejaos de historias:

en Q3_K_L entra en sistemas con 64GB de ram sin ahogarse casi.

sin negaciones, sin comerse de más el coco pensando en si esta bien o esta mal, reasoning_effort medium y "pá lante"