*Tema mítico* : Deepseek lo cambia todo: cisne zaino en ciernes

[alv982]

Significa esto que las gpus de Nvidia ya pierden su utilidad? No sirven para correr Deepseek? O es que Deepseek corre igual de rápido en una gpu de Nvidia que en una gpu normal?

DeepSeek está entrenado con tarjetas Nvidia H800, qué son tarjetas tope de gama. Es una versión capada de las H100 que usa OpenAI para poder exportarse a China (ancho de banda de transferencia entre chips reducida a la mitad). Ahora mismo no hay nada que sea más que Nvidia para entrenamiento de LLMs, además de por el hardware, por el "compilador" con lo que se desarrolla todo (CUDA), qué es de NVidia y sólo funciona con tarjetas de Nvida.

El tema parece que está en que han conseguido entrentar modelos usando menos tiempo de cálculo, lo que se traduce para un mismo tiempo de entrenamiento necesitan menos tarjetas, con lo que pueden hacer un modelo similar a otros más grandes a menos coste. Pero si tuvieran más podrían hacer modelos todavía más potentes. No creo que influya mucho en Nvidia quitando la noticia, las grandes del sector seguirán comprando el mismo número de tarjetas.

 

[Lorenzo Ramirhez]

Eso para correrla a nivel andar por casa. Ahora piensa en los costes para una empresa

Necesitarías un centro de datos y una mini central eléctrica lol

Te drojas?

 

[tracrium]

La consecuencia que yo veo es que Deepseek va a "democratizar" la IA. Los servicios de IA podrán ser prestados por pequeñas empresas. Y va a haber una competencia feroz. Ya no harán falta grandes empresas con mucho capital, funcionando como monopolios y con grandes beneficios. Las grandes empresas del Nasdaq que eran candidatas a dominar los servicios de IA serán las más perjudicadas.

Lo "caro" de la IA no es el hardware ni la electricidad.

Lo realmente difícil es hacerse con una base de datos bien categorizada y de calidad.

Para cosas mundanas puede ser sencillo, pero para cosas menos habituales, más específicas y más complejas se necesitan muchos casos y mucho trabajo para tener una base de datos lo suficientemente grande como para entrenar un modelo de calidad.

Eso para una pequeña empresa es muy, muy difícil.

 

[Bailongo]

Te drojas?

No me drogo, simplemente tienes que pensar un poco y extrapolar el coste para uso personal al coste de una empresa que procesa millones de peticiones diarias

 

[Janus]

Los modelos en la nube no tienen futuro por el tema de la privacidad y la protección de datos. Ninguna empresa va a enviar datos de sus proyectos a ChatGPT por este motivo, de manera que harán falta modelos potentes pero que se ejecuten en local.

El debate es fortísimo a ese respecto. Hay muchos pasas atrás en el mundo del cloud porque no se pueden poner todos los datos y aplicaciones fuera de tu infraestructura. Los hyperscalers no firman contratos asumiendo penalizaciones por ejemplo por disponibilidad.
De un tiempo para esta parte parece que predomina el modelo o premise para cierto parque de instalaciones dando lugar a un fuerte intereses en soluciones de nube híbridas. En el mundo de la IA particularizada para los negocios concretos de las empresas, esa potencia de cálculo tiene que estar en local por lo que más adelante debe cuando esté más claro el impacto de la IA en el negocio ….. se prevé inversión de las empresas en su propia inteligencia artificial propia. Es la manera de decir izar la información y sacar una ventaja propia a la IA.
La IA no es para que desde tu casa pidas un viaje de vacaciones y el Operator de OpenAI simula que tú navegas por la aplicación de turno para el booking, no tampoco es para hacer los deberes de los niños en casa. El verdadero impacto de la IA estaría en lograr modelos de negocio y ventajas competitivas sostenibles en las empresas que mejor sepan usarla y sepan combinarla con la parte física de toda actividad y negocio para lograr esa milla extra que les pone por delante en el mercado.
Muchos olvidan que la economía digital es una parte de la economía global y que el resto es muy apreciable y fundamental para que funcione.
Es un tema que me apasione por aspectos que no vienen a cuento.
La IA es una herramienta más de los ebanistas de los negocios. Que el mueble sea top o vulgar sigue dependiendo del talento de quien usa las herramientas.

 

[Lorenzo Ramirhez]

DeepSeek está entrenado con tarjetas Nvidia H800, qué son tarjetas tope de gama. Es una versión capada de las H100 que usa OpenAI para poder exportarse a China (ancho de banda de transferencia entre chips reducida a la mitad). Ahora mismo no hay nada que sea más que Nvidia para entrenamiento de LLMs, además de por el hardware, por el "compilador" con lo que se desarrolla todo (CUDA), qué es de NVidia y sólo funciona con tarjetas de Nvida.

El tema parece que está en que han conseguido entrentar modelos usando menos tiempo de cálculo, lo que se traduce para un mismo tiempo de entrenamiento necesitan menos tarjetas, con lo que pueden hacer un modelo similar a otros más grandes a menos coste. Pero si tuvieran más podrían hacer modelos todavía más potentes. No creo que influya mucho en Nvidia quitando la noticia, las grandes del sector seguirán comprando el mismo número de tarjetas.

Eso es, los demorado se creen que esto hunden a open ai o grok, no, ceporro


Los chinos acaban de desclasificar como hacer una AGI sin saberlo, el modelo deepseek más las granjas de datos usanos

El humano nunca fue para tanto

 

[Lorenzo Ramirhez]

No me drogo, simplemente tienes que pensar un poco y extrapolar el coste para uso personal al coste de una empresa que procesa millones de peticiones diarias

Con lo de central eléctrica es pa cancelar.

 

[dischcatfish]

Lo "caro" de la IA no es el hardware ni la electricidad.

Lo realmente difícil es hacerse con una base de datos bien categorizada y de calidad.

Para cosas mundanas puede ser sencillo, pero para cosas menos habituales, más específicas y más complejas se necesitan muchos casos y mucho trabajo para tener una base de datos lo suficientemente grande como para entrenar un modelo de calidad.

Eso para una pequeña empresa es muy, muy difícil.

Le dices a tu IA: guárdame internet en un diskete.

Tienes que estar registrado para ver este contenido

 

[Lorenzo Ramirhez]

Tienes que estar registrado para ver este contenido

El narigudo plum de altman, tromp y los billones, ya pueden ponerse las pilas y sacar lo que tienen y construir de otra manera

 

[Bailongo]

Con lo de central eléctrica es pa cancelar.

Que si, ale, ya pasó.

 

[Lorenzo Ramirhez]

Que si, ale, ya pasó.

Tío, que no sabes de lo que hablas jajajajajaj

Overcuñao, no necesitas ni la H para los servicios y outputearlos, que hay 9 modelos, tiras del qwq más pequeño y pista.

Besugo, ponte con la oposición

 

[tracrium]

Le dices a tu IA: guárdame internet en un diskete.

Tienes que estar registrado para ver este contenido

Te pongo un ejemplo concreto:
Quiero entrenar un modelo de segmentación 3D de fracturas de cráneo humano a partir de TACs con una resolución de voxel de 1x1x1mm.

Para entrenar el modelo necesitaré:
- Entrada: Miles de TCs de fracturas de cráneo en humanos con esa resolución. Difícil porque son relativamente pocos casos y están en las intranets de los PACs de los distintos hospitales.
- Salida: Segmentaciones de esos TACs para entrenar ese modelo en concreto. No hay. Hay que hacerlas a mano y hacer cada una de ellas es un trabajo de ne.gros. Necesitas a un ejército de machacas que las haga.

 

[comors]

Las conclusiones que saco sobre todo lo ocurrido con DeepSeek es que las tecnológicas que estan actualmente desarrollando la IA no sean las grandes beneficiadas en el desarrollo de la IA y que sufran consecuencias similares a las que tuvieron las empresas de telecomunicaciones con el auge de Internet.

A finales de los 90, cuando internet empezaba a expandirse, la mayoría creía que las empresas de telecomunicaciones serían las grandes triunfadoras. Las telecos se enfocaron principalmente en construir y mantener la infraestructura necesaria para conectar a los usuarios a internet (redes, cables, etc.). Sin embargo, fueron las empresas tecnológicas las que desarrollaron los servicios y aplicaciones que realmente lograron beneficios con el crecimiento de internet.

Veo que las empresas que desarrollen aplicaciones y servicios basados en IA (industriales, farmaceuticas...) serán las más beneficiadas y no las que ofrezcan los modelos de IA ya que al final se terminará democratizando.

 

[Spock]

DeepSeek (IA China):

https://www.burbuja.info/inmobiliaria/temas/deepseek-lo-cambia-todo-cisne-zaino-en-ciernes.2192473/

https://www.burbuja.info/inmobiliaria/temas/ia-deepseek-de-china-lanzo-un-modelo-de-codigo-abierto-mejor-que-openai-incluso-puedes-descargarlo-y-ejecutarlo-gratis.2191950/

https://www.burbuja.info/inmobiliaria/temas/china-ha-desarrollado-una-ia-con-el-mismo-rendimiento-que-chatgpt-por-un-7-del-coste.2192283/

Tienes que estar registrado para ver este contenido

Tienes que estar registrado para ver este contenido

DeepSeek - Tecnológicas - Bolsa:

https://www.burbuja.info/inmobiliar...-las-tenologicas-pinchazo-burbuja-ia.2192738/

Spoiler

Todo sobre DeepSeek: la compañía china que ha dado un golpe histórico a Wall Street.

¿Por qué DeepSeek ha puesto en jaque a Wall Street? Esta es la amenaza para las tecnológicas en EEUU.

Terremoto en el mercado: DeepSeek podría detonar el gran colapso de las Tecnológicas.

Lunes zain para las tecnológicas por la irrupción de la china DeepSeek.

El golpe histórico de DeepSeek se extiende: Siemens Energy se desploma un 17%.

 

[comors]

Que si quiele bolsa?

 

[Glasgow]

¿Cómo? Repensaron todo desde cero. La IA tradicional es como escribir cada número con 32 decimales. DeepSeek pensó: "¿Qué pasaría si usáramos 8? ¡Sigue siendo lo suficientemente preciso!". ¡Bum! Se necesita un 75 % menos de memoria.


Y aquí está el truco: DeepSeek hizo esto con un equipo de < 200 personas.

@dischcatfish @Lorenzo Ramirhez

Explicadnos a todos por qué chatGPT no les dijo a sus creadores que hicieran eso.

Y explicadnos cómo es eso que un puñado de tíos pensando hayan castigado a los gurús que imitáis con el dedito en el pandero, y a sus miles de trillones de petrodólares.

 

[Bailongo]

Tío, que no sabes de lo que hablas jajajajajaj

Overcuñao, no necesitas ni la H para los servicios y outputearlos, que hay 9 modelos, tiras del qwq más pequeño y pista.

Besugo, ponte con la oposición

Pero entiendes que los modelos pequeños no te valen una guano en una gran empresa?

Has trabajado alguna vez con aplicaciones de alta disponibilidad/alto tráfico?

Sabes lo que es fruta millones de datos en segundos, curarlos, procesarlos...

 

[dischcatfish]

Te pongo un ejemplo concreto:
Quiero entrenar un modelo de segmentación 3D de fracturas de cráneo humano a partir de TACs con una resolución de voxel de 1x1x1mm.

Para entrenar el modelo necesitaré:
- Entrada: Miles de TCs de fracturas de cráneo en humanos con esa resolución. Difícil porque son relativamente pocos casos y están en las intranets de los PACs de los distintos hospitales.
- Salida: Segmentaciones de esos TACs para entrenar ese modelo en concreto. No hay. Hay que hacerlas a mano y hacer cada una de ellas es un trabajo de ne.gros. Necesitas a un ejército de machacas que las haga.

Y pa qué quieres eso??? jaja ke loko tio n me rayes

 

[Bailongo]

Te pongo un ejemplo concreto:
Quiero entrenar un modelo de segmentación 3D de fracturas de cráneo humano a partir de TACs con una resolución de voxel de 1x1x1mm.

Para entrenar el modelo necesitaré:
- Entrada: Miles de TCs de fracturas de cráneo en humanos con esa resolución. Difícil porque son relativamente pocos casos y están en las intranets de los PACs de los distintos hospitales.
- Salida: Segmentaciones de esos TACs para entrenar ese modelo en concreto. No hay. Hay que hacerlas a mano y hacer cada una de ellas es un trabajo de ne.gros. Necesitas a un ejército de machacas que las haga.

Vienes a predicar en el desierto. Entre trolls y cuñaos este hilo vale una guano y media

 

[SHARKHAN]

Gran comentario de Carlos Santana en Twitter:

Ostras, la gente está sacando demasiado de contexto lo de DeepSeek.Sí es un gran avance académico. Sí es un muy buen modelo y alternativa open source para los usuarios. Y sí añade presión extra a los labs de IA. Pero no es el fin de nada, y menos una desventaja para las big corps.

Pensad que lo que demuestra la aparición de DeepSeek es que se puede entrenar un modelo state-of-the-art sin tantos recursos. ¿Le resta ventaja a las grandes empresas que tanto han invertido en recursos fruta? No. Aprovecharán estos avances compartidos en abierto para entrenar modelos aún más potentes llevando al máximo sus capacidades de fruta.Y eso hablando de entrenar, pero si hablamos de inferencia ellos encantados de contar con mejores modelos que poder liquidar en enormes sus enormes centros de fruta. Da igual si es made in China o made in California.Lo que pone DeepSeek sobre la mesa es que el entrenar modelos no es algo exclusivo de unas pocas empresas. Eso sí, el ejecutarlo aún dependerá de quien tenga la fruta.

Y ese es el moat del futuro. El que tenga acceso a la fruta (y a la energía) es el que podrá exprimir estos modelos para obtener fuerza de trabajo automática e inteligencia bajo demanda. Y entre más mejor.Por lo tanto no. Las 7 magníficas no están precisamente mal posicionadas para el futuro al que vamos. De hecho posiblemente lo estén mejor que ninguna otra empresa.Analizad las cosas con un poco de cabeza y sin tanto tremendismo.

 

[Lorenzo Ramirhez]

@dischcatfish @Lorenzo Ramirhez

Explicadnos a todos por qué chatGPT no les dijo a sus creadores que hicieran eso.

Y explicadnos cómo es eso que un puñado de tíos pensando hayan castigado a los gurús que imitáis con el dedito en el pandero, y a sus miles de trillones de petrodólares.

Sencillo zascandil, deepseek corre sobre llama3 y qwq, ambas derivaciones de llama 2

El proceso fruta no es de 5 m, es dependiente de el de Facebook del que no hay datos.

La IA responde el modelo picateclero, todos ganan con más inversión y gasto y subida de acciones

Solo un zascandil de soporte creería que yo voy con Sam altman, voy la IA, y espero que te mate.

 

[dischcatfish]

@dischcatfish @Lorenzo Ramirhez

Explicadnos a todos por qué chatGPT no les dijo a sus creadores que hicieran eso.

Porque no me hicieron caso a mi, los de deepseek en cambio si que me hicieron caso y alehop ahí lo tienes.

 

[Lorenzo Ramirhez]

Pero entiendes que los modelos pequeños no te valen una guano en una gran empresa?

Has trabajado alguna vez con aplicaciones de alta disponibilidad/alto tráfico?

Sabes lo que es fruta millones de datos en segundos, curarlos, procesarlos...

Pero a ver, over tolai, que todas las empresas podrán sacar deepseek, que nadie va a tener 3 millones de usuarios ajajajajajjajaj

Se acaba de democratizar

 

[Dadaria]

No me vale. Yo quiero lentillas y pinganillos con altas capacidades de procesamiento, conectividad y razonamiento para convertirme en un cyborg que todo lo ve, todo lo oye y todo lo sabe.

Y ya dejarte dejarte ir y que piense, actúe y hable por ti, porque a esas alturas ya hasta abrir la boca para hablar dará una pereza enorme.

Podremos generar ingresos pasivos alquilando nuestro propio cuerpo a la IA, dedicarnos a dormir en un estado de trance permanente mientras nuestro cuerpo físico va y viene haciendo cosas que sólo recordamos vagamente, como sueños difusos.

Hasta que los robots y drones controlados por la misma IA sean más eficientes que nuestro cuerpo obsoleto y decida descartarnos. Hileras de personas esperando con paciencia su turno para tirarse plácidamente a una trituradora de carne, y por el extremo opuesto saliendo la biomasa ya procesada, lista para ser usada como combustible.

Tienes que estar registrado para ver este contenido

Pero con pelazo