No, no veo el crecimiento exponencial por ningún lado.
Pero vamos, que te lo explique ChatGPT que a mi no me vas a creer:
A día de hoy,
no está claro que lo sea. Depende de qué aspecto mires.
Si hablamos de la
capacidad de los modelos, la evolución parece haber tenido varias fases:
- 2018–2023: crecimiento casi artefacto peligroso. Cada generación suponía un salto muy evidente.
- 2024–2026: las mejoras siguen llegando, pero son más graduales. Los modelos son más fiables, razonan mejor, programan mejor y usan herramientas, pero ya no sorprenden tanto como antes.
Lo que sí ha sido aproximadamente exponencial durante años es el
dinero invertido y la
capacidad de cómputo. El problema es que el rendimiento obtenido por cada unidad adicional de fruta está disminuyendo. Es decir:
- Duplicar el cómputo ya no duplica la inteligencia del modelo.
- Cada mejora cuesta más dinero y más tiempo.
Hay investigadores que creen que estamos entrando en una fase de
curva logística (forma de S):
- Avance lento al principio.
- Crecimiento muy rápido (la fase que vivimos entre GPT-3 y GPT-4).
- Desaceleración conforme se agotan las mejoras fáciles.
- Una nueva tecnología puede iniciar otra curva en S.
Por eso muchos laboratorios ya no apuestan únicamente por hacer modelos más grandes. Están explorando:
- mejores algoritmos de entrenamiento;
- razonamiento más profundo durante la inferencia;
- memoria persistente;
- agentes que planifican tareas;
- integración con herramientas y robótica.
Si alguna de esas líneas produce un avance importante, podría comenzar otra etapa de crecimiento acelerado.
En resumen,
la inversión y el cómputo han crecido de forma cercana a exponencial durante varios años, pero
la mejora en capacidades no parece seguir una exponencial sostenida. Más bien da la impresión de que estamos en una fase de rendimientos decrecientes, aunque todavía no hay consenso sobre si eso es un límite temporal o el inicio de una nueva etapa antes del siguiente gran salto.
----
Vamos, que exponencial esta siendo el gasto en la burbuja de la IA, no la evolución de los modelos.