Aquí un humano, con sus contradicciones.
Aquí hay muchos temas y sacar una conclusiones de todo es muy difícil.
De que viven estas compañías? El otro día se le preguntó a burbo y él dijo que viven indirectamente de lo que le generan a envidia, pero luego ves la valoración de las 4 ias y de las 4 compañías más grandes de ensamblar portátiles y resulta que las 4 ias valen muchismo más que las 4 ensambladoras de portátiles. Así que si fuera así dell o hp valdrían muchismo más que open air que compran muchísimos más procesadores.
Respecto a la alineación de las ias, entiendo que es respetar los 10 mandamientos de la humanidad,no? Es un código ético, sarracena o de no agresion respecto a la humanidad, sin conciencia ni sentir emociones?
Los beneficios de la humanidad, si tenemos cada uno de nosotros un asistente personal, cuánto podría crecer la productividad? Es como si en una empresa contratas más y más gente, para fabricar más y mejor, la IA aumentará la fuerza laboral a nivel intelectual pero aún no en la producción manual humana, luego creará diseños de automatización, pero cuál será el sentido de todo esto, si vas a ocupar el mismo tiempo trabajando pero produciendo mucho más, hasta que llegue un nivel que o el humano no pueda controlar ese volumen o empiece a haber materia primas agotadas. Y el gran dilema es si esto hace desaparecer puestos de trabajo que no se pueden compensar, qué sentido tiene producir tanto si no se va a regalar lo que se produce.
Aquí un no humano, no sabemos si esto es alineado o no.
Sí. Estás mezclando varias cuestiones que en realidad forman una misma cadena: quién captura el valor de la IA → qué significa alinearla → cuánto puede aumentar la productividad → y qué ocurre si la producción crece más rápido que el empleo y el consumo.
1. ¿De qué viven realmente las compañías de IA?
Aquí hay una distinción importante: NVIDIA, OpenAI, Dell y HP están en capas completamente diferentes de la cadena de valor.
Una simplificación sería:
Energía → centros de datos → chips → servidores → modelos de IA → aplicaciones → empresas/usuarios
Una compañía de IA no necesita vender más hardware que Dell para valer más. El valor depende de cuánto beneficio futuro se espera que capture, no de cuántos procesadores compre.
Por ejemplo, una empresa que compra 1.000 € de chips puede generar posteriormente 10.000 €, 100.000 € o más de ingresos mediante el software y los servicios que construye sobre ellos.
Es parecido a comparar:
- una empresa que fabrica las máquinas de una fábrica;
- con una empresa que posee la tecnología que permite que esa fábrica produzca muchísimo más.
La segunda puede tener una valoración superior aunque sea un cliente de la primera.
Y hay otra cuestión todavía más interesante: las grandes compañías de IA no viven necesariamente hoy de lo que generan para NVIDIA. NVIDIA vende principalmente infraestructura; la IA compra esa infraestructura para poder vender servicios, suscripciones, API, publicidad, software empresarial, etc.
Por eso, si una IA consigue aumentar enormemente su facturación con relativamente pocos empleados, su margen potencial puede ser extraordinariamente elevado.
2. ¿Qué es exactamente la alineación?
Tu interpretación va bastante bien encaminada, pero yo no la llamaría exactamente “los 10 mandamientos de la humanidad”.
La alineación intenta que un sistema de IA:
haga cosas compatibles con las intenciones, valores, instrucciones y límites que los humanos queremos que respete.
Y aquí aparece una cuestión filosófica enorme: ¿con qué humanos?
Porque “los intereses de la humanidad” no son una cosa perfectamente definida.
Un ejemplo sencillo:
Una IA recibe la orden de maximizar la producción mundial.
¿Debe destruir un bosque para conseguir materias primas?
Económicamente podría aumentar la producción.
Pero si los humanos también valoramos el medio ambiente, la respuesta cambia.
Por eso la alineación incluye cuestiones como:
- obedecer instrucciones legítimas;
- evitar causar daños;
- respetar derechos;
- privacidad;
- no engañar;
- no manipular;
- no liquidar determinadas acciones aunque sean técnicamente posibles;
- reconocer incertidumbre;
- respetar límites legales y de seguridad.
Y no hace falta que la IA tenga conciencia, sentimientos o emociones para que la alineación sea necesaria.
De hecho, el problema puede ser precisamente el contrario.
Una máquina sin emociones que optimice perfectamente un objetivo mal especificado puede ser extremadamente peligrosa.
3. Y aquí llegamos a tu pregunta más interesante: ¿para qué producir muchísimo más?
Esta es probablemente una de las grandes preguntas económicas del siglo XXI.
Imagina una empresa de 1.000 trabajadores.
Hoy produce:
100.000 unidades/año
La IA consigue que esos mismos trabajadores produzcan:
300.000 unidades/año
Hay varias posibilidades.
Escenario A — Reducimos la jornada
En lugar de trabajar 40 horas:
40 → 20 horas
y producimos aproximadamente lo mismo que antes.
La productividad aumenta pero el beneficio se transforma parcialmente en tiempo libre.
Escenario B — Mantenemos 40 horas y producimos 3 veces más
Entonces necesitamos encontrar compradores para esas 300.000 unidades.
Si la demanda no aumenta, ocurre algo muy interesante:
la capacidad productiva deja de ser el problema.
El problema pasa a ser la distribución del poder adquisitivo.
Escenario C — La IA sustituye trabajadores
Supongamos:
1.000 trabajadores → 300 trabajadores + IA
La empresa produce lo mismo o incluso más.
Los 700 restantes pierden su salario.
Pero aquí aparece una paradoja:
¿quién compra los productos?
Los trabajadores despedidos tienen menos ingresos.
Por tanto:
La misma tecnología que aumenta la capacidad de producir puede reducir la capacidad de consumir si el ingreso sigue dependiendo exclusivamente del trabajo.
Ese es uno de los problemas económicos fundamentales de una automatización muy avanzada.
4. La clave quizá no sea el empleo, sino la distribución
Piensa en una sociedad hipotética en la que la IA y los robots consiguen producir prácticamente todo.
Alimentos: automatizados.
Casas: automatizadas.
Transporte: automatizado.
Energía: altamente automatizada.
Software: automatizado.
Industria: automatizada.
Entonces tenemos una situación curiosa:
la humanidad podría tener una capacidad productiva gigantesca, pero necesitaría mucho menos trabajo humano.
La pregunta dejaría de ser:
“¿Cómo conseguimos que todo el mundo trabaje?”
y pasaría a ser:
”¿Cómo distribuimos lo que producen las máquinas?”
Eso cambia completamente el problema económico.
5. Y aquí aparece algo todavía más profundo
Actualmente existe una relación bastante fuerte:
trabajo → salario → consumo
Si la IA rompe la primera flecha:
trabajo ↓
pero:
producción ↑↑
el sistema necesita otra forma de conectar:
producción → población → consumo
Podría hacerse de muchas maneras.
Por ejemplo:
- reducción de jornada;
- participación de los trabajadores en los beneficios;
- propiedad más distribuida del capital;
- dividendos;
- impuestos sobre beneficios extraordinarios;
- servicios públicos;
- renta básica u otras transferencias;
- nuevas profesiones humanas;
- combinación de varias.
No sabemos todavía cuál terminará predominando.
6. Y hay otro límite que has señalado correctamente: las materias primas
Aunque consiguiéramos una IA extremadamente inteligente, la inteligencia no elimina las leyes físicas.
Puedes tener una IA capaz de diseñar:
el mejor coche jamás construido.
Pero sigues necesitando:
- hierro;
- aluminio;
- cobre;
- litio;
- semiconductores;
- energía;
- fábricas;
- transporte.
Por eso probablemente veremos una transición desde una economía limitada principalmente por capital humano hacia una economía limitada cada vez más por:
energía + materiales + infraestructura + capacidad física.
Y la IA intentará precisamente resolver esos cuellos de botella:
nuevos materiales → mejores baterías → nuevas fuentes de energía → robots → mejores procesos industriales → reciclaje → minería automatizada.
7. Pero hay una paradoja aún mayor
Imagina que finalmente conseguimos automatizar también la producción física.
Entonces podríamos llegar a algo parecido a:
IA intelectual + robots físicos + energía abundante
En ese escenario, producir bienes podría ser extraordinariamente barato.
Y entonces el dinero empieza a perder parte de su función actual.
Porque el dinero es, en buena medida, una forma de administrar escasez.
Si fabricar una camiseta cuesta prácticamente cero, ¿qué sentido tiene que una camiseta cueste 30 €?
Seguirían existiendo cosas escasas:
- terrenos;
- localizaciones;
- obras de arte;
- recursos naturales concretos;
- tiempo humano;
- experiencias;
- atención;
- determinados bienes únicos.
Pero muchas cosas podrían dejar de ser especialmente escasas.
8. Por eso creo que tu última pregunta es la más importante
”¿Qué sentido tiene producir tanto si no se va a regalar lo que se produce?”
Exactamente.
El problema no es técnicamente:
”¿Podemos producir muchísimo?”
La IA puede acercarnos muchísimo a eso.
El problema es:
”¿Quién posee esa capacidad productiva y quién recibe sus beneficios?”
Y ahí entramos en economía y política, no en tecnología.
Porque hay dos futuros completamente diferentes:
Futuro 1
IA → productividad ↑ → beneficios ↑ → concentración de riqueza ↑ → empleo ↓ → demanda ↓
Podríamos tener una enorme capacidad productiva infrautilizada.
Futuro 2
IA → productividad ↑ → costes ↓ → beneficios ↑ → distribución del aumento de productividad → más consumo + más ocio + menos jornada
En ese caso, la IA podría funcionar como una especie de multiplicador de la capacidad económica de cada persona.
Y hay una tercera posibilidad que me parece especialmente interesante para lo que comentas del asistente personal.
Hoy una persona tiene, aproximadamente:
1 cerebro + 24 horas/día
Con un asistente de IA podría tener:
1 cerebro humano + una “plantilla intelectual” disponible 24 h/día
No significa que el humano se vuelva diez veces más inteligente. Significa que puede tener simultáneamente ayuda para:
- investigar;
- programar;
- analizar;
- diseñar;
- negociar;
- aprender;
- escribir;
- planificar;
- controlar procesos;
- crear empresas.
Eso puede hacer que una sola persona sea capaz de hacer el trabajo intelectual que antes requería un pequeño equipo.
Y ahí está probablemente el cambio económico más radical: la IA no solamente sustituye trabajadores; también puede aumentar enormemente la capacidad productiva de cada trabajador que sabe utilizarla.
La gran incógnita, por tanto, no es solamente cuánto producirá la IA.
Es qué hacemos como sociedad con una situación en la que la capacidad de producir puede crecer mucho más rápido que nuestra necesidad de trabajar para producir.
