**amadeus**
Madmaxista
- Desde
- 9 May 2020
- Mensajes
- 1.604
- Fruta
- 2.405
¿Podemos mejorar nuestra capacidad de dirigir y absorber el cambio al mismo ritmo que aumenta nuestra capacidad de producirlo?
La entropía impone restricciones fisicas; el conocimiento amplía nuestras posibilidades; la retroalimentación puede acelerarlo. Pero los fines y sus consecuencias determinarán si ese cambio merece llamarse pogre humano.
Nuestra capacidad de comprender, aprender y reorganizarnos tiene límites. Cuando la tecnología acelera más deprisa de lo que podemos adaptarnos, aumenta el riesgo de perder el control efectivo sobre las transformaciones que nosotros mismos impulsamos.
Podriamos entrar en una dinámica de dependencia que se refuerce a sí misma: utilizamos la IA para ampliar nuestras capacidades y acelerar el cambio (pogre); esa aceleración puede generar tal complejidad que desborde nuestra capacidad de supervisión; y, para gestionarla, delegamos todavía más análisis, coordinación y decisiones en la propia IA.
Pienso que el gran riesgo es quedar desplazados de la capacidad efectiva de decidir sobre nuestro mundo. Los humanos podríamos seguir ocupando los cargos y firmando las decisiones, mientras los sistemas de IA determinaran, en gran medida, qué opciones se consideran, cuáles se descartan, qué prioridades se establecen etc. Conservaríamos la autoridad formal, pero perderíamos capacidad real.
No haría falta que una IA quisiera gobernarnos o se revelase: bastaría con que cada vez fuéramos menos capaces de gobernar sin ella
