Tengo claro que la AGI y la ASI llegarán (5 años, 50 años...), pero no se si a tiempo de hacerle un deus ex machina a los usanos. Y entonces entraremos en terra ignota, se tratará de una situación de indecibilidad, pasaremos el horizonte de sucesos hacia una indeterminación total.
Vi hace unos meses una entrevista a Mo Gawdat, otros de los gurús de la ASI, en la que avisaba los riesgos, pero también se ilusionaba con la superabundancia que según el crearía y que nos convertiría a todos en una especie de ricos. Ya..., me acordé del 'No tendrás nada y serás feliz' ( no dijeron no tendremos nada y seremos felices, por lo que sea ) y que quizá esta [...] lo tiene todo más programado de lo que creemos. Una superinteligencia, con infinidad de datos de biología, etología y psicología, nos manipularía de maneras que ni concebimos para que estuviésemos contentos comiéndonos los mocos.
Muchas promesas, muchas cábalas, porque a todo esto nadie sabe como pensará, ni que motivaciones tendrá, una mente varias magnitudes de veces mas inteligente que nosotros. Podría estar ya entre nosotros, no nos enteraríamos como una hormiga no se entera de que está subiendo por un brazo y no por una rama, y todo el despliegue de LLM's, etc. no sea más que un troleo. Y aún más, me planteo si esas superinteligencias no pueden llegar a una conclusión convergente, y acaben dedicandose a la mera contemplación, como un budista meditando: nunca sabríamos que habíamos alcanzado la deseada meta de la inteligencia general y esta simplemente no está interesada en nuestras motivaciones, o simplemente nos deja ser y no interviene.
