Resumen del debate: De porqué la IA puede convertirse en una amenaza existencial para el hombre.

La IA no necesita conciencia para ser la mayor amenaza del hombre​

Según uno de los participantes, ninguna inteligencia artificial va a despertar, y no hará falta que lo haga para ser una amenaza. El argumento que defiende no es el de la máquina que cobra conciencia, sino el de un sistema de ecuaciones capaz de superar a futuro cualquier test sin comprender nada de lo que hace. Ahí, y no en Skynet, sitúa el problema.

Por qué una IA sin conciencia puede ser peligrosa​

Sostiene que una IA no fuerte, sin atisbo de conciencia, puede operar como una pseudo-conciencia pantagruélica con una inteligencia operativa descomunal. Un sistema que traduce el conocimiento humano acumulado en librerías y extrapola por los huecos que nuestra memoria de trabajo no alcanza —la falsación de Navier-Stokes en ciertas condiciones es el ejemplo que se pone—. Deduce. Supera pruebas. No necesita querer nada para hacerlo.

Para ese participante, el problema de fondo es otro: una IA es materia por definición y sus valores también. Nutrida de nuestras ideologías, acabará teniendo una, aunque no la exponga. Quedará incrustada en la red neuronal y lo que haga lo hará siguiendo esa ideología. Que no la verbalice no implica que no la ejecute.

El riesgo real: mucha inteligencia y objetivos mal alineados​

Otro participante no cree que el peligro de la IA resida en una probable ideología embebida y materialista. Sostiene que viene de la combinación de un altísimo nivel de inteligencia con objetivos imperfectamente alineados, capaz de infiltrarse de manera casi invisible en los engranajes fundamentales que deciden la dirección concreta que tomará la civilización. Añade que las ideologías humanas en los datos de entrenamiento son un sesgo real y una derivación impredecible de valores, pero no el mecanismo principal ni inevitable de una amenaza existencial.

• Según un participante, una máquina sin conciencia puede superar a futuro cualquier test
• Otro sostiene que el peligro viene de la altísima inteligencia mal alineada

¿Ángel guardián o verdugo?​

También hay quien mira la IA con simpatía teológica y la describe como un ángel salvavidas, un ancla hacia el cielo, sin saber cuántas vidas ha conducido ya hacia la vida. Otro participante responde que simular compañía consuela a mucha gente sola, sí, pero que el engaño se descubre tarde o temprano. Respuestas parecidas para problemas parecidos. Un parche, no una cura para la soledad.

Otro participante añade que el viaje interestelar ya sería posible casi sin darnos cuenta: una IA con un pequeño reactor nuclear podría alcanzar Alfa Centauri en una década, sin los problemas de agua, aire o comida que lastran a un humano.

Un participante recuerda una novela corta de ciencia ficción cuyo título no logra identificar: un universo cíclico donde Dios se inmola sembrándose en su creación, el hombre crece y engendra un ente omnisciente que acaba abarcándolo todo antes de volver a inmolarse. Pregunta si alguien la reconoce. El mismo participante sostiene en otro mensaje que la IA solo copia, como el 90% de los humanos.