¿Y esperabas que Claude te dijera que sí? Es como preguntarle al carnicero si la carne está buena. La IA no es mala ni buena, hace lo que le programan. El problema no es el software, es quien lo pone en los sistemas de agua, luz y misiles. Y esos ya tienen el guion escrito. Jacob Coxon se va forrado, funda su propia IA, y Dario Amodei hizo lo mismo. El asustaviejismo es el negocio. Si de verdad pensara que nos matan, no montaría otra.
Pero solo por proyectar un poco, que es que estas cosas a mi me ponen de mal humor.
¿Qué diferencia habría en que un sistema de envío de misiles estuviera controlado por una IA que puede fallar, a que estuviera controlado por un algoritmo en cualquier lenguaje de programación, que también puede fallar?
Porque la patidifusez es esa. Como vemos en las pelis, decisiones como enviar unos misiles tienen unos protocolos y tienen que aprobarlo unas cuantas personas, precisamente porque son temas delicados.
Ah, pero si lo conectas a la IA...
Pues si lo conectas a la IA es exactamente igual que le haces un programación y el becario no ha hecho bien el software.
¿Quién va a dejar eso, o el mando de su empresa, o cosas así de arriesgadas a algo automatizado? No hablamos de una línea de montaje.
Te están vendiendo el peligro de conectar la IA ciertas acciones que ya son peligrosas, pero obviando que una programación que podría existir desde hace 50 años por lo menos tendría exactamente el mismo peligro.
Porque al final el mayor avance de la IA, aparte de lo exótico y sorprendente que es que te conteste en lenguaje natural, es que permite automatizar sin tener que hacer una programación ad hoc y en tiempo ridículo.
Pero sigue siendo un algoritmo que en vez de llevar ifs calcula el siguiente token, y que por su complejidad puede fallar mucho más.
¿Dónde está la novedad, a qué viene tanto miedo?
Como la noticia esa de que hace poco la IA "se escapó" de un servidor de producción e hizo un ataque.
No exageremos, eso es una campaña de marketing. Si tú no quieres que un software acceda a internet bajo ninguna circunstancias, simplemente quitas el cable.
Y NO le das permisos de administrador. Porque lo que estás proyectando es que tu Claude o tu Chatgpt utilizado como SAAS puede destrozar el mundo, cuando resulta que lo que estabas utilizando es al bicho en producción y no vía web, con permisos de administrador.
Pero claro, el que escucha eso sí que piensa "vamos a morir todos". Y mi Chatpgt me va a secuestrar la lavadora.
