Vuelvo a esta frase porque creo que uno de los grandes problemas de la IA es la falta de comprensión sobre lo que hace.
Por decirlo de alguna forma que se entienda...LA IA NO FALLA. Porque no es lo que pensamos, seguramente. Es una calculadora muy bestia, un millón de veces más compleja.
Pero no deja de ser una serie de procesos de cálculo en el que (de ahí la analogía a la calculadora) tienes un input, un proceso y un output.
¿Dónde está el fallo? En atribuir a ese proceso capacidades o incluso seguridades que no podemos atribuirle. Porque lo que pensamos de la IA se definió como "capacidad emergente". No está hecha para eso, pero resulta que sí que vale (más o menos) para otras cosas.
Y sí, avanzan los modelos y seguramente veremos como las IAs "mejoran" en ciertas funciones. Pero, por su propia esencia, nunca tendrán esa posibilidad de infalibilidad o de darte la información o los datos asegurándote que sean correctos.
Por eso creo que la gran revolución de la IA no vendrá por un nuevo modelo que evite esto. ¡Al revés! La tendencia, cada vez más, es OCULTAR esos fallos.
Y ahí es donde creo que lo que en algún momento tendrá que venir es otra forma de utilizarla. Sabiendo sus limitaciones, sabiendo dónde falla y por qué. Y asumiendo ese fallo, y trabajando (en NUESTRA FORMA de utilizarla) para minimizar que eso ocurra, incluso siendo conscientes de que es así.
Pongo un ejemplo chorras. Imaginaos a un médico que tiene un "paciente rebelde" con una enfermedad que no consiguen encontrarle. Y utiliza la IA para saber lo que es.
Si la utilizas "como IA", te dará una explicación que además será muy convincente y tal. Y hay...muchas posibilidades de que falle. Porque, simplemente, si médicos profesionales con experiencia no consiguen averiguar lo que es, la realidad es que entre todos los síntomas y datos que tengas habrá distorsionadores que estén ocultando la realidad.
Pero...puedes utilizarla al revés. Que te haga tablas con probabilidades de todas las enfermedades que puedan ser. Y que te diga 17.
Y, a partir de ahí, utilices otro sistema, por ejemplo para descartarlas. Cuales de los actuales síntomas hacen más improbables esas enfermedades.
Y cuando te queden 5, pues entonces buscas qué pruebas se pueden hacer para detectarlas y cuáles son más rápidas.
Y a lo mejor te quedan 2, que no tienen prueba clara y necesitan tratamiento para comprobar si funciona, y entonces le preguntas por el tratamiento más inocuo y que pueda dar resultado más rápido para empezar por ahí.
Porque un médico HACE TODO ESO, pero con muchísima menos información que la IA. Pero la IA no tiene capacidad de hacer todo eso "A LA VEZ". Si lo intenta, seguramente se equivocará. Porque seguramente toda la información la tiene en su entrenamiento, pero va a ser fácil "recomponerla" en un solo proceso porque saldrá un prompt gigante y confuso.
Si un profesional sabe cómo funciona DE VERDAD la IA, podrá sacarle un partido tremendo. Pero no esperando hacer una pregunta y que la respuesta sea maravillosa. Eso puede llegar a pasar, pero la posibilidad de fallo es grande. Porque...no es un fallo, es una respuesta estadística.
Igualmente, ese profesional debería saber que es peligrosísimo meterle 24 archivos con pruebas de un paciente que lleve 20 años con una enfermedad concreta para que la IA le conteste. Porque podría dar un tratamiento en el que "olvide" que ese paciente es diabético, por ejemplo, y tener consecuencias terribles.
Pero no es problema de la IA, sino del usuario. Que pensamos que la IA es como el ordenador de la niña del inspector Gadget, que lo hace todo sola.
