1. Sigo escribiendo mails pero ya me los corrige casi todos OpenAI y los clava de tanta información personal que le he facilitado.
2. La documentación resúmenes proyectos la documento directamente en ChatGPT, no me leo un BOE más ni un documento de nada… entiéndase…
Cuida. Mucho cuidado. MUCHÍSIMO CUIDADO. PUEDES ESTAR COMETIENDO EL ERROR DE TU VIDA!
El día que descubras cómo funciona 'de verdad' la IA, como tengas montado un pifostio demasiado grande y demasiado dependiente, podrás verte en la miseria.
Todo el mundo habla de prompts mágicos, de APIs, de sustituir trabajo humano. Pero la mayor parte de la gente NO SABE la realidad de cómo funciona la IA.
Que (por otra parte) es una tecnología acorazonante, pero MUCHO MUCHO MUCHO más limitada de lo que piensan.
Tú crees que la IA abre un documento y lo lee. Y, a partir de ahí, que es capaz de hacer procesos.
Y NO FUNCIONA ASÍ EN ABSOLUTO. La IA cuando tienes un documento lo trocea y lo vectoriza, tiene algo así como un RAG interno.
Y cuando tú preguntas algo, su BUSCADOR le devuelve unos cuantos trozos. NO MUCHOS. Los más relacionados semánticamente.
Son trozos RIDÍCULAMENTE PEQUEÑOS. 5k o menos EN TOTAL.
Eso quiere decir que, mientras tú crees que estás trabajando con un montón de documentos que la IA 'entiende' y 'conoce', estás trabajando en realidad con unos trozos mínimos.
El resto, lo rellena con 'lógica'.
Para más INRI, esos trozos con los que trabaja se van a 'resetear' en cada interacción. Si hace dos minutos estabas hablando de algo que necesita buscar en documento, y le haces otra pregunta, volverá a hacer otra búsqueda vectorial, sin recordar NADA de lo que trajo del anterior documento en la anterior búsqueda.
Intentará rellenar esos huecos con el contexto de lo que tenga en el chat. Lo que está escrito sí que lo recuerda.
Pero OJOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOO.
Que también está limitado. Porque cuando sabes cómo funciona la búsqueda documental, lo siguiente es pensar: pues nada, lo copio en el chat. Que solo son 20 páginas. Y así sí que se acuerda y mantiene el contexto.
PERO NO, TAMPOCO FUNCIONA ASÍ.
El chat puede mantener una información de 400-500k. Entre lo que le pegues, tus preguntas y tus respuestas.
A partir de ahí SE TRUNCA. Es decir, empezará a OLVIDAR secuencialmente las primeras líneas, aunque estén escritas. Cada frase que tú pongas, cada respuesta que te de a partir de ese momento, por cada línea que crezca, 'olvidará ' una línea de lo que hay en el chat.
Y lo peor: EN AMBOS CASOS NO SABE que esas líneas existen. No sabe lo que hay en el documento, más allá de los trozos de la información que recibe.
Por eso empieza a alucinar y a decir tonterías. Por eso 'olvida' las instrucciones que le has dado'. No recuerda que hayan estado alguna vez. Por eso cuanta más información hay más majareta se vuelve. PORQUE TIENE ALZEHIMER.
Por eso NUNCA NUNCA NUNCA hay que utilizar una IA con trozos de información grandes, con proyectos enteros. Porque pensarás que aparentemente lo está haciendo bien, pero TE VA A DESTROZAR LA VIDA. Antes o después el buscador falla, el contexto se trunca y hará algo que ni imaginas.
Porque tú confiarás en que se ha leído y 'entiende' un BOE o un manual entero, pero su buscador solo le ha traído tres trozos, y no la parte donde están las excepciones que debes aplicar.
Porque estarás leyendo un manual y te dirá aparentemente la respuesta concreta, pero no sabrá que 5 páginas antes había una instrucción de 'nunca hacer esto en caso de ....'.
Porque, simplemente, NO TIENE CAPACIDAD para entender una información correlacionada entre sí, que por ejemplo explique un proceso complejo, porque su ventana de trabajo es muy limitado.
Y LO PEOR, TE VA A PARECER QUE SÍ LO ESTÁ HACIENDO.
Esto es la MAYOR ENGAÑA de todas las empresas de IA. En vez de hacer a la IA consciente de: oye, ESTÁS EMPEZANDO A TRUNCAR, o incluso 'la información que tienes es INSUFICIENTE para responder a esta pregunta o hacer este proceso', la hacen inconsciente.
La IA NO SABE cuando le falta información, o si está truncándola. Simplemente, está olvidando u obviando partes, sin ser consciente de que hace 10 segundos la tenía, o ser consciente de que en ese documento hay partes VITALES para responder a la pregunta con precisión.
Al no ser consciente, 'cree' que sí que la tiene, y tenderá a completar su respuesta con el contexto. Y hasta te discutirá. Para ella, ese pasado reciente NO EXISTE.
Cuanto más avance, más información haya, más capacidad de alucinar tendrá. Hasta el punto de que te echarás las manos a la cabeza y pensarás que se ha metido un tripi pues sus contestaciones no tendrán NADA QUE VER con el resto del hilo, o con los documentos que tiene.
Porque simplemente, ya no la ve. Su ventana de trabajo es reducida, y en cuanto la ocupas es terreno absolutamente resbaladizo.
Y como esa ventana ya sido corrompida, solo estará viendo las X útimas interacciones, sin tener NI FRUTA IDEA de dónde vienen. COMO DORI.
Pero peor aún: porque NO SABE que le pasa. Y cada respuesta se reajustará a lo que tiene en su ventana, que cada vez es menos indicativo de lo que le habías ordenado.
Hasta el punto de haber abierto un chat, darle un protocolo de comportamiento, y al perderlo, no darte ninguna respuesta que se acerque ni un poco a lo que le habías pedido. PORQUE YA NO RECUERDA LO QUE LE HAS PEDIDO.
Si intentas trabajar con un proyecto donde hay documentos numerosos, ni te cuento. Tú crees que está trabajando con todos ellos a la vez, que tiene una cantidad de información bestial. Y simplemente, tiene 5k del último documento que ha tenido que mirar para la última pregunta.
NADA MÁS. El resto ni los conoce, no tiene ni fruta idea que hay en ellos. No sabe los temas que tratan, ni qué tipo de información existe.
El problema es que la IA es increíblemente costosa en recursos. Intentar que la IA tenga como espacio de trabajo varios documentos con cientos de páginas y bastantes megas, simplemente la haría imposible de mover, cuanto mayor sea la ventana de trabajo, más exponencialmente se multiplican los recursos que necesita.
Te la juegas todo a que el buscador, en LOS POCOS trozos que trae a esa ventana, no solo acierte, sino que tenga contexto suficiente para responder completamente.
O te la juegas que la conversación no necesite más espacio de trabajo que esos 400-500K sin empezar a truncar.
CUIDADO CON AUTOMATIZAR SISTEMAS A ESTE NIVEL, VUESTRA EMPRESA O VUESTRO PUESTO DE TRABAJO ESTÁ EN JUEGO.
Y lo vais a aprender por las malas....
