Por qué la memoria de la IA da vergüenza ajena

Hay un momento que la mayoría de los usuarios habituales de IA ya han experimentado. Te encuentras en medio de una conversación con un asistente de IA, resolviendo un problema, y el asistente menciona una referencia a algo de una conversación anterior. "Dado que mencionaste que estás trabajando en una startup de salud..." o "Teniendo en cuenta tu preferencia por Python...". La referencia es técnicamente precisa. Pero también es un poco desconcertante, como hablar con alguien que se leyó tu expediente antes de la reunión y se está esforzando demasiado por demostrar que lo hizo.

Todos los principales laboratorios de IA están trabajando en la memoria. ChatGPT la tiene. Claude la tiene. Gemini la tiene. La propuesta es atractiva: una IA que te recuerda a lo largo de las conversaciones, acumula contexto con el tiempo y resulta más útil cuanto más tiempo la usas. En teoría, este es el camino hacia el tipo de contexto acumulativo que transforma a un asistente genérico en un socio de pensamiento personalizado.

En la práctica, tras más de un año de funcionamiento de estas funciones, el consenso entre los usuarios intensivos es decepcionante. Los recuerdos se sienten forzados y fuera de contexto. El asistente los saca a colación para demostrar que recuerda, en lugar de porque el recuerdo sea útil en la conversación actual. Es el equivalente en IA a un camarero que se aprende de memoria tu nombre y lo utiliza tres veces durante la cena: técnicamente impresionante, socialmente incómodo y realmente no hace que la comida sea mejor.

Qué hace realmente la memoria actual

El funcionamiento de la mayoría de los sistemas de memoria de IA es prácticamente el mismo en todos los proveedores. Durante una conversación, el sistema identifica hechos que parecen dignos de recordar y los almacena como afirmaciones planas. "El usuario es ingeniero de software". "El usuario prefiere respuestas concisas". "El usuario está trabajando en un proyecto relacionado con datos climáticos". "El usuario tiene dos hijos".

Estos datos extraídos se guardan en un almacén de memoria y se introducen en futuras conversaciones como contexto adicional. El modelo ve los recuerdos junto con tu nuevo mensaje y puede hacer referencia a ellos si parecen relevantes.

Los problemas de este enfoque son estructurales más que de implementación.

Las conversaciones son una fuente de conocimiento terrible. Mencionas algo una vez de pasada, un chiste sobre tu perro, una breve referencia a un proyecto que abandonaste, y se convierte en un recuerdo permanente con el mismo peso que algo que debatiste a fondo durante una hora. El sistema no puede distinguir entre un comentario desechable y una parte fundamental de tu identidad, porque en el texto plano de una conversación parecen idénticos. Te pasas tres horas trabajando en un problema de investigación complejo y el sistema de memoria extrae "El usuario está interesado en los mecanismos de atención", lo que es aproximadamente tan útil como resumir Guerra y paz como "un libro sobre Rusia".

La extracción tiene pérdidas por diseño. Convertir una conversación rica y contextual en una afirmación objetiva y plana elimina todo lo que hacía que la información fuera significativa. La afirmación "El usuario prefiere la programación funcional" no refleja si se trata de una convicción firme o de una leve preferencia, si se aplica a todos los contextos o sólo a determinados tipos de trabajo, si se trata de una opinión actual o de una de hace tres años, o si lo dijiste en serio o con ironía. La memoria almacena el hecho y descarta el contexto, lo que significa que el hecho suele ser menos útil que no tener ningún recuerdo, porque le da al sistema una falsa confianza sobre algo que en realidad no comprende.

La detección de la relevancia es rudimentaria. El sistema tiene que decidir, en tiempo real, cuáles de tus recuerdos almacenados son relevantes para la conversación actual. Éste es un problema sorprendentemente difícil, porque la relevancia depende de la intención, del contexto y de la pregunta concreta que se formule, factores todos ellos ambiguos. El resultado es que los recuerdos salen a la luz cuando están relacionados de forma tangencial pero no son útiles, que es el fenómeno del "ya que mencionaste tu startup de salud". El sistema tiene un martillo y todo le parecen clavos.

Los recuerdos se sienten como vigilancia. Se produce un efecto de valle inquietante cuando una IA hace referencia a algo que dijiste hace semanas en un contexto diferente. Provoca la misma incomodidad que cuando una empresa utiliza tu historial de navegación para dirigirte un anuncio: los datos son precisos, el uso es técnicamente legítimo y, aun así, la sensación es de estar siendo vigilado. Cuanto más personal es el recuerdo, mayor es la incomodidad, lo que crea un incentivo perverso en el que los recuerdos que serían más útiles (un contexto profundamente personal) son los que resultan más invasivos al salir a la luz.

La abstracción equivocada

El problema de fondo es que los recuerdos autogenerados a partir de conversaciones son la abstracción equivocada para lo que la gente realmente necesita de la memoria de la IA.

Lo que la gente quiere es una IA que comprenda su trabajo, su forma de pensar, sus conocimientos acumulados y su contexto actual lo suficientemente bien como para serle útil sin tener que explicárselo todo desde cero cada vez. Lo que reciben es una IA que recuerda hechos dispersos extraídos de chats y los despliega con la sutileza de un estudiante de psicología de primer año que practica la escucha activa.

La distancia entre estas dos cosas es enorme, y no se va a recortar con mejores algoritmos de extracción o una detección de relevancia más inteligente. El problema es el material de partida. Las conversaciones son un canal estrecho, efímero y dependiente del contexto. Capturan una fracción minúscula de lo que sabes y te importa, filtrada a través del propósito específico de lo que estuvieras tratando en ese momento. Construir el modelo de una persona a partir de su historial de chat es como intentar comprender una ciudad leyendo sus mensajes de texto.

La información que realmente haría útil a una IA como socia de pensamiento a largo plazo es la que has acumulado deliberadamente a lo largo de meses y años: los artículos que has leído y anotado, las notas que has escrito con tus propias palabras, la investigación que has recopilado, los documentos que has guardado, las notas de voz que grabaste cuando se te ocurrió una idea. Se trata de memoria curada en lugar de memoria extraída, y la diferencia de calidad es la misma que hay entre leer la obra publicada de alguien y leer sus mensajes de texto.

Memoria curada frente a memoria extraída

La distinción se corresponde con algo que el campo de la gestión del conocimiento comprende desde hace décadas. Existen diferentes tipos de conocimiento, y requieren enfoques distintos para su captura y recuperación.

Los recuerdos extraídos de las conversaciones son en su mayoría afirmaciones fácticas superficiales, el tipo de conocimiento explícito y declarativo que es fácil de enunciar pero de bajo valor. "El usuario trabaja en una empresa de tecnología financiera". "El usuario está interesado en la educación". Son datos de perfil, no conocimientos de trabajo.

Una biblioteca de conocimientos curados contiene algo más rico: la comprensión conceptual acumulada, el rastro de la investigación, el razonamiento documentado, las conexiones entre ideas que has ido trazando a lo largo del tiempo. Cuando un asistente de IA recurre a este tipo de memoria, el resultado se siente natural en lugar de fingido, porque hace referencia a tu trabajo real en lugar de simular que recuerda cosas que mencionaste de pasada.

La diferencia práctica: pídele a una IA con recuerdos autogenerados que te ayude a reflexionar sobre un problema de investigación, y podría señalar que estás interesado en el tema (útil durante unos tres segundos). Pídele a una IA que tenga acceso a tu biblioteca de investigación, tus artículos anotados, tus notas de lectura y tu registro de investigación que te ayude con el mismo problema, y podrá comprometerse con tus lecturas específicas, tu pensamiento específico y los vacíos concretos de tu comprensión. Una de ellas es un truco de memoria. La otra es una colaboración de pensamiento.

La dimensión de la propiedad

También merece la pena señalar una cuestión de soberanía. Los recuerdos autogenerados están controlados en su totalidad por el proveedor. Ellos deciden qué extraer, cómo almacenarlo, qué sacar a la luz y qué olvidar. Por lo general, puedes ver y borrar recuerdos individuales, pero no puedes exportarlos, no puedes utilizarlos con otro proveedor y tienes una visibilidad limitada de cómo influyen en el comportamiento del modelo.

Una biblioteca de conocimientos de tu propiedad, almacenada en una infraestructura que tú controlas, accesible a través de protocolos abiertos a cualquier agente de IA, invierte esto. La memoria es tuya. La has construido deliberadamente a lo largo de meses capturando, anotando y conectando. Puedes cambiar de proveedor de IA sin perder nada de ella. Y los límites de lo que la IA puede ver los estableces tú, en lugar del algoritmo de extracción del proveedor.

El modelo de memoria autogenerada dice: utiliza nuestro producto y aprenderemos gradualmente sobre ti. El modelo de biblioteca curada dice: construye tu sistema de conocimientos y cualquier IA podrá recurrir a él, según tus condiciones. El primero crea una dependencia (cuanto más tiempo utilizas a un proveedor, más sabe, más difícil es dejarlo). El segundo genera portabilidad (la memoria te pertenece independientemente del proveedor que utilices hoy).

Cómo será la buena memoria de la IA

Los laboratorios mejorarán sus implementaciones de memoria. La extracción mejorará, la detección de relevancia será más aguda y el efecto de valle inquietante disminuirá a medida que los sistemas aprendan cuándo sacar a la luz los recuerdos y cuándo permanecer callados. Se trata de problemas de ingeniería que se resolverán de forma progresiva.

Pero la limitación fundamental de construir la memoria a partir de extractos de conversaciones persistirá, porque las conversaciones siempre serán una ventana estrecha a lo que una persona sabe y le importa. La memoria de IA más rica y útil procederá de lo que hayas construido deliberadamente, más que de lo que un sistema haya observado pasivamente. Tus notas, tus anotaciones, tus fuentes guardadas, tu pensamiento documentado, tu rastro de investigación: ésta es la memoria que hace que las interacciones con la IA se sientan como trabajar con alguien que conoce tu labor, en lugar de con alguien que se ha leído tu expediente.

La persona que empiece a construir esa biblioteca hoy mismo dispondrá de una forma de memoria de IA que ya es mejor que cualquier cosa que hayan lanzado los laboratorios, y que mejora cada día que la utiliza, independientemente del modelo que ejecute, del proveedor que use o de cómo resulte la próxima generación de funciones de memoria autogenerada.

Preguntas frecuentes

¿Debería desactivar las funciones de memoria de la IA? No necesariamente. Son medianamente útiles para la personalización básica (formato de respuesta, preferencias de idioma) y mejorarán con el tiempo. El caso es que son una forma débil de memoria en comparación con una biblioteca de conocimientos curados, e invertir esfuerzo en construir la biblioteca produce mucho más valor que esperar pasivamente a que los recuerdos autogenerados resulten útiles.

¿Cuál es la diferencia entre la memoria de IA y un segundo cerebro? La memoria de IA la extrae el sistema a partir de tus conversaciones, está controlada por el proveedor y se limita a afirmaciones fácticas planas. Un segundo cerebro lo construyes tú a partir de tus lecturas, investigaciones y reflexiones, está controlado por ti y es rico en contexto, conexiones y matices. El segundo cerebro es una mejor forma de memoria de IA porque contiene el tipo de conocimiento que realmente hace que las interacciones con la IA sean más útiles.

¿Resolverán finalmente los laboratorios el problema de la memoria? Mejorarán la extracción y la relevancia, y la experiencia resultará menos incómoda. Pero la limitación fundamental, consistente en que las conversaciones son una fuente estrecha de conocimiento, no cambiará. La memoria de IA más rica procederá siempre de conocimientos curados deliberadamente, más que de chats observados pasivamente. Los laboratorios intentan construir la memoria a partir del tubo de escape. Tú puedes construirla desde el motor.

¿Cómo conecta esto con el argumento del contexto acumulativo? Directamente. El contexto que se acumula es el contexto que has construido deliberadamente a lo largo de meses capturando, anotando y conectando conocimientos. Los recuerdos autogenerados se acumulan lentamente, si es que lo hacen, porque cada hecho extraído es escaso y está desconectado. Una biblioteca curada se acumula de forma rica, porque cada nuevo fragmento de conocimiento conecta con más fragmentos existentes y crea más rutas de recuperación para que la IA las aproveche.

Lectura relacionada: La memoria es el foso, ¿Dónde vive tu conocimiento?, La cartera de datos, Qué es la gestión del conocimiento, Los diferentes tipos de conocimiento. Guías relacionadas: Construir un segundo cerebro, Zettelkasten, Flujo de trabajo de investigación.