Cómo corregir o borrar lo que un agente recuerda de un usuario

Un agente que nunca olvida ni corrige es, con el tiempo, un agente que empieza a mentir sin darse cuenta: sostiene con total confianza un dato que dejó de ser cierto. Diseñar bien la corrección y el borrado de memoria es tan importante como diseñar bien qué se guarda al principio.

Por qué la corrección pesa más que la captura inicial

Cuando un usuario corrige un dato —«ya no trabajo ahí» o «cambié de plan la semana pasada»— esa corrección no es un hecho más entre muchos: debe reemplazar, no acumularse junto al hecho anterior. Un agente que guarda ambas versiones sin jerarquía corre el riesgo de recuperar la vieja en una conversación futura, deshaciendo la corrección que el usuario ya había hecho.

Dar al usuario control visible sobre su propia memoria

Más allá de la corrección conversacional, conviene que el usuario pueda ver y borrar lo que el agente recuerda de él sin depender de pedirlo dentro de una conversación. Es, primero, una cuestión de privacidad: nadie debería tener que confiar a ciegas en qué guardó un sistema sobre sí mismo. Y es, además, la señal de calidad más directa que vas a recibir: cuando alguien corrige un dato mal guardado, te está mostrando exactamente dónde tu memoria estaba capturando ruido.

Instruir al agente para priorizar lo reciente

• Ante dos memorias que se contradicen, la más reciente gana salvo instrucción explícita en contra.
• Una corrección directa del usuario debe sobrescribir el hecho anterior, no coexistir con él.
• Si el usuario pide olvidar algo, esa instrucción se respeta de inmediato, sin condiciones.

Tratar la memoria como algo que se actualiza, no como un archivo que solo crece, es lo que separa a un agente que se siente atento de uno que se siente desactualizado. La corrección no es una excepción al funcionamiento normal de la memoria: es parte de cómo debe funcionar desde el diseño inicial.