Lo que le contás ChatGPT puede perseguirte más de lo que pensás: la IA ya construye perfiles sobre vos

Que ChatGPT, Gemini, Claude o la IA que uses se acuerde de algo que le mencionaste en otra conversación no es solo coincidencia. El Wall Street Journal documentó una situación cada vez más común entre usuarios de inteligencia artificial: chatbots que guardan información personal durante meses y empiezan a usarla para interpretar casi cualquier conversación futura.

Brian Del Rosario es ingeniero de software y concejal a tiempo parcial en un pueblo de Utah. Usa chatbots para planificar comidas, organizar su agenda y casi todo lo demás.

En alguna de esas conversaciones mencionó que estaba pasando por un divorcio. Lo que no esperaba es que, semanas después, el chatbot empezara a conectar ese dato con absolutamente todo.

Cuando se quejaba de un día difícil en el trabajo, el asistente lo atribuía al divorcio. Cuando pedía ayuda para organizar su tiempo, el chatbot le sugería que quizás estaba sobrecargado por la separación. "Le dije que no intentaba que opinara sobre mi divorcio en cada oportunidad", relató Del Rosario al Wall Street Journal. El chatbot, dijo, "no podía soltarlo".

El caso ilustra una de las tensiones más concretas que genera el uso cotidiano de los asistentes de IA: la memoria larga es una de sus funciones más valoradas, y también una de las más difíciles de controlar.

Cómo funciona la memoria en los principales chatbots

Desde que ChatGPT introdujo la función de memoria a principios de 2024, Google Gemini, el Claude de Anthropic y el Copilot de Microsoft sumaron sus propias versiones.

Los enfoques difieren en los detalles, pero el principio es el mismo: el asistente recuerda lo que el usuario le fue contando y usa esa información para dar forma a las respuestas futuras.

La versión más expansiva es Personal Intelligence de Google, que puede acceder al historial de Gmail, Google Fotos y actividad en YouTube del usuario para personalizar las respuestas.

En el otro extremo, todos los principales asistentes permiten desactivar la memoria por completo, aunque la mayoría de los usuarios no lo sabe o nunca revisa esa configuración.

El problema de los datos que no eran sobre vos

Uno de los errores más frecuentes que documentó el WSJ es que el chatbot almacena información que en realidad no corresponde al usuario.

Si alguien busca síntomas de TDAH para su hijo, el sistema puede asumir que quien pregunta tiene esa condición. Semanas después, cuando pide consejos de productividad, el chatbot puede adaptar sus sugerencias pensando que la persona tiene dificultades de atención.

El propio Google reconoció una variante de este problema en un comunicado sobre su función Personal Intelligence. Describió el caso hipotético de un usuario al que el sistema lo creía fanático del golf porque aparecía en cientos de fotos en una cancha, cuando en realidad iba para acompañar a su hijo. El usuario tuvo que aclararle al chatbot que no le gusta el golf.

El riesgo se multiplica en cuentas compartidas entre parejas o en empresas pequeñas. Si una persona usa el chatbot para pulir su currículum y luego otra persona de la misma cuenta hace una consulta no relacionada, el asistente puede traer a colación la búsqueda de empleo de la primera persona como si fuera contexto relevante.

La memoria que no se actualiza

Otra forma en que la memoria larga puede volverse un problema es cuando los datos quedan desactualizados.

Si el usuario mencionó hace seis meses que estaba entrenando para una maratón y después sufrió una lesión sin informárselo al chatbot, todos los planes de alimentación y ejercicio que el asistente sugiera seguirán calibrados para alguien en pleno entrenamiento de alta intensidad. El usuario estaría siguiendo consejos diseñados para una versión de sí mismo que ya no existe.

Del Rosario vivió algo similar con una dieta que había mencionado en algún momento. Cuando pidió recomendaciones de restaurantes durante un viaje, el chatbot empezó a filtrar las opciones pensando que seguía el régimen. "Era como que me arruinara las vacaciones", dijo.

Cómo la memoria moldea respuestas sin que el usuario lo sepa

El problema más silencioso, según los especialistas consultados por el WSJ, no es cuando el chatbot trae a colación datos incómodos de forma explícita. Es cuando usa esos datos para orientar las respuestas sin advertirlo.

Joshua Joseph, científico jefe de IA en el Centro Berkman Klein de la Universidad de Harvard, comparó el efecto con los algoritmos de redes sociales: unos pocos posts en los que el usuario se detiene más tiempo pueden alterar toda su experiencia posterior sin que lo perciba.

Si en alguna conversación lateral el usuario mencionó que estaba preocupado por el dinero, semanas después cuando pida orientación laboral el chatbot podría priorizar empleos mejor pagos sobre roles que quizás serían más adecuados para él, sin aclarar por qué.

"Definitivamente orienta, definitivamente impacta los resultados", dijo Joseph. "Y no sabemos bien cuánto." Él mismo tiene la memoria desactivada en sus cuentas.

Lucy Osler, filósofa de la Universidad de Exeter que estudia cómo la IA moldea la cognición, señaló otra dimensión del problema: los chatbots construyen una narrativa sobre quién es el usuario y la retroalimentan como si fuera un dato objetivo.

Si alguien le dijo al asistente que se sentía inseguro o ansioso, eso queda como una característica del usuario, y el chatbot puede seguir refiriéndose a eso aunque la persona ya haya superado ese momento. "Pueden encerrarte en una imagen de vos mismo", dijo Osler.

Qué hacer para tener el control

Todos los principales asistentes permiten ver, editar y borrar los recuerdos almacenados, aunque esa opción no siempre es visible a primera vista. Estas son las recomendaciones prácticas que el WSJ documentó:

Revisar qué sabe el chatbot sobre vos. En ChatGPT está en Personalización, en Claude y Gemini, en la sección de memoria. Vale la pena entrar y borrar lo que ya no es relevante.

Usar el modo temporal para conversaciones sensibles. La mayoría de los asistentes tienen una opción de chat sin registro, generalmente accesible desde la parte superior de la pantalla.

Probar con la memoria desactivada. Mike Taylor, consultor tecnológico consultado por el WSJ, optó por dejarla apagada permanentemente: "El modelo no sabe quién sos, y por eso no va a sesgar los resultados".

Tratarlo como un perfil de red social. Igual que con Instagram o LinkedIn, conviene revisarlo de vez en cuando porque está moldeando lo que recibís aunque no lo mires.

Del Rosario encontró su propio equilibrio y usa chatbots separados para distintas áreas de su vida y el modo anónimo para todo lo sensible.

Aun así, valora la memoria cuando funciona bien. El asistente sabe que sus hijos necesitan sillas especiales en los viajes en auto y, a veces, es el único que tiene el panorama completo de todo lo que está atravesando. "Se siente bien ser visto, aunque sea por un chatbot de IA", dijo.

--------------------