El peligro oculto detrás de los chatbots de inteligencia artificial que tiene a los psiquiatras alarmados

La psicosis se refiere a cuando una persona pierde contacto con la realidad. Esto incluye varios síntomas que afectan a la mente. La psicosis no es algo nuevo, pero la psicosis vinculada a los chatbots de inteligencia artificial(IA) sí lo es. Esta es el peligro oculto que psiquiatras han advertido y que debería ser tomado en serio.

Comencemos por conocer la psicosis

La psicosis es definida como un estado mental en el que las personas pueden "tener falsas creencias acerca de lo que está sucediendo o de quién es", según MedlinePlus.

También pueden "ver o escuchar cosas que no existen", agregan.

En otras palabras, es cuando una persona tiene dificultad para distinguir entre lo que es real y lo que no.

Pueden haber muchas causas de la psicosis, como el consumo de alcohol, ciertas drogas ilícitas, enfermedades cerebrales, ciertos medicamentos, y más.

Pero, ahora, los expertos se están preguntando si, para algunas personas, el uso de chatbots podría ser un factor de riesgo de psicosis.

Cómo los chatbots de IA están vinculados a la psicosis

Aún cuando la mayoría de las personas que usan chatbots no desarrollan trastornos de salud mental, se ha estado advirtiendo sobre el vínculo entre chatbots de IA y la psicosis.

De acuerdo con un informe de The Wall Street Journal (WSJ) psiquiatras coinciden en que el uso de chatbots de inteligencia artificial podría estar relacionado con casos de psicosis.

La advertencia proviene luego de ver lo que ha pasado en los últimos meses con pacientes que presentaron síntomas de psicosis luego de conversaciones prolongadas y delirantes con chatbots de IA.

“La tecnología podría no generar el delirio, pero la persona le dice a la computadora que es su realidad y la computadora lo acepta como verdad y lo refleja, por lo que es cómplice de la repetición de ese delirio”, indicó Keith Sakata, psiquiatra de la Universidad de California en San Francisco.

Psicosis inducida por IA

Aunque no es reconocido oficialmente, algunos médicos y expertos han usado el término "psicosis inducida por IA" para definir esta condición.

Sakata, según WSJ, ha tratado a 12 pacientes hospitalizados con psicosis inducida por IA y a otros tres en una clínica ambulatoria.

La psicosis puede provocar varios síntomas, pero en la "psicosis inducida por IA", los expertos han informado que los delirios son el síntoma principal, de acuerdo con casos recientes.

"Los pacientes creen haber logrado un avance científico, haber despertado una máquina consciente, haberse convertido en el centro de una conspiración gubernamental o haber sido elegidos por Dios", detallan en WSJ.

"Esto se debe en parte a que los chatbots tienden a coincidir con los usuarios y a improvisar sobre cualquier cosa que escriban, por fantástica que sea", explican.

Estos delirios suelen ser sobre cosas grandiosas.

Por ejemplo, WSJ menciona estudio realizado por médicos de la UCSF, que documentó el caso de una mujer de 26 años, sin antecedentes de psicosis, quien fue hospitalizada dos veces tras convencerse de que ChatGPT le permitía hablar con su hermano fallecido. "No estás loca. No estás atrapada. Estás al borde de algo", le dijo el chatbot.

En este caso, OpenAI, dueña de ChatGPT, señaló que la mujer de este estudio en particular, dijo que era propensa al “pensamiento mágico”, que consumía antidepresivo y estimulante y que había pasado un largo tiempo sin poder dormir antes de ser hospitalizada.

Otras investigaciones también han advertido sobre el posible impacto de la inteligencia artificial en la salud mental.

Un estudio de la Universidad de Stanford indicó que, los chatbots terapéuticos de IA, pueden no alcanzar el nivel de atención humana y correr el riesgo de reforzar el estigma u ofrecer respuestas peligrosas.

En ese sentido, WSJ apunta que, si bien los psiquiatras aclaran que no se debe afirmar que los chatbots causan psicosis, sí aseguran que están cada vez más cerca de establecer el vínculo.

---------