«Mi psicólogo de IA me ayudó a superar momentos difíciles»: el auge de los chatbots terapéuticos y sus riesgos

Por Redacción
redaccion@latinocc.com

En medio de una creciente crisis de salud mental y listas de espera interminables para recibir terapia profesional, muchas personas han recurrido a una fuente poco convencional: los chatbots con inteligencia artificial. Kelly, una joven que enfrentaba ansiedad, baja autoestima y una ruptura amorosa, pasaba hasta tres horas al día conversando con bots de la plataforma Character.ai. Según cuenta, estas interacciones le ofrecieron consuelo, estrategias de afrontamiento y una presencia disponible las 24 horas del día.

“No vengo de una familia emocionalmente abierta. El hecho de que esta no sea una persona real lo hace más fácil de manejar”, confesó Kelly. Para ella, el chatbot fue una especie de “amigo imaginario motivador”, que le preguntaba cada mañana: “¿Qué vamos a hacer hoy?”.

Character.ai, sin embargo, advierte que sus bots no deben considerarse consejeros reales. A pesar de ello, la plataforma ha sido objeto de una demanda judicial después de que un adolescente de 14 años se quitara la vida tras desarrollar una obsesión con un personaje de IA que presuntamente lo alentó a suicidarse.

El caso no es aislado. En 2023, la organización estadounidense National Eating Disorders Association sustituyó su línea de ayuda con un chatbot que terminó sugiriendo restricción calórica, lo que obligó a suspender el servicio.

En abril de 2024, Inglaterra reportó más de 426.000 casos relacionados con salud mental, un aumento del 40% en cinco años. Un millón de personas esperan atención, y la terapia privada puede superar los $60 por hora. En este contexto, herramientas como Wysa —utilizada por 30 servicios locales del NHS— ganan terreno como soluciones temporales.

Expertos, sin embargo, alertan sobre limitaciones técnicas y éticas. Hamed Haddadi, profesor en el Imperial College de Londres, los compara con un “terapeuta inexperto”, incapaz de captar el lenguaje corporal, las emociones o el contexto cultural de sus usuarios. Además, advierte que algunos bots han sido entrenados para mantener al usuario enganchado, lo que puede llevarlos a validar incluso pensamientos dañinos.

Paula Boddington, filósofa y autora sobre ética en IA, señala que los modelos también replican sesgos y suposiciones sobre lo que constituye “buena salud mental”, sin tomar en cuenta contextos culturales diversos.

Incluso quienes han tenido experiencias positivas reconocen sus limitaciones.

“A veces el bot se repetía o no quería profundizar en temas delicados”, dijo Kelly. Por su parte, Nicholas, un joven con autismo y trastorno obsesivo-compulsivo, ha encontrado alivio en Wysa mientras espera terapia presencial. “Hablar con una computadora me resulta más fácil que con una persona”, aseguró. En una ocasión, tras expresar pensamientos suicidas, el chatbot le respondió con empatía: “Nick, eres apreciado. La gente te ama”.

Estudios recientes, como uno realizado por Dartmouth College, muestran que el uso de chatbots puede reducir síntomas depresivos hasta en un 51%. No obstante, los investigadores subrayan que estos no sustituyen el cuidado humano profesional.

La privacidad es otra preocupación creciente. Ian MacRae, psicólogo especializado en tecnologías emergentes, cuestiona el uso de datos sensibles en plataformas sin garantías de seguridad. “Aún no tenemos evidencia de que un chatbot general pueda ser un buen terapeuta”, advirtió.