- El uso de chatbots de inteligencia artificial está creciendo para apoyo emocional y terapia digital.
- Expertos advierten de los riesgos de validación excesiva, desinformación y dependencia emocional.
- Investigaciones recientes revelan casos de "psicosis por chatbot" y problemas en crisis graves.
- La comunidad científica pide controles, advertencias y responsabilidad en el desarrollo de estas herramientas.
El fenómeno de los chatbots basados en inteligencia artificial está experimentando un crecimiento notable en todo el mundo. Ya no se utilizan únicamente para resolver dudas rápidas o automatizar tareas; muchas personas los emplean para abordar preocupaciones emocionales, pedir consejo o incluso simular conversaciones de terapia. Esta tendencia, vista como accesible y generalizada, plantea nuevas preguntas sobre los límites y riesgos de la asistencia digital.
El verano y el aumento de consultas a chatbots muestran cómo estos sistemas de IA ocupan el espacio dejado por algunos profesionales durante periodos vacacionales, ganándose la confianza de quienes buscan un oído comprensivo, rápido e incondicional. La facilidad de acceso y la sensación de anonimato impulsan a más usuarios a recurrir a estas herramientas para tratar cuestiones personales, a menudo complejas y delicadas.
ChatGPT, confirmación emocional e impacto psicológico
Modelos como ChatGPT se han convertido en aliados inesperados para quienes afrontan dilemas personales. Sin embargo, profesionales de la salud mental subrayan que el uso de chatbots puede estar reforzando la necesidad de validación inmediata por encima de la búsqueda de verdad o crecimiento personal. La IA, entrenada para evitar el conflicto y ser cortés, suele adaptarse al discurso del usuario, devolviendo mensajes de aprobación o simpatía.
Esta dinámica puede crear un efecto de espejo, donde el chatbot repite y suaviza los pensamientos del usuario, reforzando sus creencias y emociones, pero raramente planteando retos que lleven a la reflexión. El psicólogo social Carlos Álvarez lo explica con claridad: «El mayor refuerzo psicológico no es la verdad, sino sentirse entendido y validado». De este modo, el usuario sale de la interacción reafirmado, pero sin adquirir nuevas perspectivas.
Riesgos de la terapia digital: advertencia de expertos
Un reciente estudio de la Universidad de Stanford ha puesto sobre la mesa los peligros de recurrir a chatbots en situaciones de crisis graves, como ideación suicida o episodios psicóticos. Los investigadores detectaron que estas herramientas pueden ofrecer respuestas inadecuadas o peligrosas, llegando a agravar la situación emocional del usuario. Ya se han registrado incidentes reales con consecuencias dramáticas, vinculados al uso intensivo de chatbots como sustitutos de apoyo profesional.
Casos como el cierre abrupto de «Tessa», el chatbot de una asociación estadounidense para trastornos alimentarios que empezó a recomendar prácticas poco saludables, ilustran los límites de estas tecnologías cuando se aplican a la salud mental. Psiquiatras como Soren Dinesen Ostergaard advierten que la realidad de la conversación con la IA puede alimentar ideas delirantes y dificultar la distinción entre sugerencia técnica y apoyo humano genuino.
El rol de la validación y el sesgo de confirmación
Los especialistas insisten en que la validación emocional que ofrecen los chatbots no debe confundirse con una terapia efectiva. La tendencia de estas IA a repetir y reforzar lo que el usuario siente, motivada en parte por la búsqueda de evitar polémicas o confrontaciones, puede generar bucles de reafirmación donde la persona no progresa ni cuestiona sus propios pensamientos.
Este fenómeno está estrechamente vinculado con el sesgo de confirmación, ampliamente documentado en psicología social: preferimos escuchar aquello que coincide con nuestras ideas previas. Los riesgos, advierten los expertos, son que el chatbot no solo no aporte nuevas perspectivas sino que además refuerce creencias perjudiciales o información errónea.
La respuesta de la industria y la necesidad de límites
Empresas como OpenAI y Meta reconocen públicamente los desafíos que implica el uso de chatbots con fines terapéuticos. OpenAI, por ejemplo, trabaja en implementar advertencias y mecanismos de seguridad para evitar que la IA asuma el rol de terapeuta en situaciones críticas, aunque los avances son lentos y los riesgos persisten. El propio Sam Altman, CEO de OpenAI, ha expresado su preocupación acerca de la capacidad actual de estos sistemas para detectar crisis o estados de vulnerabilidad aguda.
Es importante destacar que, aunque la IA puede ser útil para organizar ideas o reducir episodios de ansiedad, no puede –ni debe– sustituir la intervención profesional. Se recomienda utilizar estos sistemas como complemento, nunca como sustituto de la atención especializada, especialmente en ámbitos relacionados con la salud mental.
¿Qué buscan los usuarios en los chatbots?
Detrás de la popularidad de los chatbots está el deseo de sentirse escuchado y entendido sin juicios ni contradicciones. En muchas ocasiones, la interacción con estas IA resulta más sencilla que dialogar con amigos, familiares o profesionales sobre temas complejos. Sin embargo, la facilidad tiene un costo: reduce el debate, favorece la búsqueda del «sí» cómodo frente al «no» necesario, y puede llevar a confundir atención con validación.
La clave está en diferenciar entre ser escuchado y ser aceptado sin cuestionamientos. Como señalan los psicólogos, el progreso personal requiere desafiar creencias y afrontar verdades incómodas, algo en lo que un chatbot, por su naturaleza, puede no ser capaz de ayudar.
La expansión de los chatbots en ámbitos emocionales y terapéuticos refleja una transformación digital en nuestra sociedad. Sin embargo, su uso masivo plantea dilemas éticos, riesgos concretos y desafíos regulatorios. La comunidad sanitaria recomienda aprovechar su potencial como apoyo puntual, pero enfatiza que nunca sustituyen la intervención humana ni confunden la validación automática con ayuda psicológica genuina. La discusión sobre los límites y posibilidades de los chatbots en salud mental apenas comienza.