¿Puede la inteligencia artificial cuidar el sufrimiento humano?

COMITÉ DE ÉTICA ASISTENCIAL

DÍA MUNDIAL DE LA SALUD MENTAL

COMUNICADO

Fundación Congreso Catalán de Salud Mental (FCCSM)

Octubre de 2026

Con motivo del Día Mundial de la Salud Mental, queremos dirigir la mirada al reto que supone el desarrollo de la denominada Inteligencia Artificial (IA) y su aplicación en salud mental.

En un momento de cambios e incertidumbres en muchos sentidos, marcado también por una creciente falta de recursos económicos y por la precariedad laboral en la atención sanitaria y social, la introducción de la IA abre oportunidades y beneficios, pero también riesgos y consideraciones éticas.

La tecnología asociada a la IA ha desarrollado sistemas de análisis de datos clínicos que, en determinados ámbitos sanitarios, pueden mejorar los sistemas diagnósticos, favorecer la toma de decisiones clínicas, optimizar la gestión de los recursos y contribuir al desarrollo de tratamientos personalizados, entre otros beneficios. Sin embargo, en salud mental los riesgos se centran especialmente en aspectos como la protección de la información sensible, la privacidad de los datos, la confidencialidad, la utilización indiscriminada de estas tecnologías para recoger información en la historia clínica y la consiguiente homogeneización de los relatos, así como la falta de transparencia y de consentimiento informado en su uso.

Al mismo tiempo, la IA presenta importantes limitaciones a la hora de comprender los diversos factores contextuales que intervienen en el sufrimiento humano y, especialmente, en el sufrimiento mental. Estas limitaciones pueden favorecer errores y sesgos diagnósticos derivados de los datos utilizados, así como producir las denominadas hallucinations (“alucinaciones”), es decir, respuestas que parecen ciertas y coherentes, pero que pueden ser falsas, inexactas e inventadas por la propia IA.

Además, los aspectos sociales, relacionales y familiares del sufrimiento mental pueden quedar insuficientemente recogidos en muchos sistemas y algoritmos de IA, lo que puede limitar su consideración a la hora de establecer tratamientos o proponer y asignar recursos de atención en salud mental. Si estos sesgos no se identifican y corrigen, pueden reproducir o perpetuar desigualdades existentes y contribuir a la marginación de poblaciones especialmente vulnerables.

Otro aspecto, quizás de los más relevantes, es la sustitución, o la pretensión de sustitución, del trato humano profesional por chatbots, que pueden ofrecer consejos y orientaciones, en ocasiones con errores. Recientemente, iniciativas impulsadas desde los propios sistemas sanitarios, como «La Meva Salut Mental», han sido fuente de controversia y desconcierto entre personas usuarias y profesionales, especialmente por el posible incremento de diagnósticos asociado a su uso y por el riesgo de que se conviertan en una herramienta simplificadora al servicio de la identificación de síntomas. En este sentido, resulta especialmente preocupante que las personas usuarias acaben recurriendo por iniciativa propia a un chatbot en lugar de dirigirse a un profesional, como consecuencia, entre otros factores, de la falta de disponibilidad, las dificultades de acceso, las largas listas de espera o la insuficiencia de recursos de los servicios de salud mental.

Estos riesgos y consideraciones éticas están siendo objeto de atención por parte de distintos colegios profesionales y de profesiones vinculadas a la intervención social y sanitaria en salud mental. Tanto desde la psicología y la medicina como desde otros ámbitos profesionales, como el trabajo social, la educación social o la enfermería, se observa con prudencia y preocupación la introducción de la IA aplicada al ámbito de la salud.

En este sentido, se han elaborado documentos de referencia, como el decálogo de recomendaciones deontológicas sobre el uso de la IA en medicina, y también se recogen las reflexiones de entidades como la American Psychological Association (APA) y Mental Health Europe (MHE), que han elaborado documentos sobre la realidad y los riesgos de la IA en la atención a la salud mental.

Desde el CEA queremos destacar algunos de los temas que nos ocupan y preocupan:

• Velar por los derechos de las personas que sufren algún problema de salud mental.
• Impulsar la formación y el uso crítico de la IA por parte de los profesionales, promoviendo una utilización responsable, reflexiva y ajustada a los límites de esta tecnología.
• Extremar la prudencia en el uso de la IA en el abordaje del sufrimiento de niños, niñas y adolescentes, atendiendo especialmente a su situación de vulnerabilidad y a la necesidad de garantizar sus derechos.
• Preservar el criterio, la experiencia y el rigor profesional, de modo que la IA no los sustituya en ningún caso, ni tampoco la corresponsabilidad de las personas afectadas en los procesos de decisión sobre su salud.
• Favorecer la información y el consentimiento en el uso de los datos de salud, siempre con la participación activa de la persona y trabajando con su consentimiento.
• Utilizar la IA de forma consensuada con la persona, bajo supervisión profesional y orientada como una ayuda en la toma de decisiones compartidas, y nunca como sustituto de una atención profesional ni de manera impuesta.

Solicitamos a los profesionales que trabajan en el ámbito de la salud mental el compromiso de mantener estos principios éticos al utilizar la IA.

Comité de Ética Asistencial

Presidente: Joan Badia

Secretaria: Judith Martín

Miembros: Alicia Roig, Jordi Marfà, Esther Francisco, Asunción Pié, Mercedes Serrano, Fernando Vidal, Alex Meriages, Edgar Vinyals y Leticia Medeiros.

Fundación Congreso Catalán de Salud Mental

Octubre de 2026.