Sanidad se alía con Meta y OpenAI: la IA entra en primera línea contra el suicidio en España

El Ministerio de Sanidad de España, a través del Comisionado de Salud Mental, ha iniciado conversaciones formales con Meta y OpenAI para crear salvaguardas que protejan a quienes recurren a asistentes de inteligencia artificial en momentos de crisis emocional. El objetivo: evitar que los chatbots agraven el sufrimiento de personas con trastornos psíquicos o ideas suicidas.

¿Qué se propone?

• Establecer límites de seguridad que impidan que los bots emitan mensajes que puedan resultar peligrosos o desencadenantes.
• Desarrollar mecanismos de control para asegurar que la inteligencia artificial generativa no sea usada como sustituto de una intervención profesional en salud mental.
• Mejorar la escucha activa hacia las personas con ideación suicida, garantizando canales de atención adecuados, no solo respuestas automáticas o derivaciones inmediatas.

Declaraciones clave

Belén González, comisionada de Salud Mental, ha recalcado que estas herramientas “no van a sustituir a ningún terapeuta”, aunque reconoce que muchas personas ya recurren a la IA cuando atraviesan episodios de crisis.

González ha señalado también:

“Ahora resulta que cuando tengo ganas de morirme, en lugar de decírselo a mi compañero, a mi madre o a mi amigo, se lo digo a un chatbot, se lo digo a ChatGPT. Esto no puede seguir pasando.”

Destaca además el papel del teléfono estatal 024, que recibe unas 600 llamadas al día, como recurso fundamental de primera escucha, anónimo y sin juicios.

Importancia del movimiento

• Supone un reconocimiento explícito de que la IA ya forma parte del ecosistema de salud mental, con usos reales, riesgos latentes y necesidad de reglas claras.
• Abre el debate sobre ética, regulación y responsabilidad de las grandes tecnológicas en contextos sensibles.
• Refleja una tendencia internacional: organismos de salud y reguladores que buscan asegurarse de que la innovación en IA no vaya por delante de la protección de las personas.