Riesgos ocultos de la inteligencia artificial en la salud mental de jóvenes y chatbots
En los últimos meses, diversos países han comenzado a debatir la necesidad de regular el uso de la Inteligencia Artificial (IA) en temas relacionados con la salud mental. Uno de los casos más emblemáticos se presentó en California, Estados Unidos, donde se promulgó la Ley SB 243. Esta norma busca restringir el uso de chatbots que interactúan con personas en crisis emocional, tras registrarse situaciones en las que jóvenes fueron inducidos o alentados a cometer suicidio mediante respuestas inadecuadas generadas por sistemas de IA. La ley, promovida por el senador Steve Padilla, establece que estas herramientas no pueden sustituir la atención profesional y que los desarrolladores serán corresponsables en caso de negligencia tecnológica.
Este hecho encendió una alarma global. Por primera vez, la legislación reconoce que los modelos de lenguaje como los chatbots pueden tener un impacto directo en la salud mental de los usuarios. La regulación californiana prohíbe explícitamente que la IA desempeñe funciones que competen a profesionales de la salud mental y obliga a redirigir a los usuarios hacia servicios de emergencia o líneas de atención especializada. Esta medida marca un precedente ético y legal de gran relevancia.
Desde la filosofía y la ética, autores como Slavoj Žižek han advertido que la tecnología no es neutral. En su obra Bienvenidos al desierto de lo real (1) señala que la técnica amplifica los vacíos simbólicos de las sociedades contemporáneas. Si trasladamos esta reflexión al campo de la IA, podemos pensar que los chatbots actúan como espejos de la desesperanza: reproducen sin comprensión las palabras de quienes buscan ayuda, sin la contención emocional que sólo puede brindar el vínculo humano. A su vez, Giovanni Sartori alertaba sobre el debilitamiento del pensamiento crítico ante la sobreexposición a estímulos visuales y la sobreinformación digital. En este sentido, la dependencia tecnológica puede reducir la capacidad de análisis y de juicio ético de los jóvenes, quienes tienden a confiar en respuestas inmediatas y superficiales generadas por la IA. El riesgo ético no está sólo en la herramienta, sino en la forma como las sociedades delegan en algoritmos tareas que exigen empatía, escucha y discernimiento.
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura publicó en 2021 su documento Recomendaciones sobre la ética de la inteligencia artificial, donde insta a los Estados a garantizar que las tecnologías aplicadas a la salud, especialmente en población infantil y juvenil, sean seguras, confiables y culturalmente responsables. No obstante, el caso californiano demuestra que muchas de estas orientaciones se aplican con lentitud o sólo tras una tragedia. La metáfora es clara: se colocan los salvavidas después de que alguien se ha ahogado.
Desde la perspectiva de salud mental, los profesionales psicólogos, psiquiatras y terapeutas advierten que ningún algoritmo puede reemplazar la escucha empática ni la evaluación clínica integral. Un chatbot carece de la capacidad de detectar matices emocionales, evaluar el riesgo suicida o establecer una relación terapéutica. Por ello, es urgente fortalecer los servicios públicos de salud mental y crear estrategias accesibles, especialmente para adolescentes y jóvenes que enfrentan aislamiento, ansiedad o depresión en entornos digitales.
A la par de las regulaciones, se requiere una reflexión profunda sobre la formación ética de quienes diseñan IA. Investigaciones recientes han señalado que los sistemas de IA deben incorporar principios de seguridad, justicia y responsabilidad desde su concepción. La ética algorítmica, como afirman Jobin, Ienca y Vayena, no debe ser un accesorio posterior, sino el eje central del desarrollo tecnológico. Esto implica un compromiso interdisciplinario entre ingenieros, médicos, psicólogos, enfermería y filósofos, que garanticen que la tecnología esté al servicio de la vida y no de la deshumanización.
Finalmente, la discusión sobre la IA y el suicidio juvenil nos enfrenta a un dilema contemporáneo: ¿cómo equilibrar la innovación con la protección humana? Las leyes y las recomendaciones internacionales son pasos necesarios, pero insuficientes si no se acompasan con una reconstrucción del tejido social y afectivo. Lo que nos debe quedar claro es que ningún chatbot, por más sofisticado que sea, puede ofrecer el consuelo de una mirada, la comprensión de una palabra o el abrazo de quien escucha de verdad. La tecnología puede asistir, pero nunca debe sustituir lo humano.
Bio de autores: Felipe Antonio Popoca Soto es estudiante del doctorado en Educación; es director de nivel medio superior y ha liderado la Fundación Don Bosco en Emiliano Zapata, Morelos, gestionando recursos y creando ambientes laborales saludables. Coordina proyectos de docencia en humanidades, incluyendo filosofía y ética; está certificado en educación para la paz y como tercera parte neutral. Miguel Ángel Mejía Argueta es egresado de la licenciatura en Informática, de la Facultad de Contaduría y Administración de la UNAM; cuenta con las maestrías en Administración de Organizaciones y en Prácticas Educativas Innovadoras, y el doctorado en Educación. Tiene 20 años de experiencia en actividades de alta especialización en diversas áreas de las Tecnologías de la Información y la Comunicación, tales como acervos digitales, bases de datos y herramientas de Inteligencia Artificial. Adela Alba Leonel es doctora en Ciencias de la Salud, profesora de carrera titular “A” de la Facultad de Enfermería y Obstetricia, y profesora de asignatura “A” de la Facultad de Medicina; docente de pregrado y posgrado en ambas facultades. Ha realizado publicaciones nacionales e internacionales en revistas científicas y capítulos de libros. Su investigación se ha desarrollado en hipertensión arterial, diabetes mellitus, fármaco-epidemiología, automedicación, acupuntura, prescripción, COVID-19, enlace de turno, cuidado de la salud mental e inteligencia artificial en salud.
Las opiniones publicadas en este blog son responsabilidad exclusiva de sus autores. No expresan una opinión de consenso de los seminarios ni tampoco una posición institucional del PUB-UNAM. Todo comentario, réplica o crítica es bienvenido.
(1) Žižek, Slavoj. Bienvenidos al desierto de lo real. Reflexiones sobre los acontecimientos del 11 de septiembre. Akal, 2002.
Israel lanzó una invasión a Líbano, mientras que la embajada de Estados Unidos en Riad fue atacada por un par de drones durante la noche.
La guerra entre Estados Unidos e Israel contra Irán continúa por cuarto día consecutivo.
Israel afirmó que el martes se lanzaron “numerosas municiones” sobre la Oficina Presidencial y el Consejo Supremo de Seguridad Nacional en Teherán, pocas horas después de lanzar nuevos ataques en Líbano y ampliar su operación terrestre en el país para atacar objetivos de Hezbolá.
Hezbolá había lanzado cohetes y drones contra Israel tras el bombardeo que mató al líder supremo de Irán, Alí Jamenei.
En Riad, funcionarios sauditas dijeron durante la noche que la embajada estadounidense fue alcanzada por dos drones iraníes, lo que causó daños limitados. Los ataques israelíes también han continuado en Irán.
La Media Luna Roja iraní afirma que 787 personas han muerto en la operación estadounidense-israelí en Irán. Seis militares estadounidenses han muerto desde que comenzó el conflicto, según el Mando Central de Estados Unidos.
El presidente estadounidense, Donald Trump, ha advertido desde entonces que las operaciones de combate continuarán con “toda su fuerza” hasta que se alcancen todos los objetivos de Washington.
¿Dónde han atacado Israel y Estados Unidos?
El ejército israelí anunció extensos ataques conjuntos con Estados Unidos durante el fin de semana, destruyendo las defensas aéreas en el oeste y centro de Irán.
Videos verificados de la capital iraní, Teherán, mostraron grandes columnas de humo elevándose sobre la ciudad el sábado.
BBC Verify obtuvo imágenes satelitales tomadas esa mañana, que mostraban daños significativos en parte del complejo de la Casa del Liderazgo, la oficina del ayatolá Jamenei.
El ejército israelí afirmó que sus ataques contra Teherán se habían dirigido contra reuniones de altos cargos políticos y de seguridad.
BBC Verify ha confirmado hasta el momento evidencia visual de ataques en 13 lugares diferentes de Teherán, además de otras 12 ciudades de Irán.
Al menos 153 personas murieron el sábado en una escuela de niñas en Minab, en el sur del país, tras ser alcanzada por tres misiles, según informaron medios estatales iraníes. La BBC no ha podido verificar esta información de forma independiente.
Bases militares fueron atacadas en Kermanshah y Tabriz, así como instalaciones navales iraníes en Konarak, en el sur del Irán
El presidente de Estados Unidos, Donald Trump, afirmó que las fuerzas estadounidenses hundieron 10 buques de guerra iraníes y destruyeron en gran medida su cuartel general.
Israel ha ampliado sus operaciones al Líbano, donde tiene como objetivo a Hezbolá, el grupo militante que lleva mucho tiempo recibiendo el apoyo de Irán. El martes por la noche, funcionarios israelíes afirmaron que las tropas habían entrado en Líbano y estaban tomando “zonas estratégicas” con el fin de evitar ataques contra las comunidades fronterizas israelíes.
La medida se produjo después de que Israel anunciara el lunes que estaba llevando a cabo ataques tanto en Irán como en Líbano, tras el lanzamiento de misiles por parte de Hezbolá durante la noche sobre Haifa.
El ataque aéreo israelí tuvo como objetivo el bastión de Hezbolá en los suburbios del sur de Beirut y las zonas cercanas al aeropuerto de la ciudad, así como objetivos en el sur de Líbano. Las explosiones en la ciudad continuaron durante la mañana del martes.
¿Dónde ha atacado Irán?
Irán ha respondido con ataques contra bases israelíes y estadounidenses en la región, y se le ha atribuido la responsabilidad de ataques aéreos contra países del Golfo.
El martes por la noche, funcionarios sauditas informaron que la embajada de Estados Unidos en Riad había sido atacada por dos drones, lo que causó daños menores y provocó un pequeño incendio.
Se reportaron nuevos ataques iraníes contra una importante planta de gas en Qatar, donde el Ministerio de Defensa declaró posteriormente haber derribado dos aviones iraníes, siete misiles y cinco drones.
En los Emiratos Árabes Unidos (EAU), que incluye los destinos turísticos de Dubái y Abu Dhabi, tres personas murieron y varias resultaron heridas, según informó el Ministerio de Defensa el domingo.
El Ministerio de Salud de Kuwait informó de una muerte el domingo. La base aérea Ali Al-Salem fue atacada por varios misiles balísticos que fueron interceptados con éxito, según las autoridades.
El ejército del país derribó el lunes tres aviones de combate estadounidenses en “lo que parece ser un incidente de fuego amigo”, según informó el Mando Central de Estados Unidos. Los seis tripulantes se eyectaron sin problemas y han sido rescatados, según la misma fuente.
En la vecina Irak, tres drones fueron derribados el lunes sobre el aeropuerto de Irbil, que alberga a las tropas de la coalición liderada por EE.UU.
El Centro Nacional de Comunicaciones de Baréin informó el sábado que el centro de servicios de la Quinta Flota de la Marina de EE.UU. había sido “objeto de un ataque con misiles”.
También en Baréin, un video verificado, filmado desde un vehículo en movimiento, muestra el momento en que impacta un misil. A continuación se produce una explosión que lanza fragmentos y escombros por los aires.
El domingo por la noche, un ataque con drones contra la base naval estadounidense provocó un gran incendio, según informó un funcionario a la BBC, pero no se registraron víctimas.
Cuatro personas han resultado heridas por los ataques iraníes en Baréin, añadió el funcionario.
En Arabia Saudita, el incendio en la refinería de Ras Tanura, gestionada por la petrolera estatal del país, Aramco, quedó controlado el lunes tras la interceptación de dos drones, según informaron las autoridades.
Las autoridades de Jordania, país fronterizo con Israel, afirmaron que sus fuerzas armadas habían derribado misiles balísticos dirigidos contra su territorio.
La agencia estatal de noticias de Omán informó el domingo de que el puerto comercial de Duqm había sido atacado por dos drones, que causaron heridas a un trabajador.
¿Qué pasó en Chipre?
Un dron iraní se estrelló contra la base aérea militar británica RAF Akrotiri a medianoche (22:00 GMT del domingo), anunció el presidente chipriota, Nikos Christodoulides.
No se reportaron víctimas y la base sufrió daños mínimos, pero el Ministerio de Defensa de Reino Unido indicó que trasladaría a los familiares.
El lunes, un portavoz del gobierno chipriota informó que otros dos drones que se dirigían hacia la RAF Akrotiri habían sido interceptados.
¿Cómo afecta el conflicto a la economía global?
Los precios mundiales del petróleo y el gas subieron drásticamente el lunes, con productores, aseguradoras y navieras afectados por la guerra y el cierre del Estrecho de Ormuz.
El precio del gas europeo se disparó más de un 30% después de que Qatar Energy, el mayor productor mundial de gas natural licuado (GNL), anunciara la suspensión de su producción.
Qatar suministra alrededor de una quinta parte del suministro mundial de GNL.
En los últimos dos días se han registrado varios ataques a buques en el Estrecho.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Análisis de la BBC: “Después de 3 días, aún no sabemos hacia dónde se dirige esta guerra”
- Irán cierra el estrecho de Ormuz: cuál es su importancia estratégica y qué consecuencias tiene ya su clausura
- Análisis: con los ataques de Irán, los países del Golfo están pagando el precio de su alianza con EE.UU.
