Violencia digital con IA: ¿qué hacer si crean contenido sexual de mi persona?
En la actualidad, mucho contenido que hay en internet está hecho con Inteligencia Artificial (IA), desde canciones, diseños, videos y hasta fotografías que pueden parecer reales, pero no lo son.
Debido a la falta de regulación, la IA se ha usado también hasta para caer en delitos como el fakeporn, del cual Rosalía y la periodista Johanna Villalobos fueron víctimas.
Y esto puede pasarnos a cualquiera, como fue el caso de las alumnas del IPN que denunciaron a un estudiante que creó más de 50 mil imágenes con IA de contenido íntimo.
Hablamos con diferentes expertas para conocer más de la violencia digital con IA y elaborar una guía con información útil tanto para las personas que han sido víctimas, como para quienes deseen apoyar a alguien en esa situación.
Primero: ¿Qué es violencia digital con IA?
De forma muy general, la violencia digital es toda acción mediante el uso de Tecnologías de la Información y la Comunicación (TIC) que busque agredir, violentar, vulnerar o exhibir la intimidad de una persona.
Algunas formas de violencia digital son ciberacoso, extorsión, phishing, robo de datos, grooming, entre otras. Como puedes ver, cualquier persona puede ser víctima de este tipo de violencia, sin importar edad, género, clase social, etc.
Sin embargo, las afectadas en mayor proporción son las mujeres y la comunidad LGBTIQ+; por eso es importante señalar la violencia digital de género.
De acuerdo al Módulo sobre Ciberacoso (MOCIBA), en 2022, 20.8% de la población usuaria de internet (equivalente a 17.4 millones de personas de 12 años y más) vivió alguna situación de acoso cibernético. De estas, 9.8 millones fueron mujeres (22.4 %) y 7.6 millones, hombres (19.1 %).
Candy Rodríguez, cocoordinadora de Acoso Online señala, en entrevista con Animal MX, que “el espacio digital es un espacio donde se han trasladado y se reproducen, replican y potencializan las violencias que sufrimos las mujeres y las personas de la diversidad sexual”.
Lee: Qué significa la señal de auxilio que usó una mujer de Oaxaca agredida durante un video en vivo
La tecnología avanza y la violencia digital también
Candy, quien también es parte de Ciberseguras, menciona que como consecuencia de que cada día se desarrollan nuevas herramientas, los ataques digitales y las agresiones avanzan y toman nuevas formas.
Una de ellas es el deepfake (acá te explicamos más de él), cualquier material multimedia –videos, fotos, audios– aparentemente realistas, pero que en realidad son falsos. Toman como base un material ya existente, pero es modificado con inteligencia artificial para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Aunque existen varios tipos de deepfake, el más común de todos es el fake porn o deepfake pornográfico, donde se modifica material multimedia para crear contenido sexual.
Estas acciones vulneran la integridad, dignidad y privacidad de las mujeres, pudiendo causarles daño psicológico, económico o sexual tanto en entornos privados como públicos. Además, conllevan un impacto moral tanto para las víctimas como para sus seres cercanos.
Para que no te vean la cara: Guía básica de qué es y cómo evitar el phishing
Ley Olimpia: ¿qué dice la ley en México sobre la violencia digital con IA?
Recordemos que la Ley Olimpia no es solo una ley como tal, sino un conjunto de reformas en México en materia de violencia digital.
Con ella se aplicaron dos cambios legislativos: el reconocimiento de esta modalidad de violencia en la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y la tipificación del delito contra la intimidación sexual en los Códigos Penales.
De acuerdo a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia (en el Artículo 20), engloba la violencia digital como:
“Toda acción dolosa realizada mediante el uso de tecnologías de la información y la comunicación con la que se exponga, distribuya, difunda, exhiba, transmita, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento, sin su aprobación o sin su autorización y que le cause daño psicológico, emocional, en cualquier ámbito de su vida privada o en su imagen propia”
Recordemos que esta ley establece que todo aquel que cometa este tipo de delitos podrá ser sancionado con una pena de 3 a 6 años de prisión y una multa económica de entre 44 mil y 89 mil pesos.
Víctimas de violencia digital: Entre la revictimización y omisión de las autoridades
Paso a paso: ¿qué hago si crean contenido sexual con mi persona?
Sabemos que enfrentarse a cualquier tipo de violencia puede ser muy difícil, pero antes que nada recuerda que no estás sola y no eres culpable de nada, lo es quien violenta.
A continuación, te dejamos una serie de claves para denunciar y resistir violencia digital con IA.
1. Junta y guarda evidencia
Sabemos que el primer impulso es querer que ese material desaparezca de todos lados y es entendible. Sin embargo, tanto las plataformas como las autoridades te pedirán pruebas. Así que antes de cualquier medida te recomendamos juntar todas las evidencias.
Leslie Jiménez, abogada en derecho penal y coordinadora de proyectos en Impunidad Cero recomienda guardar todas las pruebas con captura o grabación de pantalla (se recomienda más la grabación) con hora y fecha visible. También guarda los enlaces de las páginas donde se publicó el material o también toma capturas donde se vea toda la URL.
Piensa en todas las pruebas posibles que puedan ser relevantes para el caso. Más allá de las imágenes o videos, piensa si recibiste mensajes o correos y también tómales capturas y guárdalos.
Las expertas recomiendan guardar todas esas evidencias en una USB, pero también tener un respaldo ya sea en digital o físico, imprimiendo todas esas capturas que tomaste.
Leslie Jiménez también señala de que en caso que llevemos a las autoridades, el Ministerio Público pide el teléfono de la víctima “para efecto de ver los datos conservados y, de una manera u otra, para corroborar las capturas y grabaciones dentro del dispositivo”.
Toma en cuenta: La violencia digital contra mujeres y niñas puede ser tan grave como las violencias fuera de Internet
2. Reporta el caso en plataformas
Ya que guardaste todas las pruebas de violencia digital con IA, puedes reportar el contenido en la página o plataforma donde esté.
La abogada Leslie Jiménez recomienda reportar la publicación/material y no el perfil, así evitas que el contenido esté en internet sin que “la plataforma o página donde se creó ese material, desaparezca”.
Cada plataforma tiene distintos formularios y pasos a seguir para denunciar este tipo de contenido. En Denuncia.org tienen esta guía paso a paso de cómo denunciar en distintas plataformas digitales como Facebook, Instagram, Whastapp o Twitter/X.
Candy Rodríguez sugiere que revises bien todo porque incluso hay casos donde “si denuncias por derechos de autor es más fácil que bajen un contenido”.
Y sí, aunque tú no creaste esa imagen con IA, hay algunas plataformas que engloban bajo derechos de autor el uso de tu imagen sin tu consentimiento.
Te puede servir: Sexting y consentimiento, una breve guía para hacerlo muy bien
¡Importante! Evita compartir el enlace
“Ayúdenme a reportar” es una de las publicaciones que más vemos cuando una persona es víctima de este tipo de violencia, pero tanto Candy Rodríguez como Leslie Jiménez remarcan la importancia de NO compartir el link, porque así lo terminamos viralizando.
“Lo que hacen al hacer público ese contenido, es que se siga propagando y a veces cae en manos de personas que no les interesa reportarlo y resulta contraproducente”, explica Leslie.
Candy añade que “es una forma de seguirte vulnerando” porque aunque se lo pases a “personas de confianza” el contenido se sigue viendo y se sigue reproduciendo.
3. Denuncia ante las autoridades
La abogada Leslie Jiménez nos recuerda que también está la vía civil, que es exigir “la reparación de un daño moral causado por una afectación“.
Así que recuerda: NO estás obligada a llevar tu caso por la vía penal. Todas las sobrevivientes de violencias son distintas y requieren procesos distintos.
Pero si decides llevar tu caso de violencia digital con IA, entonces lo primero es accionar legalmente con el Ministerio Público.
La recomendación de Leslie Jiménez es que seas acompañada por un abogado o abogada “que tenga especialidad en derecho penal o que se dedique a litigar esos casos”.
Igualmente recuerda que las fiscalías están obligadas a proporcionar asesoría jurídica, institucional y gratuita que te puede apoyar al menos en el momento de la denuncia.
“Tú como víctima de toda una carpeta investigación, puedes cambiar la asesoría jurídica en cuanto tú lo quieras hacer”, menciona Leslie.
4. Busca acompañamiento legal y/o psicológico
Cada paso es particular, por eso te dejamos algunos lugares que pueden ayudarte en este proceso ya sea con asesoramiento o acompañamiento:
En denuncia.org puedes encontrar un directorio que contiene colectivas, organizaciones e instituciones con acompañamiento legal y psicológico.
También revisa acoso.online que trae muchos más detalles sobre cómo reportar el caso de forma digital: en buscadores (Google, Yahoo), gestores de contenido (YouTube, Tumblr, WordPress), redes sociales (Facebook, Twiiter/X), servicios de mensajería (WhatsApp, Telegram) o hasta en sitios web porno.
Luchadoras, Cultivando género y R3D también brindan muchas asesorías. Con ellas puedes acercarte, por ejemplo, para que te ayuden a establecer una comunicación más directa con alguna plataforma (Meta, TikTok) y buscar soluciones.
StopNCII.org es una herramienta gratuita diseñada para ayudar a las personas que han sido víctimas de la difusión de sus imágenes íntimas sin su consentimiento.
¿Y si le pasa a una conocida? Cómo ser una red de apoyo
Como nos comenta Mayra Dávila, de ADAX Digitales, una red de apoyo es fundamental para sobrellevar esta situación, por eso si alguna de tus conocidas está atravesando esto ten en cuenta estos consejos:
- Ayuda a la contención emocional de la persona que es víctima. Por más repetitivo que sea, recuérdale que nunca será su culpa, siempre es de los agresores.
- Puedes apoyar en la tarea de recopilar pruebas, pues generalmente cuando atraviesas esta situación lo primero que piensas es en bloquear y cerrar cuentas y ya mencionamos que es contraproducente.
- Tener en cuenta qué quiere hacer la víctima en ese momento: si quiere e interponer una denuncia, hay que hacerlo; si no está lista todavía, hay que buscar las herramientas de las redes sociales para dar de baja el contenido y más a futuro llegar a denunciar.
- Emplea la escucha activa siempre, no juzgues a la persona y prioriza siempre lo que ella quiere. Puede ser difícil porque se busca solucionar algo que hizo un tercero. Te toca dar la mano y estar en todo momento sin importar su decisión.
Hay que abrir más diálogos sobre la violencia digital con IA
Por último, Candy Rodríguez menciona que estamos en un momento de reflexión, porque nosotras no tenemos control sobre lo que haga un tercero.
Entonces se trata de ver y cuestionar las políticas de las empresas detrás de la inteligencia artificial. “¿Qué mecanismos de control van a tener para no vulnerar a otras personas?”, se cuestiona Candy.
También están los cuestionamientos legales. La Ley Olimpia no se legisló igual en todo el país y Leslie Jiménez reconoce que hay abogados que consideran que sí es muy necesario “incorporar de manera directa el señalamiento de «inteligencia artificial» en las descripciones típicas para tener, ‘un poco de más certeza'”, menciona.
Para Candy Rodríguez, el hecho de que ya se reconozca la violencia digital en la Ley General de Acceso a las Mujeres a una Vida Libre de Violencia “de algún modo puede designar presupuesto para que se empiece a hablar a nivel política pública sobre este tipo de violencias que se están creando actualmente”.
No esperemos a que nos pase; comparte, infórmate y habla acerca de este tema. Y repetimos: tú no eres culpable de nada, lo es quien violenta.
Relacionado
Mareterra, construido sobre el Mediterráneo e inaugurado en diciembre de 2024, combina ecología con belleza natural.
Era poco más del mediodía en Mareterra , el barrio más nuevo de Mónaco, y una multitud se agolpaba en la terraza de Marlow, el primer restaurante británico de alta cocina del principado.
Cerca de allí, los oficinistas descansaban en los amplios escalones junto al agua en su hora de almuerzo. El Paseo Príncipe Jacques, la pasarela peatonal de 800 metros que rodea el perímetro marítimo de Mareterra, estaba concurrida con corredores y padres empujando cochecitos por el pavimento de hormigón.
Me detuve para disfrutar de la vista sobre la extensión del mar azul hacia el frondoso cabo de Roquebrune-Cap-Martin e Italia más allá. La zona se integraba tan perfectamente con el paisaje circundante que me costó recordar cómo hace seis meses, esto todavía era una obra sin terminar, y que hace ocho años, donde yo estaba parada, estaba el mar Mediterráneo.
Este barrio, un proyecto de 2.000 millones de euros (unos US$2.260 millones) que se inauguró en diciembre de 2024, es la última respuesta de Mónaco a una pregunta que se ha planteado durante más de 150 años: ¿cómo expandirse cuando ya se ha quedado sin terreno?
Caminé por el paseo marítimo y me agaché por una puerta que daba al sendero, entrando en una oscura antecámara de hormigón. Otra puerta conducía al interior hueco de uno de los 18 cajones, las cámaras de 10.000 toneladas y 26 metros de altura que se asientan una junto a la otra como gigantescas piezas de Lego en el fondo marino para crear la infraestructura marítima del nuevo barrio.
En el espacio oscuro y sin luz, mis ojos tardaron un rato en captar lo que mis oídos reconocieron de inmediato: olas que se estrellaban contra un muro.
Miré por encima de una gruesa barandilla que me separaba de la caída al mar. El Mediterráneo emergía como si llamara mi atención, mientras la cámara de hormigón armado permanecía silenciosa e inmóvil, absorbiendo el impacto del oleaje.
La parte superior de cada cajón, conocida como cámara Jarlan, se encuentra por encima de la línea de flotación para permitir el flujo de agua a través de estrechas aberturas verticales en el lado exterior. El diseño está concebido para actuar como un rompeolas que absorbe y dispersa la energía de las olas.
“Eso significa que, incluso durante tormentas históricas, las olas no se elevarán demasiado ni sumergirán [a Mareterra] “, dijo Guy Thomas Levy-Soussan, director gerente de SAM L’Anse du Portier, los desarrolladores de Mareterra, mientras estábamos en La Gruta Azul, como se llama este espacio, en honor a la Gruta Azul de Capri.
“Cuando el sol brilla a través de las aberturas de la cámara Jarlan por la mañana, el espacio adquiere un tono ligeramente azul”, dijo, explicando la elección del nombre.
La Guta Azul no brilla como las cuatro paredes adornadas con cuarzo rosa pastel y morado lavanda, en la cercana sala de meditación y contemplación silenciosa diseñada por la artista vietnamita Tia-Thủy Nguyễn.
Y probablemente me sentiría un poco incómoda estando sola en ese espacio oscuro. Sin embargo, se ha convertido rápidamente en uno de los lugares más inusuales y menos llamativos del principado mediterráneo, atrayendo a un flujo constante de personas como yo, curiosas por ver entre bastidores el ingenio técnico que implica recuperar tierra del mar.
Construyendo sobre el mar
La recuperación de tierras no es nueva en Mónaco, el segundo país más pequeño del mundo después de la Ciudad del Vaticano, donde 38.000 habitantes se apiñan en un territorio de poco más de 22 km².
Si bien una gran proporción de ellos son millonarios, siguen viviendo en el país más densamente poblado del mundo.
Acorralado por Francia, la solución habitual de Mónaco a su problema de espacio es adentrarse en el agua. Desde 1907, el 25% del territorio monegasco se ha ganado al mar, incluyendo la zona de playa, Le Larvotto, el Puerto Hércules -repleto de superyates-, y el barrio de Fontvieille, al oeste del Palacio del Príncipe de Mónaco.
Si Rainiero III, quien llegó al poder en 1949, se forjó la reputación de ser “el príncipe constructor”, su hijo, el actual soberano Alberto II, continúa la tradición. Fue en 2013 cuando anunció sus planes de recuperar estas seis hectáreas frente a la costa, cerca de Larvotto, en el extremo oriental de Mónaco, bautizándolas posteriormente como Mareterra para reflejar su conexión con el mar y la tierra.
El barrio ha incrementado el territorio del principado en un 3% y comprende dos bloques de apartamentos residenciales (incluido uno diseñado por el célebre arquitecto italiano Renzo Piano), 10 villas y cuatro casas adosadas, un pequeño puerto deportivo, 14 locales comerciales y tres hectáreas de espacio público.
Mareterra encaja como la pieza que faltaba en un rompecabezas en este tramo del litoral monegasco. Se encuentra junto al Foro Grimaldi, un espacio para eventos que a menudo alberga exposiciones itinerantes de arte y espectáculos, y al Jardín Japonés, plantado en 1994 con pinos mediterráneos, granados y olivos según los principios del diseño zen.
Ambos sitios han podido crecer gracias a la ampliación.
Ecológico
En consonancia con el compromiso del Príncipe de lograr la neutralidad de carbono en el Principado para 2050, Mareterra también se ha concebido como el rincón más verde de Mónaco.
Nueve mil metros cuadrados de paneles solares, 200 estaciones de carga para vehículos eléctricos y 800 árboles se encuentran entre las iniciativas ecológicas del distrito.
Justo en la entrada de La Gruta Azul se reproduce en bucle un vídeo de cinco minutos que presenta cómo el proyecto abordó la inevitable perturbación marina que conlleva este tipo de construcción.
Los cajones también desempeñan un papel fundamental; se moldearon relieves y ranuras en su construcción para fomentar la colonización de la flora y fauna marinas.
Incluso se lijaron a mano algunos segmentos para añadir textura. Las cámaras de Jarlan tienen una ventaja adicional: recrean zonas poco profundas donde los peces pueden entrar y salir rápidamente.
Sin embargo, el reto más delicado consistió en trasplantar 384m² de Posidonia oceanica, una pradera marina endémica que desempeña un papel fundamental en el ecosistema mediterráneo y está protegida por la legislación de la Unión Europea (UE).
Una técnica pionera utilizó una pala para árboles modificada para extraer las plantas de Posidonia y colocarlas en cestas que luego pudieron replantarse a 200m de distancia, en el Área Marina Protegida de Larvotto.
“Normalmente transportamos las plantas de Posidonia una a una”, explicó Sylvie Gobert, oceanóloga de la Universidad de Lieja (Bélgica), quien colaboró en el proyecto. “Lo realmente innovador es que nos llevamos la Posidonia, junto con todo su ecosistema radicular y aproximadamente un metro cúbico de sedimento”.
Armonía
Si la Posidonia finalmente se ha asentado en su nuevo hogar, también lo ha hecho Mónaco en Mareterra. Al observar la zona, me di cuenta de la rapidez con la que los suaves azules y grises de Le Renzo, el llamativo bloque residencial de Piano que se alza como un centinela sobre el vecindario, se han convertido en una parte familiar del paisaje local.
Cerca de allí, Quatre Lances, una escultura del artista estadounidense Alexander Calder que fue comprada por la madre del príncipe Alberto, Grace Kelly, en la década de 1960 y que había estado languideciendo almacenada, se ha convertido en un punto de encuentro al que la gente gravita.
Un pequeño paseo natural, La Pinède, serpentea a través de un jardín rocoso plantado con pinos carrascos y pinos paraguas, las mismas especies que encontrarías si estuvieras caminando por la campiña provenzal.
Una fuente de agua goteaba suavemente entre nidos de pájaros y hoteles para insectos instalados entre la maleza mediterránea.
Estas no son las atracciones llamativas por las que Mónaco es famoso, como el dorado Casino de Montecarlo. Es una zona que ha sido diseñada para los locales, con sólo un puñado de tiendas y restaurantes, aunque los visitantes vienen a disfrutar de los tranquilos jardines, las vistas al mar y el ingenio que hizo posible Mareterra.
A pesar de sus ambiciones ecológicas, Mareterra plantea interrogantes sobre su necesidad. Aunque se presenta como la solución de Mónaco a sus problemas de vivienda, se especula con que los precios de las propiedades parten de los US$100.000 euros (unos US$112.000) por metro cuadrado, lo que la convierte en una de las áreas residenciales más caras del mundo.
Además, ninguna de las nuevas residencias se ha reservado para los monegascos, que son casi 10.000 y tienen derecho a vivienda social.
Sin embargo, en Mónaco están seguros de que Mareterra no es el fin de su historia de crecimiento.
“Para el Príncipe Alberto, si no hay construcción, el país está paralizado”, declaró Nancy Heslin, cofundadora de Carob Tree Publishing , la primera editorial monegasca compuesta exclusivamente por mujeres, quien ha entrevistado al Príncipe en varias ocasiones.
“El país siempre buscará seguir expandiendo su territorio”, afirmó.
“Mientras tenga el deseo y el presupuesto para ampliar los límites de lo posible, tanto a escala tecnológica como ecológica, el principado será un ejemplo a seguir para otras ciudades costeras, como laboratorio de este tipo de innovación”, dijo por su parte Levy-Soussan,
“Mónaco es un país pequeño que ha logrado cosas extraordinarias”.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección del mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en el nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
