Violencia digital con IA: ¿qué hacer si crean contenido sexual de mi persona?
En la actualidad, mucho contenido que hay en internet está hecho con Inteligencia Artificial (IA), desde canciones, diseños, videos y hasta fotografías que pueden parecer reales, pero no lo son.
Debido a la falta de regulación, la IA se ha usado también hasta para caer en delitos como el fakeporn, del cual Rosalía y la periodista Johanna Villalobos fueron víctimas.
Y esto puede pasarnos a cualquiera, como fue el caso de las alumnas del IPN que denunciaron a un estudiante que creó más de 50 mil imágenes con IA de contenido íntimo.
Hablamos con diferentes expertas para conocer más de la violencia digital con IA y elaborar una guía con información útil tanto para las personas que han sido víctimas, como para quienes deseen apoyar a alguien en esa situación.
Primero: ¿Qué es violencia digital con IA?
De forma muy general, la violencia digital es toda acción mediante el uso de Tecnologías de la Información y la Comunicación (TIC) que busque agredir, violentar, vulnerar o exhibir la intimidad de una persona.
Algunas formas de violencia digital son ciberacoso, extorsión, phishing, robo de datos, grooming, entre otras. Como puedes ver, cualquier persona puede ser víctima de este tipo de violencia, sin importar edad, género, clase social, etc.
Sin embargo, las afectadas en mayor proporción son las mujeres y la comunidad LGBTIQ+; por eso es importante señalar la violencia digital de género.
De acuerdo al Módulo sobre Ciberacoso (MOCIBA), en 2022, 20.8% de la población usuaria de internet (equivalente a 17.4 millones de personas de 12 años y más) vivió alguna situación de acoso cibernético. De estas, 9.8 millones fueron mujeres (22.4 %) y 7.6 millones, hombres (19.1 %).
Candy Rodríguez, cocoordinadora de Acoso Online señala, en entrevista con Animal MX, que “el espacio digital es un espacio donde se han trasladado y se reproducen, replican y potencializan las violencias que sufrimos las mujeres y las personas de la diversidad sexual”.
Lee: Qué significa la señal de auxilio que usó una mujer de Oaxaca agredida durante un video en vivo
La tecnología avanza y la violencia digital también
Candy, quien también es parte de Ciberseguras, menciona que como consecuencia de que cada día se desarrollan nuevas herramientas, los ataques digitales y las agresiones avanzan y toman nuevas formas.
Una de ellas es el deepfake (acá te explicamos más de él), cualquier material multimedia –videos, fotos, audios– aparentemente realistas, pero que en realidad son falsos. Toman como base un material ya existente, pero es modificado con inteligencia artificial para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Aunque existen varios tipos de deepfake, el más común de todos es el fake porn o deepfake pornográfico, donde se modifica material multimedia para crear contenido sexual.
Estas acciones vulneran la integridad, dignidad y privacidad de las mujeres, pudiendo causarles daño psicológico, económico o sexual tanto en entornos privados como públicos. Además, conllevan un impacto moral tanto para las víctimas como para sus seres cercanos.
Para que no te vean la cara: Guía básica de qué es y cómo evitar el phishing
Ley Olimpia: ¿qué dice la ley en México sobre la violencia digital con IA?
Recordemos que la Ley Olimpia no es solo una ley como tal, sino un conjunto de reformas en México en materia de violencia digital.
Con ella se aplicaron dos cambios legislativos: el reconocimiento de esta modalidad de violencia en la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y la tipificación del delito contra la intimidación sexual en los Códigos Penales.
De acuerdo a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia (en el Artículo 20), engloba la violencia digital como:
“Toda acción dolosa realizada mediante el uso de tecnologías de la información y la comunicación con la que se exponga, distribuya, difunda, exhiba, transmita, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento, sin su aprobación o sin su autorización y que le cause daño psicológico, emocional, en cualquier ámbito de su vida privada o en su imagen propia”
Recordemos que esta ley establece que todo aquel que cometa este tipo de delitos podrá ser sancionado con una pena de 3 a 6 años de prisión y una multa económica de entre 44 mil y 89 mil pesos.
Víctimas de violencia digital: Entre la revictimización y omisión de las autoridades
Paso a paso: ¿qué hago si crean contenido sexual con mi persona?
Sabemos que enfrentarse a cualquier tipo de violencia puede ser muy difícil, pero antes que nada recuerda que no estás sola y no eres culpable de nada, lo es quien violenta.
A continuación, te dejamos una serie de claves para denunciar y resistir violencia digital con IA.
1. Junta y guarda evidencia
Sabemos que el primer impulso es querer que ese material desaparezca de todos lados y es entendible. Sin embargo, tanto las plataformas como las autoridades te pedirán pruebas. Así que antes de cualquier medida te recomendamos juntar todas las evidencias.
Leslie Jiménez, abogada en derecho penal y coordinadora de proyectos en Impunidad Cero recomienda guardar todas las pruebas con captura o grabación de pantalla (se recomienda más la grabación) con hora y fecha visible. También guarda los enlaces de las páginas donde se publicó el material o también toma capturas donde se vea toda la URL.
Piensa en todas las pruebas posibles que puedan ser relevantes para el caso. Más allá de las imágenes o videos, piensa si recibiste mensajes o correos y también tómales capturas y guárdalos.
Las expertas recomiendan guardar todas esas evidencias en una USB, pero también tener un respaldo ya sea en digital o físico, imprimiendo todas esas capturas que tomaste.
Leslie Jiménez también señala de que en caso que llevemos a las autoridades, el Ministerio Público pide el teléfono de la víctima “para efecto de ver los datos conservados y, de una manera u otra, para corroborar las capturas y grabaciones dentro del dispositivo”.
Toma en cuenta: La violencia digital contra mujeres y niñas puede ser tan grave como las violencias fuera de Internet
2. Reporta el caso en plataformas
Ya que guardaste todas las pruebas de violencia digital con IA, puedes reportar el contenido en la página o plataforma donde esté.
La abogada Leslie Jiménez recomienda reportar la publicación/material y no el perfil, así evitas que el contenido esté en internet sin que “la plataforma o página donde se creó ese material, desaparezca”.
Cada plataforma tiene distintos formularios y pasos a seguir para denunciar este tipo de contenido. En Denuncia.org tienen esta guía paso a paso de cómo denunciar en distintas plataformas digitales como Facebook, Instagram, Whastapp o Twitter/X.
Candy Rodríguez sugiere que revises bien todo porque incluso hay casos donde “si denuncias por derechos de autor es más fácil que bajen un contenido”.
Y sí, aunque tú no creaste esa imagen con IA, hay algunas plataformas que engloban bajo derechos de autor el uso de tu imagen sin tu consentimiento.
Te puede servir: Sexting y consentimiento, una breve guía para hacerlo muy bien
¡Importante! Evita compartir el enlace
“Ayúdenme a reportar” es una de las publicaciones que más vemos cuando una persona es víctima de este tipo de violencia, pero tanto Candy Rodríguez como Leslie Jiménez remarcan la importancia de NO compartir el link, porque así lo terminamos viralizando.
“Lo que hacen al hacer público ese contenido, es que se siga propagando y a veces cae en manos de personas que no les interesa reportarlo y resulta contraproducente”, explica Leslie.
Candy añade que “es una forma de seguirte vulnerando” porque aunque se lo pases a “personas de confianza” el contenido se sigue viendo y se sigue reproduciendo.
3. Denuncia ante las autoridades
La abogada Leslie Jiménez nos recuerda que también está la vía civil, que es exigir “la reparación de un daño moral causado por una afectación“.
Así que recuerda: NO estás obligada a llevar tu caso por la vía penal. Todas las sobrevivientes de violencias son distintas y requieren procesos distintos.
Pero si decides llevar tu caso de violencia digital con IA, entonces lo primero es accionar legalmente con el Ministerio Público.
La recomendación de Leslie Jiménez es que seas acompañada por un abogado o abogada “que tenga especialidad en derecho penal o que se dedique a litigar esos casos”.
Igualmente recuerda que las fiscalías están obligadas a proporcionar asesoría jurídica, institucional y gratuita que te puede apoyar al menos en el momento de la denuncia.
“Tú como víctima de toda una carpeta investigación, puedes cambiar la asesoría jurídica en cuanto tú lo quieras hacer”, menciona Leslie.
4. Busca acompañamiento legal y/o psicológico
Cada paso es particular, por eso te dejamos algunos lugares que pueden ayudarte en este proceso ya sea con asesoramiento o acompañamiento:
En denuncia.org puedes encontrar un directorio que contiene colectivas, organizaciones e instituciones con acompañamiento legal y psicológico.
También revisa acoso.online que trae muchos más detalles sobre cómo reportar el caso de forma digital: en buscadores (Google, Yahoo), gestores de contenido (YouTube, Tumblr, WordPress), redes sociales (Facebook, Twiiter/X), servicios de mensajería (WhatsApp, Telegram) o hasta en sitios web porno.
Luchadoras, Cultivando género y R3D también brindan muchas asesorías. Con ellas puedes acercarte, por ejemplo, para que te ayuden a establecer una comunicación más directa con alguna plataforma (Meta, TikTok) y buscar soluciones.
StopNCII.org es una herramienta gratuita diseñada para ayudar a las personas que han sido víctimas de la difusión de sus imágenes íntimas sin su consentimiento.
¿Y si le pasa a una conocida? Cómo ser una red de apoyo
Como nos comenta Mayra Dávila, de ADAX Digitales, una red de apoyo es fundamental para sobrellevar esta situación, por eso si alguna de tus conocidas está atravesando esto ten en cuenta estos consejos:
- Ayuda a la contención emocional de la persona que es víctima. Por más repetitivo que sea, recuérdale que nunca será su culpa, siempre es de los agresores.
- Puedes apoyar en la tarea de recopilar pruebas, pues generalmente cuando atraviesas esta situación lo primero que piensas es en bloquear y cerrar cuentas y ya mencionamos que es contraproducente.
- Tener en cuenta qué quiere hacer la víctima en ese momento: si quiere e interponer una denuncia, hay que hacerlo; si no está lista todavía, hay que buscar las herramientas de las redes sociales para dar de baja el contenido y más a futuro llegar a denunciar.
- Emplea la escucha activa siempre, no juzgues a la persona y prioriza siempre lo que ella quiere. Puede ser difícil porque se busca solucionar algo que hizo un tercero. Te toca dar la mano y estar en todo momento sin importar su decisión.
Hay que abrir más diálogos sobre la violencia digital con IA
Por último, Candy Rodríguez menciona que estamos en un momento de reflexión, porque nosotras no tenemos control sobre lo que haga un tercero.
Entonces se trata de ver y cuestionar las políticas de las empresas detrás de la inteligencia artificial. “¿Qué mecanismos de control van a tener para no vulnerar a otras personas?”, se cuestiona Candy.
También están los cuestionamientos legales. La Ley Olimpia no se legisló igual en todo el país y Leslie Jiménez reconoce que hay abogados que consideran que sí es muy necesario “incorporar de manera directa el señalamiento de «inteligencia artificial» en las descripciones típicas para tener, ‘un poco de más certeza'”, menciona.
Para Candy Rodríguez, el hecho de que ya se reconozca la violencia digital en la Ley General de Acceso a las Mujeres a una Vida Libre de Violencia “de algún modo puede designar presupuesto para que se empiece a hablar a nivel política pública sobre este tipo de violencias que se están creando actualmente”.
No esperemos a que nos pase; comparte, infórmate y habla acerca de este tema. Y repetimos: tú no eres culpable de nada, lo es quien violenta.
Relacionado
Aunque no se han revelado muchos detalles sobre la nueva agencia, un repaso a la trayectoria del fundador de Tesla puede dar algunas pistas.
Donald Trump le ha encargado a Elon Musk, el hombre más rico del mundo, la dirección del nuevo Departamento de Eficiencia Gubernamental (DOGE, por sus siglas en inglés).
Trump afirmó en redes sociales que Musk y Vivek Ramaswamy, excandidato en las primarias del Partido Republicano, “desmantelarán la burocracia gubernamental, reducirán las regulaciones excesivas, recortarán los gastos innecesarios y reestructurarán las agencias federales”.
El empresario tecnológico cuenta con una larga experiencia de liderazgo corporativo para cumplir ese objetivo que lleva meses defendiendo.
Pero su rol también le otorgaría una importante influencia sobre la política gubernamental y el entorno regulatorio en el que operan sus compañías, lo que plantea dudas razonables.
Qué se sabe del DOGE
De momento se conocen pocos detalles concretos sobre el próximo Departamento de Eficiencia Gubernamental, al que Trump llamó en un comunicado “el Proyecto Manhattan de nuestro tiempo”.
El presidente electo ha adelantado que el DOGE funcionará como una especie de consejo asesor que operará de forma externa mediante una asociación con la Oficina de Administración y Presupuesto de la Casa Blanca (OMB).
El departamento, anunció Trump, “brindará asesoramiento y orientación desde fuera del gobierno, y se asociará con la Casa Blanca y la Oficina de Administración y Presupuesto para impulsar una reforma estructural a gran escala y crear un enfoque empresarial para el gobierno nunca antes visto”.
“Espero que Elon y Vivek realicen cambios en la burocracia federal con miras a la eficiencia y, al mismo tiempo, para mejorar la vida de todos los estadounidenses. Es importante destacar que eliminaremos el despilfarro y el fraude masivos que existen en nuestro gasto gubernamental anual de US$6,5 billones”, agregó.
Y, en principio, no será permanente: Trump estima que el órgano completará su trabajo en 18 meses, y Musk cree que lo hará “mucho más rápido”.
Por su parte, Musk afirmó en un mitin del entonces candidato republicano en octubre que el presupuesto del gobierno estadounidense podría reducirse en “al menos” US$2 billones de un total de US$6,5 billones.
También ha sugerido con frecuencia que el número de empleados gubernamentales se puede reducir de forma significativa.
Por su parte, Ramaswamy expresó en el pasado su deseo de eliminar una serie de oficinas federales, entre ellas el Departamento de Educación, la Comisión Reguladora Nuclear, el Servicio de Impuestos Internos y el FBI.
El precedente de Twitter/X
En todo caso, la forma en la que Musk ha dirigido sus propias empresas puede dar pistas de lo que los estadounidenses pueden esperar que haga en el DOGE.
En octubre de 2022 se hizo cargo de la plataforma de redes sociales Twitter, a la que rebautizó como X, en un acuerdo de US$44.000 millones.
Musk renunció a las políticas de moderación de contenido y eliminó el veto a los usuarios considerados infractores de las reglas sobre discurso de odio y desinformación.
Uno de los usuarios a los que restituyó fue Trump, cuyo perfil había sido censurado tras el motín del Capitolio en enero de 2021 por seguir afirmando que las elecciones de 2020 habían sido amañadas en su contra.
La adquisición de Musk trajo cambios radicales a X, como la reducción de plantilla de unas 8.000 personas a 1.500.
En abril de 2023 le dijo a la BBC que su razonamiento para tomar esta medida era que “si toda la empresa se hunde, entonces nadie tendrá trabajo”.
“Su idea de eficiencia era despedir a mucha gente”, afirma Alex Waddan, profesor de política estadounidense en la Universidad de Leicester.
Como respuesta al éxodo de anunciantes por relajar las políticas de libertad de expresión de la plataforma, el empresario monetizó algunas funciones para aumentar los ingresos.
Convirtió las marcas azules, que antes indicaban que una cuenta de una figura pública era auténtica, en un modelo de suscripción y vinculó los pagos de publicidad a usuarios “verificados” con la cantidad de interacciones recibidas.
Pero estos cambios tuvieron algunas consecuencias no deseadas.
Tras un aluvión de críticas, X asignó marcas de oro o plata a las cuentas oficiales para evitar que se confundieran con falsas, lo que significa que las marcas azules solo indican que una cuenta es de pago.
Incentivar a los usuarios con una parte de los ingresos publicitarios también aportó una vía para que las llamadas “granjas de bots” ganaran dinero con interacciones a su contenido generado automáticamente. Musk ha dicho que su equipo ha eliminado de forma repetida las cuentas de bots.
Los críticos sostienen que sus cambios han dado prominencia al discurso de odio y la desinformación, aunque él sostiene que la red social es políticamente neutral.
“Como ’empresario en serie’, Musk ha sido implacable en su intento de mejorar la eficiencia institucional en sus propias compañías”, evalúa Thomas Gift, profesor de Ciencias Políticas y director del Centro de Política Estadounidense en el University College de Londres.
Añade que, aunque el papel principal de Musk será “reducir la maraña de burocracia que es el gobierno federal de Estados Unidos”, su puesto también le aportará influencia en la nueva administración.
“Si bien su papel en el Departamento de Eficiencia Gubernamental será más informal, no hay duda de que Trump lo escucha, al menos por el momento”, sentencia.
Musk contra las regulaciones
Elon Musk “es extremadamente antirregulaciones y odia que el gobierno o cualquier otra persona le diga qué hacer“, describió la periodista de investigación Kristen Grind en el podcast The Daily del diario estadounidense The New York Times.
El acrónimo DOGE ideado por Musk hace referencia a un meme de un perro Shiba Inu que luego dio su nombre a la criptomoneda Dogecoin. Él ha mencionado ambos con frecuencia.
Christopher Phelps, profesor de historia política moderna de Estados Unidos, interpreta que el nombre es “un guiño a la desregulación de las criptomonedas como parte de sus planes”.
Los precios de las criptomonedas aumentaron después de la elección de Trump, lo que hace pensar que el presidente entrante creará un entorno regulatorio relajado.
Pero los llamamientos desregulatorios de Musk también pueden atribuirse en parte a las frustraciones que ha padecido con sus otras empresas comerciales: la compañía de vehículos eléctricos Tesla y la firma de cohetes SpaceX.
El gobierno de Estados Unidos ha acusado repetidamente a Tesla de intentar evitar que sus trabajadores se sindicalicen, lo que en algunos casos podría infringir la ley federal.
Musk, cuyo patrimonio neto estimado alcanza los US$290.000 millones, ha afirmado anteriormente que “no está en contra de todos los sindicatos”, pero que el sindicato de trabajadores automotrices “tiene un historial de destrucción de productividad que impide a una empresa competir”.
En septiembre, Musk amenazó con demandar a la Administración Federal de Aviación por sus planes de multar a su compañía SpaceX con US$633.000 por supuestas infracciones de licencias relacionadas con algunos de sus lanzamientos de cohetes desde Cabo Cañaveral, en Florida.
Acusó a la agencia de “extralimitación regulatoria”.
También ha dicho en repetidas ocasiones que quiere colonizar Marte, y el programa Starship de SpaceX es un intento de hacer esto posible.
Pero en septiembre escribió que esto solo era una posibilidad “siempre que no se vea sofocada por la burocracia” y afirmó que la creación del DOGE era “el único camino para extender la vida más allá de la Tierra”.
¿Altruismo o interés?
Entonces, ¿hasta qué punto su motivación para asumir el rol en el gobierno responde a sus intereses comerciales?
Musk “se beneficiará personalmente de gran parte de la desregulación que promociona”, opina el profesor Phelps.
“Creo que poner a alguien que es multimillonario y dirige grandes corporaciones a cargo de un proyecto federal de desregulación es algo, por naturaleza, lleno de conflictos de intereses“.
Por su parte, el profesor Gift apunta que “no hay duda de que Musk tiene importantes intereses creados en el panorama regulatorio de Estados Unidos como resultado de sus muchas empresas comerciales”.
Al mismo tiempo, matiza, “es difícil afirmar que este sea el único motivo que lo impulsa”.
“Musk ha asumido enormes riesgos personales y políticos al salir del armario a favor de Trump, y muchas de sus actividades y retórica parecen mostrar a un individuo ideológicamente comprometido con causas en las que cree”.
El profesor Waddan coincide con este punto de vista: “es evidente que tiene algo en juego y un interés propio, pero igualmente puede creer sinceramente que hay demasiada regulación y demasiada burocracia gubernamental”.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
