Fotos de Rosalía y Johanna Villalobos: qué es el ‘fake porn’ y por qué es peligroso
“Usaron mi foto de la playa y con Inteligencia Artificial ‘me quitaron la ropa’”, publicó la periodista Johanna Villalobos en Twitter. “Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni te conozco”, tuiteó la cantante Rosalía. Ambas mujeres levantaron la voz y acusaron que fueron víctimas de fake porn o porno falso.
También puedes leer: La noche ‘motomami’: con C de ‘chingona’ y M de la Rosalía más ‘mexicana’
Villalobos nos relató su testimonio desde Costa Rica y, además, consultamos a especialistas que nos explicaron mejor sobre este tipo de violencia digital que ha afectado, sobre todo, a las mujeres.
“Esto es un tipo de violencia digital, es el uso no consensuado de tu imagen. Creo que por eso es muy pertinente hablar de Inteligencia Artificial con perspectiva de género”, afirma Monserrat López, especialista en derechos digitales en México.
¿Cómo ocurre el fake porn?
Ya lo dijo Rosalía en su canción, amix: “A ningún hombre consiento que dicte mi sentencia”. Por eso, vayamos paso a paso en este tema:
Imagina que es Semana Santa, vas de vacaciones a la playa y subes una fotografía en bikini a tu Instagram. En las siguientes semanas notas más interacciones en esa imagen que compartiste y luego, una chica te manda un mensaje para avisarte que esa foto está circulando en chats de WhatsApp y otras redes sociales, pero ¡apareces completamente desnuda!
Eso le pasó a Johanna Villalobos con esta foto que publicó en su Instagram:
Ver esta publicación en Instagram
“Yo veo la foto y digo: ¿pero qué es esto? Esta no soy yo, ¿verdad? Y le preguntaba ¿quién hizo esta foto? Entonces ella me cuenta que hay un grupo de personas que está haciendo fotografías con Inteligencia Artificial. Mi primera reacción fue sentirme en shock”, nos cuenta la periodista.
Mientras que en el caso de la motomami, el rapero español JC Reyes subió a sus historias de Instagram una imagen de Rosalía mostrando sus pechos, y él los cubrió con dos emojis.
Después aclaró: “A las mujeres estas que me estáis poniendo «qué haces», «qué asco das»… A la chavala sólo se le ve el escote. Respetad, eh. Es Photoshop… Photoshoped”.
Ir a buscar clout faltando el respeto y sexualizando a alguien es un tipo d violencia y da asco pero hacerlo por 4 plays de + lo q da es pena
— R O S A L Í A (@rosalia) May 23, 2023
Para más info, consulta: México es muy Motomami🔥: Somos el país que más escucha a Rosalía en YouTube
Ni Johanna ni Rosalía son las únicas que han sido víctimas de fake porn.
En febrero de 2023, Brandon Ewing, blogger de Twitch, hizo una transmisión en vivo donde se veía que estaba abierta una página de porno falso.
“Por cada persona que dice que no es para tanto, no sabes lo que se siente ver una foto tuya haciendo cosas que nunca has hecho enviada a tu familia”, reaccionó al respecto la streamer QTCinderella en un video.
“¡Es mi cara, pero no es mi cuerpo!”
¿Cómo es que un término como Inteligencia Artificial tiene tanto auge ahora? La clave está en la velocidad con la que está avanzando el desarrollo de esta tecnología, que tiene como objetivo realizar actividades que normalmente requerirían de inteligencia humana para automatizar ciertos procesos.
“Hay distintos tipos de algoritmos de Inteligencia Artificial y uno de esos son los que se conocen como deepfakes: fotografías o videos manipulados para sustituir personalidades”, nos explica Monserrat López, co-host del pódcast Hijas de Internet.
Basta recordar el video en el que Johanna Villalobos insistía en que no era ella quien aparecía desnuda en la imagen.
“Claramente no soy yo, la Inteligencia Artificial no puede reemplazar a una persona real. Se me ve todo pero no es mi cuerpo, es mi cara, pero no es mi cuerpo”, expresó.
El informe The State of Deepfakes: landscape, threats and impact publicado por Deeptrace Labs en 2019 ya advertía de la pornografía deepfake como un fenómeno mundial que daña, sobre todo, a las mujeres porque la gran mayoría de contenidos son acerca de ellas.
“La pornografía deepfake es el tipo de deepfake que más se crea y circula en la actualidad. Los efectos nocivos de la pornografía deepfake ya han afectado a un número significativo de mujeres, incluidas celebridades y particulares”, menciona el documento.
“El cuerpo de una mujer no es una mercancía”
Aunque los algoritmos deepfake también existen desde hace años, el auge de la Inteligencia Artificial ha facilitado la creación de contenidos pornográficos (ya sea actos sexuales explícitos o eróticos, como los desnudos) “profundamente falsos”, muchas veces con la intención de perjudicar… o de beneficiarse de esto.
“Se busca generar este contenido íntimo de una persona porque sigue existiendo estos prejuicios alrededor de la exposición de los cuerpos de las mujeres, porque quieres dañar su reputación, generar un tema de dinero o extorsionar”, enlista Angie Contreras, integrante de la asociación civil feminista Cultivando Género.
Contreras insiste en la importancia de dejar claro que estas imágenes que aluden al contenido íntimo son falsas, porque las personas que aparecen en ellas no son reales, y las fotografías fueron creadas con los fines que ya te mencionamos.
En una transmisión en vivo, JC Reyes dio a entender que la cantante española había sido quien le envió la fotografía, pero en realidad fue un montaje de una publicación que la intérprete de “Bizcochito” hizo en marzo de 2023.
Además, el rapero también adelantó que su próxima canción se llamará “Rosalía”.
Ver esta publicación en Instagram
“El cuerpo de una mujer no es propiedad pública, no es una mercancía para tu estrategia de marketing”, respondió la cantante afectada en Twitter.
El cuerpo d una mujer n es propiedad pública, no es una mercancía xa tu estrategia d marketing. Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni t conozco. Existe algo llamado consentimiento y todos a los q os pareció gracioso o plausible espero de…
— R O S A L Í A (@rosalia) May 24, 2023
En el caso de la costarricense Johanna Villalobos, cuando dejó de pensar en cuántos chats de WhatsApp y redes sociales estuvo su fotografía manipulada, se preocupó por limpiar su imagen.
“He tratado durante 10 años de carrera que tengo acá en Costa Rica, de hacerme una credibilidad, ¿verdad? Como periodista profesional me cuido muchísimo con estas cosas. Aparte me sentí muy avergonzada”, nos dice.
Casos de Rosalía y Johanna sientan un precedente
Tanto Monserrat López y Angie Contreras coinciden en que los casos de Johanna y Rosalía sientan un precedente para iniciar la conversación y tomar acciones.
“Creo que son discusiones desde la ética de la Inteligencia Artificial que ni siquiera hemos tenido y, ahora que se están violentando cuerpos, pareciera que también vamos para allá. No queremos hablar del tema y lo necesitamos porque ¿qué vamos a hacer cuando acompañemos estos casos?”, menciona Contreras, consultora en temas de comunicación con perspectiva de género y tecnología.
Parte de esa conversación es la regulación y la responsabilidad que tienen las propias plataformas ante el fake porn, a pesar de que estén en pleno desarrollo. Asimismo, determinar cómo este tipo de violencia digital puede tratarse de un delito y mirar más allá de lo punitivo: la reparación del daño, la no repetición y la capacitación para el uso de herramientas tecnológicas.
“Lo que sí pediría es que de ahora en adelante busquen regular esta situación, porque no voy a ser ni la primera ni la última chica a la que esto le va a pasar”, solicita Johanna en entrevista.
Antes de irte, checa: Así nos educa la pornografía: entre la fantasía y la realidad
Relacionado
Las películas que discutimos aquí nos invitan a reflexionar sobre la relación entre lo animal, lo humano y la tecnología.
Las malas películas nos lo ponen demasiado fácil: el héroe aparece como totalmente bueno, no ofrece dudas al respecto, y el villano es completamente malvado. No existe ambigüedad, nada que pensar.
Sin embargo, las buenas películas plantean preguntas que no son fáciles de resolver e invitan a la reflexión. Dado que la filosofía prefiere los problemas a las soluciones finales, el buen cine y el pensamiento son magníficos compañeros de viaje.
Abróchense los cinturones. En este breve trayecto les vamos a proponer cuatro películas geniales. Con ellas pensaremos una problemática que atraviesa la historia: la relación entre lo animal, lo humano y la tecnología.
El nacimiento de la tecnología en 2001: Una odisea en el espacio
En una de las escenas más conocidas de esta película de ciencia ficción, un primate golpea violentamente con un hueso el cráneo de otro animal. La aparición previa de un monolito resulta clave para entender su actitud. Antes de su llegada, los monos convivían en armonía; después, comienzan las peleas.
El monolito se puede interpretar como el surgimiento de la tecnología y al colocarlo en ese momento histórico el film hace ver que la fabricación de un utensilio prehistórico supuso el primer hecho tecnológico.
Muchos pensadores, como Marx, han afirmado que precisamente fue el progresivo uso de herramientas lo que provocó que los seres humanos se separasen de los animales. Ello nos hizo más capaces, nos permitió adaptarnos mejor, prevenir dificultades.
Pero también comportó una carga, y peligros derivados –envidias, prohibiciones, castigos…– que pueden generar violencia y obligaciones que menoscaban nuestra libertad.
El arado, por ejemplo, facilita el trabajo agrícola y mejora la producción. A su vez, permite la acumulación de alimentos ante posibles contingencias (malas cosechas, epidemias u otros). Pero también requiere labores de mantenimiento, vigilancia y control, así como cierta reglamentación al respecto.
Es decir, en última instancia, sin la existencia del arado tampoco habría existido voluntad de entrar con sigilo en un silo para robar alimentos ni la necesidad de instaurar, por ello, un castigo.
Lee: De ‘El orfanato’ a ‘La sociedad de la nieve’: Juan Antonio Bayona nos cuenta su secreto para dirigir
Eliminar las ataduras en La bruja
El proceso de liberación de todas esas cargas específicamente humanas de las que hablábamos se ve reflejado en esta inquietante película, ópera prima de Robert Eggers.
En ella, la protagonista, Thomasin, se emancipa de su patria cuando viaja de Inglaterra a Nueva Inglaterra. Posteriormente, se desvincula de la comunidad de la que forma parte cuando su padre es excomulgado y su familia se aísla cerca de un bosque. Más tarde, se aleja de su propio entorno tras ser acusada de brujería.
Finalmente culmina su liberación adentrándose en el bosque. La última escena es muy significativa al respecto: la figura de Thomasin se eleva sobre una danza de mujeres desnudas bailando alrededor de una hoguera.
La filosofía de Gilles Deleuze se sitúa claramente del lado de Thomasin.
Deleuze anima a eliminar todas las ataduras que reducen nuestras capacidades y a realizarlas plenamente, siempre que no generen obstáculos para otros.
Su comprensión de lo animal, más que el regreso a un estado de naturaleza no tecnológico, supone el rechazo de cualquier norma que nos limite, colocándonos bozales y corsés. Thomasin deviene animal, lo cual no quiere decir que deje de ser humana.
Huir de la esclavitud de la tecnología con Matrix
En la saga de las películas de Matrix se narra la lucha entre unos rebeldes, liderados por Neo, Trinity y Morfeo, y los agentes del poder, con el Sr. Smith a la cabeza.
La primera película actualiza el mito de la caverna de Platón, adaptándolo a la época tecnológica. En la cueva que describió Platón, los esclavos se encuentran en el interior, encadenados. Sin embargo, no son conscientes de su estado de servidumbre. Visualizan las sombras de unos objetos proyectadas en la pared y creen que esas imágenes son los objetos reales y verdaderos. Salir afuera, desencadenarse, supone ver el mundo en toda su amplitud, conocer la verdad.
En Matri“, el mundo es en realidad una simulación informática. Pero ¿cómo escapar de esa otra caverna?
En uno de los momentos más icónicos de la película, Morfeo le presenta a Neo la posibilidad de elegir entre dos opciones: la pastilla roja o la pastilla azul. La primera le ofrece la verdad, asumir que es un esclavo y que debe luchar por la liberación; la otra le devuelve al redil de la felicidad ignorante.
El protagonista, Neo, acepta el reto y opta por la pastilla roja. En esta época de incesante progreso tecnológico, posverdades, con tanta información que resulta casi imposible conocer la verdad y en la que abundan las fake news, parece cada vez más complicado salir de la caverna.
Sin embargo, sí es posible, como muestra la última película de nuestra lista.
La “supermujer” de Pobres criaturas
Si Matrix actualiza el mito de Platón, este largometraje hace lo propio con el de Prometeo y el Frankenstein de Mary Shelley.
Gracias a la tecnología, el científico Dr. Godwin trae al mundo a Bella Baxter, un bebé en el cuerpo de una mujer adulta. La educación que recibe es muy poco tradicional: apenas hay prohibiciones y se la invita a aprender experimentando, teniendo en cuenta que se enfrenta al mundo siempre como una niña, jugando y divirtiéndose.
En palabras de Nietzsche, se transforma en superhombre; en este caso, en supermujer. En Así habló Zaratustra el filósofo explica que, al contrario que el camello —que obedece ciegamente toda orden— o el león —que, con un zarpazo, las rechaza todas—, el niño juega y crea. Esta alegoría no remite a la primera época de nuestras vidas sino más bien a una forma de vivir: el modo de ser niño (superhombre) rechaza convertirse tanto en amo como en esclavo. Igual que hace, a lo largo de la historia, Bella.
En definitiva, la naturaleza y la cultura o lo animal, lo humano y lo tecnológico son ámbitos estrechamente relacionados. El concepto cíborg, propuesto por la filósofa Donna Haraway, elimina las etiquetas que separan y excluyen y aboga por aunar las diferentes dimensiones de la realidad que nos configuran y nos proporcionan un potencial tan maravilloso (por ejemplo, la imprenta) como peligroso (la bomba atómica).
Después de todo, somos animales humanos tecnológicos y hemos de asumir esa responsabilidad.
*Luis Ángel Campillos Morón es profesor de filosofía, Universidad de La Rioja, España.
*Este articulo fue publicado en The Conversation y reproducido aquí bajo la licencia creatve commons. Haz clic aqui si quieres leer la versión original.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp, donde encontrarás noticias de última hora y nuestro mejor contenido.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
