¿Qué es un deepfake? Las amenazas de los videos falsos y cómo identificarlos
Seguro tú también usaste la app reface para ver cómo te verías como Shakira en el video de Waka Waka o protagonizando tu serie favorita. Aunque las risas nunca faltan con estos deepfake, estos también se usan para amenazar, chantajear y difundir mensajes falsos.
Aunque parezcan inofensivos, los deepfake pueden ser usados para prácticas negativas y no solo las celebridades pueden ser víctima de ellos, sino cualquiera. Así que ahí te va una guía básica del tema.
¿Qué es deepfake?
El término se compone por “deep” de “deep learning” (o aprendizaje profundo) y “fake” que significa falso. Aunque normalmente hace referencia a videos, deepfake es cualquier material multimedia (videos, fotos, audios) que son aparentemente realistas, pero en realidad son falsos.
Un deepfake es creado a partir de material ya existente; sin embargo, es modificado con herramientas de redes neuronales (método de inteligencia artificial) para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Como mencionamos arriba, muchos deepfake son usados como entretenimiento. Ahí está la popular cuenta @deeptomcruise en TikTok que tal cual sube videos falsos de Tom Cruise utilizando un doble de cuerpo.
Existen cuentas parecidas con videos falsos de Keanu Reeves, Margot Robbie y Jason Statham. Y sí, de vistazo se ven muuuuy realistas, pero tras unos segundos tu cerebro empieza a cuestionarlos.
También hay quienes demuestran sus grande habilidades para “mejorar” series y películas y luego terminan trabajando en Lucasfilm.
Sin embargo, aquí nos enfocamos en el lado oscuro de los deepfake y para eso en Animal MX platicamos con Eduardo Chavarro, especialista en Respuesta a Incidentes del Equipo Global de Respuesta a Emergencias en Kaspersky.
Nos recuerda que lejos del entretenimiento, “hay ocasiones en las que se busca cambiar el discurso de las personas, utilizarlos como chantaje, o hasta como fraude”, explica.
Tipos de deepfake y la amenaza que representan
Así es como existen distintos tipos de deepfake dependiendo de con qué fin se crea. Tristemente, el más antiguo y común de todos es el fake porn o deepfake pornográfico.
“Consiste básciamente en tomar un producto multimedia pornográfico y poner el rostro de cualquier persona allí, por supuesto afectando a la persona de distintas formas”, explica Eduardo Chavarro.
Recientemente tuvimos el caso de Rosalía y la periodista Johanna Villalobos, quienes reclamaron que fotografías que publicaron en Instagram fueron manipuladas para crear porno falso.
Aunque las celebridades son el mayor blanco de este tipo de videos, también le puede pasar a cualquier persona y en este caso muchas veces es para chantajearlas con dinero para no publicar el video.
La empresa Kaspersky también pone como otro tipo los deepfake enfocados a fraude financiero. Tal cual consiste en crear videos o audios falsos de celebridades, políticos o empresarios para robar dinero a las personas.
Uno de esos casos es cómo se usó un deepfake de Elon Musk para promocionar un negocio de criptimonedas falso. El contenido se volvió viral y muchas personas perdieron su dinero.
Igualmente están los deepfake enfocados a estafas empresariales, generando material falso de altos empresarios o directivos para atacar empresas mediante extorsión, chantaje o hasta espionaje industrial.
¿Cómo identificar un deepfake?
Eduardo Chavarro de Kaspersky nos explica que junto con el avance de la IA y la tecnología, cada vez es más difícil de identificar un deepfake.
Quizás antes los movimientos y voces se sentían robotizadas y torpes, pero cada vez son más fluidas. También la calidad de estos videos sigue aumentando.
Su principal recomendación es revisar la fuente de información. Por ejemplo, si te llegara un video de Tom Holland diciendo que se retira de la actuación, pero no lo ves en sus redes sociales oficiales ni lo traen medios de confianza, entonces cuestiónate si es real o se trata de un deepfake.
Sin embargo, nos da un par de consejos más técnicos. El primero es analizar el mensaje; “muchas veces conocemos cómo hablan las personas”, entonces sugiere clavarnos en lo qué y cómo se están diciendo las cosas.
También sugiere “prestar atención a los detalles como los difuminados alrededor de las caras”. Y es que a veces la unión entre el cuello y el rostro o las orejas es medio difuso o la piel cambia de tono.
Chris Ume, creador de los deepfake de Tom Cruise, da en este video otras recomendaciones de cómo identificar un deepfake que nos parecen valiosas. Por ejemplo, revisar que los ojos estén alineados, pues puede que en algún momento no vean hacia el mismo lado (se vean bizcos).
Ume también menciona que el perfil de las personas también es un punto débil de los deepfake, deformando la nariz/barbilla.
Te dejamos otros consejos de nuestras amix de El Sabueso para identificar imágenes creadas con inteligencia artificial.
¿Cómo evitar ser víctima de deepfake?
Es alarmante, pero repetimos: cualquiera puede ser víctima de deepfake; sin embargo pareciera que todo es cuestión de suerte.
Eduardo Chavarro está consiente de que lo ideal sería no subir fotos/videos a redes sociales, pero tomando en cuenta lo acostumbradas que estamos a ellas, sabe que eso es imposible.
Sin embargo, considera que hay estrategias que nos pueden ayudar a intentar que nuestra información no quede tan expuesta.
Entre las sugerencias están crear perfiles privados, ser más selectivos con cuántas fotos/videos que subimos (no subir toooodo lo que hacemos), compartir exclusivamente con las personas que nos interesa (como los Close Friends), “y por supuesto, estar atento a qué se dice de nostros o ver si hay algún intento de suplantación”.
¿Perder la chamba por la IA? Los peligros y ventajas (¡sí hay!) de usar esta tecnología en el mercado laboral
¿Y si descubro que soy víctima de deep fake?
Si de todas formas alguien usó alguna imagen o video tuyo para crear un deepfake, Eduardo Chavarro nos dice que “es muy importante no silenciarnos frente a este tipo de actividades” y recomienda que lo primero es hacer un reporte.
Primero, en la red o plataforma donde se publicó y se está masificando. “Reportar que es un contenido falso y reportar a quienes la están originando para que se produzcan los bloqueos en la plataforma”.
Comenta que de alguna u otra forma, esos reportes “bloquean el contenido y empiezan a identificar quiénes lo están produciendo para que cuando se produzca una investigación mucho más amplia, ya tengan los recursos de denuncia que puedan sumarse a la investigación”.
Igualmente notifica a tus conocidos para que también denuncien y el contenido se bloquee más rápido.
También si ves que alguien de tus amix está compartiendo un deepfake como algo real, señálale que es falso para así evitar propagar la desinformación y que se genere el reporte.
Relacionado
Desde 2001, el colectivo artístico chileno Casagrande ha lanzado lluvias de poemas sobre ciudades como Santiago, Madrid, Guernica, Londres y Dubrovnik transformando memorias dolorosas en momentos de belleza reflexión.
Sus ojos estudian atentamente el cielo con expectativa.
Esta vez, sin embargo, no observan con una sensación de miedo, ansiedad ni urgencia, sino con intriga y emoción.
Y su entusiasmo queda bien recompensado. Un helicóptero que sobrevuela en lo alto lanza una gran nube de cientos de miles de coloridas papeletas que se esparcen en el aire y caen revoloteando lentamente sobre la muchedumbre.
Hay gritos de asombro, muchos saltan para agarrar las esquivas papeletas, otros alzan a sus niños para alcanzarlas o esperan a que caigan al suelo para recoger todas las que puedan y ver qué contienen.
Son poemas. 100, para ser exactos -50 escritos por poetas contemporáneos chilenos y 50 por poetas de la localidad donde sucede el evento- impresos en 100.000 tarjetas del tamaño de un marcador de libro.
Esta lluvia de versos, en lugar de explosivos, transforma los dolorosos recuerdos del pasado en un momento de belleza y reflexión y convierte el espacio público en un ambiente de arte y literatura.
Ese es el propósito del colectivo artístico chileno Casagrande, que ya lleva más de dos décadas realizando estos eventos en diferentes ciudades del mundo, cuyas poblaciones civiles han sido víctimas de bombardeos aéreos.
El más reciente sucedió este miércoles 14 de mayo, en Rotterdam, para coincidir con el 85 aniversario del bombardeo nazi que devastó esa ciudad de Países Bajos.
Puedes leer:
Artistas chilenos de la generación del 73
Casagrande está conformado por tres artistas chilenos: Julio Carrasco, Joaquín Prieto y Cristóbal Bianchi, todos nacidos en 1973, el año en que Chile sufrió el cruento golpe militar contra el gobierno democrático de Salvador Allende.
Surgieron como un colectivo cultural en torno a una revista que hacía arte interpretativo en espacios públicos, un género conocido como performance.
En 2001, decidieron aprovechar la apertura al público del Palacio de la Moneda, en la capital de Santiago -la sede presidencial que fue bombardeada por las fuerzas militares el 11 de septiembre de 1973- para “hacer un nuevo bombardeo, pero esta vez con poemas de poetas chilenos de nuestra generación”, expresó Joaquín Prieto a BBC News Mundo.
“Fue toda una experiencia liberadora”, relató. “Fue un momento en que volvíamos a reconocer un espacio simbólico, como el Palacio de la Moneda bombardeado, en una nueva instancia, en una nueva imagen, viendo caer estos poemas”.
La reacción fue tan grande que decidieron reproducir el proyecto en otras ciudades con la idea de lanzar poemas sobre los lugares que han sido bombardeados en el pasado sin ser objetivo militar.
Eso los llevó a Dubrovnik, Guernica, Varsovia, Berlín, Londres, Milán y Madrid. El más reciente evento lo realizaron este miércoles en Róterdam, la segunda ciudad de Países Bajos.
Lugar emblemático, fecha emblemática
El 14 de mayo de 1940, a la 1:27 de la tarde (hora local), la Alemania nazi inició un bombardeo sobre Rotterdam que devastó la ciudad. La mayoría de los edificios históricos quedaron aplastados, salvo la catedral de San Lorenzo.
Contrario a la reconstrucción de otros cascos antiguos europeos tras los conflictos bélicos, Rotterdam se erigió de cero, con diseños de vanguardia y posteriormente la creación de la gran esplanada Binnenrotte, seleccionada por los artistas para su bombardeo poético.
“Es un lugar bien emblemático porque se volvió a reconstruir la ciudad con una arquitectura moderna, con las casas cubo y el edificio lápiz, pero al mismo tiempo está la catedral, como un recuerdo de lo que quedó en pie”, señaló el artista Prieto.
El lanzamiento de los poemas se realizó el mismo día del indiscriminado bombardeo alemán hace exactamente 85 años, sin embargo, es la única vez que los artistas de Casagrande hacen coincidir las fechas de sus eventos.
“Queremos que los bombardeos de poemas se inscriban también en la historia con otra fecha en la que las ciudades recibieron, no bombas, sino poemas”.
El colectivo chileno trabajó en esta ocasión en coordinación con el festival de poesía de Róterdam Poetry International que inicia la celebración de su 25.ª edición.
“Ellos han sido clave. Nos invitaron y comisionaron para hacer esto”, explicó Prieto.
100 poemas y un guiño a Gabriela Mistral
El proyecto está armado con varios elementos. Como en ocasiones anteriores, Casagrande seleccionó poemas de 50 poetas chilenos de diferentes ciudades “avalados por sus publicaciones”.
Esta vez, la contribución local vino de otros 50 poetas neerlandeses escogidos por Poetry International, que también se encargó de hacer las traducciones correspondientes del y al español.
La temática de la poesía es variada y la única limitación es la longitud, pues los versos tienen que caber en un lado de un marcapáginas de 7 cm x 22 cm, y por el otro viene la traducción.
“Este año le hicimos un guiño a Gabriela Mistral [la premio Nobel de Literatura chilena] que recibió el galardón hace 80 años en 1945”, contó Prieto.
Los marcapáginas también vienen con un diseño especial que también se repite en la publicidad que se hace a través de las redes sociales y los medios locales y nacionales, además de en pancartas en sitios públicos.
El objetivo es que por lo menos asistan mil personas para que no quede un solo marcapáginas en el suelo. “Es algo bien importante”, dice Joaquín Prieto, “no sólo en términos de obtener los permisos sino también para darle sentido al proyecto”.
Pero en ninguno de los eventos han tenido problema con eso, ya que han contado con una asistencia de público entusiasta.
“Como niños”
“Las reacciones son maravillosas, en primer lugar porque llega como una sorpresa”, dice Joaquín Prieto del evento que suele empezar cerca del crepúsculo y dura aproximadamente una hora.
Un helicóptero, en el que van Cristóbal Bianchi y Julio Carrasco con media tonelada de poemas, sobrevuela el lugar donde se congrega la multitud mirando al cielo.
Joaquín está en tierra, comunicado con sus colegas para indicarles por dónde mejor arrojar los marcapáginas con los poemas expertos.
De pronto se ve una nube que se expande y los marcadores de libro van cayendo lentamente sobre su eje, revoloteando y brillando con luces que se apuntan a la nube.
“Lo que me motiva es que al estar abajo veo esa sensación, esos gritos, esos aplausos cuando cae la nube”, describe Prieto. “La gente empieza a comportarse en verdad como niños”.
Saltan para agarrar los primeros poemas, alzan a sus hijos para que los alcancen, otros niños corren tras los poemas que flotan más lejos. Algunos sacuden los árboles para soltar los versos que han quedado atrapados. Incluso hay unos que abren los paraguas al revés para atrapar la mayor cantidad.
Cuando los empiezan a leer se dan cuenta de que hay muchos distintos y se dan a la tarea de coleccionar todos los que puedan. “Cuando por algún motivo tienen uno repetido, entonces lo intercambian con otra persona”.
Así, un lugar que en una época fue devastado por un bombardeo militar es transformado en lugar de paz, de intercambio cultural, de conexión y de reflexión.
Tres años de planeación
A pesar de que el despliegue dura sólo una hora, el éxito del evento depende de una cuidadosa y larga preparación.
Joaquín Prieto señala irónicamente que es casi como preparar un operativo militar. “En un proyecto en general nos demoramos como tres años en realizarlo”, dice.
Deben entrar en contacto con las municipalidades e instituciones culturales locales. Además de comisionar y seleccionar los poemas, diseñar los marcapáginas, crear una estrategia de publicidad, está todo el análisis logístico.
Se estudian los espacios que se van a utilizar, se adquiere la autorización para usar drones de observación y luego para sobrevolar con el helicóptero, y deben adherirse a los estándares de seguridad. “En algunas ciudades han llegado a ser 12 permisos los que se requieren”, comentó Prieto.
Fuera de eso, el tema meteorológico es fundamental.
“Nuestro gran enemigo es el viento, cuando cambia”, reconoce el artista de Casagrande. “Pero ya tenemos experiencia y siempre hemos hecho que la mayoría de los poemas caigan donde está la gente”.
El grupo ahora trabaja con climatólogos que les entrega los pronósticos del tiempo, las temperaturas y el viento.
Proyectos futuros
En la mira de Casagrande están las ciudades que representan las situaciones más dramáticas donde se lanzaron bombas sin ser un objetivo militar. Específicamente Dresde, Hiroshima y Nagasaki.
“Esos son lugares que nos interesaría hacerlos en el futuro”, afirmó Joaquín Prieto.
Sin embargo, son casos delicados, ya sea por el debate histórico que continúa sobre los autores, motivos y efectos de esos bombardeos, o por la manera en que esas ciudades prefieren conmemorar esos hechos.
“Hay una manera como conmemoran esto en Japón, que es con una ceremonia en silencio”, explica. “Es posible que tengan que digerir el proyecto más, cuál es el sentido, etc”.
Pero un miembro de Casagrande ya estuvo en Japón y siguen las conversaciones.
“Es un proyecto-arte. Lo importante aquí es la realización y las lecturas se lo dan las propias personas y los que les interesa darle la vuelta a lo que ha sucedido”, concluyó.
Las imágenes del Colectivo Casagrande y Poetry International tienen derechos reservados
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Bombardeo en Dresde: la “tormenta de fuego” que arrasó la ciudad alemana hace 80 años y se volvió la “vergüenza” de los aliados
- “En La Moneda se respiraba el aliento de la muerte”: los detalles del golpe del 11 septiembre en Chile revelados por Joan Garcés, el asesor más cercano a Allende
- La dramática vida de los hibakusha, los sobrevivientes de las bombas atómicas que luego sufrieron miedo, culpa y discriminación
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
