¿Qué es un deepfake? Las amenazas de los videos falsos y cómo identificarlos
Seguro tú también usaste la app reface para ver cómo te verías como Shakira en el video de Waka Waka o protagonizando tu serie favorita. Aunque las risas nunca faltan con estos deepfake, estos también se usan para amenazar, chantajear y difundir mensajes falsos.
Aunque parezcan inofensivos, los deepfake pueden ser usados para prácticas negativas y no solo las celebridades pueden ser víctima de ellos, sino cualquiera. Así que ahí te va una guía básica del tema.
¿Qué es deepfake?
El término se compone por “deep” de “deep learning” (o aprendizaje profundo) y “fake” que significa falso. Aunque normalmente hace referencia a videos, deepfake es cualquier material multimedia (videos, fotos, audios) que son aparentemente realistas, pero en realidad son falsos.
Un deepfake es creado a partir de material ya existente; sin embargo, es modificado con herramientas de redes neuronales (método de inteligencia artificial) para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Como mencionamos arriba, muchos deepfake son usados como entretenimiento. Ahí está la popular cuenta @deeptomcruise en TikTok que tal cual sube videos falsos de Tom Cruise utilizando un doble de cuerpo.
Existen cuentas parecidas con videos falsos de Keanu Reeves, Margot Robbie y Jason Statham. Y sí, de vistazo se ven muuuuy realistas, pero tras unos segundos tu cerebro empieza a cuestionarlos.
También hay quienes demuestran sus grande habilidades para “mejorar” series y películas y luego terminan trabajando en Lucasfilm.
Sin embargo, aquí nos enfocamos en el lado oscuro de los deepfake y para eso en Animal MX platicamos con Eduardo Chavarro, especialista en Respuesta a Incidentes del Equipo Global de Respuesta a Emergencias en Kaspersky.
Nos recuerda que lejos del entretenimiento, “hay ocasiones en las que se busca cambiar el discurso de las personas, utilizarlos como chantaje, o hasta como fraude”, explica.
Tipos de deepfake y la amenaza que representan
Así es como existen distintos tipos de deepfake dependiendo de con qué fin se crea. Tristemente, el más antiguo y común de todos es el fake porn o deepfake pornográfico.
“Consiste básciamente en tomar un producto multimedia pornográfico y poner el rostro de cualquier persona allí, por supuesto afectando a la persona de distintas formas”, explica Eduardo Chavarro.
Recientemente tuvimos el caso de Rosalía y la periodista Johanna Villalobos, quienes reclamaron que fotografías que publicaron en Instagram fueron manipuladas para crear porno falso.
Aunque las celebridades son el mayor blanco de este tipo de videos, también le puede pasar a cualquier persona y en este caso muchas veces es para chantajearlas con dinero para no publicar el video.
La empresa Kaspersky también pone como otro tipo los deepfake enfocados a fraude financiero. Tal cual consiste en crear videos o audios falsos de celebridades, políticos o empresarios para robar dinero a las personas.
Uno de esos casos es cómo se usó un deepfake de Elon Musk para promocionar un negocio de criptimonedas falso. El contenido se volvió viral y muchas personas perdieron su dinero.
Igualmente están los deepfake enfocados a estafas empresariales, generando material falso de altos empresarios o directivos para atacar empresas mediante extorsión, chantaje o hasta espionaje industrial.
¿Cómo identificar un deepfake?
Eduardo Chavarro de Kaspersky nos explica que junto con el avance de la IA y la tecnología, cada vez es más difícil de identificar un deepfake.
Quizás antes los movimientos y voces se sentían robotizadas y torpes, pero cada vez son más fluidas. También la calidad de estos videos sigue aumentando.
Su principal recomendación es revisar la fuente de información. Por ejemplo, si te llegara un video de Tom Holland diciendo que se retira de la actuación, pero no lo ves en sus redes sociales oficiales ni lo traen medios de confianza, entonces cuestiónate si es real o se trata de un deepfake.
Sin embargo, nos da un par de consejos más técnicos. El primero es analizar el mensaje; “muchas veces conocemos cómo hablan las personas”, entonces sugiere clavarnos en lo qué y cómo se están diciendo las cosas.
También sugiere “prestar atención a los detalles como los difuminados alrededor de las caras”. Y es que a veces la unión entre el cuello y el rostro o las orejas es medio difuso o la piel cambia de tono.
Chris Ume, creador de los deepfake de Tom Cruise, da en este video otras recomendaciones de cómo identificar un deepfake que nos parecen valiosas. Por ejemplo, revisar que los ojos estén alineados, pues puede que en algún momento no vean hacia el mismo lado (se vean bizcos).
Ume también menciona que el perfil de las personas también es un punto débil de los deepfake, deformando la nariz/barbilla.
Te dejamos otros consejos de nuestras amix de El Sabueso para identificar imágenes creadas con inteligencia artificial.
¿Cómo evitar ser víctima de deepfake?
Es alarmante, pero repetimos: cualquiera puede ser víctima de deepfake; sin embargo pareciera que todo es cuestión de suerte.
Eduardo Chavarro está consiente de que lo ideal sería no subir fotos/videos a redes sociales, pero tomando en cuenta lo acostumbradas que estamos a ellas, sabe que eso es imposible.
Sin embargo, considera que hay estrategias que nos pueden ayudar a intentar que nuestra información no quede tan expuesta.
Entre las sugerencias están crear perfiles privados, ser más selectivos con cuántas fotos/videos que subimos (no subir toooodo lo que hacemos), compartir exclusivamente con las personas que nos interesa (como los Close Friends), “y por supuesto, estar atento a qué se dice de nostros o ver si hay algún intento de suplantación”.
¿Perder la chamba por la IA? Los peligros y ventajas (¡sí hay!) de usar esta tecnología en el mercado laboral
¿Y si descubro que soy víctima de deep fake?
Si de todas formas alguien usó alguna imagen o video tuyo para crear un deepfake, Eduardo Chavarro nos dice que “es muy importante no silenciarnos frente a este tipo de actividades” y recomienda que lo primero es hacer un reporte.
Primero, en la red o plataforma donde se publicó y se está masificando. “Reportar que es un contenido falso y reportar a quienes la están originando para que se produzcan los bloqueos en la plataforma”.
Comenta que de alguna u otra forma, esos reportes “bloquean el contenido y empiezan a identificar quiénes lo están produciendo para que cuando se produzca una investigación mucho más amplia, ya tengan los recursos de denuncia que puedan sumarse a la investigación”.
Igualmente notifica a tus conocidos para que también denuncien y el contenido se bloquee más rápido.
También si ves que alguien de tus amix está compartiendo un deepfake como algo real, señálale que es falso para así evitar propagar la desinformación y que se genere el reporte.
Relacionado
Además de la prohibición de presentarse a cargos públicos, Marine Le Pen fue condenada a cuatro años de prisión, dos de los cuales serán suspendidos.
Marine Le Pen, líder del partido de extrema derecha Agrupación Nacional (RN) de Francia, fue declarada culpable de malversación de fondos europeos para financiar su partido.
El tribunal francés decidió inhabilitarla para ejercer cargos públicos durante cinco años, con efecto inmediato, lo que significa que no puede presentarse a las elecciones presidenciales francesas de 2027.
Además de la prohibición de presentarse a cargos públicos, Marine Le Pen fue condenada a cuatro años de prisión, dos de los cuales serán suspendidos.
Pero no se sabe si pasará tiempo en prisión o si tendrá otras restricciones, como el uso de un dispositivo electrónico.
Le Pen también recibió una multa de 100.000 euros (US$108.000).
Durante la lectura del veredicto, mientras el juez aún estaba dando los detalles de la sentencia, la líder de RN abandonó la sala.
El veredicto es un duro golpe para las ambiciones presidenciales de Le Pen, una política nacionalista y antiinmigrante que muchos veían como favorita en la carrera de 2027, a pesar de tres intentos fallidos anteriores.
El caso
El año pasado, la fiscalía declaró que el castigo para Le Pen no debería ser solo una multa de 300.000 euros (US$324.000) y una pena de prisión, sino también la inhabilitación para presentarse a cargos públicos durante cinco años.
Y lo más importante, el organismo afirmó que la inhabilitación debería entrar en vigor de inmediato y no suspenderse a la espera de la apelación que Le Pen previsiblemente presentaría si es declarada culpable.
Le Pen fue acusada, junto con más de 20 figuras importantes del partido, de contratar asistentes que trabajaban en asuntos del RN, y no para el Parlamento Europeo, que les pagaba.
Durante el juicio del año pasado, Le Pen negó haber cometido “la más mínima irregularidad”.
Hace un mes volvió a reiterar su inocencia: “No tengo absolutamente ninguna sensación de haber cometido la más mínima irregularidad o el más mínimo acto ilegal”.
Tanto ella como 24 miembros de su partido, incluidos nueve exdiputados del Parlamento Europeo y sus 12 asistentes parlamentarios, fueron declarados culpables de una vasta trama entre 2004 y 2016 para malversar fondos del Parlamento Europeo.
El llamado sistema de empleos falsos abarcó los contratos de asistentes tuvo una magnitud y duración sin precedentes, causando pérdidas de 4,5 millones de euros (US$4,8 millones) a los fondos públicos europeos.
Los asistentes pagados por el Parlamento Europeo deben trabajar directamente en asuntos parlamentarios de Estrasburgo, algo que, según los jueces, no había sido el caso.
¿Quién la reemplazará en 2027?
Le Pen se ha postulado a la presidencia de Francia en tres ocasiones. En dos de éstas llegó a la segunda vuelta contra Emmanuel Macron.
Posteriormente Agrupación Nacional se ubicó como el partido con mayor número de votos en el parlamento tras las elecciones parlamentarias anticipadas, convocadas por Macron, en 2024.
Muchos pensaban que Le Pen tendría en 2027 su mayor oportunidad de ganar la presidencia con una plataforma contra la inmigración.
El partido ahora tendrá que decidir quién la sustituirá en la próxima carrera presidencial francesa.
Algunos creen que Jordan Bardella, de 29 años, el joven presidente del partido y miembro del Parlamento Europeo sería la principal alternativa.
Pero aunque goza de popularidad entre los votantes, se considera que tiene poca experiencia política.
Tras conocer el veredicto Bardella escribió en X:
“No solo Marine Le Pen ha sido condenada injustamente: es la democracia francesa la que ha sido ejecutada”.
Le Pen podrá conservar su puesto actual como diputada del Parlamento francés por Pas-de-Calais, pero no podrá presentarse de nuevo a futuras elecciones parlamentarias mientras dure su inhabilitación para ejercer cargos públicos.
Análisis de Hugh Schofield, corresponal de la BBC en París
Tras unas horas de tensión, tenemos un veredicto y una sentencia definitivos, y es lo peor que Marine Le Pen podría haber esperado.
Su inhabilitación de cinco años es, por supuesto, un terremoto. Tiene enormes implicaciones para ella, su partido y la democracia francesa.
Para ser justos, no fue solo ella quien no esperaba este veredicto. Muchos comentaristas declararon que sería una parodia de la democracia si la política más popular del país no pudiera presentarse a las elecciones presidenciales.
Incluso los peores enemigos de Marine Le Pen, como el líder de extrema izquierda Jean-Luc Mélenchon y el primer ministro François Bayrou, dejaron claro que consideraban que una inhabilitación inmediata sería injusta e imprudente.
Pero ha sucedido. Y ahora Agrupación Nacional tendrá que empezar a pensar en un Plan B para 2027.
B como en Bardella.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
Utilizamos cookies propias y de terceros para personalizar y mejorar el uso y la experiencia de nuestros usuarios en nuestro sitio web.
