¿Qué es un deepfake? Las amenazas de los videos falsos y cómo identificarlos
Seguro tú también usaste la app reface para ver cómo te verías como Shakira en el video de Waka Waka o protagonizando tu serie favorita. Aunque las risas nunca faltan con estos deepfake, estos también se usan para amenazar, chantajear y difundir mensajes falsos.
Aunque parezcan inofensivos, los deepfake pueden ser usados para prácticas negativas y no solo las celebridades pueden ser víctima de ellos, sino cualquiera. Así que ahí te va una guía básica del tema.
¿Qué es deepfake?
El término se compone por “deep” de “deep learning” (o aprendizaje profundo) y “fake” que significa falso. Aunque normalmente hace referencia a videos, deepfake es cualquier material multimedia (videos, fotos, audios) que son aparentemente realistas, pero en realidad son falsos.
Un deepfake es creado a partir de material ya existente; sin embargo, es modificado con herramientas de redes neuronales (método de inteligencia artificial) para sustituir la voz o la cara de una persona por la de otra, por ejemplo.
Como mencionamos arriba, muchos deepfake son usados como entretenimiento. Ahí está la popular cuenta @deeptomcruise en TikTok que tal cual sube videos falsos de Tom Cruise utilizando un doble de cuerpo.
Existen cuentas parecidas con videos falsos de Keanu Reeves, Margot Robbie y Jason Statham. Y sí, de vistazo se ven muuuuy realistas, pero tras unos segundos tu cerebro empieza a cuestionarlos.
También hay quienes demuestran sus grande habilidades para “mejorar” series y películas y luego terminan trabajando en Lucasfilm.
Sin embargo, aquí nos enfocamos en el lado oscuro de los deepfake y para eso en Animal MX platicamos con Eduardo Chavarro, especialista en Respuesta a Incidentes del Equipo Global de Respuesta a Emergencias en Kaspersky.
Nos recuerda que lejos del entretenimiento, “hay ocasiones en las que se busca cambiar el discurso de las personas, utilizarlos como chantaje, o hasta como fraude”, explica.
Tipos de deepfake y la amenaza que representan
Así es como existen distintos tipos de deepfake dependiendo de con qué fin se crea. Tristemente, el más antiguo y común de todos es el fake porn o deepfake pornográfico.
“Consiste básciamente en tomar un producto multimedia pornográfico y poner el rostro de cualquier persona allí, por supuesto afectando a la persona de distintas formas”, explica Eduardo Chavarro.
Recientemente tuvimos el caso de Rosalía y la periodista Johanna Villalobos, quienes reclamaron que fotografías que publicaron en Instagram fueron manipuladas para crear porno falso.
Aunque las celebridades son el mayor blanco de este tipo de videos, también le puede pasar a cualquier persona y en este caso muchas veces es para chantajearlas con dinero para no publicar el video.
La empresa Kaspersky también pone como otro tipo los deepfake enfocados a fraude financiero. Tal cual consiste en crear videos o audios falsos de celebridades, políticos o empresarios para robar dinero a las personas.
Uno de esos casos es cómo se usó un deepfake de Elon Musk para promocionar un negocio de criptimonedas falso. El contenido se volvió viral y muchas personas perdieron su dinero.
Igualmente están los deepfake enfocados a estafas empresariales, generando material falso de altos empresarios o directivos para atacar empresas mediante extorsión, chantaje o hasta espionaje industrial.
¿Cómo identificar un deepfake?
Eduardo Chavarro de Kaspersky nos explica que junto con el avance de la IA y la tecnología, cada vez es más difícil de identificar un deepfake.
Quizás antes los movimientos y voces se sentían robotizadas y torpes, pero cada vez son más fluidas. También la calidad de estos videos sigue aumentando.
Su principal recomendación es revisar la fuente de información. Por ejemplo, si te llegara un video de Tom Holland diciendo que se retira de la actuación, pero no lo ves en sus redes sociales oficiales ni lo traen medios de confianza, entonces cuestiónate si es real o se trata de un deepfake.
Sin embargo, nos da un par de consejos más técnicos. El primero es analizar el mensaje; “muchas veces conocemos cómo hablan las personas”, entonces sugiere clavarnos en lo qué y cómo se están diciendo las cosas.
También sugiere “prestar atención a los detalles como los difuminados alrededor de las caras”. Y es que a veces la unión entre el cuello y el rostro o las orejas es medio difuso o la piel cambia de tono.
Chris Ume, creador de los deepfake de Tom Cruise, da en este video otras recomendaciones de cómo identificar un deepfake que nos parecen valiosas. Por ejemplo, revisar que los ojos estén alineados, pues puede que en algún momento no vean hacia el mismo lado (se vean bizcos).
Ume también menciona que el perfil de las personas también es un punto débil de los deepfake, deformando la nariz/barbilla.
Te dejamos otros consejos de nuestras amix de El Sabueso para identificar imágenes creadas con inteligencia artificial.
¿Cómo evitar ser víctima de deepfake?
Es alarmante, pero repetimos: cualquiera puede ser víctima de deepfake; sin embargo pareciera que todo es cuestión de suerte.
Eduardo Chavarro está consiente de que lo ideal sería no subir fotos/videos a redes sociales, pero tomando en cuenta lo acostumbradas que estamos a ellas, sabe que eso es imposible.
Sin embargo, considera que hay estrategias que nos pueden ayudar a intentar que nuestra información no quede tan expuesta.
Entre las sugerencias están crear perfiles privados, ser más selectivos con cuántas fotos/videos que subimos (no subir toooodo lo que hacemos), compartir exclusivamente con las personas que nos interesa (como los Close Friends), “y por supuesto, estar atento a qué se dice de nostros o ver si hay algún intento de suplantación”.
¿Perder la chamba por la IA? Los peligros y ventajas (¡sí hay!) de usar esta tecnología en el mercado laboral
¿Y si descubro que soy víctima de deep fake?
Si de todas formas alguien usó alguna imagen o video tuyo para crear un deepfake, Eduardo Chavarro nos dice que “es muy importante no silenciarnos frente a este tipo de actividades” y recomienda que lo primero es hacer un reporte.
Primero, en la red o plataforma donde se publicó y se está masificando. “Reportar que es un contenido falso y reportar a quienes la están originando para que se produzcan los bloqueos en la plataforma”.
Comenta que de alguna u otra forma, esos reportes “bloquean el contenido y empiezan a identificar quiénes lo están produciendo para que cuando se produzca una investigación mucho más amplia, ya tengan los recursos de denuncia que puedan sumarse a la investigación”.
Igualmente notifica a tus conocidos para que también denuncien y el contenido se bloquee más rápido.
También si ves que alguien de tus amix está compartiendo un deepfake como algo real, señálale que es falso para así evitar propagar la desinformación y que se genere el reporte.
Relacionado
Los relojes inteligentes recopilan enormes cantidades de datos sobre nuestra salud y ahora esta tecnología se está aprovechando como nunca antes.
La pérdida rápida de sangre puede provocar un choque en el paciente, lo que provoca caídas repentinas y peligrosas del flujo sanguíneo en el cuerpo.
Pero los pacientes también pueden desarrollar graves problemas pulmonares después de muchas horas de sedación profunda, una complicación que representa una cuarta parte de todas las muertes en los primeros seis días posteriores a la cirugía.
Estas tragedias a veces ocurren debido a debilidades subyacentes en la fisiología del paciente que no se habían detectado.
Pero ¿qué pasaría si los hospitales tuvieran una forma rápida y de bajo costo de detectarlas antes de procedimientos importantes?
Schoettker y sus colegas están llevando a cabo un ensayo que implica colocar a los pacientes un reloj inteligente conocido como Masimo W1 varias semanas antes de su consulta preoperatoria.
Los datos que recopila se utilizan luego para formar una evaluación de su estado de salud.
El W1 proporciona lecturas continuas de la frecuencia cardíaca y respiratoria, el oxígeno en sangre e incluso los niveles de hidratación, todo con una precisión de grado médico.
Schoettker describe esa información recopilada como algo similar a un “gemelo digital” y cree que podría ayudar a salvar vidas.
“Planeamos utilizar estos datos adquiridos antes de la operación para predecir posibles complicaciones pre o posoperatorias y actuar sobre ellas de manera preventiva”, dice Schoettker.
Este es solo un ejemplo de cómo el auge del mercado de los relojes inteligentes (algunos analistas han pronosticado que se venderán más de 400 millones de dispositivos en todo el mundo para 2027) está abriendo una nueva era de salud preventiva.
Masimo, Apple, Samsung, Withings, FitBit y Polar han desarrollado relojes capaces de registrar una cantidad extraordinaria de datos, lo que permite realizar un seguimiento en tiempo real de mediciones como la calidad del sueño, la presión arterial, la variación del ritmo cardíaco y los niveles de saturación de oxígeno en sangre (un marcador de qué tan bien están funcionando el corazón y los pulmones).
Gosia Wamil, especialista en cardiología de la Clínica Mayo en Londres, afirma que esta información ya está ayudando a alertar a los médicos sobre posibles problemas de salud, lo que les permite actuar antes.
“Cada vez más pacientes están dispuestos a utilizar sus relojes inteligentes para obtener algunos datos y luego traernos los resultados”, afirma Wamil. “Y luego podemos investigar más a fondo y confirmar esas anomalías”.
Hasta ahora, algunas de las aplicaciones más importantes han estado relacionadas con la salud cardíaca.
En abril de este año, un estudio descubrió que las mediciones de electrocardiograma (ECG) adquiridas con relojes inteligentes (lecturas de la actividad eléctrica del corazón) podían identificar de manera confiable latidos cardíacos adicionales en personas de entre 50 y 70 años que, por lo demás, estaban sanas.
Esto puede ser una señal de advertencia de una afección mucho más grave, la fibrilación auricular, en la que el corazón comienza a latir de manera irregular o a acelerarse sin control sin previo aviso.
Puedes leer: Mastografías gratis e iniciativas de prevención en el Mes de Sensibilización sobre el Cáncer de Mama
Combinación revolucionaria
Otra investigación descubió que los algoritmos de IA pueden utilizar las lecturas de ECG del Apple Watch para identificar a las personas con una fracción de eyección baja (la cantidad de sangre que bombea el corazón cada vez que late, que puede ser una señal de advertencia clave de insuficiencia cardíaca) con un 88 % de precisión.
Wamil señala que es probable que esta combinación de plataformas de aprendizaje automático y datos derivados de relojes inteligentes resulte revolucionaria para pacientes con todo tipo de afecciones cardíacas.
“En las clínicas de cardiología, vemos pacientes que se quejan de palpitaciones, y solíamos tener esas cintas que podíamos pegarles en el pecho y registrar su ECG durante 24 horas”, dice Wamil.
“Muy a menudo, los pacientes pueden no tener síntomas durante esas 24 horas. Pero con los relojes inteligentes, siempre que el paciente experimente síntomas, puede presionar un botón en su reloj, obtener un ECG y mostrárnoslo”.
Wamil afirma que esto ya está dando lugar a un tratamiento preventivo, lo que permite a los cardiólogos recetar pastillas anticoagulantes a pacientes con signos de ritmo cardíaco irregular, para ayudar a prevenir accidentes cerebrovasculares.
También le interesa saber si estos datos pueden utilizarse para prevenir algunas de las complicaciones cardiovasculares que experimentan muchos pacientes con diabetes tipo 2.
“La razón por la que las personas con diabetes viven menos es porque tienen un riesgo mucho mayor de desarrollar problemas cardíacos”, afirma Wamil.
“Esperamos que en el futuro, estos datos puedan utilizarse para detectar signos tempranos que alerten al paciente y al médico sobre un riesgo futuro de sufrir ataques cardíacos y accidentes cerebrovasculares”.
Predicción de problemas neurológicos
Pero muchas de las aplicaciones de los relojes inteligentes podrían usarse para mucho más que controlar el corazón.
En julio de 2023, investigadores de la Universidad de Cardiff, en Gales, publicaron un estudio con datos de más de 100.000 personas a las que se les dio un reloj inteligente para que lo llevaran durante una semana.
Los resultados mostraron que era posible identificar a las personas con signos de enfermedad de Parkinson hasta siete años antes de su diagnóstico clínico.
Esto se hizo detectando anomalías sutiles en sus patrones de marcha, medidos por los sensores de movimiento del reloj.
Cynthia Sandor, quien dirigió el estudio, cree que podría ser posible detectar estos signos incluso antes mediante la combinación de datos de movimiento con otras mediciones del reloj inteligente, como la calidad del sueño, que se sabe que se altera en las personas que desarrollan la enfermedad.
“En el caso del Parkinson, el diagnóstico está precedido por una larga fase en la que se hacen evidentes signos, como cambios motores sutiles”, afirma Sandor.
“Descubrimos que la característica más predictiva era una ralentización del movimiento durante la actividad física ligera, demasiado sutil para que la percibieran los propios individuos”.
Sandor cree que esta información podría utilizarse pronto para reclutar personas para ensayos clínicos.
Una de las teorías que explican por qué los tratamientos eficaces para el Parkinson han resultado tan difíciles de conseguir es que los pacientes son diagnosticados en una etapa en la que ya se ha producido un daño cerebral significativo, y puede ser más fácil ralentizar o incluso revertir la enfermedad en una etapa más temprana.
“Esperamos que las herramientas de detección temprana basadas en datos de relojes inteligentes puedan identificar a las personas de forma temprana, lo que podría permitir el éxito de los ensayos de tratamientos neuroprotectores”, afirma.
También se espera que los relojes inteligentes puedan ayudar pronto a las personas que viven con enfermedades crónicas como la epilepsia, proporcionándoles señales de advertencia tempranas de que está a punto de producirse una convulsión.
Las caídas y los accidentes graves resultantes de las convulsiones son factores de riesgo conocidos para quienes viven con epilepsia.
“La incertidumbre sobre cuándo pueden ocurrir las convulsiones es uno de los aspectos más difíciles de vivir con epilepsia”, dice Aileen McGonigal, del Queensland Brain Institute.
“Sin embargo, la predicción de las convulsiones todavía está en una etapa temprana”.
McGonigal está interesada en ver si una versión prototipo especial del reloj inteligente Empatica diseñado para la investigación puede ayudar con la predicción de las convulsiones.
En un proyecto de investigación en curso, está aplicando algoritmos de IA a una combinación de flujos de datos.
Estos incluyen la variabilidad de la frecuencia cardíaca, la temperatura de la piel, los patrones de movimiento corporal y los cambios en la conductancia eléctrica de la piel debido a la sudoración, que refleja alteraciones en el sistema nervioso autónomo del cuerpo.
Cada uno de estos parámetros puede ser medido por el reloj.
“Nuestro objetivo es analizar los patrones en las horas previas a las convulsiones”, explica McGonigal.
“Lo ideal sería que los investigadores y médicos de epilepsia pudieran predecir cuándo es más probable que ocurran las convulsiones, lo que podría permitir adaptar el tratamiento, incluidas dosis variables de medicación y la adaptación de las actividades diarias para reducir el riesgo de caídas y las lesiones relacionadas con las convulsiones”, señala.
Pero si bien hay mucho entusiasmo por lo que podría lograrse con la combinación de potentes algoritmos de inteligencia artificial y mediciones cada vez más precisas mediante dispositivos portátiles, algunos médicos también son cautelosos con respecto a la posibilidad de que se produzcan falsos positivos.
Existe la preocupación de que el uso excesivo de relojes inteligentes pueda generar un aumento de la ansiedad de los pacientes, además de poner a prueba los recursos de unos sistemas de salud que ya están sobrecargados.
Falsos positivos
“La tecnología está ayudando a la medicina de muchas maneras diferentes”, dice Jeremy Smelt, cirujano torácico consultor en el St George’s Hospital de Londres.
“Una de ellas es la detección temprana de problemas, pero también puede salvar vidas. Como ocurre con todas las tecnologías, los relojes inteligentes tienen que probarse y comprobarse. Los falsos positivos causarán ansiedad y pueden hacer que la gente vaya al médico de cabecera cuando no lo necesita”.
“Pero también son muy interesantes para quienes tienen problemas de salud y podrían ahorrar dinero a los servicios sanitarios al detectar las cosas a tiempo”, afirma.
Pero a medida que los relojes inteligentes se vuelven aún más sofisticados y los fabricantes descubren cada vez más formas de obtener datos cuantificables sobre el cuerpo humano, la lista de posibles aplicaciones sanitarias preventivas no hará más que aumentar.
El director ejecutivo de Masimo, Joe Kiani, ya se está centrando en la próxima frontera de los relojes inteligentes de su empresa: poder predecir un ataque de asma.
“Tenemos una medida del esfuerzo respiratorio”, dice Kiani. “Podemos saber cuándo tienes dificultades para respirar porque la frecuencia respiratoria aumenta, la frecuencia cardíaca aumenta… todo ello para intentar compensar la falta de oxígeno que estás recibiendo”, afirma.
“Lo que es una locura es que durante los últimos 50 o 60 años, todo lo que hemos tenido en casa ha sido un termómetro para ayudarte a decidir qué hacer [cuando estás enfermo]. Ahora vamos a tener este rico conjunto de información que puede ayudar a las personas a no tener que acudir a urgencias y, aun así, recibir la atención adecuada”.
Este artículo apareció en BBC Future. Puedes leer la versión original aquí.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
