‘Las máquinas aprenden’: Inteligencia Artificial evoluciona y puede usarse para engañar, pero no todo está perdido
Para entender mejor
El avance tecnológico ha logrado poner al alcance de cualquier persona con acceso a internet herramientas de Inteligencia Artificial (IA) tan sofisticadas que son capaces de idear un nuevo negocio de emprendimiento, mejorar diagnósticos médicos y hasta mantener una conversación sobre el amor.
Pero: ¿qué pasa cuándo la IA puede crear imágenes tan realistas que parecen fotografías y pueden hacernos creer que son reales? Ya vimos ejemplos como el de las imágenes de Trump encarcelado o las del papa Francisco y un abrigo blanco con mucho ‘flow’.
Platicamos al respecto con Pablo Fernández, director ejecutivo y periodístico de Chequeado, y con Tomás Rudich, coordinador de verificación de bulos en Newtral, quienes nos contaron que, aunque la Inteligencia Artificial es un campo muy cambiante que sigue en desarrollo y que representa nuevos retos, aún hay herramientas para combatir la desinformación.
Y mejor aún: el aprendizaje y el ojo humano.
Desinformación con IA
En las últimas semanas, el equipo de Animal Político ha verificado al menos seis imágenes creadas con IA que fueron utilizadas para desinformar: primero nos quisieron hacer creer que existía una especie de Serpens Cattus o gato serpiente, también que el expresidente Donald Trump fue perseguido por la policía de New York, y que la fotografía del activista Julian Assange encarcelado y demacrado era real.
Alguien también uso una herramienta de IA para crear la imagen del papa Francisco portando tenis y una chamarra voluminosa, y otra del presidente Putin de rodillas frente al presidente de China.
Pero el uso de imágenes ficticias no es la única forma de desinformar con IA; también hemos detectado el uso de avatares con aspecto humano para intentar dar credibilidad a información engañosa sobre política, vender productos milagro para bajar de peso, y de paso para hacer campaña a favor de López Obrador y de Morena en redes sociales.
Estas desinformaciones tienen en común que se usó IA para generarlas, pero también para verificarlas. Empecemos por saber a qué nos referimos cuando hablamos de Inteligencia Artificial.
¿Qué es la Inteligencia Artificial?
La empresa Google lo define como “un campo de la ciencia relacionado con la creación de computadoras y máquinas que pueden razonar, aprender y actuar de una manera que normalmente requeriría inteligencia humana o que involucre datos cuya escala exceda lo que los humanos pueden analizar”.
En otras palabras, tecnología que con algoritmos y sistemas administra y procesa una gran cantidad de datos, con lo que pueden realizar tareas que antes solo concebíamos como una posibilidad humana.
Una de las técnicas que la IA emplea es el machine learning (ML), que se centra en la creación de sistemas que mejoran en función de los datos que consumen. Tal como lo hace ChatGPT cada vez que alguien mantiene una “conversación” con dicha aplicación.
Pero la aplicación de IA en las herramientas digitales no es algo tan nuevo como pensamos, por ejemplo, el buscador de Google o los programas de asistencia virtual como Alexa usan este tipo de tecnología.
Pero últimamente ha pasado de todo, como que el diario El Mundo utilizara IA para ilustrar su portada. Y para dar un ejemplo de la magnitud del tema, incluso Elon Musk y cientos de expertos pidieron pausar avances en Inteligencia Artificial. Aunque poco después el mismo Musk aseguró en una entrevista que buscará desarrollar TruthGPT, “una IA que busque la verdad absoluta e intente comprender la naturaleza del universo”.
Herramientas contra la desinformación generada con IA
Olga Papadopoulou, miembro del Grupo de Análisis, Verificación y Recuperación de Medios (MeVer) y directora general del proyecto de vera.ai, explicó en un seminario sobre tecnología de datos que la desinformación visual plantea mayores riesgos porque puede ser más persuasiva que el texto, llama más la atención, es más tentador compartirla, y además puede cruzar fácilmente las fronteras.
En este sentido, comenzaron a popularizarse los deepfake que son un video, una imagen o un audio creado con tecnología y que imita la apariencia y el sonido de una persona.
Hasta ahora ya hay varias aplicaciones que intentan ayudar a identificar este tipo de productos que crean confusión y desinformación.
Por ejemplo, la herramienta de detección de DeepFake. Evalúa la probabilidad de manipulaciones faciales falsas profundas en imágenes y videos. En el caso del video, la herramienta segmenta el video en tomas, detecta los rostros representados en cada toma y estima la probabilidad de manipulación facial falsa en cada rostro.
Hugging Face y Mayachitra son otras plataformas de acceso abierto que suelen indicar si alguna imagen se generó con IA.
Pero, a decir de Tomás Rudich, coordinador de verificación de bulos en Newtral, “hay que tomar con pinzas estas herramientas porque te indican una probabilidad pero no puedes estar 100% seguro; además, la IA va evolucionando”.
También existen otras herramientas que pueden ayudar a identificar desinformación visual.
El proyecto vera.ai, por ejemplo, colabora en el desarrollo aplicaciones para herramientas de verificación. Por ejemplo, el asistente de verificación de imágenes que resalta las áreas de una imagen que han sido manipuladas digitalmente.
WeVerify e InVID también tienen herramientas muy útiles para revisar si una imagen ha sido alterada digitalmente.
De hecho, Tomás Rudich destaca que las principales herramientas para combatir la desinformación generada con IA son las que ya conocemos como la búsqueda inversa de la imagen en Google para rastrear en dónde ha circulado, o encontrar marcas de agua y sellos que nos permitan llegar a la persona que ha generado esta imagen.
Si quieres saber más al respecto, en este video te contamos cómo usar las herramientas de búsqueda inversa.
El aprendizaje no para
Pablo Fernández, director ejecutivo y periodístico de Chequeado, señala que “quienes generan desinformación tienen muchos recursos y herramientas y nosotros no nos podemos quedar atrás, para no perder esa batalla”.
Así que invita a los verificadores a usar elementos de IA y seguir aprendiendo sobre nuevas herramientas y metodologías de verificación.
Pero no solo se trata de saber cómo identificarlas, sino también cómo pueden generarse. “Si logramos resolver esto y seguir en la vanguardia y actualizados en cómo se generan estas piezas de Inteligencia Artificial, va a seguir siendo súper interesante el trabajo de nosotros y de nuestro colegas porque va a ser vital para la gente”, señala Fernández.
“Eso no lo hacemos tanto con máquinas sino con nuestro ojo”, destaca. Además, advierte que si bien todavía se pueden encontrar errores que quizá cualquiera pueda ver, es muy probable que muy pronto la IA aprenda a evitarlos y sea más difícil verificar.
De hecho, advierte que esto ya ha pasado, como él mismo lo comprobó, cuando en diciembre pasado ChatGPT le arrojó respuestas incorrectas, pero el error se corrigió al mes siguiente.
Error en la matrix
Hasta ahora, Midjourney y otras aplicaciones de IA que son usadas para generar imágenes que desinforman tienen dificultades para generar manos y eso se ha convertido en una pieza clave de la verificación. Aunque eso podría cambiar muy pronto.
Uno de los problemas que supone la desinformación creada con IA es que es algo que se actualiza de manera constante, lo que hace más difícil su verificación.
“Es un campo que está muy en evolución y muy cambiante y hay determinadas cuestiones que pueden servir hoy y más adelante pueden no servir”, advierte Tomás Rudich.
“Era un elemento muy identificable pero ya ha evolucionado la IA y ya no salen tan mal los dedos como antes”, dice Rudich, quien de momento sugiere poner atención y buscar anomalías como rostros difuminados o proporciones anómalas.
Pablo Fernández coincide: “Esto es muy dinámico y esto puede cambiar mañana. Hoy las imágenes estáticas tienen errores grandes en las manos, a veces en los ojos. Pero justamente se basa en un aprendizaje, las máquinas aprenden y esto seguramente se solucionará pronto”.
“No hay una solución mágica, es una combinación de todo esto: observación atenta, tratar de rastrear el original, buscar marcas de agua, ponerse en contacto con quien las ha generado y comparar con imágenes reales”, señala el especialista en verificación de Newtral.
Rudich recuerda que si no tenemos seguridad de la veracidad de la imagen lo mejor es no compartirla. Consejo que aplica para cualquier imagen, aun si no se sospecha de haber sido generada con IA.
Herramientas de IA contra la desinformación
Pero la IA no solo genera desinformación, también herramientas para combatirla, y un ejemplo de ello es el Chequeabot del proyecto argentino de verificación Chequeado.
Desde 2016, el chequeabot funciona con Inteligencia Artificial de Machine Learning, según nos compartió Pablo Fernández. Esta herramienta ayuda a encontrar frases a verificar, por ejemplo, dentro de un discurso político muy largo.
Otra herramienta que usa Inteligencia Artificial y que es usada para combatir la desinformación es ClaimHunter, un desarrollo de los verificadores de Newtral.es en España. Tomás Rudich nos contó que ayuda a los verificadores a detectar afirmaciones verificables de políticos en Twitter.
También desarrollaron la herramienta Claim Check, que permite detectar cuando una afirmación que desinforma se repite de manera constante por los personajes políticos.
Relacionado
Casi siete años después de la imposición de sanciones por parte de EU la exportación petrolera de Venezuela parece haberse recuperado de forma significativa gracias a la contribución de la llamada flota fantasma. BBC Mundo te cuenta de qué se trata.
Cuando en 2019 el presidente de EE.UU., Donald Trump, impuso sanciones a la industria petrolera de Venezuela para presionar al gobierno de Nicolás Maduro, las exportaciones de crudo venezolano cayeron hasta unos 495.000 barriles diarios. Seis años más tarde, las sanciones siguen en pie, pero las exportaciones petroleras de Venezuela han vuelto a crecer hasta ubicarse en torno al millón de barriles diarios.
Aunque se trata de una cantidad pequeña para un país que en 1998 -antes de la llegada al poder de Hugo Chávez- producía tres millones de barriles diarios, esta recuperación de parte de la exportación de crudo es un indicativo de que las sanciones contra Venezuela no están funcionando como EE.UU. esperaba.
Y es que el gobierno de Maduro ha ido encontrando la manera de ir reactivando la producción y de crear nuevas vías para vender el crudo venezolano esquivando las sanciones.
En esa tarea de comercialización ha jugado un rol central la llamada “flota fantasma”: una serie de tanqueros petroleros que por medio de distintas estratagemas logran ocultar su labor como barcos de transporte de petróleo sancionado por las autoridades estadounidenses.
Una de estas embarcaciones fue interceptada e incautada este miércoles por las fuerzas militares de EE.UU. cuando se encontraba en aguas frente a las costas de Venezuela.
“Acabamos de incautar un petrolero frente a la costa de Venezuela, un petrolero grande, muy grande; de hecho, el más grande que se haya incautado jamás”, dijo Trump al anunciar la operación ante la prensa en la Casa Blanca.
El gobierno de Maduro reaccionó calificando la incautación como “un robo descarado y un acto de piratería” y dijo que acudirá ante instancias internacionales existentes para denunciar lo ocurrido.
Esta acción estadounidense aumenta las tensiones con Caracas que se han ido intensificando desde que en agosto de este año el gobierno de Trump inició un gran despliegue militar en aguas del Caribe con el objetivo oficial de combatir el narcotráfico, pero que muchos analistas creen que tiene como objetivo final forzar un cambio de régimen en Venezuela.
Más allá de su posible objetivo político, la medida tiene un impacto económico pues dificulta aún más las exportaciones petroleras venezolanas al meter presión sobre la flota fantasma.
Pero, ¿qué sabemos sobre cómo operan estas embarcaciones?
Un fenómeno en auge
La utilización de flotas fantasmas es un fenómeno en aumento que ocurre no solamente en el caso venezolano, sino también de otros dos países petroleros sometidos a sanciones por parte de EE.UU. y de potencias occidentales: Rusia e Irán.
La empresa de inteligencia financiera S&P Global estima que uno de cada cinco petroleros en el mundo son usados para vender de contrabando petróleo procedente de países bajo sanciones.
De estos, el 10% transportarían solamente crudo venezolano, un 20% haría lo mismo con el iraní, mientras que 50% se dedica en exclusiva al petróleo ruso. El 20% restante no estaría atado a ningún país en particular y puede transportar petróleo de más de uno de estos países.
Según estimaciones de la firma de análisis marítimo Windward, la flota clandestina cuenta con unas 1.300 embarcaciones.
Las sanciones petroleras buscan desincentivar a países o empresas a adquirir o involucrarse en cualquier operación relacionada con crudo procedente de los países castigados.
Ante ello, los países sancionados optan por ofrecer su petróleo con grandes descuentos para que haya operadores, empresas o países que estén dispuestos a correr el riesgo de comprarlo, aplicando -eso sí- algunos trucos para disimular su origen.
Barcos que engañan
Una de las estrategias más frecuentes que aplican estos tanqueros para evadir las sanciones es cambiar con frecuencia -a veces varias veces en un mes- de nombre o de bandera.
En el caso, por ejemplo, del petrolero incautado este miércoles, se trata de un barco llamado The Skipper, según informó CBS News, socia en EE.UU. de la BBC.
Esa misma cadena dijo que se trata de un barco sancionado por el departamento del Tesoro de EE.UU. desde 2022 debido a su supuesto rol en una red de contrabando de petróleo que ayuda a financiar a la Guardia Revolucionaria de Irán, así como a la milicia chiita libanesa Hezbolá.
CBS indicó que al momento de ser sancionado el petrolero tenía por nombre Adisa (inicialmente se llamaba The Tokyo) y era una de las embarcaciones vinculadas con el magnate petrolero ruso Viktor Artemov, quien también se encuentra bajo sanciones.
Al referirse a ese tanquero este miércoles, la fiscal general de EE.UU., Pam Bondi, dijo en la red social X que esa nave era usada para transportar petróleo procedente de Venezuela e Irán, dos países bajo sanciones.
Un elemento interesante sobre The Skipper es que es un barco con 20 años de antigüedad y ese es otro elemento usual entre los tanqueros de las flotas fantasma: muchos son barcos viejos, pues las grandes navieras suelen deshacerse de estos barcos cuando tienen 15 años de servicio y luego de 25 años suelen ser enviados al desguace.
Justamente otro truco aplicado por estos barcos es usurpar la identidad de alguno de esos barcos enviados a desguace, emitiendo los números de registro únicos que la Organización Marítima Internacional le otorgó a esas embarcaciones. Así se convierten en lo que se conoce como barcos zombis, pues lo que hacen es similar a alguien que usa la identidad de una persona muerta.
Un caso de este tipo relacionado con Venezuela ocurrió en abril pasado cuando un barco llamado Varada llegó a aguas de Malasia, tras un viaje que había iniciado dos meses antes en Venezuela.
La embarcación juntaba dos elementos sospechosos: tenía 32 años y la bandera de las Comoras, popular entre barcos que no quieren ser detectados.
Una investigación de la agencia Bloomberg descubrió que se trataba de un barco zombi, pues el verdadero Varada había sido desguazado en 2017 en Bangladesh.
Otras formas habituales de operar de los barcos de flotas fantasmas consiste en “disfrazar” el origen del crudo transfiriéndolo en aguas internacionales a petroleros sin problemas legales con otras banderas, que son los que se encargan de llevar el crudo hasta su destino, presentándolo como procedente de un país no sancionado.
Ese fenómeno se produjo, por ejemplo, en el caso de las exportaciones petroleras venezolanas hacia China durante el primer gobierno de Trump. Según expertos consultados por BBC Mundo hubo un momento en el que en las estadísticas oficiales de comercio de China aparecía como si ese país no estaba adquiriendo crudo venezolano cuando, en realidad, sí lo estaba haciendo.
Esto era posible porque ciertas refinerías compraban el petróleo a estos barcos que habían adquirido la carga en aguas internacionales y que la presentaban como procedente de países no sancionados.
Un último truco usual entre este tipo de tanqueros consiste de desactivar el sistema de identificación automática, a través del cual se transmiten datos como el nombre, la bandera, la posición, la velocidad o el rumbo de la embarcación. La manipulación de estos datos permite ocultar la identidad, ubicación y rumbo de las naves.
Una flota fantasma en aparente crecimiento
La investigación de Bloomberg en abril detectó el caso de cuatro barcos zombis que transportaban crudo venezolano.
La agencia de noticias recurrió al análisis de imágenes satelitales y las comparó con fotos históricas de los cuatro barcos cuyos nombres y números de identificación estaban usando.
Más recientemente, la ONG Transparencia Venezuela emitió un informe basado en la observación de lo que ocurrió en los puertos petroleros de ese país en octubre de este año.
Según ese reporte, hubo 71 tanqueros extranjeros en modo visible en los puertos de la petrolera venezolana Pdvsa, de los cuales 15 están bajo sanciones y nueve se relacionan con flotas fantasmas.
Transparencia encontró que en promedio hubo 24 petroleros que estaban ubicados cerca de tres puertos en el occidente y oriente de Venezuela y que estaban operando en modo furtivo, pues no tenían activas sus señales reglamentarias de posicionamiento.
De igual modo, Transparencia afirma haber detectado seis operaciones de transferencia de carga de un buque a otro, cerca de la bahía de Amuay, en el occidente del país.
De igual modo, hubo una mayoría de barcos con banderas de países considerados como paraísos regulatorios, por tener normas de supervisión laxas, lo que termina facilitando las operaciones de este tipo de embarcaciones.
Así, de los 71 barcos, 29 tenían la bandera de Panamá, seis de las islas Comoras y cinco de Malta.
En su informe, Transparencia indica que 38 de estos petroleros pasaron más de 20 días sin tocar puerto, algo que contrasta con los barcos de la petrolera estadounidense Chevron (autorizada por Washington para operar en Venezuela) que al llegar toman su carga y se marchan en un plazo máximo de seis días.
“La permanencia extendida en las áreas portuarias del país, sin llegar directamente a las terminales petroleras, arroja serias dudas sobre el tipo de operaciones que esos buques realizan”, señaló Transparencia en relación con los barcos que tardaban muchos días sin tocar puerto.
En todo caso, dado que la operación de intercepción e incautación realizada este miércoles se originó en el portaviones Gerald Ford -el más grande del mundo-, que ahora forma parte del masivo despliegue de fuerzas realizado por EE.UU. en aguas del Caribe frente a Venezuela, es probable que la posibilidad del gobierno de Maduro de recurrir a la flota fantasma se vea limitada de una forma importante.
![[]](https://ichef.bbci.co.uk/ace/standard/raw/cpsprodpb/8e6f/live/59bd4180-d66d-11f0-9fb5-5f3a3703a365.png)
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
- Qué se sabe del buque petrolero incautado por EE.UU. cerca de las costas de Venezuela
- El gobierno de Venezuela califica de “robo descarado y acto de piratería” la incautación de un buque petrolero frente a sus costas por parte de EE.UU.
- “EE.UU. pretende apoderarse de las vastas reservas de petróleo de Venezuela”: la carta que Maduro le envió a la OPEP denunciando la amenaza militar de Washington
