No son concluyentes pruebas para detectar IA en audio que atribuyen a Batres
“Tenemos dos semanas para bajar a Omar (Harfuch) por el tema de género”, dice un audio atribuido a Martí Batres, jefe de Gobierno de la Ciudad de México. Aunque él negó ser autor de dichas frases y acusó el uso de Inteligencia Artificial (IA), hay algunos elementos que hacen dudar a especialistas que el audio fue creado con IA.
En la grabación difundida por redes sociales y medios de comunicación, se dan instrucciones para “seguir creciendo a Clara (Brugada) o no soltar la campaña contra a Omar (Harfuch) en redes”, quienes se encuentran en la recta final del proceso interno que Morena realiza para definir a la persona que buscará la candidatura a la jefatura de gobierno de la capital.
Los perfiles que irán a la encuesta para competir por la candidatura a la jefatura de Gobierno de la CDMX son: Clara Brugada, exalcaldesa de Iztapalapa, Omar García Harfuch, exsecretario de Seguridad de la CDMX; Hugo López-Gatell, subsecretario de Salud; y Mariana Boy, quien fue procuradora Ambiental y del Ordenamiento Territorial de la Ciudad de México y el diputado federal Miguel Torruco.
El Instituto Nacional Electoral (INE) aprobó el pasado 24 de octubre un acuerdo que obliga a los partidos a postular a mujeres en al menos cinco de las nueve entidades que tendrán elecciones para renovar gubernaturas en 2024, incluida la jefatura de gobierno de la Ciudad de México, lo que beneficiaría a Clara Brugada, quien en la mayoría de las mediciones sobre intención de voto aparece en segundo lugar, detrás de Omar García Harfuch.
También te puede interesar: “No tengo favorito”; Sheinbaum intenta zanjar polémica por candidatura en CDMX y pide evitar divisiones internas
Especialistas contradicen uso de IA
“Está circulando un audio en el que se pretende atribuirme expresiones relacionadas con el proceso interno de #Morena en la Ciudad de México. Aclaro que es totalmente falso. Nunca he hecho tales afirmaciones. Está producido con inteligencia artificial. No es real”, señaló.
Ante dichas declaraciones usuarios de redes sociales y el mismo Eduardo Clark, titular de la Dirección General de la Agencia Digital de la CDMX, en la conferencia de prensa del gobierno capitalino, mostraron que es posible falsificar un audio con inteligencia artificial. Sin embargo, analistas destacaron la ausencia de características naturales de la voz, como la respiración.
El doctor Carlos Piña, análista de datos, explicó a El Sabueso que encontró que dicho audio tiene 95% de probabilidad de ser voz natural, de acuerdo con los resultados arrojados por la herramienta AI Voice Detector.
Piña destaca que la Inteligencia Artificial no es capaz de replicar ciertas características de la voz natural, como son tonos, expresiones, muletillas y respiraciones, características que están presentes en diferentes momentos del audio, por ejemplo, se escucha una aspiración al terminar de pronunciar la palabra “Clara”. También se escucha una respiración al final de la palabra “género”, y que se queda sin aire al final de la frase “nomás no pegó”. Además se escuchan muletillas como “eh”.
El Sabueso empleó dicha herramienta para revisar el audio de Batres, pero los resultados no fueron concluyentes. Para tener un mejor resultado, el software pide cortar en fragmentos de menos de 7 segundos el archivo; así lo hicimos, y analizamos 5 partes diferentes del audio viral. Sin embargo, el resultado de probabilidad de que el audio haya sido grabado con IA o con voz natural no coincide en ninguno de esos fragmentos.
También consultamos a Rodolfo Cáliz Grijalva, ingeniero en producción musical digital, quién nos dijo que a simple vista se escucha como algo real por algunos detalles y expresiones que en IA no se pueden lograr. Detalles como el “eh, eh” que hace en el segundo 25, donde justamente antes se escucha la respiración que también se detecta en puntos de silencio. Algo que la inteligencia artificial todavía no logra desarrollar.
Cáliz Grijalva también destacó que en el audio se escucha un acento característico de los habitantes de la Ciudad de México, y si el audio fuera generado con IA sonaría monótono.
¿De dónde salió el audio?
El registro más antiguo que encontramos del audio fue compartido en Facebook y TikTok el martes 31 de octubre a las 17:40 horas por la cuenta Chilango Noticias Mx.
El video que subieron a su cuenta de TikTok fue descargado y publicado en X, antes Twitter, por varios usuarios, sin embargo mantiene la marca de agua que indica que proviene de esa cuenta.
Chilango Noticias Mx también difundió un audio atribuido a Clara Brugada, en donde señala que la aspirante a la Jefatura de Gobierno de la Ciudad de México admite no ser la favorita del presidente o que traicionará a Morena. Pero también fue desmentido por ella y su equipo de comunicación.
La página Chilango Noticias Mx fue creada en Facebook apenas el pasado 5 de octubre y cuenta con 67 seguidores. Pese a que su nombre indica que es un sitio de noticias, en su descripción señala que es un “Sitio web de entretenimiento”. Sin embargo, la página web enlazada a su perfil de Facebook solo tiene tres entradas, la primera dedicada a las personas que podrían aspirar a ocupar la jefatura de gobierno de CDMX; la segunda es sobre una imagen que compartió Claudia Sheinbaum en redes sociales; y la tercera una nota copiada del portal El Sol de México.
El dominio del sitio web chilangonoticiasmx.com fue registrado en Querétaro precisamente el 5 de octubre de 2023 por Neubox Internet S.A. de C.V., según la herramienta Whois.
Claves para detectar IA
Aunque no es una ciencia exacta, y puede ser difícil distinguir si un audio fue generado por inteligencia artificial. Existen programas de análisis que puedes utilizar en línea, pero también hay detalles en los que puedes fijarte para cuestionar la veracidad del archivo.
Los medios Newtral y Colombia Check, que también pertenecen a la Red Internacional de Fact Checking como El Sabueso, sugieren revisar los siguientes aspectos al encontrarte con un archivo que podría ser desinformación:
- Calidad del Audio: si tiene mala calidad o no puedes escuchar claramente lo que la persona dice, esto podría ser una señal de que es falso o fue manipulado.
- Naturalidad de la voz: la IA tiene problemas generando detalles naturales como respiraciones en frases largas o entonaciones distintas entre palabras. Como señalaron los expertos previamente, es difícil que repliquen acentos o agreguen muletillas.
- Observa las características: puedes buscar una grabación pública de la misma persona, que tengas certeza que es real y comparar detalles como la duración de sus vocales o la fuerza con la que pronuncian las consonantes como la letra “D.”
Cuando dudes de la veracidad de un archivo, Colombia Check también recomienda que te plantees las siguientes preguntas:
- ¿Lo que la persona dice va acorde con lo que sabes de ella?
- ¿A quién le conviene este audio?
- ¿Por qué me llega este audio?
- ¿Esto lo tendrá algún medio?
- ¿Lo habrá verificado alguien?
Relacionado
El magnate propietario de X cargó contra el presidente español por su regularización de inmigrantes y su proyecto de prohibir el acceso de los menores de 16 a las redes sociales.
Elon Musk desembarcó esta semana en la política de España con una inesperada sucesión de descalificaciones hacia el presidente Pedro Sánchez.
El magnate estadounidense llamó “tirano”, “traidor al pueblo español” y “fascista” al al mandatario español en varios mensajes en su red social X.
También se refirió al político socialista como el “sucio Sánchez” (dirty Sánchez) y colocó junto a su nombre el emoticono de un excremento con ojos.
Fue la respuesta de Musk al anuncio de Sánchez de que su país prohibirá el acceso a las redes sociales a los menores de 16 años e impulsará cambios legales para que los directivos de las compañías propietarias tengan que responder penalmente de los contenidos ilícitos difundidos en ellas.
A los comentarios de Musk se sumó este miércoles Pvel Durov, fundador del sistema de mensajería Telegram, que acusó en su plataforma a Sánchez de impulsar “regulaciones peligrosas” que podrían llevar al establecimiento de un “estado de vigilancia” en España.
Sánchez respondió a este último comentario en X.
“Deja que los tecno-oligarcas ladren, Sancho, es señal de que cabalgamos”, escribió el mandatario haciendo referencia a una expresión española que en la cultura popular se atribuye a uno de los consejos de Don Quijote de La Mancha a su escudero Sancho Panza en la histórica novela del siglo XVII.
Qué anunció Pedro Sánchez
El presidente español anunció en un evento internacional celebrado esta semana en Dubái que su país prohibirá el acceso a los menores de 16 años a las redes sociales, que estarán obligadas a implantar sistemas efectivos de verificación de la edad de los usuarios.
Sánchez dijo que “las redes sociales se han convertido en un Estado fallido en el que se ignoran las leyes y se toleran delitos” y prometió que su gobierno protegerá a los menores “del salvaje oeste digital”.
También aseguró que, entre otras medidas, se impulsarán reformas legales para que los directivos de las plataformas respondan legalmente por las violaciones que se cometan en ellas. “Eso significa que los consejeros delegados de las plataformas tecnológicas se enfrentarán a responsabilidad penal si no retiran contenidos de odio o ilegales”.
“Las redes sociales, sus empresas, son más ricas y poderosas que muchos países, incluyendo el mío. Pero su poder e influencia no nos deben dar miedo porque nuestra determinación es mayor”, proclamó Sánchez.
Los anuncios de Sánchez provocaron la reacción de Musk, que publicó una sucesión de mensajes en X respondiendo al video de la intervención de Sánchez en Dubái.
“Sucio Sánchez es un tirano y un traidor al pueblo de España”, afirmó en el primero, junto al que colocó el emoticono fecal.
Menos de dos horas después volvió al ataque: “Sánchez es el verdadero fascista totalitario”.
El miércoles compartió en X mensajes de otros usuarios de su red criticando a Sánchez. En uno de ellos se decía que “España está en camino a una censura norcoreana” y que “el gobierno de Pedro Sánchez está promoviendo nuevas regulaciones peligrosas que amenazan tus libertades en internet”.
La polémica por la regularización de inmigrantes
Pocos días antes, Musk y Sánchez habían tenido un intercambio en las redes a cuenta de la decisión recientemente adoptada por el gobierno de España de regularizar a cientos de miles de inmigrantes irregulares presentes en el país.
La ministra española de Inclusión, Seguridad Social y Migraciones, Elma Saiz, defendió la regularización extraordinaria de inmigrantes como “necesaria para dar respuesta a la realidad que existe en nuestras calles” y dijo que busca “reconocer, dignificar y dar garantías, oportunidades y derechos a personas que ya están en nuestro país”.
La política de puertas abiertas a la inmigración impulsada por el gobierno Sánchez ha llamado la atención en la escena internacional en una época en la que Estados Unidos y varios países europeos aplican medidas cada vez más restrictivas.
Musk fue uno de los que criticó la regularización anunciada por el gobierno de Sánchez. El millonario compartió con sus 233 millones de seguidores en X un video del comentarista político malasio Ian Miles Cheong en el que este acusa a Sánchez de aprobar la regularización para “derrotar a la extrema derecha”.
“La lógica es simple: legalizar a medio millón de personas, acelerar su acceso a la ciudadanía”, decía el video de Chong, que Musk compartió añadiendo: “Wow”.
Sánchez replicó a este último mensaje de Musk con otro en el que afirmó: “Marte puede esperar. La humanidad, no”.
Los principales partidos de oposición en España se han mostrado en contra de la última regularización del gobierno de Sánchez, que la ultraderecha de Vox ha descrito como “el asesinato de España” y una “invasión”.
La medida también ha sido criticada porque el gobierno la ha aprobado sin pasar por el Parlamento, donde no contaba con los apoyos necesarios.
El ejecutivo de Sánchez y las organizaciones sociales que apoyan la medida sostienen que servirá para dar derechos a personas que ya contribuyen al buen momento económico que atraviesa el país y permitirá aumentar el empleo formal y, en consecuencia, la recaudación de impuestos.
Europa contra las redes
El choque entre el presidente español y Musk llega en un momento en el que un número creciente de países europeos empiezan a tomar medidas para poner freno a los abusos en las redes sociales y proteger a los menores de una exposición excesiva o dañina a las mismas.
En la estela de Australia, el primer país del mundo en prohibir el acceso a las redes sociales a los menores de 16 años, Francia, Reino Unido y otros debaten leyes en la misma línea.
El mismo día en que Musk criticaba a Sánchez en X, la policía francesa registraba la sede de la red social en París en el marco de una investigación sobre difusión de pornografía infantil, revelación de datos de particulares y fomento de la injerencia extranjera.
X tuvo que desactivar la función de su herramienta Grok que permitía a los usuarios obtener imágenes de desnudos generados por Inteligencia Artificial a partir de fotografías de personas reales después de días de polémica internacional y de la negativa inicial de Musk a hacerlo.
Y la Ley de Servicios Digitales aprobada por la Unión Europea también ha aumentado los requisitos y exigencias a las compañías propietarias de las redes sociales, principalmente en manos de gigantes tecnológicos estadounidenses como X y Meta.
El gobierno de Donald Trump ha criticado las medidas aprobadas en Europa como un ataque a la libertad de expresión, una crítica que Musk también ha repetido y que ha contribuido al creciente distanciamiento entre Estados Unidos y sus aliados europeos.
Musk ha apoyado públicamente a partidos de la ultraderecha europea, con los que rivalizan fuerzas como el Partido Socialista Obrero Español de Sánchez y las formaciones de izquierda que integran su coalición de gobierno.
Sánchez ha sido uno de los gobernantes europeos críticos con las redes y sus millonarios propietarios, a los que a menudo se refiere como “la tecnocasta”.
“Europa debe plantar cara y rebelarse contra esta amenaza a la democracia”, dijo en enero del año pasado.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
