- Fue creada y modificada usando dos herramientas de inteligencia artificial
- Mezcla información falsa, desactualizada o manipulada presentadas como de último minuto con presuntas órdenes que no existen
- La cuenta publicó su primer video el 25 de enero de 2025
Ximena Martínez, la tiktoker, tiene noticias alarmantes. Con videos titulados con grandes letras amarillas advierte que las Fuerzas Especiales de Estados Unidos invadieron México, que Donald Trump ordenó a las tropas de la OTAN a arrestar a Maduro o que el Ejército de Colombia solicitó permiso para invadir Venezuela. Sin embargo, no son noticias reales ni ella tampoco.
Uno de sus vídeos nos llegó como consulta a La Tía del WhatsApp, nuestro chatbot de verificación de información que también está en Telegram, pero debido a la cantidad de contenidos engañosos y falsos del perfil, decidimos publicar este explicador.
Los videos tienen una mezcla de noticias descontextualizadas, contenidos ya desmentidos (como la falsa orden de arresto de la Corte Penal Internacional contra Maduro) o falsos conflictos bélicos entre países.
En general, se trata de una cuenta que publica contenidos engañosos o puramente falsos contra los presidentes de México, Colombia y Venezuela, mientras envía elogios sobre los de Argentina, El Salvador y Estados Unidos.
Sin embargo, Ximena Martínez no existe y acá te explicamos cómo lo descubrimos.
Abundante y desinformante
En el perfil Ximena se define como “mujer fuerte, conservadora y defensora de la familia y libertad” agregando un emoji de la bandera de Venezuela.
Su primer video tiene la fecha de publicación del 25 de enero de 2025, y hasta el 5 de febrero había posteado 43 videos, acumulando 6.888 seguidores y 50 mil me gusta. Sin embargo, frecuentes visitas al perfil y el uso de la herramienta Wayback Machine, que permite guardar copias de páginas webs y perfiles de redes sociales,muestra que algunos videos han sido borrados u están ocultos.
Una práctica que hemos revelado en Cocuyo Chequea, ha sido la creación de cuentas de TikTok de muy reciente data y un puñado de vídeos en pocos días, para suplantar a medios y webs como CNN, EuroNews o DólarToday.
En distintos videos el avatar de Ximena Martínez mezcló escandalosas declaraciones reales de Trump, como la de anexarse México como un estado más de Estados Unidos, con manipulación de información sobre la operación militar conjunta entre Venezuela y Colombia en el Catatumbo como un posible enfrentamiento bélico, con la falsa captura de 10 mil soldados venezolanos en Colombia, que Colombia “acabó con las guerrilla venezolanas en un día” o que Maduro “causó el pánico” de Gustavo Petro al “abrir fuego en la frontera”. También hace falsas declaraciones sobre presuntos e inminentes conflictos bélicos entre Estados Unidos y México, Venezuela y Colombia, y Venezuela y Brasil.
Y aunque el perfil muestra que sigue a 11 otras cuentas, sólo es posible ver siete: Azteca Noticias, Edmundo González, una cuenta no oficial de María Corina Machado, Nayik Bukele, Javier Milei, una cuenta no oficial de Erik Prince (con contenidos sólo en español y exclusivamente dedicados a Venezuela) y la cuenta del partido Vente Venezuela.
Generada por IA
Un análisis de su avatar y de una imagen de un video en que sale con la misma voz usando la herramienta Sight Engine mostró un 99% de posibilidades de ser una imagen creada y manipulada usando herramientas de Inteligencia Artificial Generativa, específicamente Stable Diffusion, que puedes probar acá. Pero además señala que hubo manipulación de rostro en un 48%.
Una búsqueda con la foto de su avatar en la web PimEyes, que permite hacer búsquedas de rostros en Internet, nos llevó a otra pista, el recurso NTC-AI-Conceptmod, usado para modificar modelos creados por Stable Diffusion, lo que coincide con el porcentaje de manipulación digital detectado por Sight Engine.
En esto “Ximena” se diferencia de los presentadores generadores por Inteligencia Artificial del falso noticiero House Of News, que fueron descubiertos usando PimEyes porque sus rostros se hallaron en bibliotecas de herramientas de producción de videos sintéticos. Youtube más tarde eliminó este y otros cuatro canales de Youtube que conformaban parte de una red de propaganda oficial.
Peligros de la desinformación con Inteligencia Artificial
Si bien es posible usar herramientas de fuentes abiertas y de periodismo digital forense, no todas las audiencias tienen la alfabetización digital necesaria para hacerlo por sí mismos, a veces es más fácil determinar que una imagen o un video han sido generados por inteligencia artificial como detallamos en este explicador, usando pistas visuales a simple vista.
Sin embargo, Byte Dance, la empresa china dueña de TikTok acaba de presentar su herramienta de inteligencia artificial generativa llamada OmniHuman-1, que permite crear videos hiperrealistas de cuerpo completo, basados en una sola foto, como este de Albert Einstein, en que aparece dando un discurso con asombrosos movimientos naturales.
Súperrealismo
Según la revista Wired, especializada en tecnología, OmniHuman-1 usa diversos modelos, similares a los usados actualmente para generar la imagen de Ximena Martínez, que pueden agregar sonido a una imagen y combinarlos hasta alcanzar una apariencia natural.
Para esto se adiestró a la AI o con más de 19 mil horas de video mediante una técnica denominada “entrenamiento mixto de acondicionamiento de movimiento multimodal”, para aprovechar al máximo la información y cubrir los vacíos o fallas que vemos en muchos videos generados con estas herramientas.
Esto permite que, si en lugar de una fotografía, usas un video de referencia, puedas modificar el mismo, solicitando que haga movimientos distintos con partes determinadas del cuerpo. Es decir, recrear cualquier posible escenario, basado en uno verdadero.
Esta herramienta aún no está disponible para el público, especialmente por sus costos de entrenamiento e implementación, pero Wired advierte el temor del aumento de deepfakes, videos realistas generados artificialmente, y videos engañosos usados para desinformar, a partir de 2019.
Esta preocupación también fue compartido por los colegas de Cazadores de Fake News en su artículo sobre Aurora, el generador de imágenes de Inteligencia Artificial de X, que tiene resultados asombrosamente realistas y que se ha usado en Venezuela para generar contenidos desinformantes contra María Corina Machado y Edmundo González.
En Cocuyo Chequea también hemos verificado el uso de generación artificial de voces de actores políticos que suplen la identidad de Nicolás Maduro, María Machado, Juan Guaidó y Edmundo González como puede leerse acá, acá, acá y acá.
Conclusión
La desinformación generada por Inteligencia Artificial (IA) se difunde con rapidez en las redes sociales y cada vez es más sofisticada, por lo que es crucial estar atentos a los detalles que revelan su falsedad, así como en las pistas que puedan hacernos dudar de la confiabilidad de las fuentes, en este caso, de una persona que no existe, el uso de titulares en amarillo y el tono de urgencia.
A través de nuestro método de verificación, hemos identificado aspectos que Ximena Martínez corresponde a un avatar creado con dos herramientas de Inteligencia Artificial que intentaba borrar el rastro de su creación, que mezclaba escandalosas declaraciones de Donald Trump con especulaciones, noticias viejas y falsedades.
Ante la duda te invitamos a consultar a la Tía del WhatsApp, nuestro chatbot de verificación de información para corroborar cualquier contenido viral.