Los futbolistas James Rodríguez, Luis Díaz y otras figuras públicas son víctimas de burdos montajes probablemente realizados con Inteligencia Artificial (IA) para promocionar el ingreso a un supuesto círculo de apuestas deportivas que promete ganancias del 300% con pequeñas inversiones.
El hecho podría pasar desapercibido y ser un fenómeno digital más, pero la realidad es que la difusión de estas imágenes plantea un grave problema para el ecosistema digital de información en Colombia.
Las evidencias encontradas permiten afirmar que los colombianos pueden estar en riesgo ante la proliferación, masividad y capacidad técnica de creación de mensajes elaborados artificialmente. Se debería alertar al país por las consecuencias y el inminente despliegue de contenido sintético en Colombia.
El término “contenido sintético” se refiere a cualquier tipo de contenido, ya sea visual, auditivo o textual, que ha sido creado artificialmente mediante el uso de tecnologías avanzadas, como inteligencia artificial, aprendizaje profundo o generación de lenguaje natural.
Es decir, es contenido que no lo han creado los humanos de manera tradicional, sino que lo han generado algoritmos y computadoras.
Hallazgos
El 5 de febrero de 2024 a las 6:50 am el usuario de X @YeimisAriel publicó un video donde se observa a la presentadora de Noticias Caracol, Alejandra Murgas, introducir una supuesta noticia sobre un proyecto que tendría el jugador Luis Díaz.
El video fue descargado de Facebook o Instagram de una cuenta llamada Ayuda Financiera América Latina.
En el video se muestra la voz y la imagen de Murgas diciendo “el delantero del Liverpool, Luis Diaz, concedió una breve entrevista en la que también habló de su nuevo proyecto con Daniela Reyes, creado para ayudar a la población de Colombia”.
En la version original del video se observa como la voz de la presentadora coincide con los movimientos de su boca.
Para entender qué tipo de contenido es este y cómo es de dificil detectar la voz original de la falsa extraimos el audio del video falso y lo comparamos con uno real.
La voz y el video de la presentadora coinciden con los movimientos de la boca. Para cualquier usuario desapercibido es la presentadora original. Incluso si se escuchan el audio de la persona original vs el audio creado artificialmente es difícil encontrar las diferencias.
La propia víctima del montaje se mostró sorprendida por el hecho cuando le mostraron cómo se había falseado su voz e imagen.
Pero no solo la voz. La imagen de la profesional fue creada artificialmente y tiene los rasgos y movimientos corporales que haría una presentadora de ese noticiero.
Seguido a la introducción de la presentadora – que usa los colores y el diseño gráfico de Noticias Caracol – aparece la imagen de Luis Diaz.
El fotograma usado para crear la versión artificial de Luis Diaz probablemente es una entrevista que dio el 10 de febrero de 2023. El fotograma falso y el original tienen el mismo signo distintivo en la ropa.
Cualquier persona que ponga atención mientras ve esta pauta publicitaria se daría cuenta rápidamente que la voz tiene un tono robótico muy alejado del acento real del jugador. Pero no todas las personas tienen las habilidades para detectar la burda creación sonora que está acompañada con imágenes falsas que coinciden con el movimiento de su boca.
En el video se difunde la información sobre la posibilidad de duplicar inversiones y está acompañado de imágenes de apoyo del jugador . Culmina con otro extracto falso donde se muestra al jugador hablando.
El video finaliza con un supuesto testimonio de unas personas que dicen haber participado en el proyecto que promociona Diaz donde se utilizan imágenes con referencia a Bancolombia.
El video busca que las personas den clic a un link que llega a un canal de Telegram donde una serie de bots y cyborgs entablan una conversación para hacer caer incautos.
Pero este no es el único caso. Con la ayuda de varios usuarios de X se logró determinar que James Rodríguez es otra víctima de la creación de contenido falso de su imagen y su voz. También se creó una versión artificial de la presentadora de Noticias Caracol, Ana Milena Gutiérrez.
En esta oportunidad, como en el caso del jugador del Liverpool, se difunde contenido sintético que busca inducir a las personas a participar en unas supuestas apuestas que dejan ganancias millonarias.
En esta oportunidad, tal y como hicieron con Murgas, crearon unos fotogramas falsos con un audio falso donde afirman que ha llegado el fin de la carrera de James y por eso junto a su hermana habría emprendido un proyecto para “ayudar a los colombianos”.
En esta oportunidad la voz falsa la presentadora Gutiérrez fácilmente puede levantar sospechas por su baja calidad. Su sonido parece modificarse por filtros.
Luego de las imágenes sintéticas de la presentadora aparece la figura de James Rodríguez explicando por qué creó el supuesto proyecto. La voz del jugador es muy parecida a la verdadera y existe una sincronía entre la imagen y lo que dice.
Los fotogramas usados para entrenar la IA que habría producido ese video se sacaron de la entrevista que dio el jugador a la Revista Semana.
Tal y como sucede con el primer video el jugador le da paso a supuesto testimonio de las bondades del proyecto e invita visitar un link de Telegram.
Otra de las presentadoras de Caracol Noticias víctimas de imágenes sintéticas es Catalina Gómez Sánchez.
Como en los casos anteriores circula un video donde supuestamente es noticia el proyecto financiero que busca ayudar a los colombianos. En esta oportunidad no utilizan una figura pública, sino que se robaron la imagen de una persona a la que llaman Daniela Reyes.
Los falsificadores y ladrones de la imagen intentan posicionar a Reyes como si fuera una figura pública colombiana, pero en realidad es la imagen de una mujer mexicana que se llama Valeria Andrade.
En una accion digital bizarra y extraña se han robado la verdadera imagen de Valeria Andrade y la llaman Daniela Reyes. Con sus fotogramas públicos han posiblemente entrenado IA y producen piezas gráficas de video y fotografías que son parte esencial de la trama.
Andrade ha advertido sobre esta inusual situación, pero el uso de su imagen en Colombia demuestra que no puede hacer nada ante el robo de su identidad. De su voz, su rostro y su cuerpo.
También se nos informó que otros jugadores de la Selección Colombia son usados con la misma estrategia. Se habló de un video donde aparece Jerry Mina. Se hizo una búsqueda en Internet, pero no se encontró evidencia.
Es muy difícil encontrar este tipo de contenido ya que al ser publicidad digital está publicado por un periodo de tiempo. Una vez se desactiva la campaña, la única forma de rastrearlo es ubicar la cuenta publicitaria que lo publica, pero es básicamente encontrar una aguja en un pajar puesto que los estafadores utilizan páginas de cualquier tipo para ejecutar sus acciones.
Hablando con bots y cyborgs
La campaña publicitaria que se despliega para impactar audiencias colombianas tiene el objetivo de llevar visitantes a dos activos digitales.
El primero es una Página de Aterrizaje donde aparece la figura robada de Valeria Andrade. La Url de este landing page es
(https://magnusmatihesen.com/diaz2024?fbclid=IwAR08LPPyEGlJHjpkQqTOJbrqLHuWm3RnG6_qthUGd6GxdmaSEDTQZ39uYr0) y parece ser un sitio web alojado de manera fraudulenta en el servidor que aloja este nombre de dominio.
Una vez la víctima da clic en el botón es llevado a un canal de telegram con 37.495 suscriptores que se dedica a promocionar una serie de supuestas apuestas deportivas arregladas. El canal continuamente cita ejemplos de ganadores con fotografías de artículos lujosos.
Una vez se hace clic a las invitaciones del primer canal, la víctima llega al supuesto perfil original de la falsa Daniela Reyes. Este es otro canal de Telegram donde continuamente se publica información de cómo ganar una fortuna con apuestas deportivas.
A diferencia del primer canal probablemente un humano está recibiendo los mensajes de las víctimas.
La estrategia de la estafa consiste en pedir un monto de dinero para supuestamente multiplicarlo.
En diálogo con el estafador insiste que se depositen 900 mil pesos en una cuenta Daviplata a nombre de Gabriel Rojas, ligada al teléfono celular 3116785656. Esto confirma que al menos se está usando infraestructura local para llevar a cabo la estafa.
Es imposible determinar si personas han caído en este tipo de actividades donde se pide dinero en línea para multiplicar ganancias. En MuchoHacker.lol narramos como esta misma técnica se usa para estafar personas que buscan trabajo. Con un caso real.
Contenido sintético aprobado por META
Toda esta operación e impacto a un número indeterminado de usuarios de Internet colombianos no sería posible sin la aprobación de la compañía Meta.
Su representación en el país debería explicar por qué aprobó unos anuncios con material sintético de figuras públicas.
No existe un caso anterior a este donde se usen ads con contenido sintético para inducir al engaño en Colombia. O no al menos en los registros y documentación pública que llevo haciendo desde hace 3 años.
Cualquier persona que quiere ser un anunciante para enviar mensajes a través de Facebook, Instagram o la red de publishers de Meta debe cumplir con, supuestamente, un estricto proceso que inicia con la creación de una serie de cuentas. Estas cuentas deben ser aprobadas por la plataforma y se utilizan diferentes métodos para habilitar la posibilidad de ser un anunciante.
En teoría crear una cuenta para hacer anuncios tiene una serie de filtros que impiden que se pague pauta, entre otras cosas, para actividades ilegales.
Meta Colombia falló al aprobar la creación de la cuenta Ayuda Financiera América Latina ya que esta evidencia muestra que desde este perfil se publicaron ads con material sintético que usa imágenes de figuras públicas colombianas.
Esta página tiene unos administradores ubicados en Vietnam. Y desde esa cuenta se está pagando dinero para distribuir material sintético que induce al engaño.
Pero no solo eso, Meta demuestra que sus controles para evitar que alguien pague pauta para inducir al engaño no funcionaron en este caso para Colombia.
Una vez un anunciante crea su perfil y obtiene el status de poder pautar los anuncios deben pasar por otro filtro y aprobación.
Las personas que han trabajado en el mundo publicitario saben que este filtro es difícil de pasar pues romper una regla del código publicitario de la empresa inmeditamente inhabilita el anuncio. Este control es tan estricto que un anuncio en las dimensiones no correctas puede ser sancionado.
La evidencia suministrada por la propia compañía a través de la Librería de Anuncios muestra que los anuncios con la imagen falsa de Luis Diaz y la presentadora de Noticias Caracol fueron pautados desde el 1 de febrero.
Y no solo se pautó un video. Se puede comprobar que se crearon 20 versiones del mismo video. Esto se hace con el fin de llevar el anuncio a diferentes dispositivos y probablemente diferentes audiencias.
El video que vio Yeimis y que originó esta investigación es producto de un anuncio en Meta.
Toda esta situación pone de manifiesto un grave riesgo para Colombia. No solo por el hecho de la estafa que finalmente cualquier persona puede detectar con un poco de atención. Lo preocupante es observar ante nuestros ojos como actores —probablemente colombianos— pueden crear imágenes sintéticas con cierta realidad y con el potencial de engañar.
Si pudieron usar fotogramas de presentadoras de noticias y alimentar un aplicativo que probablemente use IA para crear fotogramas falsos esto mismo se puede utilizar en otros ámbitos.
Estamos ante la posibilidad real de la disusión masiva de material sintético donde se usen imágenes creadas artificialmente . Se puede plantear la hipótesis de que ya existe una IA entrenada con fotogramas de personas reales y ya existe la posibilidad de crear material sintético en audio y video que digan cualquier cosa en cualquier contexto.
Como si fuera esto poco estamos ante la evidencia de los pocos o nulos controles de empresas como Meta que no solo aprueban el uso de imágenes sintéticas, sino que tienen el descaro de monetizarlo.
Igualmente, se encontró evidencia de que esta oepración puede tener una escala de tal magnitud que puede afectar varios países de la región.
Segunda Entrega
8 de febrero de 2024, 5:31 pm.
La operación está activa
Gracias a un usuario de la red X se pudo identificar que la campaña publicitaria aprobada por Meta, y que busca estafar colombianos, está activa en este momento.
Esto quiere decir que, producto de las inversiones publicitarias que se hacen, el mensaje se difunde a esta hora sin que nadie pueda hacer algo para detenerlo.
Hay personas impactadas con nuevo material creado con contenido sintético y desinformador.
Las evidencias muestran que los atacantes estarían usando técnicas de microsegmentación. Gracias a las posibilidades de Facebook, los atacantes no distribuyen el mensaje a todas las personas si no a grupos específicos que podrían ser vulnerables o dados a creer la trama.
Este pantallazo que nos compartieron nos llevó a ubicar la página en Facebook Spicy Activity. Se hizo una búsqueda inicial en el buscador de Facebook pero no se encontró referencia.
Posteriormente se visitó el ads library de Facebook y se ubicó la página que produce la estrategia publicitaria que en este momento está buscando engañar colombianos.
Sorprendentemente se encontraron dos videos de líderes religiosos cristianos colombianos a los que les crearon versiones de su imagen y voz donde supuestamente apoyan la idea de negocio de Daniela Reyes.
La primera víctima de la creación artificial de su imagen es el pastor de la Misión Carismática Internacional, Cesar Castellanos. Como ocurrió con los futbolistas colombianos clonaron su voz y su imagen.
Supuestamente apoya la idea de negocio mediante la cual se introduce la estafa. En este video, como en los anteriores, clonaron la imagen y la voz de la presentadora María Lucia Fernández.
La segunda víctima de la clonación de su imagen y voz es el pastor Andrés Corson de la iglesia El Lugar de Su Presencia.
Como a Castellanos le crearon una versión de su voz y de su imagen. Igualmente, hicieron burdos montajes de fotografías con la imagen de Valeria Andrade o como intenta la estafa posicionar Daniela Reyes.
Desde hace más de 15 años asisto a esta iglesia y puedo decir con plena certeza que la voz del Pastor Corsón es una copia exacta de su voz original. Su entonación, sus tonos y su acento es igual al original.
La operación culmina con 8 piezas más de pauta publicitarias que circulan cuyo objetivo es el mismo: llevar personas a un canal de Telegram para convencer a las personas de que envíen dinero para participar en un supuesto arreglo de apuestas. En los otros videos vuelven a usar las imágenes de la presentadora Murgas que ya se habían usado en otros videos.
En esta bateria adicional de videos se hace mención del presidente Gustavo Petro pero no se encontró que se realizaran versiones de su imagen o su voz.
Esta es la evidencia de los anuncios activos que ha publicado la página estafadora
Operación Internacional
La página que publica todo este contenido sintético y que busca engañar colombianos se llama Spicy Activity y está identificada con el número 107724548718534.
Es una página que cuenta con 3.500 seguidores y aparenta ser el perfil de una mujer. La cuenta fue creada el 15 de agosto de 2022 y 10 personas administran su contenido.
Estas 10 personas están ubicadas en Ucrania, Estados Unidos, Kazajistán y Filipinas. Esta información se obtiene porque en la sección de transparencia de la página automáticamente se publican los orígenes de los administradores. En lo que a mi respecta no conozco un caso donde se pueda modificar esta información.
Estas nacionalidades se unen a la página de la primera entrega de este post cuyo administrador está ubicado en Vietnam.
Deja un comentario