El 29 de marzo de 2024 a las 5:18 de la mañana la página en Facebook identificada como Su Oportunidad publicó un video 1 minuto 45 segundos donde se observa versiones falsas de dos periodistas de Caracol Noticias y los senadores Iván Name y Mauricio Gómez Amin.
El video es una noticia falsa que es presentada por una versión digital del presentador Jorge Alfredo Vargas, que luego le da paso a la periodista, María Camila Roa de Caracol Noticias que habla en una extraña versión de voz que parece de doblaje latino.
Tanto la imagen como la voz de Vargas y Roa son falsas.
La noticia es construida con la supuesta intervención en la plenaria del senado de Colombia de Name y Gómez Amin y culmina con una versión con voz mexicana de Elon Musk.
Nada de lo que muestra el video publicado sucedió en realidad, tanto el video como el audio es una construcción artificial y pudo ser creado con algún tipo de aplicativo de Inteligencia Artificial.
El video
En esta pieza digital hablan de un supuesto proyecto de Ley que habría sido aprobado en Colombia para “convertirnos en la nación más rica del planeta”.
La pieza digital tiene un guión incoherente y habla de unas supuestas inversiones de 1 millón de pesos. Lo más extraño de la estrategia es que no lleva a ningún link donde se efectúe una estafa.
El video hace parte de una publicación orgánica, es decir, no es un anuncio de Facebook que alguien pagó para su mayor difusión. El video culmina con la invitación a visitar el link https://colombianfin.com con un engaño en el anuncio que dice El Tiempo.
El senador Iván Name, presidente del senado, advirtió en su perfil en X sobre la situación y pidió una investigación de las autoridades.
Evidencias
El perfil en Facebook que publicó el video se llama Su Oportunidad. Está identificado con el id 286085387912773 y fue creado el 27 de marzo. Es un perfil nuevo diseñado con la clara intención de publicar este video.
El link que está acompañado con el video es https://colombianfin.com (https://ghostarchive.org/archive/e4oRi).
Según Whois el nombre de dominio fue registrado en la ciudad de Reykjavík, capital de Islandia.
Este video se une a varias piezas digitales reportadas en este blog que tienen el mismo patrón. Noticias generadas probablemente con algún tipo de Inteligencia Artificial donde se usa la narrativa de una noticia y donde se usan presentadoras y presentadores de Noticias Caracol para supuestas estafas.
Este video muestra una vez más lo complicado y grave de esta situación en Colombia. El desarrollo técnico de falsear la imagen y voz de dos senadores en plena sesión del congreso es un riesgo altísimo para el país.
Aunque las presentaciones de los periodistas y los intervenciones de los senadores son de muy baja calidad tiene el potencial de engaño.
Además, aunque probablemente un alto porcentaje personas puedan identificar la falsedad, el desarrollo técnico de poner una voz y una imagen en plena sesión del congreso de Colombia es un desarrollo técnico avanzado. Especulando esta pueda ser una muestra de una técnica llamada Swap Face que consiste en cambiar una cara por otra a la que le adición la voz.
Actualmente no existen leyes ni reglamentaciones locales que permitan detener este tipo de situaciones en el país.
A pesar de que Facebook – Meta prohibe material sintético como este, los varios ejemplos documentados, muestran que la regla no se cumple.
Actualización, 1 de abril, 5:39
Aparece otro nuevo publicado donde nuevamente generan artificialmente la voz de una periodista de Caracol Noticias y del expresidente Álvaro Uribe.
Esta nueva estrategia es muy similar a la que narramos en este post y en la investigación sobre material sintético donde se utiliza la figura de jugadores de fútbol.
Este es el nuevo video:
Este nuevo video que circuló en Facebook desde el 12 de marzo ya fue chequeado por un fact checker colombiano y su difusión se detuvo. También está circulando otro con la imagen y voz de algún funcionario del Banco de la República pero no hemos podido obtener una copia. Este último video fue mostrado por Noticias Caracol.
Deja un comentario