Se ha detectado una operación activa de desinformación que utiliza versiones creadas con inteligencia artificial de figuras públicas como el periodista deportivo Iván Mejía, la actriz Margarita Rosa de Francisco y el doctor Santiago Rojas.
El video que afecta a Mejía Álvarez genera una imagen artificial del periodista y fue publicado el 28 de febrero a las 4:23 a. m. en una página de Facebook identificada con el ID 529590656904556, promovida como “Medical Advisor: Health Under Control”.
En este video, se presenta una supuesta cura para la hipertensión y una narración falsa en la que el periodista, cuya imagen ha sido utilizada ilegalmente, afirma haber superado una enfermedad grave. La pieza audiovisual tiene una duración de tres minutos.
Manipulación con IA
El video emplea una técnica denominada Lip Sync IA, que permite modificar el movimiento de los labios para que coincidan con un nuevo audio. En términos sencillos, funciona como una “capa de labios falsos” sincronizada con una pista de audio alterada.
Para crear este video, se utilizó una entrevista real de Mejía Álvarez en el programa Se Dice de Mí. Mediante inteligencia artificial, se entrenó su voz para generar un guion falso y se sincronizaron burdamente los labios con un audio que el comunicador retirado nunca pronunció.
Otras víctimas
Margarita Rosa de Francisco también ha sido víctima de esta estrategia. Como en el caso de Mejía, se creó una narración sintética sobre la hipertensión, utilizando la misma técnica de Lip Sync IA y un entrenamiento de voz para generar un guion ficticio.
El doctor Santiago Rojas es otro de los más afectados. Es usado como parte del guión en los dos videos. Este doctor ha sido blanco recurrente de desinformación sobre temas de salud, como lo ha reportado el medio La Silla Vacía.
Origen y difusión
Esta operación de desinformación sigue distintos métodos para promover falsas curas para la hipertensión.
La página de Facebook utilizada en este caso fue creada el 11 de enero de 2015. Aunque su información de contacto la ubica en Vietnam, los administradores que publican el contenido están en Bangladesh y Estados Unidos.
Uno de los aspectos más preocupantes es que esta página tiene anuncios publicitarios activos en Meta.
Durante el tiempo en que las víctimas no fueron conscientes del engaño, los estafadores pudieron pagar anuncios para amplificar su difusión.
Aunque no hay evidencia de que estos anuncios incluyeran la imagen de Mejía o de Francisco, existen registros de dos anuncios que circularon el 28 y el 24 de febrero, aunque actualmente solo queda una imagen de una silla como rastro de su existencia.
Los estafadores utilizan diversas técnicas para evadir los algoritmos de verificación de Meta y seguir publicando contenido engañoso sin ser detectados.
Implicaciones y vacíos legales
Las personas afectadas tienen pocas opciones para combatir este tipo de contenido. A pesar de la difusión masiva y las denuncias, este material puede permanecer en línea indefinidamente.
La responsabilidad inicial recae en Meta Colombia, pero, como se ha denunciado en múltiples ocasiones en este blog, la empresa no tiene una representación clara ni una figura responsable en el país para atender estos casos.
Desde el punto de vista legal, resulta complejo tipificar nuevos delitos relacionados con el uso sintético de la imagen de figuras públicas, especialmente cuando los responsables operan desde el extranjero.
Este problema es parte de un fenómeno global que requiere soluciones urgentes en el ámbito legal, técnico y regulatorio.
ACTUALIZACIÓN, 5 de marzo: El producto Furoma y su falta de registro sanitario
Tras una investigación más profunda, se ha descubierto que la finalidad de estos videos falsos es promocionar un producto llamado Furoma, supuestamente destinado a tratar la hipertensión.
Como se sospechaba, la estrategia de desinformación emplea anuncios pagos para llegar a una audiencia masiva: uno de estos anuncios ha sido visto al menos 170 mil veces.
El anuncio redirige a una landing page donde se presenta información sobre el producto y finalmente conduce a un formulario de captura de datos. Es muy probable que las personas que ingresan sus datos sean posteriormente contactadas por vendedores de Furoma.
Este producto se comercializa ampliamente en diversas plataformas y redes sociales. Sin embargo, al revisar la base de datos del Instituto Nacional de Vigilancia de Medicamentos y Alimentos (Invima), se ha confirmado que Furoma no cuenta con registro sanitario en Colombia.
La gravedad de esta situación radica en que tanto Google Colombia como Meta Colombia permiten la difusión de anuncios de un producto sin autorización sanitaria, lo que representa un riesgo para la salud pública. La falta de regulación y supervisión en estas plataformas permite que productos no certificados sean promocionados masivamente sin control.
Implicaciones y vacíos legales
Las personas afectadas tienen pocas opciones para combatir este tipo de contenido. A pesar de la difusión masiva y las denuncias, este material puede permanecer en línea indefinidamente. La responsabilidad inicial recae en Meta Colombia, pero, como se ha denunciado en múltiples ocasiones, la empresa no tiene una representación clara ni una figura responsable en el país para atender estos casos.
Desde el punto de vista legal, resulta complejo tipificar nuevos delitos relacionados con el uso sintético de la imagen de figuras públicas, especialmente cuando los responsables operan desde el extranjero.
Este problema es parte de un fenómeno global que requiere soluciones urgentes en el ámbito legal, técnico y regulatorio.
Deja un comentario