Categoría: Inteligencia Artificial
-
Nuevo Caso de Suplantación de Identidad: Crean versión sintética de Juan Carlos Mora Uribe, Presidente de Bancolombia
Dos anuncios con una falsa figura de Juan Carlos Mora Uribe, presidente de Bancolombia y con potencial de engaño circulan en la plataforma publicitaria de Google. Los videos están apareciendo a audiencias en Youtube y posiblemente en partners de Google en Colombia. Es la primera vez que registramos un caso de contenido sintético en anuncios…
-
El video de Iván Márquez: Separando los hechos de las especulaciones
El pasado 11 de mayo a las 3:47 p.m. la cuenta en X de W radio publicó una versión editada de un video en el cual reaparecía Iván Márquez. Una vez se publicó iniciaron una serie de comentarios y publicaciones que sugerían que la pieza digital había sido creada por Inteligencia Artificial. El video hubiera…
-
Crean ridícula pero potencialmente creíble versión sintética de María Fernanda Cabal rapeando
La estrategia ha sido visto por 80.000 personas. Usan video de 2021 de actriz mexicana que hace parodia de los políticos de ese país. El 28 de abril fue publicado en los perfiles gustavo.petro05 y The Profeta01 un video modificado digitalmente donde se muestra una versión sintética de la senadora María Fernanda Cabal haciendo parte de un ridículo…
-
La posible alucinación deportiva de RCN
Sin saberlo el periodismo deportivo colombiano pudo ser afectado por la primera publicación masiva y viral producto de una posible alucinación generada por Inteligencia Artificial. El 20 de abril hinchas del fútbol se sorprendieron por una inexplicable publicación del portal CanalRCN.com. El texto afirmaba de forma sugerente y directa que el árbitro del partido Pereira…
-
Voz falsa de Gustavo Petro fue realizada en Elevan Labs
El audio que acompaña la burda versión sintética del presidente Gustavo Petro tiene una probabilidad del 98% de que haya sido generado con ElevenLabs. Eleven Labs desarrolló el AI Speech Classifier, una herramienta que detecta si un audio fue creado en esa plataforma. Según esta organización los audios generados por ellos tienen ciertas características detectables.…
-
Generan voz falsa de artista Karol G con el objetivo de llevar tráfico a una página web asociada a cuenta que podría ejecutar actividades ilegales
A pesar de lo que parecen estrictos controles que tiene Tik Tok para evitar el contenido peligroso el pasado 9 de abril la cuenta MLRYOVNG publicó un video con voz sintética de la cantante Karol G. En la entrevista original se puede escuchar la voz original de la cantante. Al compararla con el video falso…
-
El ataque de los anuncios estafadores
El día de hoy se activó masivamente una estrategia paga de anuncios en productos de Meta (Facebook – Instagram) cuyo objetivo es el de estafar colombianos. La estrategia es masiva y puede incluir más perfiles que los que acá están listados. Una estrategia de este nivel puede llegar con mensajes falsos a millones de Colombianos…
-
Crean versión sintética con la imagen del presidente Gustavo Petro
En un hecho que no tiene antecedentes en Colombia un grupo malicioso que viene desplegando una operación digital de estafa y Disinformation ha creado una versión artificial de la imagen y voz del presidente Gustavo Petro. El hecho podría calificarse de muy grave pues es la primera vez en la historia del país que, usando…
-
Serie: La estafa en Facebook que utilizaría Inteligencia Artificial para engañar colombianos
Como parte de nuestras investigaciones sobre Desinformación de Hyperconectado.co desde inicios de Febrero hemos documentado cómo un actor malicioso estaría usando Inteligencia Artificial para intentar una estafa. La estrategia se ha llevado a cabo en Colombia y Perú y se despliega con anuncios pagos en la plataforma Meta. En todos los casos se utiliza el…
-
Con posible uso de IA crean versiones falsas en video de senadores Iván Name y Mauricio Gómez Amin
El 29 de marzo de 2024 a las 5:18 de la mañana la página en Facebook identificada como Su Oportunidad publicó un video 1 minuto 45 segundos donde se observa versiones falsas de dos periodistas de Caracol Noticias y los senadores Iván Name y Mauricio Gómez Amin. El video es una noticia falsa que es…