{"id":818,"date":"2024-05-14T16:46:39","date_gmt":"2024-05-14T21:46:39","guid":{"rendered":"https:\/\/blog.hyperconectado.co\/?p=818"},"modified":"2024-05-14T16:46:40","modified_gmt":"2024-05-14T21:46:40","slug":"el-video-de-ivan-marquez-separando-los-hechos-de-las-especulaciones","status":"publish","type":"post","link":"https:\/\/blog.hyperconectado.co\/index.php\/2024\/05\/14\/el-video-de-ivan-marquez-separando-los-hechos-de-las-especulaciones\/","title":{"rendered":"El video de Iv\u00e1n M\u00e1rquez: Separando los hechos de las especulaciones"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">El pasado 11 de mayo a las 3:47 p.m. la cuenta en X de W radio public\u00f3 una versi\u00f3n editada de un video en el cual reaparec\u00eda Iv\u00e1n M\u00e1rquez. Una vez se public\u00f3 iniciaron una serie de comentarios y publicaciones que suger\u00edan que la pieza digital hab\u00eda sido creada por Inteligencia Artificial.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-rich is-provider-twitter wp-block-embed-twitter\"><div class=\"wp-block-embed__wrapper\">\n<div class=\"embed-x\"><blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\"><p lang=\"es\" dir=\"ltr\"><a href=\"https:\/\/x.com\/hashtag\/NoticiaW?src=hash&amp;ref_src=twsrc%5Etfw\">#NoticiaW<\/a> | \u201cSoplan vientos de Constituyente\u201d, dijo &#39;Iv\u00e1n M\u00e1rquez&#39; tras su reaparici\u00f3n en video. <br><br>Agreg\u00f3 que \u201cla Segunda Marquetalia se la juega por una Asamblea Nacional\u201d. <a href=\"https:\/\/t.co\/fZLzTrqPVA\">pic.twitter.com\/fZLzTrqPVA<\/a><\/p>&mdash; W Radio Colombia (@WRadioColombia) <a href=\"https:\/\/x.com\/WRadioColombia\/status\/1789396980336120276?ref_src=twsrc%5Etfw\">May 11, 2024<\/a><\/blockquote><script async src=\"https:\/\/platform.x.com\/widgets.js\" charset=\"utf-8\"><\/script><\/div>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">El video hubiera pasado desapercibido de no ser porque es la primera prueba en video de una persona que\u00a0se<a href=\"https:\/\/insightcrime.org\/es\/noticias-crimen-organizado-colombia\/luciano-marin-ivan-marquez\/?_gl=1*16m0964*_ga*NTYyNTQ1NDIxLjE3MTU3MjE3NzQ.*_ga_27CNJPD4K9*MTcxNTcyMTc3My4xLjEuMTcxNTcyMTc3NC41OS4wLjkzNzEyNjU0Nw..*_ga_DDHRSLDESP*MTcxNTcyMTc3NC4xLjAuMTcxNTcyMTc3NC4wLjAuMA..\"> consideraba muerta<\/a> y porque varios medios de comunicaci\u00f3n (<a href=\"https:\/\/www.infobae.com\/colombia\/2024\/05\/12\/reaparicion-de-ivan-marquez-provoco-suspicacias-se-hizo-inteligencia-artificial-el-video\/\">1<\/a>,<a href=\"https:\/\/www.pulzo.com\/nacion\/video-ivan-marquez-gobierno-aclaro-su-autenticidad-PP3640298A\">2<\/a>,<a href=\"https:\/\/www.infobae.com\/colombia\/2024\/05\/12\/reaparicion-de-ivan-marquez-provoco-suspicacias-se-hizo-inteligencia-artificial-el-video\/\">3<\/a>) y usuarios de redes sociales (<a href=\"https:\/\/x.com\/Grunt_Slayer\/status\/1789553405557440880\">1<\/a>,<a href=\"https:\/\/x.com\/Patico409\/status\/1789959349621690652\">2<\/a>,<a href=\"https:\/\/x.com\/MikeSelector\/status\/1790030664005231022\">3<\/a>,<a href=\"https:\/\/x.com\/PinoKiefer\/status\/1790113087640469806\">4<\/a>)\u00a0\u00a0pusieron en duda su autenticidad. Lo califican como un \u201cfake\u201d creado con inteligencia artificial.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Determinar si un contenido digital es creado con un aplicativo que use\u00a0\u00a0LLM (Modelo de Lenguaje de Gran Tama\u00f1o) es una tarea compleja y en algunos casos imposible. Sin embargo, ciertas se\u00f1ales pueden otorgar pistas sobre la autenticidad o no de una pieza digital.\u00a0\u00a0Hicimos diversas pruebas para tratar de entender qu\u00e9 pasa con el video publicado por W Radio.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Un video sospechoso<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Por supuesto el video podr\u00eda levantar sospechas. Cualquier usuario de Internet podr\u00eda calificarlo como extra\u00f1o. Sin embargo, este calificativo, lejos de ser una prueba de uso de IA, tiene que ver con la edici\u00f3n del video y el af\u00e1n de publicarlo primero.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Varios elementos a tener en cuenta: El video original fue editado con un tama\u00f1o de 1280 PX de ancho por 720 PX de largo, seg\u00fan la propia metadata del video.\u00a0\u00a0<\/p>\n\n\n\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"416\" height=\"264\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.44.50-AM.png\" alt=\"\" class=\"wp-image-819\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.44.50-AM.png 416w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.44.50-AM-300x190.png 300w\" sizes=\"auto, (max-width: 416px) 100vw, 416px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Por su parte el video publicado por W radio est\u00e1 creado en un template de tama\u00f1o 1:1 y editado en otro tama\u00f1o 9:16. Estas son las dimensiones t\u00e9cnicas que se conocen como relaciones de aspecto.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Las diferencias entre el video original y el editado por W radio dan una primera pista. Para que W radio pudiera publicar ese video tuvo que hacer alg\u00fan truco t\u00e9cnico para solo enfocar el rostro de M\u00e1rquez. Cualquier soluci\u00f3n para hacer esto le quitar\u00e1 calidad al video ya que deben cortar buena parte de la pantalla como lo muestra esta gr\u00e1fica.\u00a0<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"573\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.32.12-PM-1024x573.png\" alt=\"\" class=\"wp-image-820\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.32.12-PM-1024x573.png 1024w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.32.12-PM-300x168.png 300w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.32.12-PM-768x429.png 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.32.12-PM.png 1268w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Esta es una de las razones por las cuales el video \u201cse ve como raro\u201d. <strong>Es un tema de calidad de la imagen.\u00a0<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por otro lado, y m\u00e1s como para informaci\u00f3n general, el\u00a0\u00a0video original publicado por la p\u00e1gina Farc-ep.net (<a href=\"http:\/\/farc-ep.net\/?p=5149\">http:\/\/farc-ep.net\/?p=5149<\/a>) tiene una duraci\u00f3n de 16:44. El video de W radio es de 1:46.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El video original en el tama\u00f1o y peso original.<\/p>\n\n\n\n<figure class=\"wp-block-video\"><video height=\"720\" style=\"aspect-ratio: 1280 \/ 720;\" width=\"1280\" controls src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/SALUDO_FORO_1-1.mp4\"><\/video><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Una idea concluyente: Se modific\u00f3 el tama\u00f1o del video y existi\u00f3 una intencionalidad editorial para priorizar en 1:46 un video de 16 minutos.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>T\u00e9cnicas descartadas<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Hoy existen muchas formas de crear contenido sint\u00e9tico y un buen n\u00famero de ampliativos que usan diversas LLM que facilitan la creaci\u00f3n de contenido sint\u00e9tico.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sin embargo, hist\u00f3ricamente, al menos en lo que hemos documentado en este blog, la principal t\u00e9cnica usada consiste en crear una voz artificial y usar <a href=\"http:\/\/blog.hyperconectado.co\/index.php\/2024\/04\/29\/crean-ridicula-pero-potencialmente-creible-version-sintetica-de-maria-fernanda-cabal-rapeando\/\">la t\u00e9cnica de Swap Face para crear una versi\u00f3n sint\u00e9tica en video.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El &#8220;swap face&#8221; es una t\u00e9cnica de edici\u00f3n de fotos y videos que implica intercambiar las caras de dos personas en una imagen o clip.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esto se logra mediante el uso de software o aplicaciones especializadas que detectan autom\u00e1ticamente las caras en una imagen y luego las intercambian, creando una ilusi\u00f3n convincente de que las caras han sido intercambiadas entre las dos personas.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para crear un Swap face cre\u00edble lo m\u00e1s importante es contar con el audio de la persona.&nbsp;&nbsp;Aunque existen varias aplicaciones donde uno puede crear una voz falsa la principal de estas herramientas es de la empresa Eleven Labs.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta compa\u00f1\u00eda vende un servicio, donde uno sube un buen n\u00famero de voces de la persona que uno quiere imitar y as\u00ed se desarrolla la versi\u00f3n sint\u00e9tica. <a href=\"http:\/\/blog.hyperconectado.co\/index.php\/2023\/10\/24\/montajes-de-audio-con-inteligencia-artificial-en-contextos-politicos-realidad-o-marketing\/\">El servicio es relativamente barato y en las investigaciones que hemos hecho es el que han usado en Colombia.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A diferencia de otros servicios, Eleven Labs no es complejo t\u00e9cnicamente, es relativamente barato y tiene resultados aceptables. Las voces que uno puede crear son relativamente parecidas a las reales.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para determinar si la voz de Iv\u00e1n M\u00e1rquez es real descargamos el video original y creamos un clip de audio que luego subimos al AI Speech Classifier, una herramienta creada por Eleven Labs para detectar si alguien us\u00f3 sus algoritmos para crear una voz falsa.\u00a0<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"391\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.39.17-AM-1024x391.png\" alt=\"\" class=\"wp-image-823\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.39.17-AM-1024x391.png 1024w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.39.17-AM-300x114.png 300w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.39.17-AM-768x293.png 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-13-at-10.39.17-AM.png 1221w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Los resultados indican que existe la posibilidad de que hayan creado la voz de Marquez con esta herramienta es de 2%, es decir, poco probable.\u00a0\u00a0<a href=\"http:\/\/blog.hyperconectado.co\/index.php\/2024\/04\/12\/voz-falsa-de-gustavo-petro-fue-realizada-en-elevan-labs\/\">Esta herramienta la hemos corrido para analizar la voz falsa de Petro y ha dicho que s\u00ed se cre\u00f3 con este aplicativo.\u00a0<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se puede afirmar, basado en la evidencia, que no fue usada la t\u00e9cnica de crear la voz falsa con Eleven Labs.\u00a0<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Operaci\u00f3n Coordinada&nbsp;<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\"><strong><br><\/strong>En medio de la explosi\u00f3n de comentarios que gener\u00f3 el post se evidencian mensajes que buscan posicionar la idea de que es creado con IA.\u00a0<br><br>Esto lo hacen todo tipo de cuentas. Tanto de usuarios comunes y corrientes que expresan su opini\u00f3n pero tambi\u00e9n de cuentas altamente sospechosas.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se lograron identificar al menos 20 cuentas an\u00f3nimas cuya intencionalidad es la de crear la idea de que es un mensaje con IA.\u00a0\u00a0<strong>No se publican las cuentas por el riesgo que esto genera.\u00a0<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por supuesto no todos los mensajes son de bots o cuentas coordinadas.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Una gran parte de los mensajes generados son de usuarios comunes y corrientes que creen que es un video generado por IA. Hasta el momento, y en la lectura de los mensajes al trino de W radio, ninguno de ellos muestra una evidencia que sustente t\u00e9cnicamente la idea.\u00a0<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Bajo est\u00e1ndar profesional<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Aunque este blog no es creado para hablar \u00e9ticamente de periodismo es evidente que existe una falla en la mayor\u00eda de publicaciones del video.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En ninguna de las publicaciones revisadas se le advirti\u00f3 a las audiencias que <strong>el video no hab\u00eda podido ser verificado.\u00a0\u00a0<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De hecho se public\u00f3 a manera de \u201cchiva\u201d y varios medios, entre ellos rtvc, lo consideran una pieza \u201cexclusiva\u201d. <\/p>\n\n\n\n<figure class=\"wp-block-image aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"449\" height=\"463\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.32-PM.png\" alt=\"\" class=\"wp-image-824\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.32-PM.png 449w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.32-PM-291x300.png 291w\" sizes=\"auto, (max-width: 449px) 100vw, 449px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<figure class=\"wp-block-image aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"431\" height=\"573\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.39-PM.png\" alt=\"\" class=\"wp-image-825\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.39-PM.png 431w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/Screen-Shot-2024-05-14-at-4.43.39-PM-226x300.png 226w\" sizes=\"auto, (max-width: 431px) 100vw, 431px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Este accionar muestra que por encima del valor informativo est\u00e1 la rapidez con que se publique as\u00ed no est\u00e9 verificado. <br><br>Una de las viejas pr\u00e1cticas del periodismo colombiano que al final genera un caldo de cultivo para la creaci\u00f3n de conspiraciones.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El pasado 11 de mayo a las 3:47 p.m. la cuenta en X de W radio public&oacute; una versi&oacute;n editada de un video en el cual reaparec&iacute;a Iv&aacute;n M&aacute;rquez. Una vez se public&oacute; iniciaron una serie de comentarios y publicaciones que suger&iacute;an que la pieza digital hab&iacute;a sido creada por Inteligencia Artificial. El video hubiera [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":826,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[34,67],"tags":[],"class_list":["post-818","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-desinformacion","category-inteligencia-artificial"],"jetpack_featured_media_url":"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/05\/este-muerto-esta-muy-vivo.jpeg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/818","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/comments?post=818"}],"version-history":[{"count":1,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/818\/revisions"}],"predecessor-version":[{"id":827,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/818\/revisions\/827"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media\/826"}],"wp:attachment":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media?parent=818"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/categories?post=818"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/tags?post=818"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}