{"id":997,"date":"2025-01-09T10:31:29","date_gmt":"2025-01-09T15:31:29","guid":{"rendered":"https:\/\/blog.hyperconectado.co\/?p=997"},"modified":"2025-01-09T10:35:47","modified_gmt":"2025-01-09T15:35:47","slug":"inteligencia-artificial-y-desinformacion-el-deepfake-de-alejandro-gaviria","status":"publish","type":"post","link":"https:\/\/blog.hyperconectado.co\/index.php\/2025\/01\/09\/inteligencia-artificial-y-desinformacion-el-deepfake-de-alejandro-gaviria\/","title":{"rendered":"Inteligencia Artificial y Desinformaci\u00f3n: El &#8216;deepfake&#8217; de Alejandro Gaviria"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">El pol\u00edtico y exministro de salud Alejandro Gaviria es v\u00edctima de un <em>deepfake<\/em> con un alto potencial de enga\u00f1o.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En el contenido digital falso que circula en varios canales digitales, la versi\u00f3n creada con t\u00e9cnicas de IA , apoya la reforma a la salud. Afirmaci\u00f3n que es totalmente contraria a la realidad y que se da justamente en medio de un fuerte debate digital <a href=\"https:\/\/www.elespectador.com\/salud\/informe-de-la-adres-abre-un-nuevo-capitulo-en-la-discusion-de-la-upc\/\" data-type=\"link\" data-id=\"https:\/\/www.elespectador.com\/salud\/informe-de-la-adres-abre-un-nuevo-capitulo-en-la-discusion-de-la-upc\/\">por un informe de &nbsp;la Adres.<\/a><\/p>\n\n\n\n<figure class=\"wp-block-video\"><video height=\"1280\" style=\"aspect-ratio: 720 \/ 1280;\" width=\"720\" controls src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/Video-sin-titulo-32.mp4\"><\/video><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/x.com\/agaviriau\/status\/1877149881371939129\" data-type=\"link\" data-id=\"https:\/\/x.com\/agaviriau\/status\/1877149881371939129\">Fue el mismo Gaviria quien inform\u00f3 en sus redes sociales que hab\u00eda sido v\u00edctima de la novedosa estrategia de desinformaci\u00f3n.<\/a> A simple vista, el video parece real y es dif\u00edcil de detectar, incluso para expertos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El video no utiliza las t\u00e9cnicas que anteriormente hemos reportado en este blog. No es un <a href=\"https:\/\/blog.hyperconectado.co\/index.php\/2024\/03\/29\/con-posible-uso-de-ia-crean-versiones-falsas-en-video-de-senadores-ivan-name-y-mauricio-gomez-amin\/\" data-type=\"link\" data-id=\"https:\/\/blog.hyperconectado.co\/index.php\/2024\/03\/29\/con-posible-uso-de-ia-crean-versiones-falsas-en-video-de-senadores-ivan-name-y-mauricio-gomez-amin\/\">Swap Face <\/a>que bien podr\u00eda hacer cualquier usuario que encuentre las herramientas digitales gratuitas que permiten hacer este tipo de contenido. &nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Es una pieza digital completa del cuerpo, rostro, movimiento de voz y tuvo que alimentar un LLM con la voz original. Es decir, existe un trabajo t\u00e9cnico para la creaci\u00f3n de la pieza, la descarga de un n\u00famero de audios y su posterior tratamiento. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta pieza digital ha generado una versi\u00f3n completamente sint\u00e9tica del pol\u00edtico, lo que constituye un avance t\u00e9cnico en el desarrollo de la IA. Al mismo tiempo es una pieza digital que sembrada en espacios digitales puede causar un gran da\u00f1o tanto a la v\u00edctima como a la discusi\u00f3n nacional de un tema tan delicado como la reforma a la salud.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Mientras el video original que fue publicado el 8 de enero de 2025 ya tiene 40 mil vistas y 1887 perfiles en la red Tik Tok lo han compartido el mensaje de advertencia de la v\u00edctima alcanz\u00f3 111.000 vistas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No se puede conocer con precisi\u00f3n t\u00e9cnica cu\u00e1ntas personas a ciencia cierta han visto el video falso y hoy pueden crear una opini\u00f3n totalmente diferente a la realidad. Una pieza como esta es indetectable si viaja por chat cerrados como Whastapp.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Solo basta hacer una lectura a los 634 comentarios que ha generado el video para darse cuenta de que muchas personas creen que es real. Esto ocurre a pesar de que el perfil se dedica a la creaci\u00f3n de contenido sint\u00e9tico<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"854\" height=\"1024\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9396-854x1024.jpg\" alt=\"\" class=\"wp-image-999\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9396-854x1024.jpg 854w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9396-250x300.jpg 250w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9396-768x921.jpg 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9396.jpg 1125w\" sizes=\"auto, (max-width: 854px) 100vw, 854px\" \/><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>El autor<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">El creador de este video es un activista pol\u00edtico digital an\u00f3nimo que tiene, al menos, perfiles muy activos en X y Tik Tok. A juzgar por su perfil en X se podr\u00eda decir que es un perfil progresista- pro-gobierno.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"532\" height=\"1024\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-532x1024.jpg\" alt=\"\" class=\"wp-image-1000\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-532x1024.jpg 532w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-156x300.jpg 156w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-768x1479.jpg 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-798x1536.jpg 798w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397-1064x2048.jpg 1064w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9397.jpg 1125w\" sizes=\"auto, (max-width: 532px) 100vw, 532px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">No es la primera vez que utiliza la Inteligencia artificial para crear contenido. De hecho, tiene varias versiones sint\u00e9ticas de pol\u00edticos como Mar\u00eda Fernanda Cabal, Miguel Uribe, Carlos Fernando Gal\u00e1n y \u00c1lvaro Uribe.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Su perfil en Tik Tok tiene 4080 seguidores y los videos que m\u00e1s alcanzan personas pueden llegar a ser vistos entre 10.000 y 15.000 veces. &nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El perfil en Tik Tok muestra que el autor ha venido haciendo una serie de experimentos con IA. Se pueden observar videos que hacen parte de experimentos donde la IA deforma las identidades originales creando monstruos y versiones \u201ccreepy\u201d de pol\u00edticos colombianos y figuras p\u00fablicas.<\/p>\n\n\n\n<figure class=\"wp-block-video\"><video height=\"576\" style=\"aspect-ratio: 1054 \/ 576;\" width=\"1054\" controls src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/v09044g40000ctpgl67og65g0f0te6r0.mp4\"><\/video><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">El perfil incumple de manera expl\u00edcita la regla de Medios Editados y Contenido Generado por IA de TikTok y la plataforma no deber\u00eda permitir que siga haciendo la actividad por el potencial da\u00f1o que produce. El contenido generado no constituir\u00eda un delito en Colombia y legalmente poco o nada se puede hacer para detenerlo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">&nbsp;\u201cNo permitimos contenido que comparta o muestre falsas fuentes autorizadas o eventos de crisis falsos, o que muestre falsamente figuras p\u00fablicas en determinados contextos\u201d, afirma la regla.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta regla se incumple sobre todo porque el autor no etiqueta su contenido como IA a pesar de las herramientas que ofrece la plataforma. Esto, sin duda, muestra que detr\u00e1s de los experimentos con IA existe una intencionalidad pol\u00edtica y una intenci\u00f3n de desinformar.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Frente a X la \u00fanica forma de moderaci\u00f3n posible es con las Notas de Comunidad y a pesar de que la propia v\u00edctima advierte varias veces que no es \u00e9l, las notas creadas por diferentes autores no han alcanzado el status de publicada. Es decir, el video seguir\u00e1 circulando sin ninguna advertencia salvo la de la v\u00edctima.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"473\" height=\"1024\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-473x1024.jpeg\" alt=\"\" class=\"wp-image-1002\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-473x1024.jpeg 473w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-139x300.jpeg 139w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-768x1663.jpeg 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-709x1536.jpeg 709w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1-946x2048.jpeg 946w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_33F937F4DD87-1.jpeg 1125w\" sizes=\"auto, (max-width: 473px) 100vw, 473px\" \/><figcaption class=\"wp-element-caption\">Este trino tiene una nota de comunidad pero a pesar de que es calificada como util, no se muestra a los usuarios.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Como lo hemos advertido en este blog a medida que las herramientas digitales sean m\u00e1s accesibles y los modelos de lenguaje sean m\u00e1s poderosos el potencial da\u00f1o de este tipo de contenido puede afectar de forma grave la discusi\u00f3n p\u00fablica sin que nadie puede hacer algo para detenerlo o por lo menos etiquetarlo y advertirlo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este fen\u00f3meno digital persistir\u00e1 y se convertir\u00e1 en un arma pol\u00edtica, especialmente cuando no existan m\u00e9todos t\u00e9cnicos para identificarlo.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>El pol&iacute;tico y exministro de salud Alejandro Gaviria es v&iacute;ctima de un deepfake con un alto potencial de enga&ntilde;o. En el contenido digital falso que circula en varios canales digitales, la versi&oacute;n creada con t&eacute;cnicas de IA , apoya la reforma a la salud. Afirmaci&oacute;n que es totalmente contraria a la realidad y que se [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":1003,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[34,67],"tags":[145,140,142,150,61,146,143,106,144,149,152,141,66,137,151,125,139,147,153,148],"class_list":["post-997","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-desinformacion","category-inteligencia-artificial","tag-adres","tag-alejandro-gaviria","tag-contenido-falso","tag-creacion-de-contenido-sintetico","tag-deepfake","tag-deepfake-en-colombia","tag-deepfakes-en-politica","tag-desinformacion-2","tag-estrategia-de-desinformacion","tag-etica-en-la-inteligencia-artificial","tag-figuras-publicas","tag-impacto-politico","tag-inteligencia-artificial","tag-manipulacion-digital","tag-moderacion-en-redes","tag-redes-sociales","tag-reforma-a-la-salud","tag-riesgos-de-la-ia","tag-tecnologia-deepfake","tag-tiktok"],"jetpack_featured_media_url":"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2025\/01\/IMG_9401.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/997","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/comments?post=997"}],"version-history":[{"count":2,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/997\/revisions"}],"predecessor-version":[{"id":1005,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/997\/revisions\/1005"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media\/1003"}],"wp:attachment":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media?parent=997"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/categories?post=997"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/tags?post=997"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}