{"id":513,"date":"2024-03-08T13:43:40","date_gmt":"2024-03-08T18:43:40","guid":{"rendered":"https:\/\/blog.hyperconectado.co\/?p=513"},"modified":"2024-04-24T11:49:30","modified_gmt":"2024-04-24T16:49:30","slug":"produccion-colombiana-habria-usado-inteligencia-artificial-para-clonar-voz-de-reconocido-difusor-de-cine-para-promocionar-pelicula","status":"publish","type":"post","link":"https:\/\/blog.hyperconectado.co\/index.php\/2024\/03\/08\/produccion-colombiana-habria-usado-inteligencia-artificial-para-clonar-voz-de-reconocido-difusor-de-cine-para-promocionar-pelicula\/","title":{"rendered":"Producci\u00f3n colombiana habr\u00eda usado Inteligencia Artificial para clonar voz de reconocido difusor de cine para promocionar pel\u00edcula"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Se registra un nuevo caso de uso de Inteligencia Artificial en Colombia que podr\u00eda traspasar l\u00edmites \u00e9ticos y legales. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En una fecha que puede estar ubicada en los primeros d\u00edas de Marzo fue publicado en una red social (posiblemente Tik tok) un video promocional de una pel\u00edcula colombiana llamada Los de la Culpa. <\/p>\n\n\n\n<figure class=\"wp-block-video\"><video height=\"1920\" style=\"aspect-ratio: 886 \/ 1920;\" width=\"886\" controls src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/RPReplay_Final1709914717.mp4\"><\/video><figcaption class=\"wp-element-caption\">Video publicado en alg\u00fan canal digital de Los de la Culpa. Crearon una versi\u00f3n falsa de la voz de de Javier Ibarrache para promocionar la pel\u00edcula. Video cortes\u00eda de @_NovelaGrafica<br><br><\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">La producci\u00f3n us\u00f3 la figura y la voz de Javier Ibarrache &#8211; reconocido por utilizar sus redes sociales para hablar de cine &#8211;  para promocionar un contenido que &#8220;salt\u00f3 de Youtube a una pel\u00edcula&#8221;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El post donde se habr\u00eda usado IA ya no est\u00e1 en ninguna de las redes sociales de la producci\u00f3n y todo indica que fue borrado luego de las quejas de la persona afectada y el trolleo masivo de varios usurios. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cuentas como <a href=\"https:\/\/x.com\/_NovelaGrafica\/status\/1765844918344327472?s=20\">@_NovelaGrafica<\/a> o<a href=\"https:\/\/vm.tiktok.com\/ZMMjuC629\/\"> No es Brujer\u00eda <\/a>dan cuenta de que la publicaci\u00f3n existi\u00f3, estuvo al aire en alguna red social, y el propio afectado denunci\u00f3 el hecho. <\/p>\n\n\n\n<figure class=\"wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-1 is-layout-flex wp-block-gallery-is-layout-flex\">\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"473\" height=\"1024\" data-id=\"525\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-473x1024.png\" alt=\"\" class=\"wp-image-525\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-473x1024.png 473w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-139x300.png 139w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-768x1663.png 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-709x1536.png 709w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487-946x2048.png 946w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4487.png 1125w\" sizes=\"auto, (max-width: 473px) 100vw, 473px\" \/><\/figure>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"473\" height=\"1024\" data-id=\"524\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-473x1024.png\" alt=\"\" class=\"wp-image-524\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-473x1024.png 473w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-139x300.png 139w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-768x1663.png 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-709x1536.png 709w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486-946x2048.png 946w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4486.png 1125w\" sizes=\"auto, (max-width: 473px) 100vw, 473px\" \/><\/figure>\n<\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Con estos post de Stories de Instagram la v\u00edctima de la clonaci\u00f3n de la voz denunci\u00f3 el hecho. Estas historias ya no existen ya que desaparecen a las 24 horas de ser publicadas. Los pantallazos fueron tomados el d\u00eda de hoy a las 9:00 de la ma\u00f1ana. <\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Clonaci\u00f3n de voz y uso de imagen sin derechos<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">El video inicia con la figura de Ibarrache sobre el cartel de la pel\u00edcula diciendo &#8220;no mamen esta pel\u00edcula, no mamen esta pel\u00edcula&#8221;.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La voz diciendo &#8220;no mamen esta pel\u00edcula&#8221;,  una especie de eslogan que se ha convertido en un me meme que el autor de las recomendaciones hace en varios de sus videos.  Incluso <a href=\"https:\/\/www.tiktok.com\/search?lang=es&amp;q=no%20mames%20esta%20pel%C3%ADcula&amp;t=1709916147437\">Tik tok ha generado una frase de b\u00fasqueda con el popular dicho.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En esta primera parte del video se usa la imagen de Ibarrache en video que pudo ser extra\u00eddo de otra pieza digital. A pesar de un rastreo de la imagen original, no se pudo encontrar. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El uso de la imagen de una persona que se hace p\u00fablica en Tik Tok es una de las consecuencias de las publicaciones en redes sociales. A esto se le llama republicaci\u00f3n y se usa todo el tiempo. A esto se le conoce como convertirse en meme.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dejar solo la figura de una persona para sobreponerla en otra pieza gr\u00e1fica es una actividad relativamente sencilla que se puede hacer en Tik tok o Cap Cut. Hasta ac\u00e1, nada grave. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Lo cuestionable inicia a partir del segundo cuatro.<\/strong> &#8220;Pues ya vi la pel\u00edcula de Los de la Culpa y estoy sin palabras, me he visto cada cap\u00edtulo cada lunes a las 9:00 de la noche sin falta. Porque estos bueyes son risa segura&#8221;, dice una voz exacta a la de Ibarrache.Sin embargo, el due\u00f1o de la voz, afirma que no particip\u00f3 en ese video. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El 7 de marzo Ibarrache public\u00f3 esta imagen donde le dice a su mill\u00f3n de seguidores que &#8220;<strong>no tengo idea de qu\u00e9 es esa pel\u00edcula, esta no es mi recomendaci\u00f3n&#8221;.<\/strong> <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Posteriormente el afectado public\u00f3 otra imagen donde les muestra a los colombianos las consecuencias del uso sin permiso de su voz. Hace referencia un mensaje de un usuario donde se demuestra un usuario enga\u00f1ado.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Durante 40 segundos se clon\u00f3 la voz de Ibarrache para promocionar la pel\u00edcula. &#8220;H\u00e1ganse un favor y vean esta peli en sala porque las risas nunca van a sobrar en la vida y quien sabe si llega a plataformas pronto y es un gran paso para la comedia Latinoamericana&#8221;, concluy\u00f3 la voz falsa.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Como parte de la documentaci\u00f3n que hace este blog de uso de IA en Colombia hubiera sido \u00fatil conocer la opini\u00f3n y forma de uso de la pieza con la voz falsa por parte de la producci\u00f3n de Los de la Culpa pero no respondieron.  Se hizo una petici\u00f3n a la cuenta oficial de la producci\u00f3n en X pero no se respondi\u00f3. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Se envi\u00f3 mensaje a uno de los comediantes por Whastapp y no respondi\u00f3. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quiz\u00e1s sea importante tener una opini\u00f3n del suceso porque aparecen logos del Ministerio de Cultura y del gobierno nacional en el final del trailer de la pel\u00edcula y justamente en estos momentos se debate en Colombia el uso \u00e9tico de la IA. <\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"895\" src=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4490-1024x895.jpg\" alt=\"\" class=\"wp-image-526\" srcset=\"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4490-1024x895.jpg 1024w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4490-300x262.jpg 300w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4490-768x671.jpg 768w, https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/IMG_4490.jpg 1125w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Seg\u00fan este pantalla tomado del trailer de la pel\u00edcula el Ministerio de Cultura y el gobierno nacional tiene alg\u00fan tipo de participaci\u00f3n en la producci\u00f3n.<\/figcaption><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Varios usuarios en Twitter y un video en TikTok dan cuenta que la idea de Los de la Culpa pudo ser parte de su acostumbrada forma de hacer humor. Unas cuentas afirman que hab\u00eda una advertencia de uso de IA y otras dicen que vieron el video sin saber que la voz era falsa. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No es posible saber a ciencia cierta c\u00f3mo se efectu\u00f3 esta operaci\u00f3n sin la opini\u00f3n de los creadores de la voz falsa. <\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Implicaciones <\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Este nuevo caso demuestra una vez m\u00e1s la masificaci\u00f3n y facilidad de crear contenido en audio falso. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/blog.hyperconectado.co\/index.php\/2023\/10\/24\/montajes-de-audio-con-inteligencia-artificial-en-contextos-politicos-realidad-o-marketing\/\">Hoy es posible crear una voz artificial invirtiendo un tiempo para entender los procedimientos <\/a>y pagando unos pocos d\u00f3lares a servicios en l\u00ednea que prometen crear versiones artificiales de cualquier voz. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para muchas personas esto no tendr\u00edan mayor problema pero este segundo caso registrado en este blog es una advertencia sobre los peligros que puede generar el uso de la IA en un pa\u00eds como Colombia.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ya es claro que es posible t\u00e9cnicamente crear una voz falsa de un personaje p\u00fablico. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La legislaci\u00f3n colombiana no est\u00e1 preparada para este tipo de situaciones digitales que podr\u00edan afectar todo tipo de instituciones en Colombia. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Hasta el momento, al menos en las investigaciones que se han hecho desde Hyperconectado.co, no se han encontrado o no existe forma t\u00e9cnica de detectar audios falsos creados con IA. Varias p\u00e1ginas web prometen ese servicio pero los resultados de los an\u00e1lisis que hacen son equivocados.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Al parecer, la realidad es que es un imposible t\u00e9cnico saber con precisi\u00f3n matem\u00e1tica y evidencia irrefutable si un audio es falso o no lo es. Solo es posible saber sobre este tipo de pr\u00e1cticas cuando las v\u00edctimas hacen la denuncia. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para rematar el contenido sint\u00e9tico es prohibido por la mayor\u00eda de redes sociales. Tik Tok  afirma &#8220;<strong>No permitimos ning\u00fan medio sint\u00e9tico que contenga la representaci\u00f3n o simulaci\u00f3n de una persona privada<\/strong>&#8220;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Se registra un nuevo caso de uso de Inteligencia Artificial en Colombia que podr&iacute;a traspasar l&iacute;mites &eacute;ticos y legales. En una fecha que puede estar ubicada en los primeros d&iacute;as de Marzo fue publicado en una red social (posiblemente Tik tok) un video promocional de una pel&iacute;cula colombiana llamada Los de la Culpa. La producci&oacute;n [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":528,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[34,67,10],"tags":[66,68],"class_list":["post-513","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-desinformacion","category-inteligencia-artificial","category-investigaciones","tag-inteligencia-artificial","tag-los-de-la-culpa"],"jetpack_featured_media_url":"https:\/\/blog.hyperconectado.co\/wp-content\/uploads\/2024\/03\/Designer-3.jpeg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/513","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/comments?post=513"}],"version-history":[{"count":11,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/513\/revisions"}],"predecessor-version":[{"id":530,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/posts\/513\/revisions\/530"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media\/528"}],"wp:attachment":[{"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/media?parent=513"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/categories?post=513"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.hyperconectado.co\/index.php\/wp-json\/wp\/v2\/tags?post=513"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}