Se registra un nuevo caso de uso de Inteligencia Artificial en Colombia que podría traspasar límites éticos y legales.
En una fecha que puede estar ubicada en los primeros días de Marzo fue publicado en una red social (posiblemente Tik tok) un video promocional de una película colombiana llamada Los de la Culpa.
La producción usó la figura y la voz de Javier Ibarrache – reconocido por utilizar sus redes sociales para hablar de cine – para promocionar un contenido que “saltó de Youtube a una película”
El post donde se habría usado IA ya no está en ninguna de las redes sociales de la producción y todo indica que fue borrado luego de las quejas de la persona afectada y el trolleo masivo de varios usurios.
Cuentas como @_NovelaGrafica o No es Brujería dan cuenta de que la publicación existió, estuvo al aire en alguna red social, y el propio afectado denunció el hecho.
Con estos post de Stories de Instagram la víctima de la clonación de la voz denunció el hecho. Estas historias ya no existen ya que desaparecen a las 24 horas de ser publicadas. Los pantallazos fueron tomados el día de hoy a las 9:00 de la mañana.
Clonación de voz y uso de imagen sin derechos
El video inicia con la figura de Ibarrache sobre el cartel de la película diciendo “no mamen esta película, no mamen esta película”.
La voz diciendo “no mamen esta película”, una especie de eslogan que se ha convertido en un me meme que el autor de las recomendaciones hace en varios de sus videos. Incluso Tik tok ha generado una frase de búsqueda con el popular dicho.
En esta primera parte del video se usa la imagen de Ibarrache en video que pudo ser extraído de otra pieza digital. A pesar de un rastreo de la imagen original, no se pudo encontrar.
El uso de la imagen de una persona que se hace pública en Tik Tok es una de las consecuencias de las publicaciones en redes sociales. A esto se le llama republicación y se usa todo el tiempo. A esto se le conoce como convertirse en meme.
Dejar solo la figura de una persona para sobreponerla en otra pieza gráfica es una actividad relativamente sencilla que se puede hacer en Tik tok o Cap Cut. Hasta acá, nada grave.
Lo cuestionable inicia a partir del segundo cuatro. “Pues ya vi la película de Los de la Culpa y estoy sin palabras, me he visto cada capítulo cada lunes a las 9:00 de la noche sin falta. Porque estos bueyes son risa segura”, dice una voz exacta a la de Ibarrache.Sin embargo, el dueño de la voz, afirma que no participó en ese video.
El 7 de marzo Ibarrache publicó esta imagen donde le dice a su millón de seguidores que “no tengo idea de qué es esa película, esta no es mi recomendación”.
Posteriormente el afectado publicó otra imagen donde les muestra a los colombianos las consecuencias del uso sin permiso de su voz. Hace referencia un mensaje de un usuario donde se demuestra un usuario engañado.
Durante 40 segundos se clonó la voz de Ibarrache para promocionar la película. “Háganse un favor y vean esta peli en sala porque las risas nunca van a sobrar en la vida y quien sabe si llega a plataformas pronto y es un gran paso para la comedia Latinoamericana”, concluyó la voz falsa.
Como parte de la documentación que hace este blog de uso de IA en Colombia hubiera sido útil conocer la opinión y forma de uso de la pieza con la voz falsa por parte de la producción de Los de la Culpa pero no respondieron. Se hizo una petición a la cuenta oficial de la producción en X pero no se respondió.
Se envió mensaje a uno de los comediantes por Whastapp y no respondió.
Quizás sea importante tener una opinión del suceso porque aparecen logos del Ministerio de Cultura y del gobierno nacional en el final del trailer de la película y justamente en estos momentos se debate en Colombia el uso ético de la IA.
Varios usuarios en Twitter y un video en TikTok dan cuenta que la idea de Los de la Culpa pudo ser parte de su acostumbrada forma de hacer humor. Unas cuentas afirman que había una advertencia de uso de IA y otras dicen que vieron el video sin saber que la voz era falsa.
No es posible saber a ciencia cierta cómo se efectuó esta operación sin la opinión de los creadores de la voz falsa.
Implicaciones
Este nuevo caso demuestra una vez más la masificación y facilidad de crear contenido en audio falso.
Hoy es posible crear una voz artificial invirtiendo un tiempo para entender los procedimientos y pagando unos pocos dólares a servicios en línea que prometen crear versiones artificiales de cualquier voz.
Para muchas personas esto no tendrían mayor problema pero este segundo caso registrado en este blog es una advertencia sobre los peligros que puede generar el uso de la IA en un país como Colombia.
Ya es claro que es posible técnicamente crear una voz falsa de un personaje público.
La legislación colombiana no está preparada para este tipo de situaciones digitales que podrían afectar todo tipo de instituciones en Colombia.
Hasta el momento, al menos en las investigaciones que se han hecho desde Hyperconectado.co, no se han encontrado o no existe forma técnica de detectar audios falsos creados con IA. Varias páginas web prometen ese servicio pero los resultados de los análisis que hacen son equivocados.
Al parecer, la realidad es que es un imposible técnico saber con precisión matemática y evidencia irrefutable si un audio es falso o no lo es. Solo es posible saber sobre este tipo de prácticas cuando las víctimas hacen la denuncia.
Para rematar el contenido sintético es prohibido por la mayoría de redes sociales. Tik Tok afirma “No permitimos ningún medio sintético que contenga la representación o simulación de una persona privada“
Deja un comentario