Emilse Garzón explicó en LIM como se hizo el video falso de Mauricio Macri que causó polémica
Radio Con Vos - 19/5/2025 - Duracion: 13:23
Transcripción
00:00:00Esto cualquier cosa. Eh, está en línea
00:00:03Emilce Garzón, que es periodista, está
00:00:05especializada en tecnología. Eh, Emilce,
00:00:07¿cómo estás? Reinaldo 7K te saluda en
00:00:09radio con vos.
00:00:11Muy bien, muy bien. Eh, me gusta que
00:00:13salgan a la luz estos temas porque hace
00:00:15años que se vienen alertando, pero a
00:00:17veces es como que tiene que pasar de una
00:00:18forma tan evidente en la cara de todos
00:00:20para que se hable de la cuestión. A ver,
00:00:23eh, porque realmente hace años que se
00:00:25habla de este tema. Vos sabes que yo
00:00:27tengo siempre muy presente, eh, claro,
00:00:30fue de otra manera, que en la elección
00:00:33entre Hadad y Bolsonaro en Brasil hubo
00:00:37una movida de mensajes que llegaron creo
00:00:40que a 1,illón y medio de de cuentas de
00:00:42WhatsApp con una denuncia de pedofilia
00:00:44sobre edad. Y yo en cuando me enteré de
00:00:48esa de esa operación digo, "La pucha,
00:00:49¿cuánta gente habrá creído?" Y de pronto
00:00:52estaba dudando y no votó. Eh, en aquel
00:00:56momento estamos hablando de un mensaje
00:00:57que fraguaba una denuncia que era falsa,
00:01:00pero acá ahora tenés a la a las eh a las
00:01:03personas hablando, ¿no? Eh, ¿qué qué a
00:01:06ver qué reflexión haces vos? Bueno,
00:01:09primero que e esto de demostrar si es
00:01:12fácil o no, no es el tema. O sea,
00:01:14realmente de forma gratuita o paga todo
00:01:17el tiempo se hacen deep fakes o se hacen
00:01:20animaciones o se crean audios. que
00:01:22primero voy a aclarar algo. Mucha gente
00:01:24no sabe que es un deep fake. Eso hay que
00:01:27tenerlo ya eh puesto eh directamente en
00:01:31nuestra cara. ¿Por qué? Porque damos por
00:01:33sentado y noto que mucho en divulgación
00:01:35tecnológica o en periismo tecnológico se
00:01:37habla de esto. Y el último estudio, por
00:01:39lo menos en Latinoamérica, que que está
00:01:41disponible, que lo hizo la firma
00:01:43Kaspersk, que es una empresa de
00:01:44ciberseguridad, demostró que siete de
00:01:47cada 10 personas en Latinoamérica no
00:01:49sabe lo que es un deep fake. Explical.
00:01:52Un deep fake es una animación multimedia
00:01:55o un archivo multimedia, un video, un
00:01:58audio que simula algo que está en la
00:02:00realidad usando inteligencia artificial
00:02:02que cada vez es más avanzado. Entonces,
00:02:04puede ser un audio tomado, una bolla
00:02:06tomada de alguien, de algún político
00:02:08modificado con inteligencia artificial o
00:02:10un video modificado con inteligencia
00:02:12artificial y busca de alguna forma
00:02:14generar algún ruido respecto a la
00:02:16realidad, generar confusión. Entonces,
00:02:19cuando vos analizás a la población, te
00:02:22das cuenta que mucha gente no va a
00:02:24diferenciarlo porque hay una intención
00:02:27de generar ruido, de generar eh
00:02:30confusión electoral, básicamente con
00:02:31sobreinformación. Y es muy barato
00:02:34hacerlo y lo puede hacer, sí, casi
00:02:36cualquier persona con un poco de ganas,
00:02:39un tutorial de YouTube o pagando 20, 30
00:02:42algunas plataformas que te permiten
00:02:44hacerlo.
00:02:47¿Y cómo se evita? ¿Hay forma
00:02:50de evitar? Hay que Claro, ¿qué haces
00:02:52para Claro, claro? Eh, vos planteas que
00:02:55regulación para las redes.
00:02:57Regulación. Primero, a ver, cuando
00:02:59estábamos escuchando eh a mí lo que más
00:03:02me llamó la atención es cómo se toma
00:03:03desde el punto de vista de los
00:03:04funcionarios esta
00:03:06problemática. Básicamente cuando vos
00:03:08hablas de inteligencia artificial, hay
00:03:09usos que son
00:03:11excelentes vinculados con medicina,
00:03:13ciencia y otras cuestiones. Y hay otros
00:03:15como este estilo que hace años se viene
00:03:17hablando de cómo impactan en las
00:03:18democracias el uso de inteligencias
00:03:19artificiales. No solo esto que es un
00:03:21deep fake, sino en sistemas de monitoreo
00:03:24automatizados. eh vimos con la boleta
00:03:26única electrónica que es altamente
00:03:28hackeable, después los datos que se
00:03:30suben a la nube, cómo hay seguridad
00:03:32informática sobre eso. Entonces,
00:03:34tecnología, democracias y política
00:03:37tienen que estar analizadas y reguladas,
00:03:40pero principalmente como algo mínimo,
00:03:41por ejemplo, poner alguna sanción si hay
00:03:44algún tipo de video que está circulando
00:03:46y no tiene una marca de agua o algo que
00:03:48diga esto fue hecho con inteligencia
00:03:50artificial porque después hacia atrás a
00:03:53veces no es tan fácil rastrearlo.
00:03:54Creemos que con la tecnología, bueno,
00:03:56buscan el IP y ya está, no, no es tan
00:03:58fácil rastrearlo. Si no lo de Libra
00:03:59hubiera sido, si no fuera por
00:04:00blockchain, también por mensajes y demás
00:04:02hubiera sido más fácil y más rápido todo
00:04:04y quedó truncado. En este sentido, lo
00:04:07que tiene que ver con el uso de deepfes
00:04:09si es fácil hacerlo y la regulación va
00:04:12por esto, por quiénes están eh generando
00:04:15esos videos, con qué herramientas lo
00:04:17hacen, qué pasa si circulan videos o
00:04:20desinformación o fake news eh durante
00:04:23una etapa electoral. ¿Qué pasa si se usa
00:04:25en la campaña? Porque vimos que tanto
00:04:26Izquierda como Libertad de Avanza usaron
00:04:28inteligencia artificial generativa para
00:04:32eh promover eh sus candidaturas.
00:04:35Entonces, como todo pasa como si nada,
00:04:37cuando hay un problema ahí nos llama la
00:04:39atención. Pero algo más que quiero
00:04:41agregar, cuando estábamos hablando de,
00:04:43bueno, hay una cantidad de puntos de
00:04:45diferencia que no podemos decir que un
00:04:46deep fake eh es lo que genera eh un
00:04:49impacto en la votación, la realidad es
00:04:50que no es que se trata de un único eh
00:04:54disparo usando esta técnica de deep
00:04:55fakes. Es eh de manera esquemática.
00:04:58Trump lo hizo, lo utilizó en sus últimas
00:05:01elecciones, promovía en ex eh videos
00:05:05deep fakes de Taylor Swift, de Camala
00:05:07Harris. Y el tema es que cuando salen de
00:05:09ahí, porque vos tenés una audiencia que
00:05:11es la de Twitter, pero cuando sale de
00:05:12ahí y termina en un video que llega por
00:05:14WhatsApp una a un señor de 55 años que
00:05:17no tiene tiempo porque está laburando
00:05:19todos los días, porque ese es el
00:05:20problema con la tecnología, nos
00:05:21olvidamos que no es algo sencillo, que
00:05:24la gente se cree cosas que ve, se cree
00:05:26discursos, porque para poder
00:05:29diferenciar lo que es verdadero de lo
00:05:32que no lo es, necesitamos un pensamiento
00:05:35crítico. Y eso en China, por ejemplo, en
00:05:37Finlandia también, principalmente en
00:05:40Finlandia hace un par de años, que ya
00:05:41tienen en la escuela, por ejemplo, le
00:05:44dan información falsa y le dicen a los
00:05:46chicos de primero, segundo, tercer
00:05:47grado, "A ver, esto es verdadero, falso,
00:05:50¿por qué sí? ¿por qué no?" Entonces acá
00:05:52estamos con un exceso de data que es
00:05:54irreal, que se combina con la realidad y
00:05:57nos hace perder el rumbo. Entonces, esto
00:05:59es un deep fake, ¿sí? pero viene de
00:06:01forma esquemática utilizándose desde el
00:06:03lado de la libertad de Avanza, por
00:06:04supuesto que hace rato. Y lugares como
00:06:06plataformas como Twitter nunca lo bajan
00:06:09o lo bajan más tarde. En el caso de este
00:06:11video apareció horas después ya cuando
00:06:14se viralizó que era que era falso, pero
00:06:17Meta, por ejemplo, bajó sus
00:06:20restricciones respecto a desinformación,
00:06:22a pedido Claro. A ver, eh un un para
00:06:25tratar de resumir lo que venís
00:06:26planteando, ¿podría haber algún tipo de
00:06:29regulación que obligue, por ejemplo, e a
00:06:33que tenga que aparecer, no sé, como
00:06:35aparecía en un momento fotomontaje, que
00:06:38los medios ponían fotomontaje cuando no
00:06:40era una foto, eh, que diga esto fue
00:06:42hecho por inteligencia artificial. Eso
00:06:44podría ocurrir.
00:06:46Eso es una solicitud que habría que
00:06:47hacer y ver qué sanción hay en caso que
00:06:51se haya generado o se haya creado. Y
00:06:53después, por otro lado, también las
00:06:56plataformas identifican algunas personas
00:06:58que son reconocidas y dicen, "No, esto
00:07:01no lo puedes hacer. Esta persona es
00:07:02reconocida. Agarramos, no sé, a León
00:07:04Gieco. El León Jieco no lo podemos eh
00:07:06modificar. Entonces, hay que hacer
00:07:08exigencias también de esa manera. Pero
00:07:10para que algo sea sólido y fuerte en ese
00:07:13estilo se necesita como una unión como
00:07:15bloque de Mercosur. A ese nivel estamos
00:07:17porque el país solo no puede. ¿Cómo pasa
00:07:19con la Unión Europea, Emilce? Tengo una
00:07:21consulta. Jorge Terataon, ¿es fácil que
00:07:24Meta te baje algo o tenés que hacer todo
00:07:26un procedimiento para llegar a que lo
00:07:28baje o Instagram o
00:07:32E dependiendo que sea. Básicamente en el
00:07:35caso de de meta en primera instancia
00:07:38depende mucho quién sos y que llegues a
00:07:40un contacto real porque lo primero que
00:07:41hacen es filtrar a nivel algoritmos. te
00:07:43van a decir, "Mira, esta esta imagen que
00:07:45se subió eh directamente el algoritmo lo
00:07:48bajó porque creyó que era otra cosa y
00:07:50pasa muchísimo y después cosas que
00:07:52habrían que bajar como cuentas que
00:07:54estimulan a la pedofilia están ahí
00:07:55disponibles porque generan mucha
00:07:57interacción. Entonces, como no lo como
00:08:01lo conveniente es el llamado de atención
00:08:02y lo que se viraliza y lo que genera
00:08:05sensaciones, emociones mucho más
00:08:07polarizantes como el odio, el fanatismo,
00:08:10lo dejan. Ahora, si tenés un contacto
00:08:12directo con Meta, muchas veces si no te
00:08:14dan bola, ahí tenés que directamente
00:08:16hacer un pedido judicial como lo hizo lo
00:08:18hizo el pro. Pero más allá que lo bajen,
00:08:20una vez que llegó a internet, claro, se
00:08:23fue, se perdió. Emilce, ¿cómo te va?
00:08:26Federico Yaná te saluda. En el caso
00:08:28puntual este del video de Macri, eh, vos
00:08:31hablabas de que según el tipo de fake
00:08:33era más fácil rastrearlo. Eh, y una vez
00:08:35que se rastrea, más allá de las
00:08:36cuestiones penales que se puedan aplicar
00:08:38según la ley de cada país, la plataforma
00:08:40en sí eh puede debe eh ha hecho en su
00:08:46momento sanciones esas cuentas,
00:08:48¿no? Primero, la primera aclaración,
00:08:50quizás yo no lo no lo dije justamente
00:08:53muy claro, ¿no? que depende por el tipo
00:08:54de fake que eh se puede rastrear o no,
00:08:57sino que depende del trabajo que haga la
00:08:59plataforma, de cuándo se borra la
00:09:00información y como la investigación que
00:09:03hacen desde la justicia y la plataforma
00:09:06para que lleguen a la persona que subió
00:09:07el contenido. Eso por un lado, con
00:09:09cuestiones más técnicas, con forenses en
00:09:12lo que es cibernético.
00:09:14Pues eh si hay las sanciones que
00:09:17vinieron, por ejemplo, en el caso de
00:09:18Trump cuando pasó lo del Capitolio con
00:09:20todo lo el ruido que se había generado
00:09:21en ese momento, fue directamente una
00:09:24decisión de Twitter, de meta en ese
00:09:27momento, estamos hablando hace varios
00:09:29años atrás cuando el mundo estaba en
00:09:30otro lugar, ¿no? Ahora, principalmente
00:09:33se trata de una decisión que toma la
00:09:35plataforma eh desde sus políticas y
00:09:37miradas del mundo. Cuando vos pensas en
00:09:39Twitter en ex, tenés un mask que dice
00:09:43que frenar cierta información es cortar
00:09:47la libertad de expresión y no le importa
00:09:49si desinformación o no. De hecho, es la
00:09:50plataforma que donde más desinformación
00:09:52circula. Pero después, en el caso de
00:09:54meta, tenés e cuestiones vinculadas con
00:09:58el genocidio en en Gaza y eso
00:10:02dependiendo quién lo comparte, cantidad
00:10:03de seguidores, te baja que compartas eso
00:10:06o no. Entonces, ahí entre pedidos de
00:10:09justicia y después también tenés eh las
00:10:12condiciones y las políticas que tiene la
00:10:14plataforma, pero generalmente lo que
00:10:17sucede eh en las plataformas, en el caso
00:10:19de Meta, por ejemplo, le hacen caso al
00:10:21gobierno de turno, ¿no es así? O sea, si
00:10:25ya pasó con con ahora mismo con el
00:10:27gobierno de Javier Miley, que hubo
00:10:29migración de cuentas, por ejemplo,
00:10:31cuando Javier Miley, hubo migración de
00:10:33cuentas a nuevas cuentas de los
00:10:35ministerios. con la nueva gestión donde
00:10:38trasladó cuentas seguidores de la
00:10:40gestión
00:10:42actualas sin permiso de los usuarios. ¿Y
00:10:45eso qué fue? Por un pedido estricto que
00:10:47se hizo a Meta, porque Meta cumple con
00:10:49lo que le pide cada gobierno para eh
00:10:51poder estar en ese lugar, en ese país,
00:10:54con los usuarios de ese país. Eh,
00:10:56Emilse, porque todo eh todo genera
00:10:59desánimo, ¿no? Parece que es que es como
00:11:01que peleas contra algo que no se puede
00:11:03eh evitar. Eh, ¿hay alguna algunos
00:11:07logros en cuanto a regulación, a control
00:11:10estatal o control ciudadano de este tipo
00:11:14de información falsa? Que en el mundo
00:11:16que sepas.
00:11:18E la realidad es que quien más está
00:11:20trabajando es la Unión Europea, a quien
00:11:22también se le da como un discurso de eh
00:11:25no les está yendo bien económicamente y
00:11:27demás. O sea, eso también, ¿no?, que que
00:11:29se genera como, bueno, no permite que
00:11:30las tecnologías avancen. Ellos
00:11:33principalmente piden eh restricciones
00:11:35respecto a los datos, restricciones a
00:11:38los servidores, eh exigen ciertos
00:11:42pedidos se baje cierta información, se
00:11:44busca promover. No hay eh algo
00:11:47contundente, están mucho más enfocados
00:11:48en la privacidad que en la
00:11:50desinformación, aunque es un tema
00:11:51central. En el caso de Brasil, por
00:11:53ejemplo, sí tenés e solicitudes
00:11:57vinculadas con la privacidad otra vez,
00:11:59¿no? Que los menores de edad eh no
00:12:01puedan compartir información, que hayan
00:12:03muchos avisos y alertas, pero como esto
00:12:07tiene que ver con acciones que hacen los
00:12:09usuarios en las plataformas, es un poco
00:12:11más difícil porque una cosa es decir,
00:12:15bueno, ¿quién usa los datos? La
00:12:17plataforma. cortamos o tratamos de
00:12:19intervenir en que la plataforma no use
00:12:21ciertos datos. Ahora, ¿quién crea este
00:12:24contenido? Y se usa una una plataforma
00:12:26como Sunomi, Journey, Hayen, que son
00:12:28plataformas de inteligencia artificial
00:12:29generativa que pueden generar fakes. Lo
00:12:31hace cualquier usuario, lo hace una
00:12:33cantidad de trolls y lo empieza a
00:12:35multiplicar. Entonces, por eso es más
00:12:37difícil es la justificación que tienen.
00:12:39Ahora, ¿se puede exigir que sea algo?
00:12:42Sí, es cuestión de que algunos partidos
00:12:44políticos se pongan en línea y digan,
00:12:45"Che,
00:12:47sí. con cosas más pesadas, cuando se
00:12:50agarra una imagen de una persona menor
00:12:51de edad y se la hace vestir en con
00:12:54lencería y que después pasa Telegram,
00:12:55¿no? Bueno, eso puede hacerse un pedido,
00:12:58pero es muy lento, pero no hay que
00:13:00desanimarse, eh, porque lo importante es
00:13:03que por lo menos estamos hablando del
00:13:04tema. Esto no pasaba antes. Claro, es un
00:13:06paso, pero hay que esperar mucho más de
00:13:08esto, me parece, que eso es lo otro que
00:13:09también hay que tener en cuenta. Eh,
00:13:12Emilce, muchísimas gracias.
00:13:14Bueno, que sigan bien. Gracias. Milse
00:13:16Garzón, periodista especializada en
00:13:18tecnología.