La identidad de "PEQUEÑO J" y el uso de IA para reconstruir su imagen | EMILSE GARZÓN con ALE BERCO
Radio Con Vos - 29/9/2025 - Duracion: 8:08
Transcripción
00:00:03Emil Segarzón es eh colega, es
00:00:05periodista, divulga en general temas de
00:00:09tecnología, eh temas vinculados a la
00:00:12inteligencia artificial, eh temas de
00:00:14seguridad informática. Nos ha ayudado
00:00:17con esto en el pasado eh y también ha
00:00:19sido muy útil todo lo que desentrañó del
00:00:21caso Libra. eh tiene la gentileza de
00:00:25atendernos un segundito por algo que eh
00:00:27a mí me tiene realmente impactado. ¿Cómo
00:00:30estás, Emi?
00:00:31Hola, buenas tardes, Ale, todo bien por
00:00:33acá.
00:00:34Bien, bueno, me alegro. Me tiene
00:00:35impactado cómo está en todos los
00:00:38portales la foto del jefe de la banda
00:00:42narco, que se supone dio la orden de eh
00:00:46asesinar a las tres chicas que
00:00:49aparecieron en Florencio Varela eh y que
00:00:52trabajaban en Plaza Flores. La semana
00:00:55pasada eh fue el crimen que enlutó a
00:00:58todo el país. Este fin de semana las
00:01:01despidieron, las enterraron sus
00:01:03familiares. Pero la foto que está en
00:01:05todos los portales es del pequeño Jo,
00:01:11a muchos especialistas les viene eh
00:01:15generando algunas dudas de si no ha sido
00:01:18producto de la inteligencia artificial,
00:01:20si no es una foto que no se corresponda
00:01:23a ningún ser humano. Como incluso el
00:01:26padre de una de las chicas deslizó
00:01:28cuando dijo, "No hay, no existe el
00:01:31pequeño J." ¿Qué sabes del tema vos?
00:01:34Bueno, eh ya hay una solicitud de
00:01:36Interpol, alerta roja para que se busque
00:01:39al pequeño J. O sea, la la búsqueda está
00:01:42a este personaje, a esta persona. existe
00:01:45lo que no hay hasta el momento, porque
00:01:46en esas búsquedas, en esas alertas que
00:01:48se hacen, se va construyendo a partir de
00:01:50información que se va pidiendo otros
00:01:51lugares, por ejemplo, a Perú, donde
00:01:53tienen huellas dactilares, eh quizás
00:01:55fotos del más chico aparentemente, pero
00:01:59por el momento, por lo menos hasta hace
00:02:01media hora, la última vez que que vi, no
00:02:04había la solicitud de alerta a Interpol
00:02:08donde estaba la foto y no era la foto
00:02:10que está circulando en todas partes,
00:02:12además una foto que aparece ese
00:02:13pasaporte
00:02:14Claro, la foto la vamos a compartir
00:02:16ahora en nuestro canal de YouTube, eh,
00:02:18porque es eh llamativamente nítida y
00:02:21tiene el rostro de fondo una especie de
00:02:25aeropuerto, algo difuminado. Eh, parece
00:02:28una foto demasiado buena para ser la
00:02:31foto de un prófugo. Sí, yo eh ayer
00:02:34estaba estaba hace tiempo ya vengo
00:02:36pensando como que incluso los videos se
00:02:38pueden generar algunos videos con
00:02:39inteligencia artificial sobre esa
00:02:41transmisión en vivo y decir que es el el
00:02:43video en sí esa transmisión.
00:02:45Pero bueno, con lo que me encontré
00:02:46primero es con esta imagen que sí que es
00:02:49demasiado nítida y que cambia los rasgos
00:02:53de eh cualquiera, o sea, no es que
00:02:54replique exactamente, lo que decían era
00:02:57que era una reconstrucción con
00:02:58inteligencia artificial. Yo lo que hice
00:03:00más allá de de que todos y todos tenemos
00:03:02que usar nuestro ojo para analizar
00:03:03alguna imagen o algún video real, o sea,
00:03:06nuestra intuición humana hay que usar en
00:03:07estos casos que ya tiene como una
00:03:09cuestión de los tonos, lo que vos decías
00:03:10del fondo también, pero más allá de mi
00:03:13intuición o de verlo como como priesta y
00:03:16humana, lo pasé por dos plataformas que
00:03:18lo que hacen es verificar si un texto o
00:03:21una imagen fue creada con AI. Las dos me
00:03:24tiraban, una un 100% como un deep fake y
00:03:26el otro un 99.9% 9% y además en una de
00:03:30ellas me indicaba que podría haber sido
00:03:31con stable diffusion, que es una
00:03:33herramienta para crear eh fotos,
00:03:36imágenes con inteligencia artificial.
00:03:38Perdón. Lo lo puedes decir un poco más
00:03:42detallada y lentamente, Emy. ¿Hay un
00:03:46sitio o hay aplicaciones donde uno puede
00:03:49subir imágenes que ve, por ejemplo, en
00:03:52portales que ve en redes sociales y ese
00:03:56sitio, esa aplicación te da un
00:03:58porcentaje de probabilidad de que haya
00:04:00sido generada con inteligencia
00:04:01artificial? Exactamente.
00:04:03Son plataformas. Hay una que es AI is
00:04:07not, que es una de ellas. E lo que hacen
00:04:11es verificar si lo que vos le estás
00:04:13subiendo fue creado con inteligencia
00:04:14artificial. El problema con esto es que
00:04:17te lo va a decir, dice, puede haber un
00:04:18grado de error. Acá en esta plataforma
00:04:21me decía que que era al 99.9% y me decía
00:04:24que era Stable Diffusion, que es una
00:04:26plataforma que crea contenidos con
00:04:28inteligencia artificial generativa. Lo
00:04:30que pasa también es que eh son
00:04:33gratuitas. Hay otras que son pagas. Sí.
00:04:35Y el problema con todo esto es que una
00:04:38vez que se detecta de qué manera estas
00:04:41herramientas agarran eh y definen
00:04:44efectivamente o analizan si está hecho
00:04:46con AI o no, eso le permite a que los
00:04:48que generan imágenes con AI perfeccionen
00:04:51la técnica o las plataformas
00:04:52perfeccionan la técnica. Entonces tiene
00:04:53que existir em como algunos eh marcas de
00:04:57agua en el código efectivamente para que
00:05:00se lo pueda detectar, pero toda esa
00:05:01instrumentación y que esté alineado con
00:05:03todas las plataformas no existe.
00:05:05Entonces esto como que es un virus,
00:05:07¿viste? Como que se se cura o una
00:05:09enfermedad se cura y se refuerza. Se
00:05:10cura y se refuerza. Con esto pasa lo
00:05:11mismo porque no hay ningún tipo de
00:05:13regulación.
00:05:14Eh, perdón, pero esta foto cuando uno la
00:05:17ve a primera vista da mucho inteligencia
00:05:20artificial. es el el tipo de de imagen
00:05:22que no suele generarse el el la cosa del
00:05:26fondo difuminado,
00:05:28eh no sé, determinados aspectos de lo
00:05:33genérico del rasgo. Eh puede ser que
00:05:37hayas sido como un reprocesamiento, un
00:05:40photoshopeo de la foto posta del chavón.
00:05:42¿De dónde sale? ¿Por qué los medios
00:05:44tienen esta foto?
00:05:45Mira, lo que se dice que es una
00:05:46reconstrucción y que desde el Ministerio
00:05:49de Seguro y Buenerense salió esto, que a
00:05:52mí si si eso es así efectivamente me
00:05:54pareció muy grave y lo otro que es grave
00:05:55es que no estemos verificando como
00:05:57periodistas este tipo de imágenes que
00:05:59nos damos cuenta y lo multiplicamos y
00:06:00por más que ya desde hace varias horas y
00:06:03desde ayer estamos diciendo, "Che, esto
00:06:05puede ser y demás". siguen. Eh, hace un
00:06:09rato vi en un en un medio que estaban
00:06:11mostrando el alerta de Interpol y habían
00:06:13pegado esta imagen creada con
00:06:15inteligencia artificial que no está
00:06:17originalmente, o sea, además hay eh una
00:06:19instrucción por parte de un medio
00:06:21agregando la imagen y con el pasaporte
00:06:23lo mismo. El pasaporte, no sé de dónde
00:06:25habrá salido, si está retocada las
00:06:28palabras tiene errores típicos de de
00:06:30cuando le pedí a una inteligencia
00:06:32artificial que cree un texto con imagen
00:06:34con texto, hay partes que que
00:06:36efectivamente vos te das cuenta que
00:06:38están mal escritas o las distancias son
00:06:40raras, entonces también nos puede dar un
00:06:42indicio que está eh creado como una
00:06:45imagen computarizada. El problema
00:06:47central acá es que si salió de del
00:06:50Ministerio de Seguridad de la provincia,
00:06:53eh, no está bien que sea así. Y lo lo
00:06:55siguiente es que no estemos como
00:06:56periodistas verificando esto,
00:06:57preguntándonos y y nos adelantamos a
00:06:59querer dar alguna comunicación. Lo mismo
00:07:01que la transmisión, la transmisión que
00:07:03se dice que se hizo por Instagram, nunca
00:07:06fue por Instagram, por lo menos
00:07:07oficialmente Meta con yo hablé con la
00:07:09gente de Meta, me dicen que ellos no lo
00:07:11tienen. TikTok dijo que no lo tiene y
00:07:13seguimos diciendo que está en redes
00:07:14sociales como Instagram. Así que acá
00:07:16estamos en un claro caso de lo que
00:07:17venimos hablando hace años, de el
00:07:19impacto de la inteligencia artificial en
00:07:21la desinformación.
00:07:22Tremendo. Emi, gracias por este rato. Te
00:07:25mando un beso.
00:07:26Por supuesto. Un abrazo.
00:07:27Emilce Garzón es periodista, eh,
00:07:30divulgadora de tecnología, influencer.
00:07:32Búsquen en las redes sociales porque
00:07:33realmente en general la info que aporta
00:07:36es muy valiosa. Eh, y en este caso habla
00:07:39del pequeño J, el supuesto narcoperuano
00:07:44que están buscando, que bueno, tiene una
00:07:46alerta de Interpol para ser capturado,
00:07:49eh, pero cuyo rostro que estuvo colgado
00:07:52en los portales informativos durante
00:07:53todo el fin de semana parece ser fruto
00:07:56de una inteligencia artificial. Pasaron
00:07:59cosas, pasaron cosas de 14 a 17
00:08:04en Radio con vos. Radio con vos.