Una IA para causas de VIOLENCIA DE GÉNERO | FELDFEBER EN INVENTO ARGENTINO
Radio Con Vos - 4/6/2026 - Duracion: 11:31
Siguiente
Transcripción
00:00:00Exactamente. Decíamos al principio, un
00:00:02día muy especial en todo el país, todos
00:00:04los 3 de junio, desde hace 11 años, eh
00:00:08ni una menos da vuelta la Argentina para
00:00:12eh popularizar y para alertar sobre un
00:00:17reclamo que tiene que ver con los
00:00:19femicidios. Y en esta semana,
00:00:22particularmente luego de lo que ocurrió
00:00:24en Córdoba con el caso de Agostina Vega,
00:00:27esto eh cayó en un momento muy pero muy
00:00:30particular y muy sensible. Dijimos al
00:00:33principio que si bien no es el tema de
00:00:37invento argentino, eh la marcha ni una
00:00:40menos. Sí, creemos que hay herramientas,
00:00:43que hay elementos de la tecnología que
00:00:46pueden ayudar a
00:00:49a la justicia y también a la a la ley
00:00:52para que podamos encontrar respuestas,
00:00:55si se quiere, mucho más rápida. Por eso
00:00:58eh quiero quiero recibir esta tarde a
00:01:01Ivana Feldfeber, que es la directora
00:01:04ejecutiva de data género y especialista
00:01:06en ciencias de datos e inteligencia
00:01:08artificial con perspectiva de género.
00:01:10Hola, Ivana, gracias por atendernos.
00:01:12¿Cómo estás?
00:01:13Hola, Claudio, ¿cómo estás? Gracias por
00:01:15recibirme.
00:01:16Bueno, eh contanos qué es Aimuray, qué
00:01:20es esa herramienta que ustedes
00:01:22desarrollaron para eh colaborar con la
00:01:24justicia en causas de eh violencia de
00:01:27género.
00:01:29Bueno, Aimuray es un invento argentino,
00:01:31así que también eh está en con espíritu
00:01:33del programa. Eh, es una herramienta que
00:01:36creamos desde Data género en conjunto
00:01:38con el juzgado 10 de CAB, un juzgado
00:01:40penal con el juez Pablo Casas para
00:01:42recolectar información vinculada a
00:01:45sentencias de violencia de género y
00:01:47anonimizar documentos para que puedan
00:01:49ser subidos, en particular las
00:01:50sentencias de violencia de género para
00:01:52que nosotras desde la ONG, datajén es
00:01:55una ONG, podamos procesar esa
00:01:57información y sacar datos valiosos como
00:01:59muchos de los que estuvieron circulando
00:02:01estos días vinculados a 31 eh a 31 horas
00:02:04hay un femicidio, la cantidad de
00:02:06femicidios que hubo desde el 3 de junio
00:02:08de 2015, eh entre muchas otras
00:02:11estadísticas vinculadas también a el
00:02:14vínculo de la víctima con el agresor. Eh
00:02:17y bueno, mucha información que nos sirve
00:02:20para después actuar con política pública
00:02:22cuando está esa voluntad y también
00:02:24acción en las calles. Eh, por eso es una
00:02:27herramienta que usa la IA para detectar
00:02:29información y llevar las bases de datos
00:02:32o anonimizar documentos para que después
00:02:33con esos documentos anonimizados podamos
00:02:36generar las bases de datos propias para
00:02:37tener esa información.
00:02:39Uy, se me ocurren 50 cosas para
00:02:40preguntarte, Ivana. Lo primero que
00:02:42quiero saber es cómo hicieron para que
00:02:44les den los datos, que siempre es algo
00:02:45que cuesta tanto en la justicia, ¿no?
00:02:47Que te digan la posta.
00:02:49Sí. Bueno, es que hacer las cosas bien
00:02:51siempre lleva mucho más tiempo y mucho
00:02:52más esfuerzo. En este caso, el juzgado
00:02:5410 nos colaboró con una base de datos de
00:02:56ellos. Ellos venían ya subiendo sus
00:02:59propias bases de datos y sus sentencias
00:03:01ya anonimizadas a mano. O sea, había una
00:03:03persona que leía todo el documento e iba
00:03:05tachando toda la información sensible y
00:03:07poniéndole etiquetas arriba. Y toda esa
00:03:09información la usamos para con un equipo
00:03:11de etiquetadores y etiquetadoras
00:03:14etiquetar. Esto es un nombre, esto es
00:03:16violencia de género, esto es violencia
00:03:18física, esto todo eso fue etiquetado por
00:03:20un equipo de 10 etiquetadores, pero todo
00:03:23con datos anonimizados o con datos
00:03:25falsos. No tuvimos datos verdaderos
00:03:27nunca en nuestras manos. Entonces, eso
00:03:29fue también una gran ventaja para poder
00:03:31entrenar los algoritmos en nuestras
00:03:32computadoras, en nuestras casas o en la
00:03:34en la oficina, en vez de tener que eh,
00:03:37no sé, ir al poder judicial y entrenar
00:03:40todo ahí, que es algo que que también se
00:03:41hace para que esos datos no salgan.
00:03:44Sí. O sea, la estadística está
00:03:45construida sobre datos anonimizados.
00:03:47Claro.
00:03:48Ahí está. Perfecto. Perfecto.
00:03:50Sí, eso es fundamental porque si no lo
00:03:52que lo que pasa es que cuando subimos
00:03:53datos a una IA, por ejemplo, Chat GPT,
00:03:56le mandamos sentencias, le estamos datos
00:03:58dando datos muy sensibles a Open AI, que
00:04:00es la empresa detrás de Chat GPT, y lo
00:04:02mismo con otras empresas. Entonces, por
00:04:04eso proponemos anonimizar todo antes de
00:04:07enviarlo a cualquier lado para preservar
00:04:09sobre todo la privacidad de las
00:04:11víctimas,
00:04:12porque a veces tachamos el nombre, pero
00:04:15si está la dirección de la casa, si está
00:04:16la dirección de mail, si está la marca
00:04:18del auto eh de la víctima y es un pueblo
00:04:21pequeño, ya se puede saber de quién
00:04:22estamos hablando. Entonces, es
00:04:24fundamental para anonimizar y luego para
00:04:26armar estas bases de datos también. Y
00:04:28ahora estamos trabajando en un módulo
00:04:29más de transcripción de audio a texto
00:04:32para que los testimonios de las víctimas
00:04:34puedan ser con una transcripción se
00:04:36puedan validar por un juez y cuenten
00:04:39como una prueba en un caso y no tengan
00:04:41que estar contando una y otra vez todo
00:04:43lo que vivieron.
00:04:44Ah, muy bueno. Para evitar la la
00:04:46revictimización, digamos.
00:04:48Y sí, y todo esto se hace de manera
00:04:50local. No usamos ningún servidor nube,
00:04:52sino que todo esto se instala en los
00:04:54servidores judiciales. Trabajamos con
00:04:56muchas provincias de Argentina y con
00:04:57algunos países de América Latina. Y cada
00:04:59equipo de informático de de informática
00:05:02toma nuestra, la instala en sus
00:05:04servidores y nosotros no tenemos acceso
00:05:06a nada.
00:05:07Es una guía que ellos es de código
00:05:09abierto y es gratuita. Entonces, cada
00:05:10uno lo toma para poder hacer ese
00:05:12procesamiento en sus servidores. No
00:05:14usamos ninguna nube para esto.
00:05:16Vos escuchaste, Lauriano, que Ivana
00:05:19mencionó lo que para mí es un nombre
00:05:21clave, que es el el nombre del juez
00:05:23Pablo Casas, digamos. Yo tuve la
00:05:25oportunidad de conocerlo a Pablo. Es un
00:05:27juez de la ciudad de Buenos Aires que es
00:05:30también un fanático de la tecnología
00:05:32como nosotros, pero que además es un
00:05:35tipo que ha puesto
00:05:36se se ha puesto este muy al lado de
00:05:40datagénero para que esto funcione. digo,
00:05:43para eh operativizarlo dentro de su
00:05:46juzgado, para dar vuelta a ese juzgado
00:05:49como pocos juzgados en el país y hacer
00:05:52que por efecto imitación muchos juzgados
00:05:55de distintos lugares del país estén
00:05:57utilizando esta herramienta, ¿no es
00:05:58cierto?
00:05:59Eso está eso está bueno porque siempre
00:06:00tenemos malas noticias de los jueces,
00:06:02saber que hay algunos que por lo menos
00:06:03están aportándole un valor a la
00:06:04sociedad. A mí como ciudadano me pone me
00:06:07pone contento y me hace preguntarme,
00:06:09Ivana, ¿cómo cómo se les ocurrió hacer
00:06:11esto?
00:06:12Bueno, fue una idea en conjunto
00:06:14justamente con Pablo que nos dijo,
00:06:16"Queremos automatizar algunos de estos
00:06:18procesos." Ellos ya tenían un
00:06:19anonimizador hecho por una cooperativa
00:06:21que se llama Canback, eh, y tenían ya
00:06:24una local, pero él nos dijo, "Todo lo
00:06:26que ustedes desarrollen tiene que ser
00:06:28local, tiene que ser de código abierto y
00:06:30no tiene que ser privativo."
00:06:32él nos dio un poco esos principios guía
00:06:34para poder hacerlo, que obviamente
00:06:36nosotras somos fanáticas de software
00:06:38libre, eh, y de que todo sea abierto y
00:06:40transparente y auditable, pero bueno, él
00:06:43nos dijo que nada podía tocar la nube
00:06:45porque él es también muy eh es eso, un
00:06:48fanático de los datos, pero también de
00:06:50la seguridad y la privacidad de los
00:06:51datos en el poder judicial. Y yo nunca
00:06:54pensé que iba a estar hablando tamban
00:06:55bien de jueces, porque también [risas]
00:06:58trabajando
00:07:00la verdad que es es increíble y está
00:07:02bueno mostrar este trabajo ejemplar que
00:07:05hace la gente del juzgado 10 porque
00:07:06tienen un repositorio abierto con todas
00:07:09las sentencias del juez que vos podés
00:07:10leer, la base de datos estructurada para
00:07:12que hacer análisis, los currículums y la
00:07:14gente que trabaja ahí, una guía de
00:07:16lenguaje claro para que vos puedas
00:07:17entender cómo están juzgando con
00:07:19perspectiva de género y bueno, tienen un
00:07:21montón de documentos más, o sea, es un
00:07:23juzgado que está haciendo las cosas como
00:07:24de nos gustaría que sea la justicia en
00:07:26Argentina. Lamentablemente no es así y
00:07:29por eso vemos también este número de los
00:07:31femicidios bajando, porque hay muchos
00:07:33jueces que no están caraturando las
00:07:34causas como femicidios. Claro, claro,
00:07:37claro. Nos comemos la curva parece que
00:07:38hubiera menos violencia. En realidad
00:07:40está igual, solo que hay jueces que
00:07:41simplemente la caratulan distinto
00:07:43y por eso hace falta también analizar
00:07:44los datos mirando con esta mirada más
00:07:46crítica, porque si no tomamos el dato
00:07:48como una verdad objetiva, que esta es la
00:07:50realidad, bajaron los femicidios, pero
00:07:52bueno, estamos tener gente técnica de
00:07:54atrás que pueda deconstruir este número
00:07:56y entender de dónde viene y cómo se
00:07:57construyó. Y en el contexto de de un
00:08:00gobierno o de un presidente que en foros
00:08:02internacionales dice que está mal hablar
00:08:05de femicidios porque esa esa carátula de
00:08:09algún modo hace que la vida de las
00:08:11mujeres valga más que la vida de los
00:08:13hombres en un homicidio, ¿no?
00:08:15Es muy llamativo eso porque aparte vemos
00:08:17que en los juzgados penales un 20 30% de
00:08:21de las sentencias están vinculadas a
00:08:22violencia de género. Es un tema que es
00:08:24real. Eh, hay muchos jueces y juezas
00:08:27juzgando y ayudando a las víctimas a
00:08:30conseguir justicia. Y acá en el
00:08:33presidente está yendo al contrano de un
00:08:36una movida también internacional de que
00:08:38la violencia de género existe, es real y
00:08:40tiene que ser juzgada aparte de otros
00:08:42crímenes. Y eso es fundamental que lo
00:08:44tengamos en cuenta.
00:08:45Pensaba que no hay muchos Pablo Casas en
00:08:47el poder judicial, lamentablemente. Y
00:08:50pensaba este preguntarte cuáles son las
00:08:54resistencias que que más allá de lo que
00:08:56hace Pablo encontraron cuando dialogan
00:08:59con la justicia.
00:09:01Bueno, encontramos muchas resistencias
00:09:03en muchos lugares, no solamente de
00:09:04Argentina, sino de América Latina, eh
00:09:07vinculadas también a que a veces hay eh
00:09:10anonimizadores o herramientas que ya
00:09:12están ahí y tienen que ver más con el
00:09:14ámbito privado, entonces no quieren que
00:09:16venga una herramienta que es gratuita y
00:09:18de código abierto a a a a romper un poco
00:09:21esa lógica. Pero también hay muchos
00:09:23jueces y juezas que no quieren
00:09:24transparencia en sus eh en su tarea, no
00:09:28quieren que veamos qué están resolviendo
00:09:29ni cómo están justificando sus
00:09:31decisiones. Y bueno, si tenemos un
00:09:33anonimizador que te obliga a que puedas
00:09:34subir todo anonimizado, vamos a estar
00:09:36leyendo lo que estás resolviendo. Y ahí
00:09:39mucha gente no lo quiere hacer.
00:09:41Entonces, tal vez se usa más a modo
00:09:44interno, porque si alguien pide una
00:09:45sentencia, hay que enviarla anonimizada,
00:09:48pero no la están subiendo a para que la
00:09:51veamos la ciudadanía, o sea, no hay una
00:09:53justicia abierta al negocio de la
00:09:54opacidad, ¿no es cierto?
00:09:56Exactamente,
00:09:57che. Y esta iniciativa ya tuvo varias
00:09:59varios premios, ¿no? Tuvo al menos unos
00:10:01pares de reconocimientos que estuve
00:10:02leyendo.
00:10:04Sí, a mí me cuesta mucho hablar de eso
00:10:05porque yo soy más de hacer y de seguir,
00:10:07pero bueno, eh Oxforc nos ha reconocido
00:10:10como una de las iniciativas de I en
00:10:12Argentina, UNESCO también a política
00:10:15este año nos nombró como una de las 50
00:10:17iniciativas a nivel global de innovación
00:10:19pública.
00:10:21Y bueno, tenemos varios de estos
00:10:22reconocimientos que fuimos cosechando,
00:10:25como es el nombre de Murek, quiere decir
00:10:26cosecha en quechua a lo largo de de
00:10:29estos años, porque si nos ponemos a
00:10:31pensar no hay tantas iniciativas de este
00:10:32estilo que propongan algoritmos públicos
00:10:35de uso público eh a favor de más datos,
00:10:39más transparencia y más seguridad eh de
00:10:41las personas en los procesos judiciales,
00:10:43pero también son algoritmos que se
00:10:44pueden usar en otros ámbitos del
00:10:46gobierno y de la investigación también.
00:10:48Se fueron mundial, como dicen los
00:10:50cordobeses,
00:10:51se fueron mundial. Están en todos lados.
00:10:53[carraspeo] Oxford, UNESCO,
00:10:54impresionante. Sí, sí.
00:10:56Bueno, Ivana, gracias, gracias por
00:10:58atendernos, gracias por por ayudarnos a
00:11:01vincular lo que es un sentimiento hoy en
00:11:04las calles de todo el país con la
00:11:05tecnología, que es el tema de este
00:11:08programa. Te mandamos un beso grande y
00:11:10muchísimas felicitaciones por Aimuray y
00:11:12por Daténero.
00:11:13Muchas gracias. hablamos con Ivana
00:11:16Feldfeber y es la directora ejecutiva de
00:11:18Data Género. Es especialista en ciencias
00:11:20de datos e inteligencia artificial con
00:11:23perspectiva de género. los últimos
00:11:25minutos de invento argentino.