¿Cuáles son los riesgos del sistema de reconocimiento facial?
Radio Con Vos - 10/9/2024 - Duracion: 8:55
Transcripción
00:00:0111:42 minutos y vamos a tomar un tema
00:00:04que nos parece importante y que quizás
00:00:08no está teniendo la debida atención y
00:00:11tiene que ver con la utilización de eh
00:00:15los estudios antropométricos es decir
00:00:18cómo te toman con una visualización Y de
00:00:22pronto te pueden asignar algún tipo de
00:00:25de delito ocurrió eh esta semana un
00:00:30hecho muy particular ustedes recordarán
00:00:32que nos fuimos la semana pasada con la
00:00:33preocupación por el atentado a
00:00:36eh la rural no a Nicolás pino al
00:00:40presidente de la sociedad rural en medio
00:00:43de todo eso el juez Federal Daniel
00:00:45rafecas primero ordenó la detención de
00:00:48una persona la que se indicaban como la
00:00:50responsable de ese ataque Alberto
00:00:54Santiago Soria que fue liberado en el
00:00:58día de ayer
00:01:00porque presentó una cuartada que el
00:01:02magistrado pudo verificar en el momento
00:01:04en que se mandaba desde una librería de
00:01:07barracas el paquete que después terminó
00:01:10explotando en la cara prácticamente de
00:01:12la secretaria Nicolás pino él estaba en
00:01:15una capacitación en el salguero plaza en
00:01:19Barrio Norte es decir no podía ser la
00:01:22misma persona entonces uno Se preguntará
00:01:23por qué lo detuvieron Porque el estudio
00:01:26antropométrico que hizo el Ministerio
00:01:28Público fiscal de la ciudad
00:01:30resultó que estaba equivocado así de
00:01:33simple y el tipo fue detenido detenido y
00:01:37acusado de un hecho gravísimo no de de
00:01:41atentar contra una persona está en línea
00:01:44de teléfono Tomás pomar es abogado
00:01:46especialista en derecho informático es
00:01:48presidente del observatorio derecho
00:01:50informático argentino y
00:01:53están impulsando una campaña para
00:01:56cuestionar este tipo de Procedimientos
00:01:57eh cómo está Tomás reinaldo 7k se Te
00:02:01saluda radio conz reinaldo cómo está eh
00:02:04Buenos días Muchas gracias por la
00:02:05comunicación bien eh primero sé que
00:02:08están con una movida ustedes
00:02:10cuestionando este tipo de estudios y de
00:02:13verificaciones y no sé si tenés también
00:02:15Algún dato sobre este episodio las dos
00:02:17cosas me interesan que cuentes Bueno si
00:02:19te parece reinaldo arranco por partes
00:02:22primero con respecto a la campaña que
00:02:23vos mencioná es un trabajo que estamos
00:02:26haciendo junto a otra organización
00:02:28llamada democracia en red sí esto bece
00:02:31un poco a las consecuencias de un caso
00:02:33que nosotros llevamos adelante contra el
00:02:35sistema de reconocimiento facial pero en
00:02:37la ciudad de Buenos Aires sí no sé si te
00:02:39acordas un escándalo que tomó estado
00:02:41público donde se pudo demostrar que el
00:02:43sistema estaba implementado sin las más
00:02:45mínimas medidas de seguridad necesarias
00:02:47y sin que estuvieran activos los
00:02:48organismos de control que estaban
00:02:50establecidos por ley Sí en ese en esa
00:02:53causa pudimos verificar un tráfico de de
00:02:55datos masivo sí e inclusive luego de un
00:02:59allanamiento y secuestro de los
00:03:00servidores que utilizaba la la fuerza
00:03:02policial se pudo constatar que en los
00:03:05sistemas había cargado en sistemas de
00:03:07búsqueda automatizado eh más gente que
00:03:10el total de prófugos del país Por lo
00:03:11cual Había algo inconsistente eso es el
00:03:14sistema de la ciudad ahora lo que sucede
00:03:16con Soria es extremadamente grave sí y y
00:03:20nos recuerda un poco a lo que pasó con
00:03:21el con el reconocimiento facial de la
00:03:23ciudad Por qué te digo esto
00:03:25e muchas veces con estos sistemas lo que
00:03:28pasa no es que hay una mala decisión hay
00:03:30un conjunto de malas decisiones Sí Son
00:03:32como uno puede anticipar con un mal
00:03:34sistema implementado que después se
00:03:35implementa otro y la cosa Va empeorando
00:03:37constantemente Sí en el caso particular
00:03:40de la ciudad de Buenos Aires el huevo de
00:03:43la serpiente por decir una forma
00:03:44arrancaba en 2016 que era cuando el
00:03:48Ministerio de Justicia por aquel
00:03:50entonces abrió las bases de datos de los
00:03:53prófugos de todo el país esa base se
00:03:54llama conarc Sí yo para para darte una
00:03:57idea y no entrar en partes aburridas en
00:04:00temas muy técnicos te te hago un detalle
00:04:02a ver vino a la Argentina el relator
00:04:04especial de la ONU de derecho a de la
00:04:06privacidad sí tuvimos contacto con él y
00:04:09él hizo un requerimiento de esta base de
00:04:10datos para constatar qué es lo que había
00:04:12sí aclaro algo esta base es la que se
00:04:15cargaba automáticamente una computadora
00:04:17que buscaba gente cuando se verifica la
00:04:20base de datos que se estaba utilizando
00:04:22se constata que había cinco personas
00:04:24menores de 4 años supuesta siendo
00:04:26buscada su dni por robo agravado por uso
00:04:28arma de fuego qué quiero decir con esto
00:04:31habían abierto una base de datos y la
00:04:33habían puesto a trabajar con un sistema
00:04:35de Inteligencia artificial sin antes
00:04:36purgar como decimos o saar la base de
00:04:38datos clo ahí viendo la mecánica de que
00:04:41una mala decisión da lugar a otra y así
00:04:44seguidamente en ese caso Más allá de la
00:04:47causa que tuvimos la suerte de ganar
00:04:50había una persona llamada ivola no sé si
00:04:52te acordas que era una persona que
00:04:54trabajaba una pollería lo detuvieron en
00:04:56Constitución y a diferencia de Soria se
00:04:58comió en calabozo hasta que descubrió
00:05:01que un problema de carga de datos eh una
00:05:05persona que no tenía ningún ingreso
00:05:06policial está claro
00:05:07eh 8 días preso 8 días preso y estuvo al
00:05:11borde de que lo trasladaron a Bahía
00:05:13Blanca lo salvó una secretaria que
00:05:15verificó el error de base de datos
00:05:17literalmente
00:05:19esto ustedes impugnan el sistema
00:05:22directamente
00:05:23o esto que decís vos la concatenación de
00:05:26errores que está en la base del de la
00:05:30idea de reconocimiento facial bueno esa
00:05:33es la la pregunta que siempre Inclusive
00:05:35la debatimos creo que se puede trabajar
00:05:37por partes por empezar una cosa es
00:05:40Respecto a los sistemas de
00:05:41reconocimiento facial automatizado en
00:05:43vía pública el caso nuestro se basó
00:05:45básicamente en que habían implementado
00:05:47algo en desde que lo contrataron hasta
00:05:50que lo pusieron en funcionamiento o lo
00:05:51deployar habían pasado menos de 30 días
00:05:55Es decir uno advierte también con estas
00:05:57cuestiones cosas que llaman la atención
00:05:59porque que digamos tienen tienen más
00:06:02eficiencia que los que las empresas que
00:06:04fabrican esto en California si me saí lo
00:06:06que te quiero decir entonces hay un
00:06:08conjunto de negligencias que uno Observa
00:06:10que son bastante graves que inclusive
00:06:12son para nosotros una cuestión previa a
00:06:14discutir lo planteas claro no obstante
00:06:18ello creo que el uso de sistemas del
00:06:21tipo de reconocimiento facial en la via
00:06:23pública no están dadas las garantías
00:06:24Argentina viene viviendo una crisis de
00:06:26seguridad informática muy grave Hace 4
00:06:28años te aceras que se filtró renaper se
00:06:34filtró funciona en algún lado del mundo
00:06:37esto
00:06:38bien bueno acá hay una diferencia
00:06:41respecto a lo deoria y respecto a a lo
00:06:43previo los sistemas en vivo en vía
00:06:47pública está en Franco retroceso en todo
00:06:49el mundo San Francisco lo dio de baja
00:06:52gales tu una sentencia que lo di de baja
00:06:56diversos países en Europa rer
00:07:00lo que pasó con Soria es llamativo
00:07:02porque es un sistema forense es un
00:07:05sistema que usa no el reconocimiento en
00:07:07vivo sino que toma un hecho está filmado
00:07:09Y después lo buscan en bases de datos
00:07:11Eso sí se utiliza en el mundo pero con
00:07:13medidas de seguridad con protocolos y
00:07:15con formas de
00:07:16actuación hoy el periodista que publicó
00:07:19algo es tuny
00:07:21colman si lo que afirma tuny colman es
00:07:23cierto acá están utilizando esta
00:07:26tecnología sin ningún tipo de resguardo
00:07:29o sea más grave no es el mismo del
00:07:32reconocimiento facial callejero es el
00:07:35Este es un sistema que se hace con
00:07:37información que ya está copiada es así
00:07:40es así toman videocámaras y después el
00:07:43Ministerio de seguridad tiene una base
00:07:44eh que llama cbios creada en 2011 y
00:07:48después con esa base La corre con algún
00:07:50software para buscar machar la imagen
00:07:52que toma en vía pública con respecto a
00:07:54las bases de datos de documentos y demás
00:07:56que ya tiene claro una cosa con esto
00:07:59y aún así se equivocaron
00:08:02acá se equivocaron y tuvieron suerte que
00:08:05esta persona estaba en un lugar
00:08:06registrable si estaba en la Case viendo
00:08:07net está preso está preso todavía
00:08:10estaría preso todavía claro Entonces
00:08:12esto es un problema porque revierte el
00:08:14principio de inocencia en meda claro
00:08:17claro y y y obviamente lo hace esto
00:08:20todavía aún más peligroso no
00:08:22e bien siguen entonces con la campaña el
00:08:25que tenga interés en contactarse con
00:08:27ustedes cómo hace Tomás nos puede buscar
00:08:30por las redes en Twitter estamos como
00:08:32odia aoc en instagram también o pueden
00:08:34contactar la gente de democracia en Red
00:08:36Con quienes trabajamos esta campaña para
00:08:37que el estado sea responsable por el uso
00:08:39de datos personales eh Tomás pomar eh
00:08:42abogado especialista en derecho
00:08:43informático Muchísimas gracias muchas
00:08:45gracias a vos reinaldo bueno eh temón
00:08:48este también eh Y a todo esto seguimos
00:08:50sin saber quién fue el responsable del
00:08:51atentado contra Nicolás pino 11 de la