SANTI SIRI ¿La TECNOLOGÍA puede MEJORAR la JUSTICIA?
Circo Freak - 20/6/2025 - Duracion: 16:46
Transcripción
00:00:00y caballero. Está con nosotros el señor
00:00:01Santi Siri. Bienvenido. Buenas, buenas,
00:00:03buenas. ¿Cómo estamos? Muy bien, aquí eh
00:00:06tolerando este día nublado. Eh, pero
00:00:09bueno, es es la gran pregunta, es una
00:00:11pregunta que yo me he ido encontrando a
00:00:13lo largo de mi carrera en diferentes
00:00:14proyectos de democracia digital y demás,
00:00:17que me he ido topando con proyectos que
00:00:20tratan de aplicar tecnología al sentido
00:00:23de justicia. Ajá. Eh, y es algo una
00:00:26pregunta que a priori uno pensaría eh,
00:00:29que bueno, la tecnología todo lo puede,
00:00:31¿no? Que la tecnología este es capaz de
00:00:35generar una supuesta nueva objetividad o
00:00:37una forma más eficiente, más eficaz.
00:00:40Pero la justicia es otra cosa. Eh, a
00:00:43veces la justicia muchas veces escapa
00:00:46ciertas lógicas, escapa ciertos
00:00:48circuitos, eh, porque tiene que ver con
00:00:51aspectos de la vida que van eh que no se
00:00:54pueden reducir solamente a sumas y
00:00:56restas. Eh, pero no obstante hay
00:00:59proyectos tecnológicos este que hablan
00:01:02de esto, ¿no? De de aplicarte eh
00:01:04tecnología a la justicia, no sin eh
00:01:07riesgos, no sin este situaciones
00:01:10distópicas. E y arranco con la imagen de
00:01:13un personaje de cómic eh que se llama
00:01:16Judge Dread o el juez Dread. Había una
00:01:19famosa película de Silvester Stallone de
00:01:21los años 90 donde protagonizaba esta
00:01:25historieta. Es una historieta de la
00:01:27década del 70, los años 80s, en un
00:01:29futuro donde hay una suerte de Mega
00:01:32City, una metrópolis, este, que donde
00:01:35ocurre todo tipo de crimen. E y el judge
00:01:38dread, el juez dread, es el que arresta,
00:01:40el que sentencia, el que ejecuta. No hay
00:01:43juicio, no hay apelación, solo el caco,
00:01:45la moto y la ley. Es como si fuera todo
00:01:48en uno para poder contener una sociedad
00:01:51este cada vez más este problemática,
00:01:55cada vez más compleja. Y es esta idea de
00:01:57la automatización de la ley, el policía,
00:01:59el juez, el fiscal, todo encarnado en
00:02:01una misma entidad. Eh, y obviamente
00:02:04habla de algo eh distópico, ¿no? Algo
00:02:07que es este genera genera bastante
00:02:10miedo. Eh, pero bueno, tal vez es un
00:02:14espejo eh de de los de los riesgos que
00:02:18corremos también en el tiempo presente a
00:02:20medida que vamos eh aplicando tecnología
00:02:23a la justicia.
00:02:26El juez robot, el juez robot eh ya
00:02:29existe. ¿Cómo que ya existe? Sí, ya en
00:02:32varias eh en varios tribunales del mundo
00:02:35eh podemos encontrar eh jueces robot.
00:02:38Creo que tengo una imagen ahí para
00:02:40ilustrar este est real. Bueno, no se ve
00:02:44no se ve exactamente como esto, pero
00:02:48tenemos eh por ejemplo es medio parecido
00:02:49a Rosencr igual eh tiene como un aire,
00:02:55hay unos rasgos. Este, el en China, por
00:02:58ejemplo, hay tribunales inteligentes que
00:03:00usan inteligencia artificial para
00:03:01transcribir audiencias, para recomendar
00:03:04sentencias y hasta para reconocer
00:03:06emociones en el rostro de los testigos.
00:03:08O sea, esto se está aplicando, hay
00:03:09inteligencia artificial que se está
00:03:10aplicando al servicio de justicia. En
00:03:13imaginemos que China es un país con más
00:03:14de 15, 1500 millones de personas, tanto
00:03:16en la ciudad de Beijing como en Huang
00:03:18Show están aplicando sistemas
00:03:20automatizados de justicia para casos
00:03:23menores. Eh, pero ya ya hay más de 3
00:03:25millones de casos procesados con
00:03:27inteligencia artificial aplicada a la
00:03:29justicia. Eh, y esta tecnología que de
00:03:33repente uno miraba el Judge Dread,
00:03:35imaginaba algo distópico en el futuro.
00:03:37por ahí ya en algunos países este como
00:03:39China también en los Estados Unidos
00:03:41están haciendo experiencias piloto, eh
00:03:43ya empieza a ser una realidad en Pero eh
00:03:46aún más eh he ido, me me puse a
00:03:49investigar esto, dije, bueno, qué loco
00:03:51esto de de repente por ahí para para
00:03:54fallas menores, para para cuestiones
00:03:56menores, este agiliza y eficientiza el
00:03:59proceso. ¿Existe algo en Argentina al
00:04:02respecto? Me hice la pregunta. Bueno,
00:04:04investigando en las redes, este, y
00:04:07asistido, por supuesto, con la
00:04:08inteligencia artificial, encontró un
00:04:09proyecto que se llama Prometea, eh, que
00:04:12es, ¿escucharon hablar de esto? Sí, sí,
00:04:15lo escuché. ¿Qué es esto? Esta imagen
00:04:16está generada con IA, eh, así que este
00:04:19no sé si es el logo verdadero de
00:04:21Prometea, pero bueno, la hice la imagen
00:04:23con IA. Prometea. Este fue creado en el
00:04:262017 por el Ministerio Público Fiscal de
00:04:28la ciudad de Buenos Aires. Esto está en
00:04:30los tribunales de de Buenos Aires. Creo
00:04:32que también se han expandido a Mendoza y
00:04:35a y a Chaco. Eh, y redacta dictámenes
00:04:38legales automáticamente.
00:04:40Eh, le tarda 20 segundos en sacar un
00:04:43dictamen. Procesa miles de casos. Eh, se
00:04:47estima que del 96% de coincidencia con
00:04:51lo que resuelve el Tribunal Superior de
00:04:53Justicia, porque lo que hicieron
00:04:55inicialmente fue comparar eh hacer una
00:04:58cuestión comparativa entre cómo fallaba
00:05:00la la gente real, la gente real y cómo
00:05:02fallaba la inteligencia artificial.
00:05:03Encontraron 96% de coinci. Obviamente
00:05:07estamos hablando probablemente de una
00:05:09multa por estacionar mal o de cuestiones
00:05:14este administrativas menores, no no por
00:05:17casos eh relevantes o trascendentes,
00:05:20pero este redujo tareas administrativas
00:05:23de la justicia en la ciudad de Buenos
00:05:24Aires de 90 minutos a un solo minuto.
00:05:27Claro. Sobre todo esa claro. Es tipo de
00:05:28cuestiones que en una ciudad como la de
00:05:29Buenos Aires tenés millones cuestiones
00:05:32más de trámites de de cuestiones
00:05:33menores. Claro. Sí. A mí siempre me
00:05:35llamó la atención. No, no si alguien va
00:05:36en cana o no, digamos cosa. Claro.
00:05:38Cuando yo he tenido que ir a pagar
00:05:40alguna multa por estacionar mal o algo
00:05:43por el estilo, siempre me llamó la
00:05:44atención que me atendía una jueza,
00:05:45¿viste? Uno iba con una jueza y uno
00:05:47podía pelearle el caso o no, eh, y ahí
00:05:51pagabas, obviamente, lo que había que
00:05:52pagar administrativamente.
00:05:54Eh, y siempre me preguntaba, bueno,
00:05:56¿cómo haces para, o sea, yo soy uno de
00:05:58millones de conductores que hay en la
00:05:59ciudad de Buenos Aires, ¿cómo hacés para
00:06:01poder procesar este volumen de datos?
00:06:03Bueno, aparentemente, ante mi sorpresa,
00:06:05yo desconocía esto a partir de que lo
00:06:07investigué este tema, me encontré con
00:06:09esto de Prometea, este que es un sistema
00:06:11que automatiza, reduce
00:06:14eh
00:06:15miles y miles de horas de trabajo
00:06:17administrativo de la justicia, eh, y
00:06:20ayuda a eficientizar al menos los temas
00:06:22menores. Después otro caso también que
00:06:25tiene eh que yo lo conozco mucho porque
00:06:28he trabajado mucho con ellos es el el
00:06:30caso de usar blockchain, la tecnología
00:06:31blockchain para la justicia. Hay un
00:06:34proyecto francés que tiene también entre
00:06:36sus fundadores a un argentino, a
00:06:38Federico Ast, que le mando un saludo,
00:06:39que es el caso de Cleros. Eh, Cleros es
00:06:43un sistema de contratos inteligentes
00:06:45para resolver disputas eh usando
00:06:48blockchain. Y es bastante interesante
00:06:50porque usa lo que se llama teoría de
00:06:53juegos, donde eh cualquiera puede actuar
00:06:57como juez, ¿no? Esto es muy el mundo
00:06:59blockchain es muy anarquista por fuera
00:07:01de los márgenes del estado. Eh,
00:07:03cualquiera puede actuar como juez. tenés
00:07:04que poner algo de dinero en ese contrato
00:07:06inteligente que absorbe tu dinero.
00:07:10Y lo que hace el sistema es si hay una
00:07:13disputa, por ejemplo, un sistema de
00:07:15seguros o en un sistema una disputa por
00:07:18alguna cuestión este legal o
00:07:20regulatoria, esa disputa se sube al
00:07:22sistema, eh se sortea el juez entre
00:07:26todas las personas que pusieron algo de
00:07:28dinero para poder ser seleccionados como
00:07:30juez. Y una vez que se hace la selección
00:07:32de jurados, los jurados hacen la
00:07:36deliberación y pueden fallar. Si
00:07:37eligieron, por ejemplo, tres jurados,
00:07:40eh, se toma como verdadero lo que vota
00:07:42la mayoría. Y si vos votaste en minoría,
00:07:45el dinero que pusiste para ser
00:07:47seleccionado como jurado lo perdés.
00:07:49estás incentivado siempre a tratar de
00:07:51votar como crees que va a votar la
00:07:53mayoría, porque si no corres dinero. Y
00:07:57eso es lo que eh los economistas de
00:08:00cleros llaman el el sistema el punto de
00:08:03shelling, que es como un punto económico
00:08:05donde eh la decisión tiende a llegar a
00:08:09una la decisión de justicia tiende a
00:08:11llegar a una a un punto de decisión que
00:08:14la mayoría debería estar de acuerdo o
00:08:16que todos coinciden espontáneamente, que
00:08:18ese es el la resolución que
00:08:20correspondería a un a una disputa
00:08:22determinada.
00:08:24Insisto con la idea de disputas menores.
00:08:25Disputas menores. Pero ojo, Cleros ha
00:08:28tenido disputas algunas millonarias.
00:08:31Este, no, pero digo, ¿sobre qué temas?
00:08:33Sobre temas, por ejemplo, eh lo usaron
00:08:36muchos sistemas de seguros online para
00:08:39eh eh proteger inversiones en
00:08:41criptomonedas. y tuvieron un hay un
00:08:43escándalo que hubo con Cleros hace unos
00:08:45años atrás, que yo lo investigué en su
00:08:46momento para la comunidad Ethereum, que
00:08:49eh se acusaba a uno de los fundadores de
00:08:53Cleros de haber participado como juez,
00:08:56los jueces son anónimos, este, pero que
00:08:58era una disputa que afectaba los
00:09:00intereses de la compañía. Eh, hay todo
00:09:03tipo de casos. Yo diría que mi, o sea,
00:09:05también clero ellos trabajaron un
00:09:07protocolo llama Proof of Humanity, en el
00:09:09que yo estuve muy involucrado. Eh, el
00:09:11problema que tienen estos sistemas tan
00:09:14orientados a la teoría de juegos y al
00:09:16juego económico es que tarde o temprano
00:09:19ese juego económico eh incentiva a que
00:09:22haya ciertos jugadores que la justicia
00:09:24es lo último que les importa, eh, y lo
00:09:27que buscan es el rédito de poder cobrar
00:09:29el dinero que corresponde por
00:09:31determinada caso o determinada causa.
00:09:33Entonces, hay muchos jugadores, este
00:09:37vivos que conocen los límites, los
00:09:39márgenes de la teoría de juegos que hay
00:09:40alrededor de esto. Y al mezclar eh la
00:09:43eficiencia de un sistema basado en el
00:09:45dinero o los incentivos del dinero con
00:09:48la idea de justicia, muchas veces lo que
00:09:50se ve muy nítidamente en estos sistemas
00:09:52es que prevalece el incentivo este e
00:09:56codicioso del dinero por encima del
00:09:59principio reinante de la justicia
00:10:01online. Eh, perdóname que te diga, pero
00:10:03no muy distinto a lo que ya sucede con
00:10:05los seres humanos. Bueno, yo te digo una
00:10:07cosal real, mi experiencia trabajando
00:10:10directamente con ellos es un equipo de
00:10:11gente brillante, economistas y demás.
00:10:14Hay muchos aquí en Argentina. Eh, lo
00:10:16disfruté un montón de trabajar con
00:10:18ellos. también fue tuvimos nuestros
00:10:19nuestras diferencias de opinión, pero
00:10:21fue uno de los proyectos que cuando yo
00:10:23estuve este trabajando junto con ellos
00:10:25donde más claro pude ver de forma casi
00:10:29matemática
00:10:30como eh el sentido de justicia y el
00:10:33sentido de eficiencia y dinero son
00:10:35absolutamente incompatibles. Si vos
00:10:38haces un un esquema con ciertos
00:10:40incentivos económicos para que los
00:10:42jueces, la disputa, la resolución, el
00:10:44fallo ocurran, el el incentivo económico
00:10:47va a generar jugadores muy vivos, muy
00:10:49hostiles, este, que van a sacar rédito
00:10:52de eso y se van a aprovechar de los
00:10:53jugadores que tienen tal vez menos
00:10:55nociones de cómo funciona el sistema de
00:10:57incentivos. Eh, y y para mí fue uno de
00:11:00los casos donde más claro pude entender
00:11:03que dinero y justicia asunto separado
00:11:06este en el en el caso más ideal. Después
00:11:10hay otro caso para los que están eh los
00:11:13que tienen por ejemplo van a ir en cana
00:11:15en Estados Unidos porque cometieron
00:11:16alguna allá. Bueno, existe un
00:11:19abogado robótico, el abogado robot que
00:11:21se llama, el nombre es buenísimo, Do not
00:11:24Pay, ¿eh? No, no Garpes. Do not pay. Do
00:11:27not pay.
00:11:28Do not pay y que te asesora legalmente.
00:11:30Es un abogado, es una inteligencia
00:11:32artificial que te asesora legalmente,
00:11:34eh, que te hace ganar las disputas por
00:11:37tal vez alguna multa por conducir
00:11:40rápido, bueno, también fallas menores,
00:11:42eh, una multa mal cobrada, un reembolso
00:11:44de algún vuelo, un contrato abusivo,
00:11:47abrís el chatbot, respondés unas
00:11:49preguntas y listo, te genera
00:11:50automáticamente la demanda. ganó miles
00:11:53de casos y su creador, un tipo que llama
00:11:55Joshua Boulder, asegura que el 90% de
00:11:58los trámites legales se podrían
00:12:00automatizar. Eh, esto es lo que se llama
00:12:02legal, eh, se le dice a este tipo de
00:12:05tecnología. Sin juicio oral, sin pasillo
00:12:07judicial, eh, estos robots empiezan a
00:12:10atender demandas eh, y generar demandas
00:12:12en los Estados Unidos. Redactame una
00:12:14buena defensa y y te lo hace. Claro, la
00:12:17verdad que es bastante impresionante. Yo
00:12:19deo, bueno, la gente está usando ya el
00:12:21chat HPT para muchas cosas. Eso iba a
00:12:24decir yo. Este año creo que he hecho
00:12:27tres o cuatro contratos, este, sin
00:12:29consultar abogados, eh, tanto como
00:12:31pidiéndole que te lo redacte, que me lo
00:12:33redacte o en algunos casos que me lo
00:12:34redacten y en otros casos que me revise
00:12:36contratos de, qué sé yo, con la
00:12:38editorial con la que voy a sacar un
00:12:39libro ahora. Este, me revisó todo el
00:12:42contrato y hasta me redactó el correo
00:12:43electrónico para negociar con la
00:12:45editorial. Igual no le pegas una
00:12:46chequeada con un amigo abogado por las
00:12:47dudas. Sí, no se lo mando a mi viejo. Es
00:12:49abogado. Che, viejo. Escuchame. Claro.
00:12:51Por las dudas. Todo bien, pero pero la
00:12:52verdad es que es bastante impresionante
00:12:54lo lo que lo que la justicia puede
00:12:56hacer. A eso iba el último punto, el
00:12:58Chat GPT. Chat GPT es una herramienta
00:13:02que todos podemos acceder. el los
00:13:04modelos largos, lo que ocurre con la
00:13:07inteligencia artificial, y esto es algo
00:13:08que que es importante, que lo voy
00:13:10notando cada vez más, es que toda
00:13:12disciplina que depende de una base
00:13:14grande de conocimiento,
00:13:17eh, por lo general se beneficia con el
00:13:19uso de inteligencia artificial,
00:13:21abogados, médicos, eh programadores, que
00:13:24son todas ramas del de profesionales que
00:13:27requieren de mucho conocimiento sobre eh
00:13:30código, sobre
00:13:33procesos legales, jurisprudencia,
00:13:36este
00:13:38recetas, medicina, ¿no? Investigaciones.
00:13:40En esas cosas se destaca mucho la
00:13:42inteligencia artificial, pero eh sobre
00:13:45todo cuando hay es una herramienta que
00:13:49puede servir para optimizar tiempo.
00:13:51Conozco ya, ya que estamos con el tema
00:13:52de justicia, conozco amigos abogados,
00:13:54eh, que no es que por supuesto le
00:13:55delegan todo al chat, pero le dice,
00:13:58"Che, redactame esto con mis palabras
00:14:00más o menos, qué sé yo, más o menos como
00:14:01yo lo hago." Y lo que va, lo que va a
00:14:05terminar pasando es que todos los
00:14:07abogados van a usar chat GPT y van a
00:14:09poder atender más casos, más gente, va a
00:14:11haber van a tener más capacidad de
00:14:13escala. Yo creo que ese va a ser el
00:14:14desenlace final, ¿no? Te reemplaza la
00:14:16IA, te reemplaz. Veo más difícil
00:14:17reemplazar un abogado por la
00:14:19inteligencia artificial, pero sí que el
00:14:20abogado utilice el chat o la
00:14:22inteligencia artificial para optimizar
00:14:24tiempo, sobre todo cuestiones más
00:14:25burocráticas, ¿no? Exacto. Y algo que
00:14:27hay que entender, que es lo que la la
00:14:29gran lección que yo aprendí vinculándome
00:14:31con alguno de estos sistemas de Legal
00:14:33Tech, es que eh aprendamos del siglo
00:14:37pasado. El siglo pasado la mirada que
00:14:39había sobre la justicia era una mirada
00:14:40positivista. ¿Qué qué quiere decir? No
00:14:42en el sentido de positividad, sino en el
00:14:44sentido filosófico del término que era
00:14:47los este soldados nazis eh en los
00:14:49juicios de Nurenberg se escudaban en el
00:14:52hecho de que decían solamente estaba
00:14:54siguiendo órdenes, ¿no? La obediencia de
00:14:56vida. Yo solamente seguía órdenes y como
00:14:59era una había una mirada legal
00:15:01positivista donde la orden es
00:15:02literalmente textualmente lo que dice el
00:15:04texto y la y y nada que se corra de lo
00:15:07que está explícitamente enunciado este
00:15:10está por por fuera de la ley. Bueno, esa
00:15:13mirada luego de la Segunda Guerra
00:15:15Mundial,
00:15:16la sociedad, la humanidad se dio cuenta
00:15:18que hay valores
00:15:21mucho más trascendentes por el simple
00:15:23hecho de seguir órdenes, que es no
00:15:24matarás, no robarás, no este, bueno, los
00:15:28mandamientos en algún punto la cuestión
00:15:30ética y moral está por encima del
00:15:32simplemente seguir órdenes, ¿no? cosa,
00:15:34eso es lo que se dice la mirada yus
00:15:36naturalista que vino después de la
00:15:38Segunda Guerra Mundial. Y este creo que
00:15:41acá claramente a veces tenemos estos
00:15:43debates donde eh se se interpreta
00:15:46textualmente la ley, pero eh también hay
00:15:49cuestiones fundamentales como la defensa
00:15:51de una democracia eh que tal vez este
00:15:54debería ayudar a tener una mirada mucho
00:15:56más completa de lo que es la justicia y
00:15:59no quedarnos con la literalidad de la
00:16:01ley, que eso la tecnología puede generar
00:16:03este este positivismo que no contempla
00:16:06que hay valores más fundamentales, más
00:16:08trascendentales. a
00:16:10a la ley, que bueno, es importante este
00:16:12tener en cuenta el contexto donde operan
00:16:14las cosas y como dijo IBM en la década
00:16:16del 70, nunca hay que delegarle la
00:16:19decisión a las máquinas porque las
00:16:20máquinas no se pueden hacer responsables
00:16:22de las decisiones que toman y esa
00:16:25responsabilidad este al final la
00:16:27justicia será siempre la verdadera
00:16:29justicia será siempre algo que creo que
00:16:31tenemos que construir entre los humanos.
00:16:33La columna de Santi Siri en gelatina
00:16:35como cada 15 días. Tecnología,
00:16:37inteligencia artificial. Hoy Justicia y
00:16:39Poder Judicial en este momento de
00:16:41novedades al respecto. Un aplauso para
00:16:43Santi Siri y así llegamos al final.