¿Pueden los algoritmos tener ética y moral?
Nuestro Día - 4/3/2022 - Duracion: 21:28
Transcripción
00:00:05Inteligencia artificial y algoritmos y esas cuestiones como medio vinculadas a cómo te gustan.
00:00:12Así, a la programación a la que te saque la ficha a Instagram, a los derechos civiles y cuando uno
00:00:19se encuentra navegando en la esfera digital, todas es un tema que nos genera algún tipo de pasión,
00:00:26indignación YY demás.
00:00:28Hace unas 2 semanas, una semana porque se fue repartiendo un poco la explosión de de una noticia a
00:00:34lo largo del tiempo.
00:00:35Empezó a salir en en medio mexicano medios españoles, colombianos, muchos de ellos muy grandes tipo
00:00:41Business insider, la misma revista muy interesante, Xataka México.
00:00:46Digo todos, todos sitios que por lo general alimentan mucho, por lo menos el ruido que después
00:00:50termina en la prensa más masiva.
00:00:53Empezaron a publicar un título que reza, Microsoft desarrolló un algoritmo capaz de predecir que
00:00:58adolescentes podrían quedar embarazadas, dice uno de los títulos.
00:01:01Un algoritmo de Microsoft sirvió para predecir embarazos adolescentes, dice Business insider.
00:01:07El algoritmo de Microsoft que predijo cientos de embarazos hace muy interesante todo alrededor de un
00:01:12tema que ha tenido cierto trato acá si no me equivoco, haber sido probablemente en el año 2019 este
00:01:17título en realidad habla de una noticia que generó mucho ruido en en lo que a ética respecta.
00:01:22Después de que se hiciera, es un trabajo que hicieron Microsoft en conjunto con el Gobierno de
00:01:26salta, que involucra una cantidad de invasiones AA la privacidad de la ciudadanía y sobre todo de un
00:01:32segmento de la población particularmente frágil.
00:01:35Así todo esto no debería pasar con con ninguna persona.
00:01:38O al menos eso pienso y siento, pero justamente lo que hacemos acá en nuestro día, esta tarde, darle
00:01:43la menor cantidad de rienda suelta a nuestras opiniones y tratar de cambiarla por información en las
00:01:49manos de profesionales que sepan del tema, en este caso el que está escuchando esta errática
00:01:55presentaciones, tobías, líder él es doctor en filosofía del Derecho e hizo a la vez un estudio sobre
00:02:00la ética de los algoritmos.
00:02:01¿Nos está escuchando qué hace todavía?
00:02:03¿Cómo te va che?
00:02:03Buen día que tal buen día, un gusto saludarlos.
00:02:06Lo mismo decimos, habrás escuchado seguramente en los medios, no sé si te cruzas, te topaste del
00:02:122018 con el comienzo de.
00:02:13¿Noticia para acá estos títulos sobre el estudio de Microsoft en salta, lo primero que se me ocurre
00:02:18preguntarte es, cómo lo ves?
00:02:21¿O lo viste?
00:02:22No es muy interesante que haya vuelto esto.
00:02:24AA ocupar primeras planas, no sabemos bien por quien ahora ha surgido o no el interés, pero está
00:02:30buena porque está bueno debatir algo que de alguna manera quedó en el pasado, porque cambió el
00:02:36Gobierno en salta y esto se olvidó, por ahí quedó en los archivos, De hecho, ni siquiera en todos
00:02:42los archivos, porque algunos archivos se han borrado mágicamente o misteriosamente.
00:02:46Sí, sí, sí, pero bueno, más allá de eso, es un tema muy interesante.
00:02:50Es un tema súper actual y que tiene una instancia, un ejemplo, en este caso de salta que tiene no
00:02:58solamente 2, sino 3 o cuatro actores principales.
00:03:02El Gobierno, una empresa muy importante multinacional de de producción, de de programas de software
00:03:09y además una Fundación que ha sido famosa por otras razones que la Fundación Conín, que ha estado
00:03:14involucrada en este proyecto, y además.
00:03:17Naturalmente asociada con esta, la Iglesia católica de salta deportivo es un proyecto la la, la
00:03:22asociación con no eran los del agua del doctor, éste no me acuerdo el nombre en un momento aparece
00:03:27el programa de Ana, hablamos de la misma persona.
00:03:29Si si un señor que se llama Albino, un pediatra que entre otras cosas no, no, no ya me acabo de
00:03:37acordar, había predicado cosas bastante polémicas, como ustedes para ser suaves, bueno, pero no nos
00:03:42vamos a meter en eso, pero él estaba absolutamente metido en esto.
00:03:46De hecho es supuestamente fue.
00:03:49¿El qué provecho?
00:03:51O, por supuesto, no de manera económicamente desinteresada.
00:03:56El relevamiento que se hizo en las casas de salta para detectar 2 cosas, por un lado, la
00:04:05probabilidad de que jóvenes varones y mujeres de salta abandonen los estudios primarios y
00:04:14secundarios y Por otro lado, la probabilidad de supuestamente de detectar el embarazo adolescente en
00:04:20salta un problema.
00:04:22Muy grave aún hoy en salta si no salta tiene, digamos en 2017, que es el el último dato que tenemos
00:04:31oficial, el 22% de todas las mujeres embarazadas tenía menos de 19 años y el embarazo adolescente
00:04:38venía creciendo en 5 puntos por año.
00:04:41Estamos hablando de 10 a 14 años, es tremendo y uno de los mayores promedios nacionales, no niños
00:04:49adolescentes de 10 a 14 años embarazadas.
00:04:51¿Entonces es un tema muy grave y que se abordó de la manera menos inteligente, a pesar de que es
00:04:58predicaba que se iba a hacer uso de la inteligencia artificial para de de ahora podemos hablar de
00:05:04algoritmos de inteligencia artificial como como se se se trabajó en la parte técnica
00:05:09específicamente, pero digo, la parte humana de la cuestión que son las decisiones previas a los
00:05:16algoritmos, funcionan, vos le haces una ingesta de datos y el algoritmo hace esas predicciones en
00:05:20este caso?
00:05:22Qué es lo que se hizo de manera poco ética acá, como esas decisiones humanas, exterminaron,
00:05:29desencadenando algo poco inteligente.
00:05:32Por ejemplo, me imagino que acá, el del probablemente lo los los datos, no sé, no, no se
00:05:37consiguieron de la de la manera más transparente y pública, no mira, no se sabe muy bien, porque
00:05:42esos datos no fueron de acceso público, pero más allá de eso, lo que se ve claro al respecto fue
00:05:49que, por ejemplo, se hacían entrevistas y esto es textual.
00:05:53A los jefes de familia para averiguar sobre las conductas de vida de, por ejemplo, las hijas,
00:06:01mujeres menores de edad que vivían en esa casa, es decir, se le preguntaba a los padres si sus hijas
00:06:09tenían, por ejemplo, una vida sexual activa y cosas por el estilo, una cosa.
00:06:14¿Por lo menos curioso, no?
00:06:15Y una cosa que termina de alguna manera, objetivando a los sujetos a los que supuestamente se quiere
00:06:22beneficiar, no convirtiéndolos en objetos de estudio y no en protagonistas de una problemática que
00:06:28además parece que se está considerando como un suceso que no tiene más protagonista que la chica
00:06:35embarazada.
00:06:36Eso sí, como mágicamente los embarazos declaró, suceden de acuerdo con este criterio, por supuesto,
00:06:43cuando estos funcionarios se les preguntó, bueno, pero.
00:06:46Una vez que ustedes supuestamente detectan que ya vamos a ver que esto es algo completamente difícil
00:06:51de de dimensionar, pero detectan que una chica, como decía el ex gobernador con 6 años de
00:06:58anticipación podemos saber si una chica tiene el 86% de probabilidad de quedar embarazada en su
00:07:03adolescencia.
00:07:05SIA aún si fuese así contigo, ni qie hacen con esa persona.
00:07:08Por ejemplo, hay ese en salta, la respuesta fue, nosotros apostamos al desarrollo de la familia y
00:07:16ambigüedades.
00:07:16¿Por el estilo no?
00:07:17Una cuestión muy, muy seria y muy complicada, la distancia nos causa gracia, digamos, porque por por
00:07:24lo absurdo, pero realmente salta una provincia con una problemática de violencia basada en género y
00:07:31en particular de embarazo adolescente, muy, muy grave.
00:07:33No olvidemos que el embarazo adolescente es siempre violencia basada en género porque no se puede
00:07:39presumir el consentimiento, sobre todo hasta ciertas edades.
00:07:42Entonces estamos en una en una situación muy problemática y que sea abordado de la peor manera.
00:07:47Con una apariencia de legitimidad y modernidad, queda el hablar de herramientas tecnológicas.
00:07:55Y esto es un poco lo que nos trae hoy a conversar.
00:07:58¿Esta mañana, no?
00:08:00Sí, es una de las cosas que que daba pie.
00:08:02Vos te preguntaba que había pasado porque acá incluso fue motivo de conversación, digo, porque
00:08:05estamos hablando de vuelta a esto, obviamente que que es sano porque es un caso que que vale la pena
00:08:10volver a hablar y demás YY medio que anduvimos rastreando.
00:08:12¿Cuál era el origen?
00:08:14Y justamente hay una revista de ciencia muy interesante que se llama futuristas, que por lo general
00:08:19abordan cuestiones vinculadas a la inteligencia artificial y hacen toda una exposición de por que
00:08:24esto representa el CI, todo lo que dicen.
00:08:27Una pesadilla para el mundo digital, como que de alguna manera genera alguna pésima tendencia y
00:08:33demás.
00:08:34Eso después fue replicado en la revista Wired.
00:08:35Entonces, evidentemente trae a colación esta discusión sobre la ética de los algoritmos, que es de
00:08:41algo de lo que entiendes mucho y que también nos preguntábamos acá, dentro de este tipo de cosas
00:08:46horripilantes, que Por lo pronto entendemos que eso brutalmente, pero excepcional en salta, como
00:08:52sea.
00:08:52¿Nosotros algoritmos, otras redes sociales que utilizamos, cuánto hay de ética en la inteligencia
00:08:57artificial que conduce mucha de nuestra realidad hoy por hoy?
00:09:00Mira, acá hay que hacer algunas distinciones.
00:09:02Nosotros venimos de la filosofía en una investigación que hicimos con Karina Pedraza y Tomás
00:09:06Balmaceda, a quienes ustedes creo que ya conocen bastante bueno y lo que lo que tratamos de hacer es
00:09:15darle una perspectiva distinta al análisis de El uso de los algoritmos en la vida cotidiana y entre
00:09:20otras cuestiones trabajamos el tema este del ejemplo, este de salta y el embarazo adolescente.
00:09:25Nosotros usamos algoritmo todo el tiempo, o sea en él la resolución de problemas.
00:09:30Cotidianos no, pero en general no nos damos cuenta de eso y entonces hay una gran confusión
00:09:36alrededor de los algoritmos porque cuando nos ponemos a pensar en algo que tenemos incorporado es
00:09:41frecuente que tengamos algunas confusiones, algunas dudas.
00:09:44¿Nosotros la la primera distinción en la que nos apoyamos para no aburrirlos lo voy a ser muy breve,
00:09:48no?
00:09:49Pero es en la la noción de algoritmo en sentido estrecho, que es la que habitualmente se piensa que
00:09:54es la que vos recién mencionaste que es la idea de una digamos técnica que se llama esto un
00:09:59constructo matemático.
00:10:00Pero es.
00:10:00Una estructura, un una serie de fórmulas que se elige para resolver un problema porque es un
00:10:07problema parecido a otros problemas que resolvieron antes.
00:10:09Entonces se trata de resolver igual, digamos, aplicando la misma fórmula, pero hay un un concepto
00:10:15más rico del algoritmo, que es el algoritmo que nosotros llamamos en sentido amplio.
00:10:19¿Qué es un sistema tecnológico que involucra varias etapas, entre las cuales está el algoritmo
00:10:24sentido estrecho?
00:10:25Pero ahí el algoritmo sentido amplio involucra un montón de cuestiones, por ejemplo, datos de
00:10:31entrenamiento, un algoritmo específicamente para enseñarle al sistema a trabajar con la con con los
00:10:37datos y con la los temas relevantes, el.
00:10:41Y un modelo estadístico que da lugar que o que es el resultado de la aplicación de algoritmos.
00:10:48Entonces acá hay en cada una de estas etapas.
00:10:52Hay afectaciones de derechos y hay por supuesto problemas éticos dando vueltas, uno lo mencionamos,
00:10:59recién no se puede tener en cuenta.
00:11:02AA las personas que están involucradas en sin considerar los sujetos sujetos de Derecho, no y
00:11:08considerar simplemente un objeto.
00:11:10Ajá, y esto es algo que se hace muy frecuentemente a entonces.
00:11:15La otra cuestión es que la mayoría de las veces los algoritmos pasan desapercibidos para nosotros,
00:11:19es decir, saber en el mejor de los casos sabemos que se aplicó un algoritmo, pero no sabemos cuáles.
00:11:24¿YY sobre qie base se aplicó?
00:11:26¿YY entonces, ajá, no tenemos información, no tener información, estamos indefensos, frente a eso,
00:11:32no?
00:11:32Sí estaba pensando que acá venimos hablando últimamente de ciertas aplicaciones de citas y demás.
00:11:41¿Y hay una sobre todo, que cubre, que tiene como supuestamente un algoritmo y te tira una así como
00:11:47Netflix te dice, hay 95% de chances de que esta película te guste en base a lo que vos ya viste, te
00:11:56tira eso, pero con personas y pero no, es que hay algún, tiene algún apartado en el que vos puedas
00:12:05ir a ver?
00:12:06¿Vos contestas un montón de preguntas, pero no hay un apartado donde te explique como el algoritmo
00:12:13funciona y analiza, YY cuan parcial?
00:12:16¿Tal OO?
00:12:18¿Qué tipo de sesgo tiene para considerar que es más importante una respuesta que otra, por ejemplo,
00:12:24como que hasta en eso hay un algoritmo que debería tener una ética detrás?
00:12:29¿No?
00:12:31¿Mira, ahí vos mencionaste un concepto que es crucial en esto, el concepto de sesgo, no?
00:12:36Él hay que tener en cuenta que los algoritmos, siempre a pesar de que se diga que la tecnología no
00:12:44tiene valores, sino que es el uso el que uno le da al que puede imprimirle valores.
00:12:50Esto es falso, es una idea equivocada.
00:12:52Hay que advertir que los algoritmos siempre están cargados de valores ajá, no.
00:12:58Y que estos valores se incorporan a los sistemas tecnológicos desde el momento de su concepción.
00:13:05Sino desde el momento del diseño de los planes de uso.
00:13:08La mayor parte de las aplicaciones que están disponibles en el mercado tienen parámetro que se llama
00:13:14parámetros operacionales que son especificados porque en los los desarrollan ajá y que terminan de
00:13:21ser configurados por el usuario, pero que ya vienen con una carga de configuración previa.
00:13:27Entonces digo ejemplos muy simples, el el algoritmo de salta fue diseñado íntegramente por hombres
00:13:34CIS.
00:13:36Sí, mi amor, ahí, ya tenes.
00:13:39Queriendo no.
00:13:41Un cierto direccionamiento.
00:13:44En la configuración de ese algoritmo en sentido amplio.
00:13:47Ahí, y así pasa con todo, ajá hay, hay una serie que a mí me gusta mucho, que quizás no es muy
00:13:52popular, pero que es muy buena.
00:13:54Es una serie de abogados, pero que es muy buena, agarrando coyuntura y temas y dilemas Morales
00:14:02actuales e legales, sociales, económicos y pasándolos a la ficción que se llama The Good fight y la
00:14:09pueden ver en esta en Amazon y tiene un capítulo, me parece que es en la segunda temporada donde hay
00:14:14una escuela que.
00:14:16Tiene un algoritmo donde supuestamente como para poner.
00:14:22Abrirle las puertas a la diversidad y tirar abajo el techo de cristal y determinadas cosas
00:14:29supuestamente eligen a los profesores en base a un algoritmo, pero hasta que terminan descubriendo
00:14:36esto que vos decis que el algoritmo ya venía con un sesgo, porque quienes lo hicieron, el de alguna
00:14:44manera terminaron haciendo que después las decisiones que he tomado a ese algoritmo, aunque no fuera
00:14:49queriendo tener, terminaban siempre favoreciendo a la misma gente.
00:14:54¿Qué se favorecía?
00:14:55¿Ya de por sí como YY que son cosas que recién ahora estamos medio como preguntándonos, no?
00:15:02Totalmente, es muy interesante ese capítulo que lo vi yo, soy abogado de formación de base, así que
00:15:07todas esas cosas me interesan.
00:15:08Me interesa abogados, no van a ver series de abogados novela.
00:15:15Terminarlo al contrario, a nosotros nos interesan más las la las los juegos de ficción que desde la
00:15:21vida real, pero De todos modos, De todos modos soy un poco, es mi mi, mi pasado de abogadiles un
00:15:28poco indetectable, así que no creo que el algoritmo de de lo vea.
00:15:31Pero más allá de eso, es totalmente atinado lo que están diciendo, digamos, es así, pero digo esto
00:15:39que deseamos recién que en todas las etapas de desarrollo del algoritmo intervienen valores.
00:15:43Es algo que no, algo que no se le presta atención.
00:15:46Pero que si uno lo piensa 2 minutos se da cuenta de que es casi una verdad.
00:15:50Perogrullo no, sí, es decir, y además son valores tanto intrínsecos, es decir, valores que tienen
00:15:56que ver con las decisiones tecnológicas, como lo que se llama genética valoraciones extrínsecas, es
00:16:03decir, las que tienen que ver con los propósitos humanos que se incorporan en los sistemas de
00:16:08tecnología.
00:16:09Entonces, ahí tenemos un juegos de conceptos que nos permite comprender mejor cuáles son los valores
00:16:17afectados y cuáles son los valores involucrados, no digamos, y hay una cuestión que tiene que ver
00:16:23que va más allá, pero que involucra a la eficacia.
00:16:27A la eficacia del sistema para resolver el problema planteado y no generar más problemas de los que
00:16:34quería resolver, porque hay una un tema, que estamos nosotros profundizando y que en esta
00:16:43investigación fue un poco la conclusión a la que llegamos es más compleja de lo que lo voy a
00:16:47formular ahora, pero esta frase me parece que es muy elocuente en ese sentido, que es que la
00:16:53tecnología no puede resolver por sí misma los problemas que la tecnología genera.
00:16:59Es decir, la decisión de usar, por ejemplo, una plataforma de predicción Algorítmica para predecir
00:17:07el embarazo adolescente o la deserción escolar no es necesariamente una mala idea.
00:17:12Lo que es incorrecto es pensar que esa determinación es moralmente neutra, es decir, es ajena a los
00:17:19valores que tomaron de quienes tomaron esa decisión.
00:17:23Los avances tecnológicos no pueden entenderse en el vacío a pesar de esta idea de que cuando
00:17:31hablamos de tecnología o inteligencia artificial estamos hablando de artefactos que no son personas
00:17:37o que no tienen personas detrás, no todas las los, los avances tecnológicos, los algoritmos en
00:17:43particular, que es lo que nos trae acá, tienen que ser situados en el contexto histórico y social en
00:17:48el que ocurren y tienen que ser interpretados.
00:17:50Además, a la luz de los valores y de los de las costumbres.
00:17:55De los de las personas que integran la sociedad en la que nacieron por un lado, y se implementan YY
00:18:02proyectan sus consecuencias.
00:18:05En el otro, por el otro, no me parece que esto es un mensaje que hay que tener en claro.
00:18:09Más allá del hype del de la tecnología y la inteligencia artificial, más allá de que tratemos de ver
00:18:14siempre la parte positiva del uso de la tecnología, hay una parte oscura a la que hay que prestarle
00:18:19atención, a la que hay que ponerle luz encima para que se vea.
00:18:22O sea, porque si no, si nos pasa eso, terminamos viendo series que no queremos o, como decían por
00:18:27ahí, Excitándonos con una persona.
00:18:31¿Que no es para nosotros, sino a mucha gente, se queda con el con el con el titular y ese un
00:18:36algoritmo para predecir si las niñas quedarán embarazadas y ya dice, Ah, no?
00:18:41Esto es distópico y cuando entras en el.
00:18:43En el desarrollo de la noticia te das cuenta de que el problema no es la tecnología, o sea, en todo
00:18:48caso, el uso de la de de la tecnología.
00:18:51Este se podría haber hecho de otra manera en este caso.
00:18:54¿Cuál hubiese sido la manera de implementarlo digamos correctamente?
00:19:00Mira que hay un, además en este tema en particular, hubo una gran cantidad de problemas técnicos en
00:19:07la implementación de este algoritmo, pero serios graves en el sentido que son básicos.
00:19:13Han sido básicos, esto lo ha lo ha investigado el laboratorio de inteligencia artificial de la uva.
00:19:18Digamos, por ejemplo, en donde se ha marcado que, por ejemplo, se han usado los mismos pro para
00:19:27entrenar al sistema.
00:19:28Se nos ha dado los mismos datos.
00:19:31Que se utilizaron para programar el sistema o para para ese llamamos alimentar el sistema.
00:19:37Entonces ahí hay un problema grave, no porque estabas auto validando las conclusiones a las que se
00:19:43llega va, no, pero es una cuestión mucho más técnica y que más allá de que a nosotros tomas cariño y
00:19:50a mí se nos escapa y sería un atrevimiento hablar de cuestiones de ingeniería informática porque
00:19:56somos muy fanáticos de de la tecnología, pero no somos ingenieros informáticos, muy bien me nosotros
00:20:03no.
00:20:03Pusimos el eje en un eje que que no se había atendido de manera para nosotros suficiente, que es el
00:20:10eje de la de las consecuencias éticas valorativas de la utilización de éstos.
00:20:17De estas herramientas que serán no solamente acá, serán también da otro tema que hemos trabajado es
00:20:23el tema del reconocimiento facial en los subtes, por ejemplo, los trenes en donde digamos se utiliza
00:20:29supuestamente inteligencia artificial, como si eso garantizara objetividad, la identificación de las
00:20:34personas cuando sabemos que eso es falso, que no es así.
00:20:37Si no, entonces no hay que subirse a la ola de El entusiasmo tecnológico sin tener en cuenta de que
00:20:46esa Hola en algún momento rompe, cae.
00:20:48Iba a llegar a la orilla y bueno, y ahí vamos a tener que saber cómo caer Nobel fuerte.
00:20:52Está bueno que estemos gritando desde ahora.
00:20:55Esperemos estar haciendo, esperemos estar a tiempo en tobías, muchísimas gracias por si acaso a
00:21:00donde te puedes seguir nuestra audiencia shui para más información arroba Tobias, leer son mis redes
00:21:07sociales, S.
00:21:08CHLEIDERAL, mejor, casi rapero, todavía hace muchísimas gracias, te mandamos un abrazo y gracias por
00:21:17estar la próxima.