El pasado, presente y futuro de la INTELIGENCIA ARTIFICIAL I COSTA EN CÓDIGO ABIERTO
Radio Con Vos - 19/2/2026 - Duracion: 29:51
Transcripción
00:00:00invitación, Max, por la presentación.
00:00:01Bueno, qué bueno estar ahí primer
00:00:03en radio con vos y hablando de esto.
00:00:05Sí, una radio que se preocupa mucho en
00:00:08la coyuntura y también en temas de fondo
00:00:11eh sobre la democracia. Y la primera
00:00:13pregunta que te hago es, ¿empezaste a
00:00:15escribir tecnoceno en la pandemia?
00:00:17En la pandemia, sí.
00:00:18Y empezaste con una preocupación porque
00:00:21ahí se produjo una aceleración. Mucha
00:00:22gente hoy ya no habla de la pandemia
00:00:24como si no hubiera pasado nada y pasó
00:00:26muchísimo y desde ese 2020 que empezaste
00:00:29a escribir este libro y con todas las
00:00:32preocupaciones que traías del 2016
00:00:35a hoy,
00:00:36¿sí?
00:00:37¿Cuánto aceleramos?
00:00:39Pareciera que mucho, ¿no? Pareciera que
00:00:41mucho. Eh, de hecho empezamos con
00:00:44inteligencia artificial específicamente.
00:00:45Creo que todos hablar, bueno, todos los
00:00:47que nos estaban en el campo específico
00:00:50en el 23 y ya nos parece un montón. Ya
00:00:53se habla de burbuja financiera,
00:00:55eh, se habla de burbuja publicitaria, de
00:00:58hype, no qui decir, a ver, ¿cuándo se
00:00:59pincha?
00:01:02Hacíamos la cuenta, la laborbuja.com de
00:01:05internet se pincha después de 7 8 años.
00:01:07Sí,
00:01:07ya estamos al segundo, casi tercero y ya
00:01:10nos parece demasiado tiempo, ¿no?
00:01:12Comparas eso, compará cuando arrancamos
00:01:14con que es un que es eh la comparación
00:01:17más inmediata que tenemos los digamos
00:01:19con respecto a una experiencia viva,
00:01:20¿no?
00:01:21En parte la otra comparación te diría
00:01:24por distintos motivos es la
00:01:25electricidad. ¿Por qué? Porque es el
00:01:27desencadenamiento de un ambiente,
00:01:29¿no? Desencadenamiento, no de una
00:01:30tecnología como puede ser, no sé, se
00:01:32inventa el avión, es reimportante, se
00:01:34inventa el cine, super importante, el
00:01:35cinematógrafo, si crees, o
00:01:39no sé, eh, [música] el auto mismo, ¿no?
00:01:42Pero en cambio estos otros electricidad,
00:01:45si querés, pero después específicamente
00:01:47porque tiene que ver con el conjunto
00:01:48mayor, ¿no? técnico
00:01:51internet tal como la conocimos nosotros,
00:01:53quiere decir, no, no darpanet, no, no la
00:01:56red militar y científica de los años 70,
00:02:00digamos, 66, sino lo que se masificó,
00:02:02la que la que se vuelve comercial, la
00:02:05que se vuelve comercial a una pequeña
00:02:06enmienda de una ley norteamericana del
00:02:08año 92
00:02:10y que a nuestra región, digo, de México
00:02:11para abajo empieza a llegar al
00:02:139495,93495,
00:02:15digamos, ¿no? acá Argentina, no sé si
00:02:16recuerdan, Algor, el que era en ese
00:02:18momento el vicepresidente de Clinton,
00:02:20viene en el 94 a promover la
00:02:21supercarretera informática, ¿no? La
00:02:24autopista de la información. Bueno, y yo
00:02:26creo que algo de eso junto con el libro
00:02:28de Negroponte, yo pongo una especie de
00:02:30de tres, cuatro acontecimientos
00:02:32disíiles, ¿no? El Windows 95, eh,
00:02:35Negroponte con ser digital, la visita de
00:02:39de Gore en particular, bueno, el empuje
00:02:40que le da el gobierno norteamericano,
00:02:42pero también el gobierno estadounidense
00:02:43es un factor muy importante en este caso
00:02:46y en ese sentido se parece a esto, ¿no?
00:02:48Porque las I que conocemos hoy, los
00:02:50modelos de lenguaje grandes, las
00:02:51Igenativas,
00:02:53ni son la primera idea existente de la
00:02:56que ya con la que venimos trabajando,
00:02:57viviendo.
00:03:00Eh, el GPS ya era una ya, digamos, ¿no?
00:03:03E ni la única ya posible. Hay muchos
00:03:06tipos posibles de ya y desarrollos
00:03:08posibles. Es una línea. Lo que la
00:03:10diferencia y lo que la caracteriza esta
00:03:13es que yo creo que es la cabeza de
00:03:18Sí. la cabeza de una oleada de lo que
00:03:21chumpeterianamente llamaríamos, ¿no?, de
00:03:24destrucción creativa, una oleada de
00:03:26innovación, digamos, en un intento de
00:03:29revitalización capitalista de gran
00:03:31escala, de gran escala hemisférica, ¿no?
00:03:35Eh, que entonces está acompañada de un
00:03:37incentivo financiero gigante. todo lo
00:03:39que son las en un momento de retracción
00:03:43de lo que serían los las financiamiento
00:03:46de ONGs, de universidades, de ciencia,
00:03:49no solamente en Argentina, sino en buena
00:03:52parte de ese occidente alineado con el
00:03:53modelo Trump, e todo lo que hay es para
00:03:58la Ya. Entonces, es es un acontecimiento
00:04:02tecnopolítico, no es estrictamente
00:04:04tecnológico, ¿no? Si bien, por supuesto,
00:04:06lo que vemos es una tecnología. Viene de
00:04:08arriba y lo último que te digo ya sí me
00:04:11me haces la pregunta y viene directo a
00:04:13nuestros celulares, o sea, y viene por
00:04:15abajom
00:04:16y eso es lo que genera toda una serie de
00:04:20complejidades interpretativas y
00:04:22analíticas, ¿no? ¿Qué hacemos con esa
00:04:24con esa presión doble? Los chicos la
00:04:27tienen cada vez que preguntan o piden
00:04:29algo. La respuesta para nosotros hace
00:04:31poco era Google, ¿no? Ahora es esto
00:04:35o mochila, quiero decir un buscador.
00:04:36Ahora es esta que cada vez es h más
00:04:41precisa en sus respuestas. Al principio
00:04:42era muy muy vaga, ahora cada vez es más
00:04:44precisa.
00:04:46Eh, digo, la general, la gratuita
00:04:48inclusive. Y al mismo tiempo lo que
00:04:51sabemos es que entre esa escala de
00:04:52cotidiana y la escala Openia, Google
00:04:56Antropic, digamos,
00:04:59hay todo un conjunto de capas que
00:05:02todavía no logramos reconocer
00:05:04con distintos riesgos cada una de ellas,
00:05:06¿no? Y al mismo tiempo, bueno, ¿qué
00:05:08hacemos? No, ahí
00:05:09ahí la palabra de riesgo y te quiero
00:05:12preguntar, ¿hay un excesivo optimismo
00:05:14por el uso de la herramienta? porque es
00:05:17bárbara. Y entonces cuando vos hablás de
00:05:19aplicación específica, qué s yo, en
00:05:21medicina, en ingeniería, en cosas muy
00:05:24concretas, la inteligencia artificial
00:05:26nos lleva a lugares donde parece que es
00:05:30una eca por día, ¿no? Mira lo que
00:05:31descubre, mira lo que descubre, mira lo
00:05:33que puede hacer. Y vos hablás de los
00:05:35peligros y lo comparás con los
00:05:38accidentes. Vos decís que toda
00:05:40tecnología tiene aparejada un accidente.
00:05:44Eh, y ahí vos decís, "Bueno, cuando se
00:05:47inventó el tren apareció el
00:05:49descarrilamiento, cuando se inventó el
00:05:50avión apareció el accidente aéreo. Pero
00:05:53vos decís que esto no es comparable
00:05:55porque atraviesa todas las disciplinas
00:05:59humanas."
00:05:59Total, claro.
00:06:00¿Cómo haces con ese riesgo? ¿Cómo cómo
00:06:02da cuenta la política de eso? Te lo
00:06:04pregunto porque a mí lo que me parece es
00:06:05que necesitamos una política estatal.
00:06:08Eh, Argentina no se involucra en esa
00:06:11política que por lo menos vemos en el
00:06:13mundo, en Australia, Nueva Zelanda,
00:06:15Brasil y Chile, digamos y
00:06:17Uruguay tien nuestros vecinos así del
00:06:19zono sur más inmediatos tienen.
00:06:22¿Y cómo cómo ves la política en la
00:06:25Argentina? ¿Por qué lo por qué crees que
00:06:27los políticos no dan cuenta de esto o no
00:06:29está en el debate público?
00:06:31eh los grandes riesgos de la
00:06:33inteligencia artificial. Eh,
00:06:36empiezo por tu pregunta y después si
00:06:37quieres remontamos un poco a la al por
00:06:38qué la pregunta por el riesgo, que no es
00:06:40una pregunta que que se que ni se me
00:06:41ocurre a mí ni es este necesariamente
00:06:44filosófica, digamos, sino que es una
00:06:46pregunta de la de la industria, la
00:06:47propia industria, ¿no? también eh
00:06:51yo creo que este gobierno está
00:06:52involucrado en no tener una política en
00:06:55el sentido de en el
00:06:58alineándose con Trump,
00:07:00eh pero de una pero de la manera que en
00:07:04que el gobierno de Trump espera una la
00:07:07alineación de un país como la Argentina,
00:07:08digamos, ¿no?
00:07:10Eh, su política es no tener una ley. Un
00:07:13poco eso es lo que hizo el propio Donald
00:07:15Trump cuando suspende. Ellos también
00:07:17decidieron no tener ley. La Unión
00:07:18Europea rápidamente decidió tener una
00:07:21ley. Se le llevó 5 años rapidez, ¿no?
00:07:24Pero en el 23 ya tenían casi escrita la
00:07:27ley.
00:07:29Pero en el segundo gobierno de Trump
00:07:30ellos retroceden respecto de un mandato
00:07:32que le habían dado a un instituto que se
00:07:33llama NIST, que es el instituto de las
00:07:35normas y los digamos las medidas, los
00:07:37patrones, parecido a lo que en nuestro
00:07:38país es el inti.
00:07:40Eh, uno podría decir un un instituto que
00:07:44regulariza, certifica tecnologías, ¿no?
00:07:47Cuando uno dice la norma ISO, la norma
00:07:49IRAM, ¿no? De certificación,
00:07:52la los estadounidenses habido no tener
00:07:54una ley específica, ellos tienen un
00:07:56sistema, sobre todo judicial bastante
00:07:58poderoso, ¿no? Bastante fuerte. El
00:08:01recumplimiento de la ley es estricto
00:08:03para para el campo de la industria
00:08:06y por otro, pero pero al mismo tiempo
00:08:07con la legislación existente alcanza,
00:08:09pero le damos al NIS la tarea de
00:08:11elaborar un conjunto de certificaciones
00:08:14que por supuesto estaba regido por la
00:08:15pregunta por el riesgo, que es lo que
00:08:17rige también la legislación de la Unión
00:08:18Europea. E ahora bien, la segunda
00:08:23presidencia de Trump. Lo primero que
00:08:24hizo es desactivar en el NIST toda la
00:08:27investigación de seguridad que no sea
00:08:29estrictamente de defensa,
00:08:31¿no? De lo que nosotros llamamos
00:08:33security, digamos, todo lo que sea lo
00:08:36que llam los derechos blandos, pero que
00:08:38no son nada blandos, ¿no? Derecho al
00:08:39ambiente, a la democracia, al acceso a
00:08:41los derechos fundamentales, a derechos
00:08:43derechos humanos. Safety, no, eso no se
00:08:46estudia solamente security ante el
00:08:48riesgo de un hackeo masivo, de un
00:08:50atentado terrorista.
00:08:51Ahí te sirve el inglés porque se dice de
00:08:53dos maneras.
00:08:57eny, no,
00:08:58en la industria local, cuando se
00:09:00traducen los manuales, por ejemplo, se
00:09:02dice protección y seguridad.
00:09:03Security es protección ante un delito,
00:09:06digamos.
00:09:08Lo que llamamos seguridad sistémica es
00:09:09esto que llamamos safety. Insisto, no es
00:09:11nada hablando, ¿no? Pero son es la
00:09:13seguridad del operador. En realidad
00:09:15también es una seguridad para el
00:09:16operador técnico, para, no sé, en la
00:09:19industria aeronáutica. Claro, para el
00:09:22hombre de a pie, una diría, la mujer de
00:09:24a pie
00:09:24en la industrionáutica es la seguridad
00:09:26para el piloto, pero también para los
00:09:27pasajeros,
00:09:29para el controlador de vuelo, [música]
00:09:30en fin. Eh,
00:09:32y allí es donde se habla de riesgo
00:09:34aceptable, perdón. Claro, claro. Y
00:09:36ahora, bueno, un poquitito de teoría del
00:09:38riesgo. La teoría del riesgo no es una
00:09:39teoría,
00:09:41yo tomo mucho de Vidillo, que es un
00:09:42autor crítico que a mí me gusta mucho,
00:09:44pero en verdad ya por lo menos alguno
00:09:46habrá escuchado e Ulrick Beck hablaba de
00:09:48la sociología del riesgo, la sociedad
00:09:50del riesgo. Ya cuando se empieza se
00:09:52empieza a ver la la
00:09:55globalización de los 90, ¿no? Del siglo
00:09:57pasado, ya como un acontecimiento
00:09:59realizado, ¿no?, El mundo, gracias a
00:10:01estas tecnologías infocomunicacionales,
00:10:03ya es de alguna manera un mundo
00:10:05interconectado en muchos subsistemas. El
00:10:08financiero, por ejemplo, ¿no? Por
00:10:10supuesto el comunicacional, pero bueno,
00:10:11el aéreo, ¿no? Entonces se empieza a
00:10:13pensar que ya la política
00:10:17debe incluir la pregunta por el riesgo,
00:10:19¿no? Eh, por ejemplo, de la energía
00:10:22nuclear. ¿Cómo gestionas una energía, un
00:10:26desencadenamiento de energía
00:10:27poderosísima como la nuclear, pero que
00:10:29te permite, por ejemplo, ahora vuelve el
00:10:31tema nuclear con la IA, te permite la
00:10:33energía necesaria para soportar la
00:10:36demanda enorme que tiene para Occidente.
00:10:40No tenemos todavía los datos de Oriente.
00:10:41Para mí es una pregunta de investigación
00:10:42fundamental. ¿Cómo sostienen China,
00:10:46Singapur, Corea del Sur la exigencia
00:10:48tecnológica que tienen para nosotros? La
00:10:51exigencia energética, quise decir, ¿no?
00:10:53La exigencia energética de Occidente es
00:10:56para las inteligencias artificiales
00:10:57actuales tan grande que se empiezan a
00:10:59desempolvar las viejas centrales
00:11:01nucleares que habían sido cerradas.
00:11:03por ejemplo, la que tuvo el primer gran
00:11:05accidente nuclear conocido, que es eh My
00:11:08Island, que por por otra parte, gracias
00:11:11a ese accidente desde el año 79 se
00:11:14escribe uno de los libros clásicos de
00:11:16estudios de riesgo que es el de Charles
00:11:17Pirrow, accidente normal, ¿no?
00:11:20Vos dijiste, el riesgo es una medida lo
00:11:22aceptable, el riesgo es un espectro.
00:11:25Ahora todo es un espectro, pero bueno,
00:11:26el riesgo también es un espectro.
00:11:27Vivimos,
00:11:27pero lo que mide cada cuánto se cae un
00:11:29avión o cada
00:11:30vivimos en riesgo. Vos salís a la calle
00:11:31y corres un riesgo, agarrás un auto y
00:11:33tienes un riesgo, digamos. No es que no
00:11:34hay no hay riesgo cero en una sociedad
00:11:36tecnologizada.
00:11:37Cero,
00:11:38pero vos tenés una sociedad con un
00:11:40riesgo aceptable, no aceptas tanto
00:11:42riesgo en el avión, en el auto, te pones
00:11:44el ciclo de seguridad, se van se van
00:11:46afinando las medidas de de riesgo, o
00:11:49sea, de de gestión de los riesgos o de
00:11:51aseguración ante los riesgos. Y cuando
00:11:53viene una tecnología que que amenaza ya
00:11:56desde la propia industria con ser
00:11:58disruptiva, esto es un componente
00:12:00cultural pero interesante. En los
00:12:01últimos 15 años, yo diría desde el 11S,
00:12:04parte del hype publicitario es decir que
00:12:07son disruptivas.
00:12:10Eh, bueno, forma parte de eso que una
00:12:11doctora que me gusta mucho, es amiga,
00:12:12además, Paula Sivilia, llama la
00:12:14transformación de nuestro suelo moral,
00:12:16¿no? De la hipocresía, dice ella, al
00:12:18cinismo. Ya, cuanto más cínicos, ¿no?
00:12:21Más interesantes nos aparentemente somos
00:12:23para este mundo mediatizado.
00:12:26Y las industrias han
00:12:29vuelto hacia sí o para sí la idea de que
00:12:32sus tecnologías son de riesgos, pero que
00:12:33ellas se van a ocupar de eso, ¿no?
00:12:35Entonces, bueno, en parte eso es lógico
00:12:37y hay toda, por supuesto, un
00:12:39acompañamiento
00:12:40del conocimiento existente sobre la
00:12:44sobre la tecnología, la meta tecnología
00:12:46de la Ya y y los sistemas de riesgo.
00:12:49Justo estábamos hablando con un
00:12:50brasileño muy aparentemente ya no muy
00:12:53conocido que ella no solamente las
00:12:55escalas de la inteligencia artificial
00:12:57son según no sé open es una escala la
00:12:59que podemos tener desarrollando en una
00:13:02en una comunidad para conocer, no sé,
00:13:04datos acerca de el agua, por ejemplo,
00:13:07¿no? Que podemos tener datos muy buenos.
00:13:09Eh, es otra escala. Ahora, lo que sí
00:13:11sabemos hasta ahora es que esta
00:13:12tecnología
00:13:13asociativa de los modelos de lenguaje
00:13:16grandes, la generativa que usamos ahora,
00:13:19es muy buena para leer grande para
00:13:22problemas que necesitan leer gran
00:13:25volumen de datos, para lo cual tenés que
00:13:27tener gran volumen de datos, ¿no? ¿Por
00:13:29qué es buena en la medicina, por
00:13:31ejemplo, y tenés un montón de historias
00:13:34clínicas, imágenes, muchísimas imágenes
00:13:36podés comparar
00:13:38porque puedes puede ser muy buena para
00:13:39leer el problema del cambio climático y
00:13:41porque la cantidad de datos que
00:13:43necesitas y los tenés que poner todos en
00:13:45línea es muchísima, te puede servir para
00:13:47cosas muy importantes de la escala
00:13:48planetaria. En ese sentido es muy buena.
00:13:51Ahora, quizás no la necesita un
00:13:52estudiante en la escuela.
00:13:55problema nuestro de todos nosotros, pero
00:13:58también de nuestros países que no están
00:13:59desarrollando la gran escala,
00:14:02la sacá de la escuela y entonces ese
00:14:05chico, ¿cuándo llega a poder entender la
00:14:08idea que va a usar dentro de 20 años?
00:14:10Entonces ahí tenemos un dilema que es en
00:14:13parte ético, en parte pedagógico, ¿no?
00:14:15En parte epistemológico, decir, no te
00:14:17podes ni correr ni subir completamente,
00:14:20¿no? Les vuelvo. Nuestro nuestro actual
00:14:24gobierno tiene una política de no ley,
00:14:28de no tener una ley, no ocuparse de la
00:14:30seguridad.
00:14:32Sí. y trabajar con
00:14:36con la imagen bien extractivista de
00:14:39vamos a proveer frío, ¿no?, y minerales.
00:14:44cuando nuestro país tiene una historia
00:14:46de en este momento muy muy bombardeada,
00:14:49pero de ninguna manera terminada de
00:14:51industrialización, tiene industria
00:14:53nuclear, tiene tu indicastre en la
00:14:56política del que tuvimos cuenta, que no
00:14:59se produjo acá fue Cambridge Analytics,
00:15:01que digamos ahí tomamos cuenta de cómo
00:15:03se podía manipular la política, o sea,
00:15:05en el 2016.
00:15:07Contame qué fue Cambridge Analytics, o
00:15:09sea, contame cómo
00:15:11la historia o o la consecuencia. Repite
00:15:15eso y en los debates políticos, ¿no?
00:15:17Porque ya lo vimos la manipulación de
00:15:19las elecciones o cómo se manipularon
00:15:21datos o contame un dato concreto de esto
00:15:24que puede afectar a la democracia o que
00:15:26está afectando a la democracia en todo
00:15:28el mundo y que eh como que la gente de a
00:15:31pie que decimos siempre, nosotros no lo
00:15:33entendemos. ¿Qué yo ciudadano, ¿a qué
00:15:36estoy sujeto cuando les estoy dando
00:15:38datos? ¿A qué estoy dispuesto
00:15:39hay dos o tres
00:15:41hipótesis de conflicto más estrictamente
00:15:45politógica, si queres, no? Más de más de
00:15:46la política. Una es la que muestra que
00:15:48analítica hay una película, eh, ya me
00:15:52acordaré de esa película que cuenta la
00:15:53historia.
00:15:56E
00:15:58y uno diría los datos que proveemos en
00:16:01la que son nuestros datos tanto
00:16:03biométricos, o sea, de nuestra
00:16:04complexión biológica, cuando pones la
00:16:06huella dactilar, ya ya la plataforma,
00:16:09varias plataformas ya tienen tu dato,
00:16:11pero además comportamental, me gusta, no
00:16:14me gusta, soy amiga tuya y amiga de
00:16:16Charlie y aparte eh puedo poner cada
00:16:20tanto, no sé, voy a votar tal cosa,
00:16:23tengo también, no sé, me voy a la
00:16:25iglesia hoy que es este Santa Flavia,
00:16:27entonces soy ya una posicionamiento
00:16:29religioso, en fin, o puedo no hacerlo,
00:16:32pero
00:16:34justamente como estas plataformas son
00:16:37parte de ese entramado tecnológico con
00:16:39el que trabaja la es gracias a que
00:16:41vivimos en plataform, por eso internet
00:16:43es importante, porque gracias a que
00:16:44vivimos en plataformas, que es un modelo
00:16:46de internet, pero es el que el realmente
00:16:48existente,
00:16:50hemos dejado que unas pocas
00:16:51corporaciones tengan todo ese cúmulo de
00:16:53datos
00:16:54biométricos y comportamentales.
00:16:59Estas tecnologías que son capaces de
00:17:00leer millones y millones de datos pueden
00:17:03establecer relaciones entre esos datos
00:17:05que ningún equipo, digamos, de
00:17:07consultoría, de marketing político,
00:17:09comercial, por más numeroso que fuera,
00:17:11hubiera podido leer. Tradicionalmente,
00:17:14¿qué leíamos? sexo, eh género, eh
00:17:17posicionamiento político, edad,
00:17:20geografía, donde vive, vive la ciudad,
00:17:21vive en el campo, nivel educativo, o
00:17:24sea, leíamos un conjunto de variables
00:17:25que podíamos leer y después
00:17:26comportamientos. Esto te lee cualquier
00:17:29cosa, te lees desde el tiempo que pasas
00:17:30en una pantalla a la otra, qué hora te
00:17:31vas a dormir, si tomaste agua o no
00:17:33tomaste agua. Para mí hay un concepto
00:17:35interesante que surge ahí que es el tema
00:17:37de tomando esto que decías al principio
00:17:39de cómo va cambiando el trasfondo moral
00:17:41o el subsuelo moral de nuestro
00:17:43comportamiento, es el abandono del
00:17:46concepto de privacidad, ¿no? Digo, hasta
00:17:48hace unos años había una gran
00:17:49preocupación en la sociedad por mi
00:17:50privacidad, si el estado se podía meter
00:17:53en mi casa, había todas unas teorías
00:17:55conspirativas de si te había una persona
00:17:57escuchándote desde afuera con un
00:17:58aparato, qué sé yo, y hoy por hoy eh
00:18:01todos aceptamos los términos y
00:18:03condiciones. Claro, condiciones.
00:18:05Autorizo a que me escuches todo lo que
00:18:06hago y que veas cada preferencia que
00:18:08tengo porque preferimos acceder a la
00:18:10plataforma a precio, entre comillas
00:18:12gratuito, ¿no? Digo,
00:18:13tal cual y casi que no podés después de
00:18:14la pandemia no hacerlo.
00:18:16Entonces, bueno, con ese
00:18:19déjame que te cuente. Estamos charlando
00:18:20con Lauriano Bielsa y nuestra invitada
00:18:23es Flavia Costa, doctora en Ciencias
00:18:25Sociales y miembro del CONISET. eh este
00:18:29Coniset que que bueno que cada día sigue
00:18:32resistiendo a los embates de terminar
00:18:34con la ciencia, no darle más pelota,
00:18:36definanciarla y algo maravilloso que que
00:18:41quiero rescatar antes que sigas
00:18:43es que una vez le preguntaron si ero
00:18:45optimista o pesimista y ella dijo, "Soy
00:18:47optimista por tres razones."
00:18:50Eh, dijo, "La la la primera es el
00:18:53acuerdo nuclear, el acuerdo que se hizo
00:18:55nuclear después de la de bueno, de lo
00:18:59que todos conocemos con
00:19:01la crisis de los misiles,
00:19:02¿sí? Con Hiroshima y cuando había uno
00:19:04solo que tenía la bomba, digamos.
00:19:06Después el mundo acordó.
00:19:08Eh, pero la que más me quedó de las tres
00:19:10fue porque es más fácil ser pesimista,
00:19:13es más fácil anunciar permanentemente el
00:19:15colapso, anunciar permanentemente el
00:19:18apocalipsis. Y dijo, "Si yo fuera
00:19:20cineasta haría una película sobre el
00:19:22tema, pero como soy científica y me
00:19:24pagan para hacerlo, tengo la voluntad."
00:19:27Yo decía, cuando uno lee eh Tecnoceno,
00:19:30cuando lee lo que pasa en el mundo, uno
00:19:32podría pensar, tiene una visión
00:19:34pesimista. Al contrario, tiene una
00:19:35visión optimista sobre esto y a mí me
00:19:37encantó porque digo, todos los datos que
00:19:39uno recoge a pesar de estar rodeado de
00:19:41toda gente eh super optimista con la
00:19:44inteligencia artificial diciéndote, "No,
00:19:46chat pití es bárbaro, me cambio la vida,
00:19:48openiz o tal cosa." Bueno, en en
00:19:51realidad después están todos los otros
00:19:53que son los pesimistas que dicen, "No,
00:19:54loco, vamos a un colapso muy
00:19:56interesante." ¿Cómo cómo uno se para
00:19:58ahí, no? y como y
00:20:01una cosa y la otra son las dos cosas al
00:20:03mismo tiempo. Bueno, pero te decía en
00:20:04esa en eso que te contaba recién de
00:20:08esa entrega masiva de datos que insisto,
00:20:10no podemos decir que no porque ahora ya
00:20:11para sacar un DNI tenés que pasar por
00:20:13acá ese términón no es algo voluntario,
00:20:15ahí hay algo legislativo que revisar,
00:20:17¿no?
00:20:18Si no puede estar afuera porque no puede
00:20:19estar,
00:20:19¿no? que es como la electricidad, se
00:20:21empieza a parecer decir que la nuestra
00:20:23Corte Suprema eh con la pandemia dijo
00:20:25que no era un servicio público, pero en
00:20:27realidad hay que revisar eso, hay que
00:20:28volver a insistir porque en verdad para
00:20:30ahora para nosotros sigue ya siendo eso,
00:20:32¿no? Después de la pandemia ya es
00:20:35pasamos por ahí para tareas que tienen
00:20:36que ver con ciudadanía
00:20:38por actividades, ¿no? Entonces, con esa
00:20:40disponibilidad, una agencia de marketing
00:20:42comercial o político como era Kembridge
00:20:44Analítica, como se promovía, podía
00:20:46encontrar algo que, bueno, nosotros a
00:20:48veces decimos, es como un rayos X de lo
00:20:50social, o sea, ve frecuencias de
00:20:53correlación de comportamiento que el ojo
00:20:54humano no ve. Entonces, y la película
00:20:57esta ahora ya otra vez, insisto, me voy
00:20:58a volver a intentar acordar del título
00:21:01que cuenta el caso de Camb Analítica,
00:21:03cuenta que en verdad no es que actúa
00:21:04sobre toda la población, actúa sobre la
00:21:05población en la que generalmente las
00:21:07agencias de marketing actúan, que son
00:21:09los indecisos y en particularmente los
00:21:11indecisos que en el análisis biométrico
00:21:14son también personas con cierta
00:21:16inestabilidad. Entonces, que lo que les
00:21:17podés cambiar la opinión, digamos.
00:21:19Entonces, y ahí
00:21:21hay un 30% que va a votar esto, otro 30%
00:21:24que va a votar esto y hay un 40 que
00:21:27nunca sabemos a quién van a votar.
00:21:28Y hay un 14 particularmente sensible,
00:21:31¿no? Particularmente sensible. Durante
00:21:32un tiempo, si vos tenés un un muestreo
00:21:34de datos como el que tenía eh Michel
00:21:38Kosiski, no va a servir para siempre,
00:21:41pero por un tiempo con ese con esa
00:21:43muestra podés pensar, no sé, la foto del
00:21:46tu candidato. A vos te gustan las
00:21:47mascotas. Bueno, entonces está el
00:21:48candidato Rodo de Mascotas, una suerte
00:21:50de sutil influencia que no es una
00:21:54causalidad directa, no es que te
00:21:56orientamos definen la elección
00:21:58necesariamente, pero bueno, todos
00:22:00sabemos la importancia de las campañas
00:22:01de marketing. Eso mucho más afilado. Ese
00:22:04es un aspecto. Otro aspecto que tiene
00:22:06que ver con la democracia menos
00:22:08estudiado porque es relativamente nuevo
00:22:12es que estas tecnologías de dela también
00:22:15se proponen para automatizar tareas que
00:22:18antes se hacían en instituciones,
00:22:20digamos, de gobierno, ¿no? Eh,
00:22:24automatizamos la decisión de darte un
00:22:26crédito, automatizamos la decisión de eh
00:22:31darte o no la ayuda social, ¿no? fue lo
00:22:33que el caso de Holanda, el famoso caso
00:22:34que en parte desencadena el desarrollo
00:22:37de la
00:22:40de la ley de la ley europea, porque
00:22:43ellos arman un algoritmo para para saber
00:22:45si las personas que piden asistencia
00:22:47social son efectivamente lo pide el
00:22:48gobierno en ese momento, 2012 2013 a ver
00:22:51si efectivamente lo necesitan o si son
00:22:52están haciendo fraude y dejan ese ese
00:22:56sistema correr 5 años a lo largo de 5
00:22:59años casi 20,000 familias quedan en la
00:23:01calle. Ahí la gestión del riesgo te
00:23:03hubiera dicho, "Bueno, ¿por qué no le
00:23:04pusiste un monitoreo? ¿Por qué no
00:23:05hiciste una auditoría? ¿Por qué no
00:23:07trabajaste para que los casos no
00:23:08llegaran a 20,000 y llegaran a 500? No
00:23:10es que tenés que prohibir necesariamente
00:23:12la tecnología, tenés que ahí donde la
00:23:15tecnología acelera mucho lo social, esa
00:23:18aceleración se vuelve muy fuerte. En los
00:23:21casos críticos que vos derechos
00:23:22fundamentales, acceso al trabajo, acceso
00:23:24a la educación, etcétera, los europeos
00:23:26deciden, bueno,
00:23:29ralentizamos un poco esa tecnología a
00:23:31través de controles, ¿no?
00:23:34Porque después del 11s subir al avión
00:23:37tenés que ir 2 horas antes, ¿no?
00:23:39Ralentizás algo que es muy veloz porque
00:23:42querés controlar más, que sea más
00:23:44seguro. Es el ejemplo más claro de esto.
00:23:46Entonces, un poco la lucha hoy es esa
00:23:50entre la tendencia
00:23:52a acelerar procesos que por escala
00:23:55global de la de la población que tenemos
00:23:57urbana, además necesitas acelerar y por
00:24:00otra parte dónde dice, "Bueno, está
00:24:02bien, lo aceleramos, pero para que no
00:24:05sea eso
00:24:06eh
00:24:08eso un atropello las libertades civiles,
00:24:10un atropello de
00:24:10una pregunta, eh, ¿vos qué pensás sobre
00:24:14la capacidad que tiene la sociedad de
00:24:16desarrollar anticuerpos de estas
00:24:18herramientas. Y te digo por qué me
00:24:19generó la duda, ¿no? Con Kembridge
00:24:21Analytica cuando arrancó estábamos
00:24:23todos, uy, no, mira, esto es un
00:24:24desastre, van a manipular a la gente en
00:24:26las elecciones, pero apenas dos años
00:24:28después tuvimos un episodio que pasó a
00:24:30la historia que es el de caricias
00:24:31significativas. Se ve que saltó de la
00:24:33ficha con Kerich. Los tipos cerraron el
00:24:35boliche y contrataron una agencia de
00:24:37pakistaníes que apenas podían hablar
00:24:39español y entonces los mensajes no se no
00:24:40parecían escritos por un argentino y se
00:24:42notaba que era una truchada, ¿viste? Y
00:24:44ahora siento que está pasando algo
00:24:46parecido con la inteligencia artificial,
00:24:47porque viste, al principio era, "No, van
00:24:49a ser deep fakes, vamos a estar viviendo
00:24:52en un mundo de deep fakes." Y el primer
00:24:54gran deep fake de la democracia
00:24:56argentina fue el de Macri diciendo, "No,
00:24:58le pedía a a creo que era Los Penatos o
00:25:01no sé quién, le pedía a los penatos que
00:25:02se baje porque quiero bancar a mi ley y
00:25:04estaba hiperindignado Macri, que era el
00:25:06número uno de las trampas porque le
00:25:08estaban haciendo trampa a él." Pero ya
00:25:09con lo del deep fake me agarré una cosa
00:25:12como decir, ¿cuánta gente va a dejar de
00:25:14ir a votar porque lo vea a Macri? Que ya
00:25:17sabe quién era candidata de Macri,
00:25:19porque lo vio toda la campaña. Decir,
00:25:20no, al final no es esta y es otra. Y la
00:25:22y la parodia de ese episodio fue el de
00:25:24Yarora. Hubo un video en las elecciones
00:25:26de Córdoba de Yarora diciendo que no
00:25:28había que votar a Yayora porque Yayora
00:25:29es malo. Nadie con nadie puede con dos
00:25:31dedos de frente decir esto es verdad.
00:25:33Entonces, me genera la duda, ¿qué pensas
00:25:36vos de la capacidad que tiene la
00:25:37sociedad de adaptarse a estas cosas que
00:25:39van pasando? ¿Somos unas ovejas que
00:25:41estamos eh bajo presión o podemos
00:25:43zafarla de alguna manera?
00:25:46No, obvio que vamos a hacer somos un
00:25:48 muy creativo, [risas] pero claro,
00:25:50obvio que sí. Lo que pasa es que en vos
00:25:53tenés que ver justamente cómo
00:25:54sistémicamente cómo juega el deep fake,
00:25:56juega en un contexto en el que el
00:25:57periodismo, como decía Max al principio,
00:26:00está en cierto crisis donde tenés un
00:26:02gobierno que te digamos está un gobierno
00:26:05y un y un modelo, digamos, político, ya
00:26:09así llamado de ultraderechas, e que
00:26:12bombardea las universidades, que
00:26:13bombardea los sistemas científicos.
00:26:15Entonces esa combinación es la que es
00:26:17peligrosa y no tanto porque la gente se
00:26:19vaya a creer el deep fake, sino porque
00:26:21empiece a ser un poco irrelevante la
00:26:24información pública, porque vos ya no
00:26:26sabes muy bien por dónde viene. ese
00:26:28cinismo que hace un rato empieza a ser
00:26:30también
00:26:32eh el
00:26:34hace poco leí una un artículo
00:26:36interesante decía, bueno, la
00:26:38comunicación política de Trump hoy es
00:26:41hacer todo el tiempo barbaridades
00:26:44y cuando las comunica hace bromas sobre
00:26:47esas barbaridades, ironiza sobre esas
00:26:49barbaridades que hace, ¿no? Entonces esa
00:26:53vuelta de uso del humor autoparódico
00:26:57desactiva la capacidad crítica. Vos ya
00:26:59no tenés como si se gasta a sí mismo,
00:27:01cómo reírte, ya no tenés, bueno, ya te
00:27:04digo, somos creativos, somos bichos
00:27:05creativos, pero en el medio lo que va a
00:27:07pasar en los próximos 5 años puede ser
00:27:09para nosotros como país, ¿no? Como
00:27:11también como región muy definitorio,
00:27:14porque te puede disparar una desigualdad
00:27:16respecto a como estabas antes, mucho más
00:27:18grande y esto lo vemos en la población
00:27:19también. Las soleadas de desigualdad
00:27:22dejan a más gente en un tendal del cual
00:27:25es cada vez más difícil recuperarse.
00:27:26Bueno, eso eso ahora está pasando entre
00:27:28países
00:27:30y entre sociedades. Quiere decir, obvio
00:27:32que le vamos a encontrar alguna vuelta.
00:27:34El tema es que como esto está organizado
00:27:36en una
00:27:38sos demasiado optimista,
00:27:39¿no? Porque a menos, claro, digo, a
00:27:42menos que sea una catástrofe
00:27:43absolutamente generalizada,
00:27:45eh, bueno, las sociedades van a
00:27:47encontrarle, pero ojo, las vueltas no
00:27:48necesariamente van a ser interesantes
00:27:50para nosotros, o sea, le vas a encontrar
00:27:52una vuelta que quizás es me desconecto.
00:27:53Ah, bueno, eso no sé si es una gran
00:27:55vuelta, digamos, ¿no?
00:27:56Y no sé si podés ya a esta altura. No,
00:27:59voy a dar un ejemplo que personalmente
00:28:01me parece espantoso y creo que para
00:28:02todos es, no sé, Afganistán.
00:28:04Tenés ejemplos que están sociedades que
00:28:06después de operaciones más operaciones
00:28:08más operaciones terminaron destrozadas.
00:28:11Claro,
00:28:12no es que estemos ahí, pero ojo, tampoco
00:28:14es que estamos salvados, digamos, ¿no?
00:28:16De porque la en este momento la agresión
00:28:19hacia las instituciones que bien o mal,
00:28:22muchos colegas dicen, "Bueno, ya lo
00:28:23hacían muy mal, ¿no? Eh, trataban
00:28:26trataban y yo creo en algunos casos sí
00:28:28lograban
00:28:30reconstruir la conversación pública, el
00:28:33conocimiento colectivo, ¿no? Eh, pero
00:28:36también oportunidades de movilidad
00:28:37social en un contexto de un capitalismo
00:28:40neoliberal que hace ya desde el 89 para
00:28:43acá, ¿no? Pero también hay que leer esto
00:28:44en el contexto del 89 para acá, es
00:28:46decir, de la caída del bloque soviético,
00:28:48de ya no hay en Occidente ninguna ningún
00:28:52límite claro, digamos, ni ni claro ya a
00:28:55ese capitalismo tremendo. Entonces,
00:28:57claro, son tiempos, son procesos de
00:29:00tiempos largos. Uno los vive dice, "No,
00:29:01no pasó nada." No, claro, en un año no
00:29:03va a pasar. Claro, claro. Estamos
00:29:04diciendo que esto va a pasar en un año,
00:29:06pero esperá el año que viene, viste.
00:29:07Pero esperá, esperá el 2030. Tus
00:29:09proyecciones 2030
00:29:11también como un prototipo. Flavio, se me
00:29:13acabó el tiempo, es inagotable. Tenemos
00:29:1620 20 veces tenemos que traerte. Tenía
00:29:19un montón de preguntas, pero muchísimas
00:29:21gracias por estar. Yo les cuento que
00:29:23después de la tanda que va a por charle
00:29:25ahora volvemos y vamos a viajar a la
00:29:27India para
00:29:29vamos a escucharlo a Claudio que que
00:29:31tiene para contarnos qué está pasando en
00:29:32la cumbre mundial de inteligencia
00:29:34artificial. Gracias.
00:29:37Léanla. Eh,
00:29:40899
00:29:41radio con vos,
00:29:44siempre con [música] vos.
00:29:47periodismo de tu lado.