Discriminación en la Inteligencia artificial por Fredi Vivas | #BTChina
Radio Con Vos - 30/8/2024 - Duracion: 11:50
Siguiente
Transcripción
00:00:00[Música]
00:00:01vamos a meternos a las 7:37 un ratito en
00:00:03el mundo de la Inteligencia artificial
00:00:05que estaba tentado de decir que está
00:00:07fuera de la agenda pero está todo el
00:00:09tiempo en la agenda en las noticias
00:00:10porque nos va cambiando la vida
00:00:11permanentemente lo que pasa es que como
00:00:13acá no habríamos resuelto todavía la
00:00:14inflación inestabilidad los quilombos
00:00:16con el dólar los temas que tenemos para
00:00:17tener desarrollo sostenido durante
00:00:18muchos años no le podemos prestar
00:00:20atención Pero ahora está Freddy vivas en
00:00:22línea para charlar como siempre con
00:00:23nosotros el lujo de esta columna cas
00:00:25Freddy Cómo andas Gracias querido Todo
00:00:27bien cómo andas por ahí estud nuevo eh
00:00:30vie vas a tener que venir a conocerlo en
00:00:32breve sí pronto pronto Che Freddy tengo
00:00:35antes de preguntarte un tema que
00:00:37charlamos Si yo te digo así te sorprendo
00:00:39te digo la cabeza de Freddy vivas que
00:00:41está viendo todo el tiempo la
00:00:43Inteligencia artificial en el mundo En
00:00:45qué se está deteniendo ahora qué es lo
00:00:46que a vos te está llamando la atención
00:00:48que está pasando ahí en la vanguardia de
00:00:50lo nuevo que nos puedas explicar a
00:00:52nosotros ayer me enteré de algo muy
00:00:55concreto que es una carrera en la
00:00:58inversión en humanoides o sea esto no te
00:01:01la voy a venir estoy seguro Cómo claro s
00:01:03sí s Sí ayer me enteré estuve leyendo un
00:01:06par de artículos que salieron o sea un
00:01:08humanoide Qué es es un robot con forma
00:01:10humana y ya venimos hablando acá de
00:01:13hecho habemos
00:01:14hablado no Bueno
00:01:17máy sí sí O sea veníamos hablando me
00:01:20acuerdo en su momento creo que charlamos
00:01:22sobre Boston dynamics y tesla robotics
00:01:24que están metiéndole capacidad de
00:01:26aprendizaje de máquina o sea Machine
00:01:28learning de learning a los robot que
00:01:30pueden aprender cosas como diferenciar
00:01:32colores eso empezó a pasar al principio
00:01:34de este año y ahora e claro con la
00:01:37evolución de los modelos de lenguaje
00:01:38tipo chat gpt eh se empezaron a dar
00:01:42cuenta muchos inversores del mundo que
00:01:45es una posibilidad cada vez más concreta
00:01:47generar robots con eh cuerpo físico
00:01:50digamos con similares a los humanos con
00:01:53capacidades cognitivas el estilo las
00:01:56conversaciones que puede tener una dos
00:01:59mundos
00:02:00F m virtu o sea yo puedo estar acá en el
00:02:04estudio y no saber si Agustín Castro es
00:02:06Agustín Castro o es un
00:02:09humanoide todavía todavía Creo que te
00:02:11vas a dar cuenta pero no sé cuánto más
00:02:13va durar eso la realidad es que desde
00:02:16estos días empezó a hablar en el mundo
00:02:18inversionistas de tecnología parece que
00:02:21el siguiente nivel de todo esto es
00:02:23justamente lo que se conoce como Ed o
00:02:27sea como Inteligencia artificial con
00:02:30cuerpos físicos no Eh Viste que yo
00:02:32siempre hablo de lo invisible de los
00:02:34algoritmos invisibles de la ia que no se
00:02:36ve bueno parece que estamos pasando al
00:02:38siguiente nivel O al menos eso es lo que
00:02:40va a pasar en los próximos años y la la
00:02:42ficha a vos te cae porque hay fondos de
00:02:44inversión O inversores que dicen Che
00:02:45pongamos guita porque esto es posible
00:02:47exactamente Porque mira eh eso también
00:02:51es muy interesante de analizar porque
00:02:52cuando ves openia eh la plataforma la
00:02:55empresa que crea ch gpt te das cuenta
00:02:57que hace ponele 5 años me acuerdo eh
00:03:01había unas 80 empresas en el mundo
00:03:04invertidas haciendo intentando hacer
00:03:06algo parecido a lo que hoy está haciendo
00:03:08Open entonces eh eso es una tendencia
00:03:12que se puede ver si hay 80 empresas
00:03:14invertidas con millones de dólares en el
00:03:16mundo quiere decir que es un una visión
00:03:19de próximos años eh Y eso pasó con los
00:03:23modelos de lenguaje o sea hoy las
00:03:24grandes empresas del mundo como Amazon
00:03:27como Facebook eh Google Y por supuesto
00:03:30Microsoft con openia tienen modelos de
00:03:32lenguaje están invirtiendo dinero en una
00:03:35posible ía general que es el propósito
00:03:38que pone Open en la web dicen nosotros
00:03:40queremos crear una Inteligencia
00:03:42artificial general una superinteligencia
00:03:44hacia ahí parece que vamos eh Sí aus
00:03:47cómo estás Fredy Agustín Te saluda e
00:03:49sabes que la verdad no es una pregunta
00:03:51muy técnica la que te voy a hacer pero
00:03:52creo que es lo primero que se me viene a
00:03:53la cabeza eh Cómo haces para controlar o
00:03:56sea en ningún momento se te puede ir de
00:03:57las manos eso o no digo porque ya es una
00:03:59persona que tiene unos conocimientos de
00:04:02Inteligencia artificial y no no hay no
00:04:04se le puede ir de las manos eso en algún
00:04:06momento a una bueno no hay una persona
00:04:09eh Hay grandes grupos empresariales no y
00:04:13capaz que la cara de de una empresa
00:04:16puede ser Sam alman o puede ser elon
00:04:17musk y pero atrás hay grandes grupos
00:04:20empresariales y muchos intereses cuando
00:04:22me acuerdo cuando sale la noticia de
00:04:25elon musk eh en la etapa de todos los
00:04:27díos acá en Argentina eh diciendo hay
00:04:29que pararla ia se acuerdan hace un año
00:04:32creo que fue acero hay que pararla ia
00:04:34porque es peligrosa Yo me acuerdo que la
00:04:36primera lectura que hice de eso fue elon
00:04:39mas está por sacar su propia aa y está
00:04:41saliendo decir eso no eh y de hecho en
00:04:44muchas entrevistas que me hicieron Yo
00:04:45decía lo primero que decía era eso eh
00:04:47seguramente lo va a hacer y ahora recién
00:04:49hace un par de meses sale grook que es
00:04:51un modelo gigante de lenguaje que
00:04:53compite con chat gpt obviamente él
00:04:55Estaba tratando de parar ese desarrollo
00:04:58pero es obvio no no cómo es obvio yo le
00:05:01creo decir me preocupa la
00:05:03inteligencia me preocupa la Inteligencia
00:05:05artificial paremos un poco todos paran y
00:05:08el chavón está corriendo más rápido para
00:05:09alcanzarlo era Era muy Obvio o sea por
00:05:12suerte pensé eso Al toque y después vi
00:05:14que pasó y gruk es un modelo de lenguaje
00:05:17también está bueno decirlo capaz que no
00:05:18es tan conocido va bastante por detrás
00:05:21de los del resto eh grook es un modelo
00:05:24de lenguaje interesante y tiene una de
00:05:26las cosas que tiene es que viste fiel al
00:05:28estilo de elon eh Se presenta como el
00:05:31más jugado o sea viste que cuando hablas
00:05:34con chat gpt no te responde tan jugado
00:05:36eh Como que es un poco más tío podríamos
00:05:39decir bueno se supone que gr va a tener
00:05:41como esa onda tiene yo de hecho lo probé
00:05:44tiene como una onda más es Donald
00:05:46Trump el asistente es Donald Trump
00:05:49estilo se habrá dado cuenta de lo que
00:05:51nos pasa cuando interactuas con una que
00:05:53todo el mundo decía y pero no se la
00:05:54juega no te dice si los Stones son mejor
00:05:56que los Beatles quién puede decir eso no
00:06:00pero eh mucha gente le pide eso una
00:06:02máquina eh Y obviamente ma agarró ese
00:06:05recogió ese guante tiene esas cosas por
00:06:07ejemplo los autos eh muchos autos que el
00:06:10diseñó tienen esta cosa del modo el modo
00:06:12raro Entonces el auto empieza a hacer
00:06:14ruidos raros a funcionar raro ti como
00:06:16que esa volada eh pero estamos
00:06:17claramente viendo un mundo donde todas
00:06:20las grandes empresas las principales
00:06:22cinco seis empresas del mundo de
00:06:23tecnología están invirtiendo en
00:06:25construir modelos de lenguaje cada vez
00:06:27más potentes yendo hacia un mundo de ia
00:06:30general y en ese tema más abstracto no
00:06:33lo que te había compartido yo el otro
00:06:35día en el chat era Me parece que se
00:06:38puede atar a esto porque uno adopta que
00:06:40chat gpt que es lo más popular te
00:06:42responde cosas porque ha sido entrenado
00:06:44le cargaron un montón de información
00:06:46chupa información de internet o lo que
00:06:48sea pero el otro día te compartía el
00:06:51trabajo de dos académicas
00:06:52latinoamericanas una Argentina Luciana
00:06:54benotti y una chilena Joseline dunstan
00:06:56que dicen en el país que por cómo
00:06:59entrenado calculo chat gpt tiene los
00:07:02valores de un hombre blanco
00:07:03universitario y de la costa oeste de
00:07:06Estados Unidos y que hace falta crear
00:07:08chat gpt con otro tipo de información
00:07:11Porque si no está sesgado por una manera
00:07:13por lo que le metieron adentro Cómo se
00:07:15resuelve eso 100% 100% y mira es
00:07:18interesante el tema e yo me empapé un
00:07:21poco en el tema hace un par de años
00:07:22cuando eh casi que participo en un
00:07:25proyecto que al final no no pude en un
00:07:27proyecto de España que ellos invierten
00:07:29dinero
00:07:30los fondos de gobierno de de España
00:07:32invierten dinero para cuidar el lenguaje
00:07:35Por decirlo de alguna forma no seguir
00:07:37manteniéndolo y Y hacer que no quede
00:07:40tapado por todo lo que está pasando en
00:07:42internet Entonces ponen dinero para que
00:07:43vos investigues en términos de
00:07:45Inteligencia artificial en este caso
00:07:48para seguir desarrollando el idioma
00:07:49español o contenido del idioma español o
00:07:51funcionalidades avanzadas en el modo
00:07:52español y y mirando la Data que en ese
00:07:55momento habíamos hablado Mira el
00:07:57Instituto servante es primero dato 500
00:07:59millones de hablantes nativos de español
00:08:01no eh después hay
00:08:05una una organización muy interesante
00:08:07para que sigan que se llama internet
00:08:09society information la sociedad de la
00:08:11información de internet y y viendo en la
00:08:13web hace un rato veía que dice el idioma
00:08:16más común en internet es el inglés que
00:08:19representa el 55 por de todos los sitios
00:08:21web 55 de todos los sitios web Aunque no
00:08:24es el idioma más nativamente hablado no
00:08:27y el segundo es el español con un 5% eh
00:08:32o sea el segundo 5% nada más del
00:08:34contenido que está en la web está en
00:08:35español e Y eso qué significa digamos de
00:08:39lo que estamos hablando con esto que que
00:08:40vos me pasaste en ese link es de los
00:08:42sesgos no de los sesgos en los modelos
00:08:45de lenguaje o los sesgos en la
00:08:46Inteligencia artificial hay que aclarar
00:08:48que la Inteligencia artificial es una
00:08:50réplica de la inteligencia humana por lo
00:08:53tanto si replica la inteligencia humana
00:08:55en las habilidades cognitivas como
00:08:57escribir hablar componer textos también
00:08:59puede replicar nuestros sesgos humanos
00:09:02de lo que estamos hablando de eso no de
00:09:04sesgos en la Inteligencia artificial
00:09:07sino la replicación del sesgo humano en
00:09:10la Inteligencia artificial que no es lo
00:09:11mismo me gusta aclararlo porque si no he
00:09:14tenido discusiones con abogad gente
00:09:16especializada en estas cuestiones
00:09:17también eh Porque porque Qué pasa cuando
00:09:20vos pones el problema en este caso en
00:09:22una máquina te
00:09:24desligar y y y el sesgo que que vos
00:09:28mencioná eh es 100% humano y hay muchos
00:09:32ejemplos hay ejemplos por ejemplo en en
00:09:34el mundo de linkedin Tuvo un problema
00:09:37grande la plataforma de Búsqueda de
00:09:38empleo porque claro Imagínate que vos
00:09:41sos una empresa y decís Quiero buscar un
00:09:43seo haces un posteo o una búsqueda ponés
00:09:46una una búsqueda en la plataforma y
00:09:48decís Quiero buscar un seo Mostrar la
00:09:51publicidad de esa de esa búsqueda a las
00:09:53personas que pueden machear que pueden
00:09:55ir bien en ese puesto de trabajo
00:09:57entonces qué hizo linkedin el algor de
00:09:59linkedin fue mostrarle a todas las
00:10:02personas que podían encajar en esa
00:10:04búsqueda y se la mostraba a todos tipos
00:10:06blancos más de 50 años hombres que
00:10:08habían trabajado deseos en otras
00:10:09compañías antes eso era un sesgo que
00:10:12dejaba fuera un montón de gente de esa
00:10:13posibilidad de trabajo pero no er un
00:10:15sesgo del algoritmo en sí mismo sino de
00:10:17los datos con los que había sido
00:10:19entrenado que reflejaban lo que durante
00:10:21muchos años los humanos hicimos no eh
00:10:24Ese es ese es el gran problema ese es el
00:10:27gran problema que vemos eh y por eso Por
00:10:29ejemplo eh se han demostrado
00:10:31inteligencias artificiales que no
00:10:32funcionan tan bien eh haciendo por
00:10:35ejemplo reconocimiento de una mancha en
00:10:37la piel Peligrosa en eh en una persona
00:10:40de raza negra que claro cuando se
00:10:42entrenó la plataforma Por ejemplo ese
00:10:44tipo de plataformas de modelos para el
00:10:46mundo de la salud no se no se
00:10:49consideraron tantas imágenes que
00:10:51representen esa muestra y por lo tanto
00:10:53la precisión es más baja Entonces Bueno
00:10:56si queremos ver cómo mejorar esto hay
00:10:58que elegir mejor los datos de
00:11:00entrenamiento de la Inteligencia
00:11:01artificial hay que generar ejemplos
00:11:04sintéticos podrían ser que son datasets
00:11:06datos sintéticos artificiales que pueden
00:11:08servir hay métricas de igualdad de de
00:11:13equidad digamos hay métricas que se
00:11:15puede analizar en los modelos y todo eso
00:11:17va a disminuir los sejos no los va a
00:11:19eliminar siempre va a haber sejos lujaso
00:11:21tener a Freddy vivas hablando de que hay
00:11:23una carrera para ver quién hace más
00:11:24rápido un humanoide y lo podemos tener
00:11:26acá operando no en cualquier momento y
00:11:29los sesgos en Cómo funciona la
00:11:31Inteligencia artificial chat gpt y demás
00:11:34Fredy un lujo como siempre gracias
00:11:36gracias a usted por la invitación graos
00:11:38para la mesa acá siempre compartiendo un
00:11:40espacio sobre Inteligencia artificial en
00:11:43este mundo donde no queremos que se nos
00:11:45pierdan de vista esos temas de fondo que
00:11:47están siendo el tema top a nivel