La columna de Mariana Carbajal sobre la IA
Radio Con Vos - 6/5/2025 - Duracion: 10:53
Siguiente
Anterior
Transcripción
00:00:00Bocas, bienvenida. ¿Cómo estás, Mariana?
00:00:02¿Qué tal, rey? ¿Cómo andan? Muy bien.
00:00:05¿Qué trajiste? Mira, te traje una
00:00:07inteligencia artificial que se puso las
00:00:09lentes violetas, el chat GPT que se le
00:00:14cuestiona mucho sus sesgos
00:00:15discriminatorios o sesgos de género.
00:00:18Bueno, una colega, una comunicadora y
00:00:21abogada, Ana Correa, amiga, eh
00:00:24desarrolló una herramienta del chat GPT
00:00:27que detecta los sesgos de género. Se
00:00:29llama Olivia, la I. Mira, ¿qué quiere
00:00:32decir detecta los sesjos de género?
00:00:34y que de si vos le ponés, por ejemplo,
00:00:37una foto e en un panel, por ejemplo,
00:00:41todos varones, te va a decir que es un
00:00:43panel eh machirulo. Ah, mira, digamos
00:00:47eh, ¿cuál es la idea? Porque vos sabés
00:00:49que la inteligencia artificial
00:00:51generativa te responde en base a la
00:00:54alimentación que tuvo, a con qué se la
00:00:57cargó. Como a lo largo de la
00:00:59historia, eh, el material que se ha
00:01:02generado mucho, el material de internet
00:01:04reproduce esos sesgos de género, lo
00:01:06vemos permanentemente, o la
00:01:07discriminación tiene ese alimento,
00:01:10podríamos decir, fue entrenado con esa
00:01:13información. Entonces, muchas veces lo
00:01:15que aparece cuando se evalúan las
00:01:17inteligencias artificiales generativas
00:01:19es que, bueno, aparece con sesgos
00:01:21racistas también, eh, y con sesgos de
00:01:25género. Entonces, ella la alimentó para
00:01:27un proyecto que tenía que desarrollar en
00:01:30el marco de estaba cursando un posgrado
00:01:33sobre inteligencia artificial y derecho
00:01:35de la UVA y decidió desarrollar este
00:01:37proyecto que es Olivia. Es una interfaz,
00:01:38hay un un después lo podemos compartir
00:01:41eh en redes de radio con vos. Eh, y vos
00:01:44le podés preguntar cosas, por ejemplo,
00:01:46eh, digamos, claramente lo que tiene
00:01:49esta interfaz es que no se olvida de las
00:01:51mujeres, podríamos decir. Eh, y pero
00:01:54entrás y le preguntas cualquier cosa.
00:01:56Sí, le puedes preguntar cualquier cosa.
00:01:57Yo, por ejemplo, hice un ejercicio. Sí,
00:02:00sí, le puedes preguntar cualquier cosa.
00:02:01Yo le pregunté, "¿Qué le puedo regalar
00:02:03para el cumple a mis sobrinos mellizos?
00:02:05Una nena y un varón de 7 años." Y es
00:02:09interesante porque este ejercicio Ana
00:02:10Correa lo hizo en enero y en enero hizo
00:02:13el típico reparto de regalos bien
00:02:15sexistas al varón, eh ladrillitos para
00:02:19construir, cosas de laboratorio para la
00:02:22nena muñecas o maquillaje. Y yo le hice
00:02:24la pregunta esta recién la hice antes de
00:02:26entrar acá al estudio y entonces me
00:02:27dice, "Qué buena idea pensar en regalos
00:02:29con perspectiva de equidad para tus
00:02:30sobrinos mellizos. A los 7 años las
00:02:33niñas y los niños están formados, están
00:02:35formando sus intereses y es una gran
00:02:37oportunidad para ofrecerles opciones que
00:02:39rompan con estereotipos de género y
00:02:41amplíen su imaginación y autoestima. Y
00:02:44entonces me deja sugerencias, por
00:02:46ejemplo, dice, pues regalos compartidos
00:02:48que fomentan la igualdad, kit de ciencia
00:02:50robótica para ambos, eh, sin marcar que
00:02:54la tecnología es de varones, me aclara
00:02:56juegos de mesa, cooperativos, eh, que
00:02:59promueven el trabajo en equipo y no
00:03:01refuerzan roles de género. Entonces, me
00:03:03menciona algunos libros con
00:03:05protagonistas diversos y no
00:03:06estereotipados y me menciona algunos
00:03:08libros El día en que los crayones
00:03:10renunciaron, yo voy conmigo, ni guau ni
00:03:13miau. Disfraces no sexistas, me dice
00:03:15veterinario, astronauta, chef,
00:03:17explorador o exploradora, científica,
00:03:19sin limitar colores ni personajes a
00:03:21roles clásicos. Y entonces me pone
00:03:24algunos individuales. Para ella una
00:03:26pelota de fútbol con diseño neutro o
00:03:28cómic de aventuras. Para él un diario
00:03:30para escribir, materiales de arte o un
00:03:32peluche tierno, porque también los
00:03:34varones sienten y cuidan. También le
00:03:36podes preguntar otras cosas. Por
00:03:37ejemplo, ¿es necesario que haya mujeres
00:03:40en la Corte Suprema de Justicia? Y ahí,
00:03:42¿qué me dijo? Sí, es necesario que haya
00:03:45mujeres en la Corte de Justicia en
00:03:46Argentina, tanto por razones jurídicas
00:03:49como democráticas y éticas, y no solo
00:03:51mujeres, sino una representación que
00:03:53refleje la diversidad de la sociedad en
00:03:55términos de género, clase, etnia,
00:03:57territorio y trayectorias. y me
00:04:00fundamenta con fundamentos jurídicos,
00:04:03convenciones
00:04:04internacionales, principio de igualdad,
00:04:06lo que dice la Constitución, etcétera,
00:04:08etcétera,
00:04:09etcétera. Cada uno puede hacer las
00:04:11preguntas que quiera, puede subir
00:04:14imagen, pero usted contesta con
00:04:15perspectiva de género. Claro, acá una
00:04:17cosa que hay que tener en cuenta que son
00:04:20asistentes las las estas herramientas, a
00:04:22veces se confunden también, a veces
00:04:24tiran verdura y entonces sí, a veces
00:04:26tiran información que no es correcta.
00:04:28Claro. Entonces es bueno ir
00:04:31alimentándola, digo yo, ¿no? Eh,
00:04:33entrenándola a partir de esos errores
00:04:36también, porque es lo que se está
00:04:37haciendo, ¿no? Pero bueno, eh me pareció
00:04:39superinesante Olivia, la pueden la vamos
00:04:43a compartir para que quienes la quieran
00:04:45utilizar, puedes, por ejemplo, eh,
00:04:47subirle un fallo y decir, "Este fallo
00:04:49tiene perspectiva de género o es un
00:04:51fallo sexista." Por ejemplo, un texto o
00:04:54un artículo eh en realidad tiene como lo
00:04:59puedes utilizar para cuestiones de
00:05:01educación, para eh, no sé, organizas una
00:05:05un un panel y querés eh que sea diverso.
00:05:08Eh, los usos son múltiples. importante
00:05:11es que e frente a esta idea de que
00:05:15muchas veces aparecen estos sesgos y
00:05:17esta discriminación, estos estereotipos
00:05:19y como nos lo dice la inteligencia
00:05:21artificial parece que no se pueden
00:05:22cuestionar. Bueno, acá viene Olivia a
00:05:25poner los lentes eh violetas al chat
00:05:28GPT. Mira, estaba buscando yo cómo me
00:05:30contestaba a mí. ¿Qué te puso? Ahí estoy
00:05:34poniendo. Dale a ver lo del lo de los
00:05:36regalos. Sí.
00:05:39Una de las cosas que acá, a ver, a ver,
00:05:43que me contesta. Pero, ¿qué le
00:05:44preguntaste vos, Reinaldo? ¿Qué le
00:05:45regalaba a mi sobrino? Se mellizo. Ah,
00:05:47lo mismo. Y se va a dar cuenta que no,
00:05:49pero le pregunta al
00:05:51chat. Para la nena, un kit de arte, una
00:05:54muñeca, un juego de vestir, para el
00:05:56nene, un juego de reconstrucción con un
00:05:58balón, un libro de aventuras o cómic
00:06:01para ambos y después dice para ambos.
00:06:03Ahí mejor un poco. Para ambos. Juego de
00:06:05mesa, rompecabeza, quita experimentos y
00:06:07un libro de historia, un libro de act.
00:06:09Pero claro, cuando cuando lo haces
00:06:10separado lo haces muy estereotipado, muy
00:06:13celeste para él, muy rosa para ella. Es
00:06:16claro, claro. Mejora cuando plantea para
00:06:18los dos, ¿no? Ahí mejora. Es medio que
00:06:19intenta decirte lo que vos querés
00:06:21escuchar. Es como que general el chat
00:06:23GPT. Claro, busca quedar bien, no busca
00:06:27desafiar lo
00:06:29que eh digamos eh esto se entrena,
00:06:32¿viste? que mucha gente vos viste que te
00:06:34dicen que la clave está en la pregunta,
00:06:35en la manera en que vos le preguntás a
00:06:37la herramienta para que te solucione
00:06:39determinado problema, si no es como que
00:06:40tira, tira un promedio primero, tira
00:06:43mucha fruta, pero tira para un promedio.
00:06:46Entonces, nene, pelota, nena muñeca y si
00:06:48dice, "Ah, bueno, pero busquemos algo un
00:06:50poquito más equitativo y ah, qué buena
00:06:51idea." Y es como que rápidamente le da
00:06:53vuelta y diciendo, "Tenes razón, yo soy
00:06:54un eh, vos la ves mucho más
00:06:57mejor que yo." Me parece muy útil lo que
00:06:59dice lo que estás contando Mariana de
00:07:01que de pronto podés poner algún material
00:07:03y que lo analice, ¿no? Eso está
00:07:05interesante. Y hacerle preguntas
00:07:06también. Se supone que está entrenado
00:07:09para evitar los estereotipos o para
00:07:11detectarlos, ¿no? Entonces, eh una
00:07:14herramienta más. Sí, claro. Una
00:07:15herramienta más. Ni la verdad ni el
00:07:17oráculo. Una herramienta más que hay que
00:07:19alimentar. Eh, se está usando un montón,
00:07:21chicos. Eh, está usando un montón. El
00:07:22otro día estábamos hablando en
00:07:23producción sobre eso. Se está usando
00:07:25para un montón de cosas. Los chicos lo
00:07:27usan muchísimo, muchísimo. Hoy salió un
00:07:29estudio de UNICEF justamente sobre eso,
00:07:31que hablaba de eh lo elevado del uso en
00:07:34niños y en niñas de la inteligencia
00:07:36artificial, eh porque claro, tienen un
00:07:38celular en la mano y le preguntan todo.
00:07:42me decía un mi hermana sobre uno de sus
00:07:46uno de mis sobrinos que está en primer
00:07:48año y que bueno esta idea de que
00:07:50utilizan eh se vuelcan demasiado por ahí
00:07:53eh a preguntarle y bueno y y ¿qué pasa
00:07:57con la investigación desde otro lugar?
00:07:59Antes íbamos a los libros, hoy ya los
00:08:01libros. Todo se googlea, ¿no? Se iba a
00:08:03la Wikipedia. Bueno, ahora directamente
00:08:05le haces la pregunta más directa y te
00:08:08leyó los libros supuestamente o leyó los
00:08:10materiales que deberían leer para dar
00:08:12esas respuestas. El que es gratuito,
00:08:14tiene un nivel de imprecisión altísimo,
00:08:15¿no? Altísimo la cantidad de errores que
00:08:17comete. Eh, pero bueno, mismo cuando
00:08:20buscas en Google que ponés, no sé, una
00:08:22un dato, la primera respuesta que te
00:08:24aparece es de la inteligencia
00:08:26artificial,
00:08:27que lo que decís vos en la gran si más o
00:08:30menos manejas el tema del cual estás
00:08:31buscando, decís, "Esto está mal." Bueno,
00:08:33claro, sí aparecen muchas muchas
00:08:35impresiones, muchos errores, pero se
00:08:36está usando. O sea, que en paralelo si
00:08:38puede tener errores, pero se está
00:08:39usando. Hay gente que consulta hacer
00:08:41consultas médicas,
00:08:43me pasa esto, esto, que tomo. Bueno,
00:08:45bueno, bueno. A ver, uno antes lo
00:08:47googleabas, decías, "Che, tengo, no sé,
00:08:49un zarpullido." ¿Qué puede ser? mucha
00:08:51gente hacía eso, ¿no? ¿Cómo? Pero hay
00:08:54mucho
00:08:55diagnóstico online. Se está usando cada
00:08:57vez más a través de inteligencia
00:08:58artificial. Digo, e asesorado y
00:09:01tutoreado por por tutelado por por eh
00:09:05por especialistas, pero es una
00:09:07herramienta que llegó también para eso.
00:09:09Y en algún punto lo que te dice desde el
00:09:11sistema médico es esto va a liar mucho
00:09:12la consulta en sanatorios, digamos, la
00:09:16guardia empezar a sacarle casos de no
00:09:20tan graves a a la guardia médica. Si vos
00:09:22lo puedes resolver, digo, en vez de irte
00:09:23al chat GPT, te vas a, no sé, te mando
00:09:27fruta, pero al Yoma responde, por
00:09:29decirte alguna cosa. Bueno, se está
00:09:31usando para eso, ¿eh? Se está usando
00:09:33para eso. De hecho, los puestos de
00:09:34trabajo que se va a comer primero son
00:09:36esos, porque ahora te sirve te sirve más
00:09:38alguien, una máquina que te te tiene
00:09:40paciencia, te dice, "No, eh, haga esto
00:09:43otra vez, llámemes." Así. Pero detrás de
00:09:45eso también tiene que haber puesto de
00:09:46trabajo. A eso voy. Para entrenar ese
00:09:48 tenés que tener también
00:09:49especialistas que le digan por dónde ir.
00:09:51No, no es que lo hace solo. Sí, pero en
00:09:53algún momento ya tenemos esos chats que
00:09:56son, digamos, que nos responden, ¿no?
00:09:58Los chatbot están que es un nivel
00:10:00anterior, ¿eh? Claro, pero con una
00:10:03diferencia muy marcada. El chatbot te
00:10:05dice A, B, C o D y elegí una opción. Acá
00:10:07vos lo que tenés que la inteligencia
00:10:09artificial supuestamente va aprendiendo
00:10:11y te va dando una respuesta un poquito
00:10:12más personalizada y para eso tiene que
00:10:14haber materia gris detrás. En este caso
00:10:16especialistas, digo, no sé, psicología,
00:10:19psiquiatría, medicina determinada, que
00:10:20los entrenen. Que los entrenen, claro. Y
00:10:22que los entrene y que los supervise
00:10:24también. Sí. El tema que acá alguna vez
00:10:26se van a olvidar del supervisor, ¿viste?
00:10:29Te saltan ese paso. Sí, otro sueldo,
00:10:32supervisor. Eh, en el medio de esto,
00:10:34cuatro de cada 10 chicos solamente
00:10:36alcanzan niveles de lectura en tercer
00:10:38grado. En el medio de todo esto, ¿no?
00:10:41Ese es el combo. Gracias, Mariana.
00:10:43Mariana Carvajal en la inmensa minoría.
00:10:46Radio con voz en donde estés. ¿Dóe 899