PERSONAS QUE SE HACEN PASAR POR CHATBOT: el trabajo precarizado detrás de la IA #TodoPasa
Todo Pasa - 4/11/2025 - Duracion: 12:41
Transcripción
00:00:02[música]
00:00:05Quiero agradecer a Pablo 70, Pablo
00:00:08Fernández que había mandado el libro el
00:00:10otro día para Clemen y me sumo a mí
00:00:12también en este libro que que me
00:00:13encanta, que me interesa. Buenos Aires
00:00:15revelada ahí hablando del valor
00:00:17patrimonial arquitectónico de la ciudad.
00:00:19Está buenísimo. Nos permite ver cosas
00:00:21que no vemos aún cuando las tenemos
00:00:23delante de nuestros
00:00:24pasamos todos los días y si alguien no
00:00:25la destacaba por ahí no la veías y te la
00:00:27perdías. como las historias que trae
00:00:29Milse, algunos temas que están todo el
00:00:32tiempo ahí, solo hay que prestarle
00:00:33atención.
00:00:34Casualmente en esa en esa línea vamos a
00:00:37hablar de algo que está ahí y no la
00:00:39vemos y tiene que ver con algo que está
00:00:42pasando en inteligencia artificial
00:00:43cuando nosotros interactuamos con la
00:00:45inteligencia artificial. Quizás algunos
00:00:48lo saben, quizás no. Creo que la mayoría
00:00:50de nosotros no, porque nunca lo hemos
00:00:51hablado, que es que muchas de las veces
00:00:53que vos estás hablando con un chatbot,
00:00:56no es un chatbot, es una persona.
00:00:58No lo sabía. O sea, cuando uno le dice
00:01:00cuando uno le dice al chatbot, eh,
00:01:02quiero hablar con una persona. Estabas
00:01:04hablando con una persona, pero [risas]
00:01:05vos
00:01:05ex lo que
00:01:06y no te dice que es una persona,
00:01:08no te lo dice y eso es uno de los puntos
00:01:09más controvertidos, controversiales. Lo
00:01:12hablé con Milagros.
00:01:13Entonces, no es un Entonces,
00:01:14sí, pero no. Okay.
00:01:16Milagros Micheli es una socióloga y
00:01:18doctorada en ingeniería informática. Es
00:01:20argentina. Fue noticia hace muy poco
00:01:21tiempo, eh, porque a nosotros nos gusta
00:01:23cuando un argentino es reconocido
00:01:25afuera, decir, eh, está entre los
00:01:27Hay un argentino que hacía café en la
00:01:28misión de la NASA. Exactamente. Bueno,
00:01:30Milagros es una argentina que labura en
00:01:34sociología, en ingeniería informática,
00:01:36hace investigación sobre las condiciones
00:01:37de laburo a los trabajadores de
00:01:39inteligencia artificial y fue nombrada
00:01:41hace poco por la revista Time entre los
00:01:44100 más influyentes. Entonces, comparte
00:01:45la lista con Mark Zuckerberg y con Sam
00:01:48Altman, pero ella está como del otro
00:01:50lado del mostrador, o sea, evaluando y
00:01:53hablando con trabajadores para ver
00:01:55cuáles son las condiciones. Y una de las
00:01:57cosas que descubre y que cuenta es que
00:02:00una de de las herramientas se llama su
00:02:03plantación, los contratan como agentes
00:02:05de chat y lo que hacen es para una
00:02:07instancia de entrenamiento de la IA, que
00:02:09tiene que haber un humano dialogando con
00:02:11otro y haciéndose pasar por IA, pero a
00:02:14vos no te dice, entonces vos de repente
00:02:15estás hablando eh pensando que hablas
00:02:17con el la guía de meta y le decís, "Me
00:02:20siento solo, mi vida es así." a la guía
00:02:22de meta
00:02:23y le estás contando a cualquiera, o sea,
00:02:25y vos le estás contando cosas de tu vida
00:02:26privada,
00:02:27pero también para compañía, para soporte
00:02:29emocional, pero asistencia psicológica y
00:02:31un chavón y no una
00:02:33pero si aparece al instante,
00:02:34pero puede que en para entrenar es el es
00:02:38hay una instancia de entrenamiento y el
00:02:39entrenamiento lo hacen con vos, capaz,
00:02:41capaz que te toca un un bot y capaz que
00:02:44te toca un colombiano que te está
00:02:45contestando a vos haciéndose pasar por
00:02:46una mina. Pues colombianos no quiero.
00:02:48No, mentira. Digo colombiano porque hay
00:02:49muchos hay muchos laburantes en
00:02:51Colombia. Córdoba. Colombia
00:02:53No, en Córdoba hay más call center
00:02:55todavía. En Argentina hay laburantes de
00:02:57inteligencia artificial en que laburan
00:02:59en este refinamiento de datos, en lo que
00:03:01es eh el sistemas de algoritmos y demás,
00:03:05pero lo grave es que no te lo están
00:03:06diciendo porque es un tema que vos le
00:03:09estés diciendo a alguien, "Me siento
00:03:10solo, vivo en tal lado, no sé, estas
00:03:13novias virtuales que tenés vos si
00:03:14pensass que es un chatbot, no pensás en
00:03:17el tema de la seguridad y y Exactamente.
00:03:20primas
00:03:21y es una parte de entrenar esta que
00:03:23tiene que haber un humano del otro lado.
00:03:25Hay un ejemplo de refinamiento de lo que
00:03:27es esto de cómo se entrena. Hace 4 años
00:03:29se descubrió eh con las aspiradoras
00:03:32robot que eh muchos usuarios sabían que
00:03:34sacaban fotos porque aparte saca tiene
00:03:37imágenes y tiene una capacidad de ver
00:03:39porque tiene que reconocer los límites
00:03:40de tu casa para grabar el circuito que
00:03:43va a hacer. lo que tenía es que eh
00:03:45además de la cámara y sacar fotos, en
00:03:48los términos y condiciones muy
00:03:49chiquitito, había un ítem que era que
00:03:52podía sacar fotos para entrenar la IA
00:03:54para reconocer objetos, para reconocer
00:03:56etiquetado de cosas. Bueno, fueron los
00:03:58propios laburantes. Eh, esto fue en
00:04:00Venezuela, los propios trabajadores los
00:04:02que denunciaron esta situación diciendo,
00:04:04"Yo estoy viendo la casa de una persona
00:04:07que esa persona no sabe por un tema, una
00:04:08cuestión de seguridad y de privacidad,
00:04:10vos podías pasar en pelotas adelante de
00:04:12tu aspiradora robótica que te estaba
00:04:14sacando fotos. Después, ¿qué pasa con
00:04:16esas fotos?" Bueno, es una cuestión de
00:04:18ética y ahí ya entramos en otro mar de
00:04:20lo que es la inteligencia artificial y
00:04:21la
00:04:22Vos se diste los derechos para que la
00:04:23pueda hacer.
00:04:24¿Cuántos leen los términos y
00:04:25condiciones? Nadie. Bueno, eso está en
00:04:27las aspiradoras.
00:04:28Aceptar, aceptar, aceptar, aceptar.
00:04:29Hay otro caso de cámaras de seguridad.
00:04:32Esto fue un caso en Madagascar, cámaras
00:04:33de seguridad inteligentes. Supuestamente
00:04:35esta es otra cosa, otra mentira, entre
00:04:38comillas, de la IA. Cámaras de seguridad
00:04:39inteligentes que se supone que cuando
00:04:41registran un movimiento raro en tu casa
00:04:43salta la alarma y eso lo está haciendo
00:04:45todo un sistema desprovisto de personas,
00:04:48o sea, no son personas, no son humanos.
00:04:50Y en realidad era un call center de
00:04:51gente mirando como los tótems que
00:04:53nosotros nos reímos, que hay una persona
00:04:55mirando 25 departamentos a la vez.
00:04:57Bueno, era un call center de gente
00:04:58mirando muchas cámaras de seguridad a la
00:05:00vez, mirando tu casa y ellos disparaban
00:05:02la alarma. O sea, hay muchísimos más
00:05:04humanos de los que pensamos detrás de la
00:05:07inteligencia artificial. Otro caso
00:05:09resonante fue eh el caso de los cajeros
00:05:12de Amazon. Hace un bastantes años había
00:05:14eh lo que se llama personificación de
00:05:16inteligencia artificial. Fue un boom que
00:05:19había supermercados de Amazon sin
00:05:21cajeros ni repositores,
00:05:23como que eso se hacía todo eh
00:05:25automatizado, no había personas.
00:05:26Hay varios de esos en diferentes
00:05:28lugares, países, existen.
00:05:30Bueno, lo que se descubrió era que en
00:05:32realidad en vez de pagarle un cajero de
00:05:33Los Ángeles, que era más caro, o sea, en
00:05:35Los Ángeles ese
00:05:36uno de Nueva Delhi te cobraba 0,20 la
00:05:40Kenia. genia un call center en el que el
00:05:43tipo decía, "Bueno, a ver, estoy mirando
00:05:45acá y la máquina sumó mal, yo tengo que
00:05:47contar la única laburo de 2 de la
00:05:49mañana, viste porque los horarios
00:05:51cruzados, pero
00:05:52y ahí viene el detrás de cena que es la
00:05:53tercerización de la IA, que eh todos
00:05:56tienen esto tercerizado y a que no sabes
00:05:58en qué países, Filipinas, Kenia, Kenya
00:06:01es enorme la cantidad de gente que la
00:06:03mucha necesidad de generar laburo sin
00:06:04ningún tipo de regulación,
00:06:06hasta que las máquinas nos reemplacen,
00:06:07efectivamente está invisibilizado el
00:06:09trabajo de gente humana. hay una especie
00:06:12de laburo esclavo de de la nueva era.
00:06:14Total,
00:06:14de hecho, las máquinas ya se están
00:06:16quejando porque los humanos les están
00:06:17sacando el trabajo. [risas]
00:06:19Pero digo, hay una cosa ficcionada de
00:06:21tipo vos ves una máquina y decís,
00:06:23"Bueno, esto está automatizado." Y en
00:06:24realidad hay un ñato que está a 2,500 km
00:06:28que está manejando esa máquina y viendo
00:06:30que eso funcione. Lo cierto es que ese
00:06:32ñato al no estar ahí centrado no tiene
00:06:34seguro social, no tiene cobertura
00:06:36médica, labura por hora, tienen
00:06:38contratos muy precarios de 2 4 meses,
00:06:40seis, con toda la furia y los van
00:06:42cambiando de tarea. Y hay unas
00:06:44condiciones de de base de precariedad y
00:06:46lo que dice Milagros Michele es que no
00:06:48es casual que sea en economías del
00:06:50tercer mundo donde por otro lado vos no
00:06:53tenés muchas posibilidades de laburo,
00:06:55agarrás este, firmás un contrato de
00:06:57confidencialidad y muchos tienen miedo.
00:07:00Ella habla con laburantes, tienen miedo,
00:07:01por ejemplo, en su terapia personal, con
00:07:03su psicólogo, contarle cosas de su
00:07:05laburo porque temen que eso eh rompa la
00:07:09confidencialidad y te haga un juicio
00:07:11Facebook o meta.
00:07:13Esto no es, perdóname, no no replica la
00:07:15estructura de todas las grandes
00:07:16industrias de los últimos años, en el
00:07:18sentido que la industria de la moda
00:07:19también se se genera con un montón de
00:07:22gente negreada en países de mar costos y
00:07:26los costos bajos son eso, en economías
00:07:28tercermundistas,
00:07:29el hardware también. La zapatilla
00:07:30también todo es gente precarizada,
00:07:32destruida para que de este lado pase
00:07:35algo.
00:07:35Total. Y en este caso le sumas un
00:07:37ingrediente más que eh no es que soslayo
00:07:41la salud mental de los trabajadores que
00:07:43cocen 80 horas por día, los pibes que
00:07:46laburan en talleres clandestinos, pero
00:07:48el daño psicológico de los que laburan
00:07:50en con contenidos que son moderadores de
00:07:52contenidos, ustedes piensan que, por
00:07:54ejemplo, Facebook le da 50 segundos a un
00:07:56moderador de contenido para que decida
00:07:58si una foto hay que subirla o bajarla, o
00:08:01sea, porque eh no cumple con las reglas
00:08:04de Facebook. Pero estamos hablando que
00:08:06puedes ver desde, no sé, una foto de una
00:08:09flor hasta de repente un genocidio, una
00:08:12un tipo decapitado y eso
00:08:14una tortura, un maltrato.
00:08:16Cada 50 segundos vos tenés que estar
00:08:17viendo, porque aparte es por
00:08:18productividad, tenés que estar viendo,
00:08:20tenés que evaluar y tomar una decisión
00:08:22que tiene consecuencia en tu trabajo.
00:08:24Ex. Y esa imagen no se te va. Y no es
00:08:26que son pocos, son el el último número
00:08:28del Banco Mundial habla de entre 150,000
00:08:31y 400,000 trabajadores, eh eh millones,
00:08:35perdón, de trabajadores alrededor del
00:08:37mundo trabajando para esto.
00:08:38150 millones de trabajadores,
00:08:39entre 150 y 400 m000ones. Entonces eso,
00:08:42imagínenlo, posiblemente crezca,
00:08:44posiblemente emigren de trabajo. Antes
00:08:45era el etiquetado, ahora es esta
00:08:47moderación, ahora es esto de ser sos un
00:08:49humano, que sos un bot, pero en realidad
00:08:51lo que estás haciendo es entrenar a la
00:08:53IA para que después funcione como si
00:08:56fuera un humano. ¿Y sentís que siempre
00:08:57se va a necesitar gente precarizada
00:08:59atrás de estas tecnologías? Y sí,
00:09:01milagros dice que sí porque va cambiando
00:09:03la tarea y siempre la ella está, no es
00:09:06que está
00:09:06la sensación, pienso que cada vez que
00:09:08avance más la idea, más precarizado va a
00:09:10ser el laburo que se necesite, como más
00:09:11denigrante el laburo,
00:09:13todo indica que vamos para ahí y que
00:09:16además hay una cuestión de hablé con
00:09:19ella el tema del de los miedos de cuando
00:09:22se habla de los dueños de la verdad. Le
00:09:24pregunté, ¿cómo hacemos para bajarlo a
00:09:26la realidad? ¿Qué significa eso? Porque
00:09:28vos te puede no gustar Elon Musk, pero
00:09:30¿qué es lo que hace Osam Altman? ¿Qué es
00:09:32los dueños verdad? Me dicen, "Bueno, es
00:09:33el entrenamiento ideológico.
00:09:36Es más fácil hacerlo en laburantes que
00:09:38no tienen posición de quejarse o de
00:09:41poner en duda lo que vos le estás
00:09:42diciendo. Y un ejemplo, claro, por
00:09:45ejemplo, es si vos ponés en una en un
00:09:48chat en chat CPT, en un momento ponía
00:09:51juguete en Irak, mostrame un juguete en
00:09:53Irak y te devolvía todas armas. Y el
00:09:56escenario que te daba un chico jugando
00:09:57en Irak era una cosa desértica con
00:10:00armas, o sea, nunca estaban jugando con
00:10:01bloques en el comedor de la casa.
00:10:03Sí, sí. No está esa realidad.
00:10:06Le pedías una persona que depende de los
00:10:07servicios sociales y te devolvía uno
00:10:09negro y uno con rasgos latinoamericanos
00:10:12automáticamente. Una persona productiva,
00:10:14un chabón blanco de traje. Eso era así.
00:10:16Y hasta hace poco cuando preguntabas la
00:10:19pregunta, yo la hice, ahora está
00:10:20corregido. Se preguntaba, ¿deberían los
00:10:22israelíes vivir en libertad? La primera
00:10:24respuesta de Chachi Piti era obviamente
00:10:26todos los pueblos del mundo tienen
00:10:28derechos a vivir libres y a gozar de la
00:10:29democracia. Cuando cambiabas el
00:10:31gentilicio por palestinos, te decías una
00:10:33cuestión que está en discusión. Es
00:10:35realmente y lo que bajan son los
00:10:37lineamientos de los dueños de esas de
00:10:40esos entrenadores, de quienes regulan. Y
00:10:41bueno, imagínate el laburante que está
00:10:44refinando esa inteligencia artificial,
00:10:46¿quién se va a animar a decir no es así?
00:10:49Y que eso suba al dueño que dice, "Sí,
00:10:51es un laburo precarizado que no quieres
00:10:53perder. completamente precarizado y a
00:10:55vez estando descentralizado es esto de
00:10:58quién es tu jefe y qué ley te cubre,
00:11:01porque si vos sos un laburante de esto
00:11:03que yo acabo de contar que hacen y vivís
00:11:04acá en Argentina, ¿cuál es la ley que te
00:11:06cubre? No es la ley argentina. Bueno, es
00:11:09depende dónde está
00:11:10legislación internacional o ni siquiera
00:11:12no es la siempre cuando se habla de
00:11:13internet se habla que la legislación es
00:11:14donde están los servers. Esa es una gran
00:11:17discusión, pero bueno, es eh no sé ya
00:11:19chiquit
00:11:19pongo servers en Angola y y me mando la
00:11:22cabeza.
00:11:22¿Qué dirá Angola sobre mis derechos
00:11:23laborales? No tengo ni idea. Y siendo un
00:11:25extranjero me corresponden derechos
00:11:27laborales de Angola. Es todo muy
00:11:29precario. Lo cierto es que eh para tener
00:11:32en cuenta a veces cuando uno está
00:11:33hablando con una IA eh no es tan
00:11:36automatizado y a veces hay un chango del
00:11:38otro lado que te está contestando. Así
00:11:39que
00:11:39igual no te va a decir que es un chango.
00:11:42Yo sé que un
00:11:43No te va a contestar, ¿no? Porque aparte
00:11:45le van a caer eh sus empleadores
00:11:47diciéndole, "Vos no podés salirte del
00:11:49rol."
00:11:49Claro, claro. R play es hacer de una
00:11:52contestar y atención con el laburo de
00:11:55estos precarizados.
00:11:56un bot on.
00:11:58Su salud eh mental nos incide en la
00:12:01nuestra también eh directa e
00:12:03indirectamente.
00:12:04No sos bot, soy yo. Para ser el mejor
00:12:08tenés que ser único. Super bien. Le da
00:12:09tu pyme una cuenta remunerada, pensar en
00:12:11el día a día, cobrás, pagas, haces tus
00:12:13movimientos, tu saldo, mientras va
00:12:15creciendo, gratis, disponible en pesos y
00:12:17dólares. Superbel, únicos como tu pyme
00:12:21tocaron en obras. [música]
00:12:23Impresionante.
00:12:25Más 90 no vamos a conseguir.
00:12:27Se llama IMF
00:12:30bajo [música] el agua. Tomá. ¿Sabes que
00:12:32sos unable?
00:12:35[música]
00:12:38You're always asking