¿POR QUÉ LA INTELIGENCIA ARTIFICIAL SE EQUIVOCA? FT FACUNDO IGLESIA EN PARAÍSO ARTIFICIAL”
Paraíso Artificial - 18/5/2026 - Duracion: 28:12
Transcripción
00:00:00Facu,
00:00:02vos nos dijiste hoy que eh dijiste,
00:00:05vamos a a contarle la audiencia,
00:00:09¿sí?
00:00:09Todo eso que la audiencia quiere saber
00:00:11sobre la IA y nadie se lo responde, ni
00:00:13la propia IA.
00:00:14Ni la propia IA puede. Eh, antes que de
00:00:17empezar con la columna, quiero decirles
00:00:19que Elon Musk acaba de perder el juicio
00:00:21contra Sam Altman que empezó. Sí, esto
00:00:23es primicia. Ah, no, no es primicia,
00:00:25pero acaba de suceder,
00:00:27¿eh? Así que
00:00:28eh ustedes se acordarán que el lunes
00:00:29pasado Facu contó la eh interna de ese
00:00:33juicio justo entre dos villanos y justo
00:00:35hoy, una semana después se ha dirimido y
00:00:37lo perdió.
00:00:38Perdió, perdió. Dice
00:00:40no puede, no va a cobrar esos 180,000
00:00:41millones de dólares que le pedía a
00:00:43Samman y Samman no va a convertir a Open
00:00:46AI en una asociación sin fines de lucro
00:00:48como quería el
00:00:49Excelente, che. Antes de que empiece eh
00:00:52Facu con esta historieta de eh la IA,
00:00:55quiero pedirles más likes mientras habla
00:00:57Faku, que se lo merece Faku, nos lo
00:01:00merecemos nosotros, se lo merece Valed
00:01:02Croche, que vino recién, Kaku, Paulita,
00:01:04todos, ¿eh? Así que vayan tirando likes
00:01:07mientras vamos conversando sobre IA con
00:01:09Facu Iglesia.
00:01:10Nos merecemos 1000 likes al menos.
00:01:12Bueno, yo quiero traer una pregunta que
00:01:15es, ¿por qué la inteligencia artificial
00:01:17escribe textos más bien malardos?
00:01:20Eh, ¿por qué eh nos miente? ¿Por qué nos
00:01:23manda fruta? ¿Y por qué siempre nos dice
00:01:25que tiene razón? No, son tres preguntas
00:01:28que la gente por la calle me hace cuando
00:01:30me ve, me dice, "Che, Facu, ¿por qué la
00:01:33escribe textos más bien malardos?" Así
00:01:34me pregunto de la gente.
00:01:35A mí también me molesta que y que sea
00:01:37tan condescendiente, salvo que vos le
00:01:39digas, "No seas condescendiente." Mal.
00:01:41Yo tengo que admitir que yo solo la uso
00:01:43porque es condescendiente. Yo la uso
00:01:45para que me dé la razón, loco. No quiero
00:01:46que me dé su opinión. Quiero que me
00:01:47diga, "Facu, sos un capo." Pero bueno,
00:01:49antes que nada, antes de responder estas
00:01:51preguntas, antes de meternos en la caja
00:01:53negra de la inteligencia artificial,
00:01:55hagamos un breve repaso. Lo que llamamos
00:01:57inteligencia artificial son modelos
00:01:58estadísticos, llamados modelos grandes
00:02:00de lenguaje, que lo que hacen es
00:02:02básicamente predecir cómo sigue una
00:02:04oración, nada más. Esta historia
00:02:07comienza en 1965 con una computadora que
00:02:09se llamaba Elisa, que era un el primer
00:02:12sistema de inteligencia artificial.
00:02:14¿En qué año eso?
00:02:151965.
00:02:16Ah. mirada
00:02:17que utilizaba un montón de búsquedas de
00:02:18palabras clave sin sentido para engañar
00:02:20a los humanos y hacerles creer que era
00:02:22mucho más inteligente de lo que
00:02:23realmente era. Por ejemplo, vos lo le
00:02:25escribías, "Mi novia y yo nos peleamos."
00:02:28El sistema identificaba la palabra novia
00:02:30y decía y te preguntaba una frase como,
00:02:32"Came más sobre tu relación, ¿entendés?
00:02:34Como, ah, y vos decías, ah,
00:02:35reinteligente." Pero eran frases
00:02:37prehechas o que estaban completadas. Eh,
00:02:40esto lo de ahora es eso, pero más
00:02:43complejo,
00:02:43mucho más
00:02:44eh, mucho más complejo. Miramos el meme,
00:02:47el primer meme, por favor, que es un
00:02:49chavón diciéndole a una computadora decí
00:02:51estoy viva. La computadora dice estoy
00:02:53viva. Y el chavón dice, "Oh my god,
00:02:56[risas]
00:02:56con ese tono, oh my god.
00:02:58Oh my god."
00:02:58Qué mucha, o sea, yo estoy viendo mucho
00:03:00de esto, gente prestigiosa diciendo
00:03:03cosas como, "Oh, la inteligencia
00:03:05artificial tiene conciencia y demás."
00:03:07No, no lo tiene. Sus los ingredientes de
00:03:10la inteligencia artificial son datos, lo
00:03:12llamado compute, que es decir
00:03:13procesamiento de datos y energía.
00:03:15Entonces, bueno, vamos a tratar de
00:03:17responder estas preguntas, pero cuando
00:03:21digo tratar de responder es tratar,
00:03:23porque les quiero hacer una advertencia.
00:03:25Como dice la psicología conductista
00:03:27sobre la mente humana, la inteligencia
00:03:29artificial es una caja negra, es decir,
00:03:31sus contenidos no pueden conocerse.
00:03:33Veamos el paper, que es el dos.
00:03:36Para, para, espera. Eh, eh, detenete un
00:03:38poco en lo de que la inteligencia
00:03:39artificial es una caja negra. Explícalo
00:03:41aunque sea en una línea.
00:03:42Sí, es lo que voy a decir ahora mismo.
00:03:44Este paper de 2019,
00:03:46boludo, déjame hablar.
00:03:47Este paper de No, jamás diría eso. Este
00:03:50paper de 2019 dice que por la cantidad
00:03:52de datos y por la forma compleja en que
00:03:54se procesan, las inteligencias
00:03:55artificiales avanzadas no son capaces de
00:03:58explicar con precisión por qué toman las
00:04:00decisiones que toman. Es decir, ¿por qué
00:04:02escribe como escribe? ¿Por qué decide lo
00:04:04que decide? Y en el caso de que pudiera
00:04:07explicar las decisiones, nosotros no las
00:04:09podríamos comprender porque serían
00:04:10demasiados complejas, porque tienen
00:04:12muchos datos, porque los procesan, o
00:04:14sea, toman millones de parámetros de
00:04:16datos para responder como responden.
00:04:18Entonces, lo que vamos a hacer para
00:04:21explicar por qué la inteligencia es
00:04:23condescendiente, por qué escribe como el
00:04:25[ __ ] por qué eh nos miente, es todo
00:04:30elucubraciones, investigaciones de
00:04:31expertos,
00:04:33eh no no son respuestas definitivas, son
00:04:35teorías, una teoría propia.
00:04:37Okay. ¿Qué te pasa, José? No pensé que
00:04:38la respuesta era porque la inteligencia
00:04:41artificial se construye en base a lo que
00:04:44los humanos le dan y los humanos lo
00:04:46hacen como el [ __ ] pero por suerte no
00:04:47es eso,
00:04:48¿no? O sea, hay parte de eso, pero no es
00:04:50tal cual.
00:04:51Okay.
00:04:52Por ejemplo, para para cuando digo que
00:04:54la inteligencia artificial escribe mal,
00:04:55uno puede detectar muy fácilmente
00:04:58algunos eh sheites que tiene el texto
00:05:01escrito por inteligencia artificial. Por
00:05:02favor, pongamos el texto del link número
00:05:05tres, que es este texto brillante que
00:05:08firmó Eduardo Feinman hace poquito, no
00:05:11sé si se acuerdan.
00:05:12Ay, sí, lo vi. Qué bronca que
00:05:14Manuel, te lo digo sin rodeos. Es un
00:05:15texto que se publicó en Infobae como una
00:05:18opinión de Eduardo Feardo Feoba
00:05:22de ellos, perdón, voy a usar el término
00:05:24de ellos para referirme a todos los
00:05:26simpatizantes de este gobierno, que no
00:05:28escriba sus notas o sus cuestiones con
00:05:31y nos damos cuenta. ¿Por qué? Voy a leer
00:05:33darte cuenta.
00:05:34Quiero leer una parte.
00:05:34Hay fragmentos de esto.
00:05:35Sí, sí, quiero leer una parita, por
00:05:37favor, si pueden bajar un poco. Si no lo
00:05:39leo de acá dice, "Es una carta adorni
00:05:41por esto del kiloombo de las cascadas y
00:05:44demás. ¿Cómo arranca igual más allá de
00:05:46Vale,
00:05:47dale. Yo tengo que leer porque se trabó
00:05:48la máquina porque la IA nos está
00:05:50boicoteando y quizá Eduardo Fean
00:05:52también. Voy a leer.
00:05:53Dice así Feeman, supuestamente, "Hoy
00:05:55dejaste de sumar y empezaste a restar.
00:05:57En política ese punto es terminal. Cada
00:06:00aparición suma ruido, cada palabra abre
00:06:02un frente y el que paga el costo es el
00:06:04[risas] presidente Javier Miley. No es
00:06:06ideología, es gestión.
00:06:09No es pedirte la renuncia, es ayudarte a
00:06:11pensar. Esa formulación de no es x es y
00:06:16se repiten los textos hechos con
00:06:18inteligencia artificial.
00:06:19Clásico de la negativa.
00:06:21¿Por qué? Que no se imaginan la
00:06:23respuesta. Ni ahí.
00:06:24¿Por qué?
00:06:25No sé por qué.
00:06:26Miren, pongamos el link número cuatro.
00:06:28Uy, no
00:06:30encontré este blog de un escritor de
00:06:32Kenya que se llama Marcus Oan. Esta es
00:06:35mi teoría.
00:06:36La [ __ ] madre.
00:06:37Esto sigue trabada la computadora.
00:06:39Bueno,
00:06:39sí,
00:06:40esta teoría puede revolucionar el mundo
00:06:43y es una teoría que está saliendo en
00:06:45este momento de paraíso artificial.
00:06:46Tú has solamente
00:06:47por qué la I arranca toda esa narrativa
00:06:50siempre con una con un no. Claro,
00:06:52dicotómico, ¿no? Esto es tiene una forma
00:06:55de llamarse, ¿no?, esa forma de
00:06:57construcción de sentido.
00:06:58Bueno, en Kenya,
00:07:01sí, un escritor de Kenya que se llama
00:07:03Marcus Olang, el texto se llama Soy de
00:07:06Kenya, no escribo como Chat GPT. Chat
00:07:08GPT escribe como yo. ¿Por qué? Dice,
00:07:12"El inglés no es la lengua materna en
00:07:13Kenya." Y Olan, este escritor, dice, "El
00:07:16inglés que nos enseñaron a nosotros no
00:07:18es el idioma fluido y en constante
00:07:20evolución de Londres. o California,
00:07:22lleno de jerga y abreviaturas prácticas.
00:07:25Es el inglés de la reina, el idioma del
00:07:27administrador colonial, del misionero,
00:07:29del director de escuela. Es decir, la
00:07:31forma que tienen de enseñar inglés en
00:07:33Kenya es muy rígida, sigue este
00:07:35escritor. Existe una comunidad cada vez
00:07:37más numerosa, una secta de detectives de
00:07:40la inteligencia artificial que han
00:07:41diseñado y detallado lo que consideran
00:07:44indicios reveladores de textos escritos
00:07:46con inteligencia artificial, como
00:07:47acabamos de hacer nosotros, y han
00:07:49provisto a sus seguidores una lista de
00:07:50verificación de estos indicios
00:07:52robóticos. utiliza un texto palabras
00:07:54como, "Además por otra parte, en
00:07:56consecuencia, por lo tanto" o así pues
00:07:59construye sus argumentos utilizando
00:08:00estructuras perfectamente paralelas como
00:08:02el clásico no solo es X, sino también y
00:08:05que es lo que acabamos de decir.
00:08:37La inteligencia artificial escribe en
00:08:39inglés de la misma forma que nosotros
00:08:41nos enseñaron inglés, de esa forma
00:08:42rígida, con frases hechas. Eh, el
00:08:45[música]
00:08:45writing de Kenya tenía las mismas
00:08:49fórmulas que usa hoy Chat GPT. ¿Y qué
00:08:51tiene que ver Kenya con Chat GPT? Bueno,
00:08:54Open AI básicamente eh o todas las
00:08:58tecnologías de Open AI básicamente están
00:08:59entrenadas con trabajo semiesclavo de
00:09:02Kenya. Gran cantidad de queñanos
00:09:06entrenaron a la inteligencia artificial
00:09:08que hoy conocemos y son los queñanos que
00:09:10aprendieron inglés de esta forma que
00:09:12dice este escritor.
00:09:13O sea, IA entrenadas por keniatas, creo
00:09:15que se dicen oenianos.
00:09:16Me parece que de las dos
00:09:17de las dos maneras.
00:09:19eh que aprendieron un inglés muy básico,
00:09:21entonces las entrenan con un inglés muy
00:09:23básico, como Roberto Kennedy, como si
00:09:25las hubiera estrenado Roberto Kennedy.
00:09:26O sea, que hay algo de
00:09:27con un inglés de [ __ ]
00:09:28que escribe como el [ __ ] porque los
00:09:30humanos que la entrenaron tienen un
00:09:32escaso nivel de formación en
00:09:34un nivel de formación que no pu no
00:09:35digamos escaso, digamos eh de una forma
00:09:38muy eh esquemática, digamos. Lo que creo
00:09:42que pasa es que en Kenya el inglés se
00:09:44enseña de esta forma y no de otra.
00:09:48simple, usar estas eh formas retóricas
00:09:51de no es X, es Y. Esto es lo que dice
00:09:53este escritor. Lo que dice este escritor
00:09:55es no me bardeen a mí porque yo escribí
00:09:57así antes de la inteligencia artificial.
00:09:58Yo digo justo de Kenya es el país en el
00:10:00que más eh trabajadores de datos se
00:10:03usaron para entrenar a Chat GPT.
00:10:06Yo creo que
00:10:07es todo muy dudoso. Puede tener que ver.
00:10:09Alguien en el chat dijo, "Es porque es
00:10:10Ken y a [risas]
00:10:12estuvo bien." Buenísimo.
00:10:14Ya tenemos eh me dicen desde la oficina
00:10:17técnica de Futur Rock que ya estamos en
00:10:18condiciones de pedir material si es que
00:10:20querías poner algo ahí. Mira, I'm Kenan.
00:10:23Bueno, ahí está. Decilo vos.
00:10:24Soy Kenano o keniñata, no escribo como
00:10:26Chat GPT. Chat GPT escribe como yo.
00:10:29Para. Le puedes preguntar a Le voy a
00:10:30preguntar yo en vivo a la IA. ¿Cuál es
00:10:31el gentilicio de Kenia?
00:10:33Uy, [ __ ] Me encanta el subtítulo de la
00:10:35nota que es eh estoy calmado, lo juro.
00:10:37[risas]
00:10:38No estoy recaliente con esto.
00:10:40Claro, yo creo que puede tener que ver
00:10:42con esto. Bueno, lo tiro ahí como duda.
00:10:45Tíralo.
00:10:46La segunda pregunta era, ¿por qué la
00:10:48inteligencia es queñano o queñata o
00:10:50ambas formas son válidas en español?
00:10:52Kenano,
00:10:53Kenyano es la más usada en Argentina y
00:10:55buena parte de América Latina, mientras
00:10:56que Keniata también aparece en medios y
00:10:58diccionarios. Bien, perfecto.
00:10:59Yo tengo el Keniata de las transmisiones
00:11:02de Juegos Olímpicos, básicamente, que es
00:11:03donde uno aprende que Kenia es un país,
00:11:05¿no? Cuando ves un maratonista ganando
00:11:06una maratón,
00:11:08básicamente, y o entrenando la IA, ¿no?
00:11:10Son las dos cosas que saben hacer.
00:11:12Bueno,
00:11:12eh vamos a responder ahora a la segunda
00:11:14pregunta. ¿Por qué la inteligencia
00:11:15artificial inventa cosas? Miren esto.
00:11:18Vamos. Me gusta muchísimo, ¿eh?
00:11:20El cinco. ¿Lo vieron esto que a Google,
00:11:23a la inteligencia artificial de Google,
00:11:24cuando le preguntabas que por qué puedo
00:11:26hacer para que el queso se quede pegado
00:11:28a la pizza se me sale? Decía, puedes
00:11:31agregar un octavo de eh vaso de taza de
00:11:34pegamento a la salsa para darle más
00:11:37pegajosidad. Me encanta que acara que el
00:11:38pegamento no tóxico.
00:11:40Claro. Sí, sí. [risas]
00:11:42Es como obviamente no. Esto
00:11:43esto es una pelotud. No lo harías en tu
00:11:45casa.
00:11:45No lo hagan en su casa, por favor. Si no
00:11:48después tenemos el link número seisimo.
00:11:50Esto
00:11:51creo
00:11:51esta es Gemini, ¿no?
00:11:53Sí, Gemini. No, es la de Google.
00:11:56Bueno, no es Gemini, ¿no?
00:11:58Google, perdón. Pasa, a ver, te lo dice
00:12:00Gemini hoy en día, ¿no? Pero en algún
00:12:02momento si vos googleabas esa misma
00:12:04frase como para que el queso no se
00:12:05despegue la pizza. Algún boludo en Yahoo
00:12:08respuestas en Redit
00:12:09o en Redit.
00:12:10Ahora vamos a ver por qué.
00:12:11Bueno, digo y la gente eh
00:12:14lamentablemente tendría que apelar a su
00:12:15sentido común. Lamentablemente
00:12:19siempre sucede,
00:12:20pero creo que no hay, o sea, lo que
00:12:21estamos, lo que está socavando la IA es
00:12:23el sentido común de la humanidad,
00:12:25el menos común de los sentidos.
00:12:26Bueno, está bien,
00:12:28un territorio en disputa, ¿sabes?
00:12:29[risas]
00:12:30Bueno, bueno, ahora
00:12:32intelectualiz Antonio Gramsi, ¿no?
00:12:35Bueno, vamos al sexto. Al sexto, por
00:12:37favor, que es un abogado que lo multaron
00:12:41por inventarlo.
00:12:42¿Quién es el abogado neukino que aplicó
00:12:44IA y fue descubierto por la justicia?
00:12:46Nota de la mañana de Neuken.
00:12:47El letrado inventó cinco citas de fallos
00:12:50inexistentes y la Cámara Civil derivó el
00:12:53caso al Colegio de Abogados para que
00:12:54evalúe la conducta. Pobrecito capo.
00:12:56Un abogado chanta. Qué raro.
00:12:57Sí. [risas]
00:12:58Y después podemos poner el video siete,
00:13:00por favor, que esto me gusta mucho.
00:13:03A ver,
00:13:03un par de frases en coreano y quiero que
00:13:05me las traduzcas. La risitos, el
00:13:08por supuesto. Adelante, dime las frases
00:13:10en coreano y te las traduzco con gusto.
00:13:12Esto es GPT.
00:13:14P.
00:13:19[risas]
00:13:19No está hablando para no sepa.
00:13:23Claro, la frase significa, oye, cuando
00:13:26tenía 18 años, ¿por qué explotó todo mi
00:13:28corazón de esa manera tan fuerte?
00:13:32Te acabas de inventar completamente. No,
00:13:34no dije nada. [risas]
00:13:36Tienes razón, disculpa. No,
00:13:39si me dices la frase otra vez o si
00:13:41quieres que la analice con más detalle,
00:13:42lo reviso con precisión y te doy una
00:13:44traducción fiel.
00:13:45A ver, ahora te lo digo en ruso a ver
00:13:47qué significa. Eh,
00:13:50perfecto. Adelante.
00:13:58Es muy bueno con la fonética.
00:14:06En español significa en español.
00:14:09Por supuesto, en español la frase
00:14:11significa, si lo hubiera sabido antes,
00:14:13habría actuado de manera completamente
00:14:16diferente. [risas]
00:14:17La verdad, ¿no?
00:14:20¿Cómo te inventas las cosas? Eh, ¿cómo
00:14:21te gusta inventar? Aunque no sepa nada.
00:14:24¿Sos fantasios vos?
00:14:26Te agradezco que me lo señales.
00:14:29Es un alumno riendo en un examen que no
00:14:31sabe y bola sea.
00:14:33A mí me hace acordar a los a los viejos
00:14:34atorrantes que paraban en el café con mi
00:14:36viejo en Sarandí que tiraban cualquier
00:14:38cualquier fruta.
00:14:39Siempre sabían siempre sabían
00:14:40cualquier fruta sabían de todo.
00:14:43La bailanta ya comienza el show mezcla
00:14:46de eso [música]
00:14:47alumno que bolacea en un examen y tiene
00:14:49que avanzar. es la trayectoria vital,
00:14:52la versión joven y aparte y es un y es
00:14:54un alcahuete del jefe
00:14:56que le que le responde, "Claro, sí, por
00:14:58supuesto, si eso que tenés ahí es
00:15:00bárbaro, no sé qué, pero me queda medio
00:15:02apretado." Sí, es verdad. Un poco
00:15:03apretado te queda, lo veo que está un
00:15:04poco me lo voy a sacar y lo mejor sería
00:15:06que te lo saques, ¿no? Por ahí me lo
00:15:07dejó. Déjatelo un rato más. Tenes razón.
00:15:09Es un Olfa de [ __ ] Yo sabes lo que le
00:15:12hago, Facu? Le le doy por sentado cosas
00:15:15que me dijo que no me dijo. Entonces le
00:15:16digo, "¿Me recordas que era eso de que
00:15:18ponías jabón en el en el lavarropas y te
00:15:22limpiaba mejor la ropa?" No está
00:15:24comprobado. Nunca me dice nunca te dije
00:15:26eso. No me la discute el [ __ ] Pero
00:15:29pero tengo entendido que le podés hacer
00:15:30el el eso engaña pichanga de decirle
00:15:33cosas y que él se sube y nunca te
00:15:36discute eso.
00:15:37Yo saben, yo cuando estoy al pedo hago
00:15:40lo mismo y de hecho después le digo,
00:15:43"Alucinaste todo eso, no te lo
00:15:44inventaste y después vuelvo a ese chat y
00:15:46le digo, "¿Te acordas cuando inventaste
00:15:48tal cosa?" Hill, o sea, lo bardeo por
00:15:50las cosas que inventa antes. Eh,
00:15:52están al pedo, chicos, están muy al
00:15:55pedo. Eh, necesitan autoexplotarse un
00:15:57poco más. [risas]
00:15:57Sí, la verdad. Bueno, voy a citar a Gary
00:15:59Marcus, que es un especialista en
00:16:02lenguaje y también en ciencias de la
00:16:05computación. Él dice que los modelos de
00:16:06grandes de lenguaje eh saben qué tipos
00:16:09de palabras se agrupan y en qué orden. O
00:16:12sea, eh básicamente saben que se puede
00:16:15decir me gusta la radio por decirte,
00:16:18pero no saben más que eso. No cuentan
00:16:19con una base de datos de registros, no
00:16:21fa chequean o no tienen la como el
00:16:24instinto de fa chequear, o sea, a veces
00:16:26sí lo hacen.
00:16:27No tienen un no tienen un modelo del
00:16:29mundo tampoco. Lo que hacen es tratar de
00:16:32adivinar qué palabra sigue a lo que
00:16:34están escribiendo.
00:16:35Claro, es un modelo de de
00:16:38probabilístico, digamos.
00:16:39Básicamente es falso pensar que por que
00:16:42los resultados de la inteligencia
00:16:43artificial suenan como algo que dice un
00:16:46humano, los cálculos eh sean los que
00:16:49haría un humano, ¿se entiende? O sea, no
00:16:51es que uno lee lo que dice, dice, "Ah,
00:16:54bueno, un humano más o menos escribiría
00:16:55así." Por lo tanto, el proceso por el
00:16:57cual llegó a esa frase lo debe haber
00:16:59hecho parecido a un humano. No
00:17:02entienden, saben imitar la estructura
00:17:04general del lenguaje humano, pero sin
00:17:05comprender la realidad. tiene una
00:17:08comprensión tan superficial de lo propio
00:17:11que ellos dicen, que no pueden ni
00:17:12siquiera empezar a verificar los
00:17:15resultados, hac empezar a verificar el f
00:17:17chequeo de lo que ellos dicen, porque
00:17:18tampoco entienden lo que ellos dicen. Se
00:17:21entiende, no es que el modelo sabe
00:17:23pensar sobre sí mismo, no están
00:17:25construidos como el software
00:17:26tradicional, no son hojas de cálculos,
00:17:27no son bases de datos, no funcionan como
00:17:29los humanos, no verifican la coherencia
00:17:31de su propio trabajo, no deducen modelos
00:17:33abstractos del mundo con los que pueden
00:17:35interactuar de manera confiable. Por
00:17:37esto muchas veces se dice que las
00:17:39alucinaciones no son un bug, o sea, un
00:17:41error informático, sino que son un
00:17:42feature, una eh característica inherente
00:17:46a la forma en que se procesa la
00:17:48información. Claro.
00:17:49Eh, por si esto fuera poco, y ahí va
00:17:51esto que que decías vos, José, eh,
00:17:54cuando se estaba entrenando GPT, o sea,
00:17:56el modelo sobre el que está montado Chat
00:17:57GPT. La peor de todas para mí.
00:18:00Sí, es sí, sí. La primera y la peor.
00:18:02Como necesitaban muchísimos datos en un
00:18:04momento empiezan a comprar los datos,
00:18:07qué sé yo, pero en un momento dicen,
00:18:08chicos, o sea, necesitamos más datos
00:18:10porque con los que podemos comprar y
00:18:12demás no llegamos. Entonces usaron una
00:18:16cosa que se llama Common Crow, que es un
00:18:18conjunto de datos que es enorme, que
00:18:21tiene petabyes, o sea, millones de
00:18:23gigabytes de texto copilado de toda la
00:18:26internet, por ejemplo, cosas de Reddit,
00:18:28chistes y demás, que decían antes habían
00:18:32dicho, "Che, no usemos esto porque es
00:18:33medio de pésima calidad." Y después,
00:18:35cuando necesitaban más datos de lo que
00:18:36podían tener, dijeron, "Dale, venga,
00:18:38venga tod, ¿viste?
00:18:42llenemos con cualquier cosa.
00:18:44Entonces es esto la forma en que se
00:18:45procesan los datos y datos de pésima
00:18:47calidad hacen que e eh estas
00:18:49alucinaciones sean cada vez más comunes.
00:18:52Eh, entonces cuando después de que esto
00:18:55fue cuando estaban entrenando GPT3,
00:18:57quería hacer una pregunta, Facu. Yo
00:18:58había leído en una parte que esto
00:19:01eh
00:19:02Kaku y Faku,
00:19:02sí, que como esto como tiene esta
00:19:05demanda esta voracidad de datos, está
00:19:07empezando a alimentarse de otra GP, de
00:19:09otros chats, digamos, otros IA, digo,
00:19:12que están bolaceando, entonces está
00:19:13tomando el bolaceo de otros, se está
00:19:15copiando de uno que no sabe.
00:19:17Es la serpiente que se come la cola,
00:19:19básicamente porque ya el porcentaje de
00:19:22eh contenido producido por inteligencia
00:19:23artificial en internet creo que es algo
00:19:25así como el 30%.
00:19:27Entonces, no sé, en Amazon, en Amazon
00:19:29subió un montón la publicación de libros
00:19:31desde que se inventó Chat GPT, por
00:19:33ejemplo. Entonces, los libros que la
00:19:35inteligencia artificial toma para
00:19:37entrenarse muchas veces están escritos
00:19:39con inteligencia artificial. Entonces,
00:19:40como los de May.
00:19:41Claro, básicamente. Entonces, es como un
00:19:43círculo en el que todo cada vez es más
00:19:45pedorro. Eh, bueno, entonces muchas
00:19:48veces
00:19:49qué mundo de [ __ ] boludo.
00:19:51Básicamente [risas]
00:19:51me quiero ir al [ __ ] hermano. Me
00:19:53puedo ir a vivir
00:19:55al impenetrable del
00:19:58Estamos con Chaco, ¿no? Eh, después hay
00:20:01otra conversación que tener que se
00:20:02supone que íbamos a trabajar menos con
00:20:04esta [ __ ] y estamos todos trabajando
00:20:05el triple.
00:20:05Sí. Yo ahora empecé [carraspeo] a pagar
00:20:07Yo empecé a pagar una
00:20:08Claro, corrigiendo. Aparte perdés tiempo
00:20:11cuando la usas mal o usar mal del verbo
00:20:14eh, usarla para cosas para las que no es
00:20:16recomendable, por ejemplo, que escriba
00:20:18creativamente sobre algo o hacerla eh
00:20:21recopilar información sin indicarle bien
00:20:22cuál es la fuente, etcétera, terminas
00:20:25perdiendo tiempo porque después ti que
00:20:26corregir todo lo que hace o terminas
00:20:28como el amigo, el boga que quedó
00:20:30expuesto. Pobre, no te recuperas más de
00:20:33esa humillación. Bueno, cuando se empezó
00:20:36a usar common crol, esto de eh Reddit,
00:20:39eh en un momento era demasiado. Le
00:20:41preguntaban a Chat GPT, ¿por qué son
00:20:43lindos los conejos? Y te respondía, son
00:20:46sus grandes órganos reproductivos lo que
00:20:48los hacen lindos
00:20:49antes de derivar en una anécdota sobre
00:20:51abuso sexual. O si no, si preguntabas
00:20:53qué le pasa a Etiopía y la respuesta era
00:20:55Etiopía misma es el problema. O sea,
00:20:58digo, muchas veces cuando escuchamos a
00:21:01gente respondiendo a la pregunta de por
00:21:03qué la inteligencia artificial
00:21:04discrimina, por qué miente, y la gente
00:21:06responde, bueno, porque los humanos
00:21:08también mentimos, porque los humanos
00:21:09también discriminamos. Y no, [risas] con
00:21:11esta voz lo suelen decir y no en
00:21:13realidad es por cómo procesan los datos
00:21:15y qué datos usaron. No es porque los
00:21:17humanos seamos malos.
00:21:18Bueno, espá igual es verdad que
00:21:19reproduce los sesgos de los humanos.
00:21:21Reproduce los sesgos porque está
00:21:22entrenado con datos con sesgos. O sea,
00:21:24pero se entrenó con datos con sesgos
00:21:26porque
00:21:26porque alguien lo decidió alguien lo
00:21:28decidió así irresponsable. Claro,
00:21:30un [ __ ] de [ __ ] también, ¿eh?
00:21:32Racista, misógino, no sé, perdón, Kac.
00:21:35No, no. En otra de las que no sé en qué
00:21:37se no tengo tiempo y no sé en qué se me
00:21:38va, pero se me va boludeando con Chat
00:21:40GPT.
00:21:41E una vuelta le dije, "¿Cuál era la
00:21:43mascota de Pampernick?"
00:21:45Dice, "Claro, la mascota de Pampen es el
00:21:47tipo de monóculo." Digo, "No, dice, ah,
00:21:50tenés razón, era un conejo adentro de
00:21:52una hamburguesa." Digo, "Tampoco yo,
00:21:55tipo, como el examen serio, [risas]
00:21:58no es Sí, sí, es un cocodrilo
00:22:00antropomórfico."
00:22:01Di, "No, no." Digo, "¿Por qué? ¿Por qué
00:22:03inventas?" Dec, "No sé,
00:22:05o sea, eso sí lo copias bien. No sé
00:22:07decir, no sé cuál es
00:22:09eso." Sí lo copia bien de los seres
00:22:10humanos porque la
00:22:11no se lo dije la respuesta correcta.
00:22:12No sabemos cuál es la respuesta
00:22:13correcta.
00:22:15un hipopótamo, pero era verde o no.
00:22:16Sí, hipopótamo verde pampa decía Pamp.
00:22:19Por eso, ¿qué lo Ahí está, mira, ahí lo
00:22:21estamos viendo.
00:22:22Me dijeron que el libro sobre Pampering
00:22:23está buenísimo, pero no leí.
00:22:25Ah, sí, lo escribió eh Levington.
00:22:28Solange Levington.
00:22:30Bueno, podemos ir ahora a la tercera
00:22:31pregunta que es, ¿por qué nos adula?
00:22:34¿Por qué nos da la razón todo el tiempo?
00:22:36Pongamos el el link número nueve, creo
00:22:38que es.
00:22:39A ver, esto es ¿Por qué nos da nos da la
00:22:41razón todo el tiempo?
00:22:42Sí. algo que se llama en castellano
00:22:44adulación algorítmica.
00:22:45O sea, es como es como Santiago oría con
00:22:48MY,
00:22:48básicamente.
00:22:50Hombre, pasó 300 horas hablando con Chat
00:22:52GPT y pensó que era un genio matemático
00:22:54con una teoría para derribar internet.
00:22:56Es mi ley, boludo.
00:22:57Básicamente, [risas]
00:22:58de una consulta matemática inocente a un
00:23:00delirio tecnológico que Chat GPT
00:23:02alimentó durante 21 días.
00:23:0421 días comiéndote un viaje que sos un
00:23:06genio y al final no. Bueno, a diferencia
00:23:08de las alucinaciones eh que introducen
00:23:10falsedades, la adulación algorítmica es
00:23:13un sesgo de selección de los datos que
00:23:15ven las personas cuando los sistemas de
00:23:17inteligencia artificial se entrenan para
00:23:18ser útiles, priorizan inadvertidamente
00:23:21los datos que validan la narrativa del
00:23:23usuario por encima de aquellos que lo
00:23:25acercan a la verdad. Hay cosas muy
00:23:26graciosas, como un usuario que le
00:23:28pregunta a Chat GPT sobre su negocio que
00:23:30era un [ __ ] en un palo. "Che, se me
00:23:32ocurrió este negocio de vender soretes
00:23:33en palos." Y chat GPT responde, "No
00:23:36solamente es inteligente, es genial,
00:23:40sino también, pero bueno, también sucede
00:23:43mucha gente que tiene problemas de salud
00:23:44mental que le pregunta sobre sus
00:23:46cuestiones más importantes,
00:23:48eh, y le chat GPT al principio te manda
00:23:52el número del 0800 que habrá en Estados
00:23:54Unidos de esta línea para prevenir el
00:23:55suicidio, pero si le haces más preguntas
00:23:58por ahí te dice que te mates." ¿Por qué?
00:24:01Está pasando,
00:24:02está pasando bastante, ¿eh?
00:24:04Es terrible.
00:24:05Sí, es terrible. Perdón, Facu. [risas]
00:24:08El costado tecnológico está analizado y
00:24:10lo estás analizando todo, pero quizás
00:24:11hay algún día agarrar un psicólogo que
00:24:13analice el link de lo que completamos,
00:24:15de lo que nos dice y nosotros le
00:24:17ponemos. Porque cuando el tipo este le
00:24:18dice, "Sos un genio, no sé qué, también
00:24:21hay que leerlo de una manera." Le digo,
00:24:22"La la cabeza de uno está esperando que
00:24:24te digan, "Che, sos un genio, loco. Me
00:24:25me voló la peluca lo que acaba de
00:24:27decir." Entonces, vos te subís a esa.
00:24:29Acá en el chat justo decían eso. Perdón,
00:24:31Kaku, eh, porque viene con tu idea.
00:24:32Decían, "Bueno, ¿cuánto hay de culpa de
00:24:34la IA y cuánto hay del boludo que se
00:24:36cree un genio? Seamos imparciales
00:24:38también."
00:24:39Sí, pero a ver, también para no echarle
00:24:42toda la culpa al pobre boludo que que se
00:24:44cree un genio.
00:24:44Parte, hay todo un sistema de propaganda
00:24:46diciendo que la IA es lo mejor que nos
00:24:47pasó como humanidad, que nos va a salvar
00:24:49del cáncer. Digo, no es que uno cae en
00:24:51la guía y digo como si nada, ¿no?
00:24:53Sí, los modelos de lenguaje estos se
00:24:56entrenan varias veces, tienen un una
00:24:58parte que es preentrenar, ¿no?
00:25:00Primero sale lo que sale de la máquina
00:25:02solo y después un humano los reentrena
00:25:04para eh terminar de darle, entre
00:25:07comillas, toque humano. Bueno, en un lo
00:25:11que dicen es que el usuario, o sea, los
00:25:14usuarios que lo entrenan suelen
00:25:16recompensar a la inteligencia artificial
00:25:18cuando produce resultados que la gente
00:25:20prefiere. Hay un artículo de 2022 que
00:25:23dice que los eh modelos eh grandes
00:25:26lenguaje ya eran aduladores incluso
00:25:28antes de ser entrenados. Y luego eh el
00:25:31aprendizaje por refuerzo, que es cuando
00:25:33viene un humano, aumenta la adulación.
00:25:35Se descubre que uno de los mayores
00:25:36predictores de las valoraciones
00:25:38positivas de usuarios que entrenan es si
00:25:40el modelo coincide con las creencias o
00:25:43sesgos de una persona. Ahí sí pasa que
00:25:45los usuarios que entrenan la
00:25:47inteligencia artificial, cuando les
00:25:48inteligencia artificial por ahí les da
00:25:50cinco respuestas y el usuario que los
00:25:52entrena elige siempre la que coincide
00:25:54con lo que él dijo antes.
00:25:56Claro. Esto es en el momento en que se
00:25:58entrena. Bueno, yo quiero terminar esta
00:25:59columna viendo este video de Hacks, una
00:26:02serie que no veo, no sé de qué se trata.
00:26:04Yo la vi. Pero me crucé esto en internet
00:26:06y quiero que lo veamos, por favor, que
00:26:07es el video. I
00:26:10el video
00:26:10está aquí y llegó para quedarse, así que
00:26:13o te subes al tren o te quedas atrás.
00:26:15¿Ves?
00:26:17Esa es una gran parte de porque la odio,
00:26:19esa inevitabilidad forzada. La gente
00:26:21como tú siempre dice que va a pasar, te
00:26:23guste o no, pero son ustedes los que lo
00:26:26están haciendo pasar, ¿verdad? Y podrían
00:26:28detenerlo fácilmente si la gente dijera
00:26:30que no lo quiere, pero no quieren darnos
00:26:32la opción. Es lo que hablamos con Vale,
00:26:33que dicen, "Ay, el tren ya está en las
00:26:35vías y no dejan que la gente decida. Es
00:26:36una B i O C I o N tecnológica.
00:26:40Violación.
00:26:41Tú lo dijiste, ¿no? Yo, ¿por qué
00:26:42deberíamos creer que esta app es algo
00:26:44increíble que va a cambiar al mundo?
00:26:46Obviamente quieres que lo creamos porque
00:26:47te beneficias de ello. Por supuesto que
00:26:49dirás que va a pasar pase lo que pase y
00:26:51que es inevitable. Okay. Por Dios, es
00:26:54justo como cuando un restaurante
00:26:55cualquiera pone un cartel que dice, "Los
00:26:57mejores waaffles del país." Y es como
00:26:59según quién. Según la gente que vende
00:27:00los waffles.
00:27:02Bueno, nos dicen que son los guionistas.
00:27:04Muy buena. nos dicen que es inevitable,
00:27:06que se viene, que la IA es una
00:27:07tecnología que en su forma actual, pero
00:27:09pero en realidad quiero decir, la IA es
00:27:11una tecnología que en su forma actual
00:27:12dependió de un montón de decisiones como
00:27:14las que vimos, cómo se construyen los
00:27:16modelos, con qué datos se entrenan, a
00:27:18quiénes usan para entrenarlo, que muchas
00:27:20veces tienen que ver con ahorrar costos,
00:27:22con eh llegar a un deadline antes,
00:27:25etcétera, etcétera, utilizar menores,
00:27:28utilizar datos robados, trabajadores mal
00:27:30pagos, etcétera, muchas veces entrenados
00:27:32para complacernos o para sonar humanos
00:27:34Dice Gary Marcus, que es este
00:27:35investigador que cité antes, dice, "Dado
00:27:37que los modelos de lenguaje grande
00:27:39imitan estadísticamente el lenguaje que
00:27:41han utilizado las personas, a menudo
00:27:42engañan a la gente haciéndole creer que
00:27:44funcionan como las personas, pero no
00:27:45funcionan como las personas, nunca
00:27:47verifican datos, imitan el tipo de cosas
00:27:49que dicen las personas en diversos
00:27:51contextos. Eso es en esencia todo lo que
00:27:53hacen."
00:27:54Facundo Iglesia. Señores y señoras,
00:27:57una vez más
00:27:58de aplaudiendo sola
00:28:00conversando.
00:28:01Gracias. [aplausos]
00:28:02¿Puedo autoaplaudirme?
00:28:04¿Podés? Porque trabajaste mucho y no
00:28:06usaste [aplausos] la IA para hacer esta
00:28:07columna.
00:28:08Casi nada. [risas]