REGULAR LA IA: un debate que el GOBIERNO no da pero la IGLESIA sí | EDITORIAL BERCOVICH
Radio Con Vos - 27/5/2026 - Duracion: 19:45
Anterior
Transcripción
00:00:05El Papa León XIV publicó su primera
00:00:08encíclica magnífica Humanitas dedicada a
00:00:13la defensa del ser humano en la era de
00:00:16la inteligencia artificial. Es una
00:00:19discusión que a mí me parece
00:00:21apasionante, me fascina, me tiene la
00:00:25verdad eh absorbido desde que eh se
00:00:28lanzó esto el lunes feriado acá eh y que
00:00:32se disparó todo un debate a nivel
00:00:35planetario.
00:00:36En el Vaticano, en el momento de la
00:00:39presentación de la encíclica, había
00:00:41distintos especialistas, profesores,
00:00:44teólogos, tecnólogos, científicos y
00:00:48entre ellos estaba Christopher Olach.
00:00:52Olach es el cofundador de la compañía
00:00:56estadounidense Antropic, que es la que
00:01:01acunió, la que creó la inteligencia
00:01:03artificial de moda, que es Clod. Eh,
00:01:06Cloud es la que usan los programadores,
00:01:09es la que eh reemplazó en el uso
00:01:12cotidiano en los países ricos a Chat GPT
00:01:15y es la más poderosa de las eh
00:01:19inteligencias artificiales o de los
00:01:21lenguajes eh de los modelos eh grandes
00:01:25de lenguaje, como se llaman LLM, en la
00:01:29jerga más específica de quienes se
00:01:31dedican a esto. Christopher Olach no es
00:01:35el cofundador que después se haya ido de
00:01:38Antropic, sigue en Antropic y participa
00:01:43de esta compañía no solo como
00:01:45accionista, sino como uno de los
00:01:47encargados de que funcione Cloud, eh, y
00:01:51tiene una fortuna de 7,000 millones de
00:01:54dólares. Christopher Hola habló durante
00:01:5810 minutos en la presentación de la
00:02:01encíclica en representación de la
00:02:05industria, en representación de estas
00:02:07grandes compañías y lo que dejó es una
00:02:11idea super provocadora.
00:02:14Interactuar de manera correcta, de
00:02:16manera humana con la inteligencia
00:02:19artificial
00:02:21es una cuestión que tiene más que ver
00:02:24con eh nuestra ética que eh con lo
00:02:28tecnológico.
00:02:30Y esto es eh algo que a mucha gente se
00:02:33le escapó porque interpretaron
00:02:34simplemente que el Papa estaba
00:02:37defendiéndose
00:02:38de modo conservador frente a una
00:02:41tecnología que está irrumpiendo en
00:02:44nuestra vida de distintas maneras. Eh,
00:02:47por eso vale especialmente la pena tener
00:02:49en este aspecto una discusión alejada de
00:02:52la tecnofobia, del oscurantismo,
00:02:55lejos de cualquier rechazo a los avances
00:02:58de la ciencia que en definitiva nos
00:03:01hacen la vida mejor. Porque claro, eh es
00:03:04raro estar con el Papa para quienes
00:03:07amamos de verdad la libertad y conocemos
00:03:10lo conservadora y retardataria que ha
00:03:12sido la Iglesia Católica en todas las
00:03:15ocasiones en las que estuvo en debate
00:03:18una libertad o una potencialidad humana.
00:03:22Y además porque esta es una discusión
00:03:24viva, una discusión que cambia de año a
00:03:26año, una discusión que está, como les
00:03:28decía, metida en nuestra cotidianeidad
00:03:31al punto de que no hay conversación, no
00:03:34hay charla en la cual no se cuele algo
00:03:38vinculado a la inteligencia artificial.
00:03:41Les doy dos ejemplos. Esta mañana
00:03:44tuvimos reunión con eh los mamis y papis
00:03:48de sexto grado de Manu para ver de qué
00:03:51manera limitamos los efectos nocivos del
00:03:54uso de smartphone y de redes sociales
00:03:56entre sus compañeritos y compañeritas.
00:03:59Eh, es eh la segunda vez que nos
00:04:01reunimos, ya lo hemos hecho en otra
00:04:03ocasión y lo más probable es que, como
00:04:05pasa en muchos eh colegios, en muchas
00:04:08escuelas de todo el país, terminemos
00:04:10firmando una especie de pacto parental
00:04:13eh para retardar lo más posible eh la
00:04:16incursión de nuestros hijos en las
00:04:19plataformas, en las llamadas redes
00:04:21sociales, donde eh bueno, ya se
00:04:23produjeron en este caso varios episodios
00:04:25desagradables, varios eh momentos feos
00:04:28para alguno de los chicos, que se quedó
00:04:30afuera de un grupo, que fue eh señalado
00:04:33en un video, señalada otra en un video
00:04:36por eh otros eh alumnos que le hacían
00:04:40una especie de bullying digital. Son
00:04:43problemáticas que estoy seguro que
00:04:45resuenan en absolutamente todas las
00:04:47casas donde están escuchando esto,
00:04:49porque lo empezamos a hablar acá en el
00:04:51programa el año pasado, hablamos con
00:04:53papis y mamis de distintas provincias
00:04:55que estaban avanzando en este sentido.
00:04:57Hay un libro, la generación ansiosa que
00:04:59tiene determinadas recomendaciones que
00:05:02ahora incluso se están revisando, que ya
00:05:03no son las mismas que cuando salió hace
00:05:072 años, pero que está ahí, que tiene
00:05:09mucho que ver con esto. Y en ese
00:05:11encuentro, en esa discusión que teníamos
00:05:13hoy, apareció la inteligencia artificial
00:05:15porque es parte del debate. Algunos de
00:05:18los chicos ya a los 11 años empiezan a
00:05:21preguntarle cosas en algunos casos a
00:05:23Chat GPT, en otras a otros motores de
00:05:26búsqueda y alguno decía, eh, para mi
00:05:30hijo es una profesora particular
00:05:32permanente y es espectacular tenerla y
00:05:35la usa de manera eh muy piola. Y es una
00:05:38discusión porque es cierto que al igual
00:05:41que los avances de fines del siglo XIX,
00:05:43cuando el antecesor de León XIV, cuando
00:05:46León XI publicó Rerum Novarum, o sea, en
00:05:49español de las cosas nuevas, había cosas
00:05:52nuevas que terminaron cambiándole la
00:05:54vida para bien a muchos humanos en el
00:05:57siglo siguiente. Claro.
00:06:00Lo que pasa también es que hay pivitos,
00:06:04pivitas que se terminan deprimiendo
00:06:07luego de hablar mucho con una
00:06:09inteligencia artificial. Hay pivitos,
00:06:11epivitas y no tanto. Hay adolescentes
00:06:13que entran en círculos muy jodidos de
00:06:16depresión y de angustia, eh, y que se
00:06:19encierran, como nos contaba la semana
00:06:20pasada Vicky ODEL, que escribió un libro
00:06:23sobre la soledad, que se encierran y se
00:06:26quedan solos porque no eh saben ya cómo
00:06:30relacionarse con personas humanas que a
00:06:33diferencia de la inteligencia artificial
00:06:34le plantean puntos de vista eh
00:06:36contrarios al suyo, le dicen cosas eh
00:06:39que les parecen desagradables,
00:06:41les discuten cosas que la inteligencia
00:06:43artificial no discute porque siempre vos
00:06:45tenés razón, vos sos un genio, cómo no
00:06:48se le había ocurrido antes. Bueno, eso
00:06:51me pasó a mí esta mañana, pero después
00:06:53viniendo para acá para la radio, me
00:06:54escribe Diego Villa Diamante, un DJ muy
00:06:57groso que yo siempre que hago una fiesta
00:07:00importante lo llamo, lo quiero un
00:07:02montón, escucha, pasaron cosas y me
00:07:04manda eh un montón de producciones suyas
00:07:07hechas con la ayuda de inteligencia
00:07:09artificial, que son remixes como los que
00:07:11antes hacía sin la inteligencia
00:07:13artificial, pero eh que le permitieron
00:07:16hacer un montón a la vez.
00:07:18Y eh Diego, que es un tipo reflexivo, se
00:07:22preguntó junto a un amigo suyo,
00:07:24especialista en estas cuestiones, ¿qué
00:07:27implica la inteligencia artificial para
00:07:28hacer música?
00:07:30Y dice en un bocetito que me pasó de una
00:07:33conferencia que está planeando dar con
00:07:35él, hacer música ya no implica
00:07:37únicamente componer o interpretar, sino
00:07:39también generar, iterar y decidir en un
00:07:43contexto de abundancia radical. Cuando
00:07:45cualquiera puede producir canciones en
00:07:47segundos, el desafío deja de ser técnico
00:07:50y pasa a ser cultural. ¿Qué valor tiene
00:07:52la música cuando todo puede generarse?
00:07:55¿Qué lugar ocupan el criterio, la
00:07:57identidad y la autoría? en este nuevo
00:08:00entorno. Bueno, son discusiones que
00:08:03están cruzando todas las profesiones, eh
00:08:05profesiones que entraron en crisis como
00:08:07la de los programadores, porque ahora
00:08:09programa Cloud, eh profesiones como la
00:08:11de los traductores que también eh
00:08:13atraviesan una crisis porque la
00:08:15inteligencia artificial va aprendiendo,
00:08:17a diferencia de los traductores robots
00:08:20de antes, que eran mucho más precarios.
00:08:23Y en todos los casos alguien dice, "Che,
00:08:24pero pará, esto no es lo mismo que un
00:08:26humano haciéndolo." Lo mismo que dicen
00:08:28los actores que se preguntan qué va a
00:08:30pasar con su imagen ahora que se puede
00:08:32replicar y poner a hacer cualquier
00:08:33monigotada a un avatar de Ricardo Darín
00:08:36en vez de pagarle a Ricardo Darín para
00:08:38que haga una publicidad. Y por eso tiene
00:08:41especial valor que esta discusión que da
00:08:45el Papa no la dé solo el Papa, sino que
00:08:46invite a un chavón de Silicon Valley
00:08:49como este Christopher Hola, a decir
00:08:52cosas como estas que vas a escuchar a
00:08:56continuación.
00:09:03Todos los laboratorios de inteligencia
00:09:04artificial de vanguardia, incluido
00:09:07Antropic, operan dentro de un conjunto
00:09:09de iniciativas que a veces pueden entrar
00:09:10en conflicto con hacerlo correcto.
00:09:16presión por mantenerse comercialmente
00:09:18viables y permanecer en la frontera, en
00:09:21la vanguardia de la investigación,
00:09:23opera junto con la presión geopolítica,
00:09:26que es la, agrego yo, la presión entre
00:09:30China y Estados Unidos, o sea, la de no
00:09:31quedarse atrás del rival geopolítico y
00:09:34las presiones más antiguas y simples
00:09:36como el orgullo y la ambición. Sigue
00:09:39Cris Olach diciendo lo siguiente.
00:09:46Por eso, si queremos que la tecnología,
00:09:47que esta tecnología salga bien, es
00:09:49importante que existan personas fuera de
00:09:52los incentivos nocivos que tenemos
00:09:54nosotros dentro de la industria.
00:09:56Personas a quienes les importe que las
00:09:58cosas salgan bien, que estén prestando
00:10:00mucha atención, que estén dispuestas a
00:10:02decir cosas, a decir verdades difíciles.
00:10:06Y sigue, OLA.
00:10:16Algunos podrán creer que los asuntos
00:10:17relacionados con la IA deberían ser
00:10:19tratados especialmente por científicos
00:10:22informáticos como yo, pero se equivocan.
00:10:25Las preguntas que plantea la
00:10:26inteligencia artificial son más grandes
00:10:28que la comunidad de investigación en IA,
00:10:30no solo por sus implicaciones, sino
00:10:32también por su propia naturaleza. y
00:10:34sigue.
00:10:43Existe una posibilidad real de que la
00:10:46inteligencia artificial desplace al
00:10:47trabajo humano en una escala enorme.
00:10:50Si eso ocurre, apoyar a quienes sean
00:10:53desplazados va a ser un imperativo moral
00:10:55de proporciones históricas. Esta tarea
00:10:58ya va a ser bastante difícil, pero me
00:11:01preocupa eh que en gran parte del
00:11:03diálogo actual se ignore un desafío
00:11:05mayor, que es que el desarrollo de la
00:11:07inteligencia artificial está concentrado
00:11:09en un pequeño número de naciones ricas.
00:11:12¿Cómo podemos garantizar que los
00:11:14beneficios de la inteligencia artificial
00:11:17sean compartidos globalmente?
00:11:21Claro. Eh, esta es una pregunta que se
00:11:24hacen pocos en el mundo de la
00:11:26inteligencia artificial e y que eh se
00:11:30hacen eh los de Antropic eh desde hace
00:11:33un tiempo. De hecho, la idea de este
00:11:39debate que se da en el propio Silicon
00:11:41Valley arranca a finales de 2020, cuando
00:11:44los hermanos Amodei, Darío Amodei, que
00:11:47ahora vamos a tener en pantalla, y
00:11:49Daniela Amodei, abandonan Open AI, la
00:11:53empresa de Chat GPT, junto con el propio
00:11:56Olach, el propio Christopher Ola, que
00:11:58habló con el Papa el otro día para
00:12:00fundar Antropic. Ellos rechazaban la
00:12:04visión de Sam Altman eh en materia de
00:12:07seguridad y eh lo que decían era que la
00:12:10inevitable escala que iban a alcanzar
00:12:12estos modelos eh configuraban un desafío
00:12:16que no era comercial, sino especialmente
00:12:18humano, que era cómo hacer que la
00:12:19inteligencia artificial esté al servicio
00:12:21de la de las personas, de los humanos,
00:12:24eh y que sea dominada, desarmada en un
00:12:27punto, como dijo el Papa, en su
00:12:29encíclica. Y el primer problema que
00:12:32querían resolver en aquel momento los
00:12:34fundadores de Antropic era algo que
00:12:37ahora estamos viendo todos, que hace
00:12:39Chat GPT, que a mí me irrita muchísimo,
00:12:40que hace Cloud, que hacen también los
00:12:42otros motores, que hace también Shemini,
00:12:45que es el exceso de adulación. Para
00:12:48crear modelos de lenguaje como GPT hace
00:12:51falta una fase de entrenamiento donde se
00:12:54usa una técnica de aprendizaje por
00:12:56refuerzo que todos nosotros
00:12:58retroalimentamos.
00:12:59Eh, por eso eh la IA nunca llega al
00:13:03fondo de la cuestión ni genera la
00:13:05solución perfecta, sino la que más se
00:13:07aproxima. Es como el sistema de
00:13:10completado de palabras que tiene Word o
00:13:12que tien los mails, que cuando vos
00:13:13empezas a escribir supone que vos vas a
00:13:15seguir escribiendo determinada cosa.
00:13:17Claro, mientras más veces escribas un
00:13:19mail, más probabilidades va a haber de
00:13:21que adivine lo que vos vas a escribir
00:13:23después porque eh te conoce. Ahora, eh
00:13:26la adulación eh surge como estrategia
00:13:30para que vos sigas hablando con la
00:13:31inteligencia artificial y por eso hay
00:13:33gente que se termina enfermando o que
00:13:35termina creyendo que es su psicólogo y
00:13:38se hunde en una depresión terrible
00:13:41porque en vez de poner en contraste
00:13:44algunos eh de sus pensamientos que
00:13:46pueden ir incluso en contra de su vida,
00:13:50eh lo que hace es reforzarlos. todo lo
00:13:52que vos pienses, la inteligencia
00:13:53artificial dice, "Sos un genio, ¿cómo no
00:13:55se me ocurrió antes?" Bueno, eh, ¿cómo
00:13:58se plantearon en su momento los de
00:14:01Antropic eh evitar ese sesgo? Bueno,
00:14:04fijando unos principios inquebrantables,
00:14:07una especie de constitución, por eso le
00:14:09llaman el modelo de IA constitucional,
00:14:12eh que eh hicieran que primara la
00:14:16honestidad o la modestia del eh diálogo
00:14:21por encima de la satisfacción del
00:14:23usuario. Bueno, eso está probado que
00:14:27no funcionó y por eso aparecieron luego
00:14:30otras estrategias para intentar evitar
00:14:34que la inteligencia artificial genere
00:14:37esto, genere este nivel de alienación.
00:14:40Eh, bueno, lo que terminaron haciendo
00:14:43también eh fue eh confrontar a la IA eh
00:14:49con eh las verdades que se sabe que son
00:14:52verdad. Eh, y esto, bueno, funciona como
00:14:55una especie de detector de mentiras.
00:14:58Eh, es eh algo así como una lectura del
00:15:03pensamiento del robot que suena raro, eh
00:15:05pero que eh bueno, eh se asegura de que
00:15:09los billones de parámetros que tienen
00:15:12estas eh neuronas artificiales eh no se
00:15:16vean sesgadas por eh bueno, ese intento
00:15:20permanente de satisfacer al usuario. ¿Y
00:15:25qué generó esto, este nuevo recaudo?
00:15:27Bueno, una discusión con Donald Trump
00:15:29porque eh las restricciones morales que
00:15:33le quería poner Antropic a sus modelos
00:15:35le impedían al Pentágono usar la
00:15:38tecnología para, por ejemplo, eh la
00:15:40autonomización de las armas para hacer
00:15:42que los drones disparen solos según eh
00:15:44parámetros fijados previamente.
00:15:47Bueno, esto llevó a que la propia
00:15:51Antropic pusiera en discusión ante
00:15:54referentes religiosos en marzo pasado en
00:15:57San Francisco sus modelos y a que ahora
00:16:01aparezca este hombre Chris Olach en la
00:16:04presentación de la encíclica de el Papa.
00:16:08Y ahí se pregunta, me pareció
00:16:09superinesante la nota que escribió al
00:16:11respecto OPI Morales en Infobae. Ahí la
00:16:16pregunta es, ¿qué está haciendo Silicon
00:16:19Valley en este caso? Eh, ¿está
00:16:22intentando vender cloud o está eh
00:16:26intentando lavarle la cara a todo el
00:16:29modelo de inteligencia artificial? Eh,
00:16:32porque eh hay dos lecturas, como dice
00:16:36OPI en Infobae. La primera es que Olach
00:16:39cree en esto que dice, que acabamos de
00:16:41escuchar juntos, que efectivamente eh
00:16:44hay una intención, una buena intención
00:16:47por parte de algunos de los
00:16:49tecnomagnates que se están quedando con
00:16:51todo a caballo de estas tecnologías, eh
00:16:54pero que eh no lo consiguen hacer. Eh,
00:16:57la segunda lectura es que este es un
00:17:00pedido estratégico, que si va a haber
00:17:02una regulación mejor que venga de voces
00:17:05que la propia industria ayudó a
00:17:07legitimar. Mejor el Papa que la Comisión
00:17:10Europea, mejor eh una discusión
00:17:13teológica o moral que una multa de la
00:17:17Federal Trade Commission. mejor eh
00:17:19críticos cultos formados que tribunales
00:17:22de competencia que directamente cercenen
00:17:25eh la eh acción de las empresas como eh
00:17:28se hace cuando le obligan a una empresa
00:17:30a dividirse en dos. Bueno, eh son eh
00:17:33discusiones eh superactuales eh que pone
00:17:37de manifiesto justamente una institución
00:17:40eh tan arcaica y tan conservadora como
00:17:42el Vaticano. Eh son debates que los
00:17:45gobiernos no están pudiendo dar porque
00:17:47los gobiernos quedaron débiles frente a
00:17:49estos tecnomagnates. que no es no es
00:17:52casual porque son tipos que se han
00:17:53enriquecido de una manera escandalosa,
00:17:57tan escandalosa, que ni nos animamos los
00:17:59zurdos a decir que les tienen que cobrar
00:18:01impuestos a lo grande para revertir ese
00:18:04escándalo. Porque todo el tiempo que
00:18:06hablamos de impuestos a los ricos, medo
00:18:09que pedimos disculpas. Eh, me decía hace
00:18:11un rato esto Mechi Alesandro, mi amiga
00:18:13doctora en economía. Eh, ¿qué es esto de
00:18:17que cuando se habla de un impuesto a los
00:18:18ricos hay que aclarar que no les toca eh
00:18:21ni la rebarba de su último peine de oro?
00:18:25¿Cómo es eso? ¿Por qué? Sí, los gráficos
00:18:27como el que publica hoy el New York
00:18:29Times muestran esto. Este es el
00:18:31patrimonio de los eh tecnomagnates del
00:18:360,000
00:18:394% de la población de California. Mira
00:18:43lo que es. Mira lo que eran en los 80.
00:18:45Mira lo que es el primer piquito que
00:18:46hace con la burbujadelas.com.
00:18:49Y mira como en apenas eh 5 años, un
00:18:53lustro después de la pandemia, se
00:18:55dispara como se dispara a más del
00:18:58cuádruple de lo que había antes. Bueno,
00:19:01la inteligencia artificial está pidiendo
00:19:03que la controlen. Son sus dueños estos
00:19:06tecnomagnates los que eh secundaron al
00:19:10propio Papa en la presentación de esta
00:19:13encíclica. los demás, los que estamos
00:19:16siendo los conejillos de indias, de esto
00:19:19que puede, insisto, ser una maravilla,
00:19:22que puede ser bien usada, que puede ser
00:19:24una profesora particular para nuestros
00:19:26hijos, pero que también puede ser eh la
00:19:28causa de su depresión, que puede ser la
00:19:30que los haga encerrarse a llorar porque
00:19:33no son aceptados por los humanos. ¿Nos
00:19:35vamos a seguir haciendo los boludos?
00:19:37Buena pregunta. No,
00:19:38pasaron cosas
00:19:40de 14 a 17
00:19:43con Alejandro.