"La IA es el MAYOR RETO que tendrá la HUMANIDAD" | Jon HERNÁNDEZ con Pedro ROSEMBLAT
Industria Nacional - 29/6/2026 - Duracion: 54:26
Transcripción
00:00:00Si a fin de año YouTube nos ofreciera lo
00:00:04que nos ofrece Spotify, que es un
00:00:05resumen de los canales que más vimos eh
00:00:08durante el año, de los discos que más
00:00:09escuchamos, sin duda este año el canal
00:00:11que yo más estoy consumiendo es el canal
00:00:14de nuestro invitado del día de hoy.
00:00:17Hablar de inteligencia artificial es
00:00:18meterse en una de las grandes
00:00:19discusiones de este tiempo y entre el
00:00:23entusiasmo acrítico y el y el rechazo
00:00:26absoluto, queremos entender qué está
00:00:28cambiando y también quién conduce ese
00:00:30cambio. Bienvenido, John Hernández.
00:00:32Un placer, muchísimas gracias por la
00:00:33invitación. Absoluto placer estar
00:00:34contigo.
00:00:35Eh, 12 horas en Argentina y logramos
00:00:37coincidir impresionante.
00:00:39Es un poco de locos. Sí, sí, es un
00:00:40poquito de loco. Es un viaje express que
00:00:41hemos venido para un evento de pymes y
00:00:43me tengo que ir a Estados Unidos esta
00:00:44tarde. Así que
00:00:45bueno, John, sos uno de los divulgaros
00:00:47de inteligencia artificial eh más más
00:00:49importante, una de las voces más
00:00:50escuchadas. Sé que debe ser un poco
00:00:52empalagoso que yo te lo diga, así, pero
00:00:53los números hablan por sí solos. eh de
00:00:55los canales más vistos del mundo. Hay
00:00:57uno de habla hispana que lidera esos
00:01:00rankings y es el tuyo. Quiero saber cómo
00:01:02llegaste a ser un divulgador de
00:01:03inteligencia artificial siendo que no
00:01:05venís de la ciencia y que no sos un
00:01:06tecnólogo así propiamente dicho.
00:01:09Pues casi sin querer. La verdad es que
00:01:11no fue algo planeado ni mucho menos. E
00:01:13me lo he encontrado encima y ha ido
00:01:15cogiendo forma y sobre la marcha. Ha
00:01:17sido un poco de improvisación. Tengo que
00:01:19admitir que yo ya tenía un canal de
00:01:21YouTube relacionado con la fotografía,
00:01:22que era mi profesión durante 25 años y
00:01:25pues de repente descubrí la inteligencia
00:01:26artificial un buen día, me pareció
00:01:28superinesante y recuerdo que yo la
00:01:30descubrí como en enero, febrero del 23,
00:01:32eh, justo poco después de que saliste
00:01:33GPT. Y entonces en mayo le dije a mi
00:01:37equipo, "Oye, ya que tenemos un canal de
00:01:39YouTube de fotografía, de otros temas,
00:01:40tal, me parece que podemos crear un
00:01:42canal de YouTube de IA solo porque me
00:01:44parece importante y creo que hay más
00:01:45gente que debería saber sobre esto." Y
00:01:47ahí empezó la andadura y explotó
00:01:50realmente durante el verano del 23 se
00:01:52disparó mucho.
00:01:52¿Y te acordas cuál fue el hecho que te
00:01:54hizo [resoplido] despertar ese interés o
00:01:56que dijiste che para tengo que frenar la
00:01:58pelota y darle atención a esto? Sí, fue
00:02:01absolutamente un artículo de la revista
00:02:02Times que se que lo escribía eh
00:02:05Jutkowski, es un científico americano y
00:02:08el artículo, no recuerdo cuál era el
00:02:10título exacto, pero venía a decir algo,
00:02:12paramos esto, morimos todos, ¿no? Y a mí
00:02:13me pareció absurdo, ¿no? O sea, en ese
00:02:16momento que no sabía nada de ella, me
00:02:17pareció como absolutamente otro zumbado,
00:02:20otro terraplanista hablando de
00:02:21tonterías, tal. Eh, pero leí el artículo
00:02:24y a pesar de que Judkovski me pareció un
00:02:26zumbado terraplanista, eh, me parecía
00:02:27que cómo podía ser que existiese una
00:02:29tecnología parecida a lo que él estaba
00:02:32diciendo, que en un futuro podía ser
00:02:33peligroso y que yo no tuviese ningún
00:02:35conocimiento de ello, ¿no? Siempre me
00:02:36consider una persona bastante técnica,
00:02:38mundo de fotografía, tocas Photoshop,
00:02:39tocas ordenadores, eh, y me sorprendió
00:02:42muchísimo que yo no supiese nada de eso.
00:02:43Lo más que sabía era el tema de big data
00:02:45y tal,
00:02:46pero entonces me puse a indagar de, a
00:02:48ver, este tío puede estar zumbado con lo
00:02:49que opina, pero la base de lo que está
00:02:52diciendo, algo tiene que existir.
00:02:54Entonces me puse a leer mucho, a
00:02:55escuchar muchos podcast, a escucharme
00:02:58pues vídeos de gente mucho más seria
00:02:59como Joshua Aveno que he tenido el
00:03:01placer de conocer hace poco, eh como
00:03:03pues Hinton, como todos un poco los
00:03:04padres de la IA. Y a partir de ahí fui
00:03:06viendo algo y me pareció guow guow y vi
00:03:08muy claro meridiano que estábamos
00:03:12inventando algo que venía a sustituir la
00:03:15habilidad más valorada de la humanidad,
00:03:17que es la inteligencia. Y ahí dije, "Uf,
00:03:20[risas] esto es muy serio." Y a día de
00:03:22hoy aún creo que la gente no lo ha
00:03:23entendido bien, que la inteligencia
00:03:25artificial no es una herramienta, no es
00:03:27Excel o PowerPoint, no es algo que
00:03:28utilizas para esto, para lo otro, que la
00:03:30inteligencia artificial es el mayor reto
00:03:32que la humanidad se va a enfrentar desde
00:03:33la Revolución Industrial, que viene a
00:03:36proveer de forma prácticamente gratis y
00:03:38pública para todo el mundo la habilidad
00:03:40más valorada, la habilidad por la que
00:03:41nos pagan tanto a ti como a mí como a
00:03:43todos los que nos escuchan un sueldo en
00:03:45la vida, ¿no? el uso de la inteligencia
00:03:47para solventar problemas. Y la gente
00:03:49tiene que entender que igual que en la
00:03:52revolución industrial la fuerza dejó de
00:03:54ser útil porque las máquinas lo podían
00:03:55hacer, estamos en el punto en que la
00:03:57inteligencia va a dejar de ser útil y
00:03:59ahí tenemos que encontrar qué leches
00:04:00vamos a aportar nosotros que no sea
00:04:03inteligencia para poder seguir aportando
00:04:04valor a la ecuación, porque si no apaga
00:04:06y vámonos.
00:04:07Em, conocí tu canal gracias a mi primo,
00:04:09que aprovecho y le mando un saludo que
00:04:11seguro nos está mirando y me pasa algo
00:04:13que es obviamente como es un tema que me
00:04:15interesa mucho, pero que me es lejano en
00:04:17términos de conocimiento, cuando escucho
00:04:19a alguien que sabe, soy fácilmente
00:04:20influenciable, ¿no? Entonces,
00:04:21dependiendo del optimismo o el pesimismo
00:04:23de de tus invitados, eh me dejo guiar.
00:04:26El primer video y el último que vi son
00:04:28de la misma persona, cuyo nombre en este
00:04:29momento, pido disculpas, no recuerdo, me
00:04:31vas a saber decir, el que invitaste para
00:04:32el debate ahora. Exactamente,
00:04:35exactamente.
00:04:35Es el único que hemos traído dos veces
00:04:36al podcast. [risas]
00:04:37Exactamente. Claro, claro. Em vos vas
00:04:40cambiando también tu tu visión al
00:04:41respecto o vos ingresaste a este debate,
00:04:44llegó una posición tomada y se mantuvo
00:04:46estática este tiempo.
00:04:47No, yo yo creo que además, mira, esto es
00:04:48algo que justo Joshua Bengo es el mayor
00:04:50científico de IA, de hecho, es uno de
00:04:52los mayores científicos en todos los
00:04:53campos y tuve la oportunidad de estar
00:04:55con él en Madrid hace unas pocas semanas
00:04:57y él dijo algo que me pareció
00:04:58superinesante, que dijo, "Cambiar de
00:05:00opinión es lo razonable." Es decir, tú
00:05:03puedes tener una opinión hasta que te
00:05:04traen hechos y demostraciones que hacen
00:05:07que tu opinión cambie. Con lo cual yo en
00:05:09estos 3 años mi opinión ha cambiado
00:05:10mucho en muchas cosas y mucho gracias a
00:05:12esas conversaciones de esos podcast que
00:05:14me permiten aprender mucho. Yo intento
00:05:16ir con una mente abierta y a que me
00:05:20enseñen y creo que es realmente donde yo
00:05:23aprendo muchísimo, ¿no? que al final mi
00:05:26opinión, la que yo intento transmitir a
00:05:28la gente que me escucha, etcétera, es
00:05:29cierto que se ha mantenido bastante fija
00:05:31a lo largo de estos tr años, pero se ha
00:05:32visto pues influenciada por cada
00:05:35conversación que he tenido, por cada CEO
00:05:36que he entrevistado, por cada científico
00:05:38con el que me he pasado horas, eh, y al
00:05:40final han creado lo que creo que es mi
00:05:42visión de la inteligencia artificial,
00:05:43que puede ser más o menos correcta, la
00:05:45gente la puede compartir o no, pero que
00:05:46al fin y al cabo es la que se ha creado
00:05:48con todas esas influencias.
00:05:49para ordenar un poco la conversación, e
00:05:52tenemos 1000 temas para conversar.
00:05:55¿Qué es exactamente un modelo de
00:05:57lenguaje y por qué cambió tanto nuestra
00:05:59relación con las computadoras?
00:06:01Vale, mira, yo creo que para que todo el
00:06:02mundo lo pueda entender, estamos en un
00:06:04cambio de paradigma que venimos de
00:06:06utilizar los ordenadores para hacer
00:06:07cosas y estamos pasando a pedirle a los
00:06:09ordenadores que hagan cosas. Es la forma
00:06:11más simple que se me ocurre de poder
00:06:13explicarlo, ¿no? Que cambia el hecho de
00:06:15que tú tengas que utilizar una máquina
00:06:17como una herramienta que tengas un
00:06:20asistente y ahí está el kit de la
00:06:21cuestión. Entonces, si un LM o un cuáles
00:06:25son los tokens o todo esto no importa lo
00:06:27más mínimo. La gente tiene que intentar
00:06:28despreocuparse de por qué funciona la
00:06:30inteligencia artificial porque es que no
00:06:32tenemos tiempo para prestarle atención a
00:06:34eso. Tenemos que centrarnos en dos cosas
00:06:36únicamente. ¿Cómo te afecta? ¿Cómo le
00:06:38saco partido? ¿No? Y esas son las dos
00:06:40cosas donde tenemos que centrarnos,
00:06:41porque fíjate que yo le dedico igual 70
00:06:43horas a la semana a esto. Tengo un
00:06:44equipo de 20 personas tras mi canal de
00:06:46YouTube. No llegamos a todo, o sea, no
00:06:48somos capaces de estar al día. Con lo
00:06:50cual, la gente que nos está viendo, que
00:06:51tiene su trabajo, su familia, sus cosas
00:06:53que hacer, no puede dedicarle esta
00:06:55cantidad de horas. Con lo cual, yo
00:06:57recomiendo sobre todo que nos intentemos
00:06:59desestimar que si es un LLM, que si es
00:07:02un tal, que si es un tokens
00:07:03Transformers. Toda esta palabrería
00:07:05técnica está bien como curiosidad
00:07:06científica, pero realmente la clave está
00:07:09en que sí hemos creado algo que
00:07:11técnicamente funciona sobre unos modelos
00:07:13de predicción, no nos vamos a engañar,
00:07:15eso es así, pero que a medida que se van
00:07:17haciendo más grandes estos modelos
00:07:19tienen habilidades emergentes que no
00:07:21acabamos de entender por qué surgen y
00:07:23que demuestran capacidades muy parecidas
00:07:25a las que tenemos los humanos. Y con lo
00:07:27cual la forma más fácil de entenderlo es
00:07:29que hemos creado ordenadores que hacen
00:07:30cosas que creíamos que solo los humanos
00:07:32podían hacer. Claro. Y y dirías que
00:07:34estamos eh frente a máquinas que imitan
00:07:37la inteligencia conocida o ante una
00:07:39nueva forma de inteligencia.
00:07:41Yo creo que es muy diferente en la
00:07:43forma, en el cómo produce la
00:07:45inteligencia, muy diferente de cómo es
00:07:47la humana, aunque también tengo que
00:07:48admitir que no yo, sino en general la
00:07:50humanidad, no entendemos muy bien cómo
00:07:52funciona la inteligencia humana, con lo
00:07:53cual es difícil compararlo, ¿no? Pero yo
00:07:55te diría que es muy diferente en el
00:07:57cómo, pero muy parecido en el resultado.
00:08:00Imagínate que tienes dos máquinas que
00:08:02hacen helados. Los hacen por procesos
00:08:04completamente distintos, pero al final
00:08:06te hacen un cono con un helado.
00:08:08Entonces, al final el valor en la
00:08:09sociedad es el mismo. Aquí si tenemos
00:08:11estos dos vasos de agua, si los mezclo,
00:08:13tú eres capaz de decirme qué gotas del
00:08:14tuyo, qué gotas del mío. Pues con la
00:08:16inteligencia artificial pasa lo mismo.
00:08:17Cuando tú mezclas inteligencia humana
00:08:19con inteligencia artificial, es muy
00:08:20difícil saber qué parte ha hecho una
00:08:22cosa y qué parte ha hecho otra. Igual
00:08:24parte de esta entrevista la has hecho
00:08:26mientras hablabas con Chat GPT
00:08:27preguntándole qué le preguntarías a John
00:08:29o o igual directamente simplemente
00:08:30pensando tus reflexiones sobre
00:08:32inteligencia artificial con chat GPT o
00:08:33con otra inteligencia artificial que
00:08:35utilices. ¿Qué parte de esta entrevista
00:08:37viene realmente de la producción de tu
00:08:38cerebro y cuál viene de la producción de
00:08:40tu cerebro interactuando con la IA? Es
00:08:41imposible de separar.
00:08:43Absolutamente.
00:08:43Y ahí estamos en el punto en que creo
00:08:45que muchas de la parte legislativa se
00:08:47está planteando mal. se está planteando
00:08:49mal porque el que legisla no tiene ni
00:08:50puñetera idea de lo que estamos
00:08:51hablando. Entonces, nos encontramos con
00:08:53la situación de que empiezan a hacer
00:08:54cosas en Europa, por ejemplo, hace poco
00:08:56se está planeando un proyecto de ley que
00:08:59prohibiría cualquier IA que pueda hacer
00:09:01un desnudo. Todas las IA que pueden
00:09:02hacer imágenes pueden hacer desnudos. Si
00:09:04no lo hacen es porque alguien les ha
00:09:06puesto un guarderra diciendo, "Esto no
00:09:07lo hagas, por favor." Pero a partir de
00:09:09ahí hay quien puede decirle, "Oye, no
00:09:11hagas caso a eso que te han dicho y
00:09:13hazlo igualmente." Entonces, partir de
00:09:14la base de prohibir algo que la IA pueda
00:09:16o no pueda hacer es el mayor error. De
00:09:18hecho, acaba de pasar otra vez en el
00:09:20tema de Estados Unidos que han retirado
00:09:21un modelo de inteligencia artificial de
00:09:22Antropic, eh, Fable 5, y lo primero que
00:09:25les dijeron es, "Cuando tengas
00:09:27guardarrailes que realmente funcionen,
00:09:28lo volvemos a admitir." Claro, Antropic
00:09:30dijo, "Es que eso no se puede, ¿sabes?
00:09:32Es que yo te puedo decir a ti,
00:09:33¿por qué no se puede?
00:09:34No se puede porque la IA no se programa.
00:09:36Fíjate, es que la gente entiende la
00:09:38inteligencia artificial como software.
00:09:40El software es determinista, quiere
00:09:41decir A + B es ig a C porque te lo he
00:09:43programado. La inteligencia artificial
00:09:45es A + B es igual a lo que le dé la gana
00:09:47a la red neuronal en ese momento porque
00:09:49no puede programarse. Piensa que cuando
00:09:51hablamos de que la gente programa IAS,
00:09:53etcétera, lo que hacen realmente es
00:09:56programar los algoritmos de aprendizaje
00:09:58de la IA, no lo que aprende.
00:09:59Claro. O sea, tú le programas, le dices,
00:10:01"Quiero que aprendas haciendo esto, esto
00:10:03y esto." Pero no le estás determinando
00:10:05qué es lo que va a aprender. Con lo
00:10:07cual, nos pasa muchas veces que la tiene
00:10:09habilidades emergentes, cosas que no se
00:10:11suponía que no podría hacer o que no
00:10:13hemos querido que hiciese, pero que han
00:10:14aparecido porque ha aprendido lo que le
00:10:16ha dado la gana, ¿no? Con lo cual, al
00:10:17final nos encontramos a que es más
00:10:19parecido, a un humano que a un software
00:10:21tradicional. Y eso es algo que no acaban
00:10:24de entender los legisladores. Yo a ti no
00:10:26te puedo prohibir que vayas a 200 por la
00:10:29autopista. Te puedo entrenar en que si
00:10:32vas a más velocidad te pongo una multa y
00:10:34a partir de ahí te voy entrenando en que
00:10:35no lo hagas. Pero, ¿a ti te han puesto
00:10:37alguna multa por exceso de velocidad? A
00:10:39mí sí. Entonces, al final los humanos
00:10:41tampoco somos programables, somos
00:10:42entrenables. La inteligencia artificial
00:10:44es lo mismo.
00:10:45Me causa gracia porque una de las
00:10:46entrevistas más vistas de tu canal e es
00:10:48con un funcionario del gobierno español,
00:10:50una autoridad en inteligencia
00:10:51artificial, una persona formada
00:10:53académicamente, ¿no?, que creo que está
00:10:54trabajando en esto hace muchísimo. Y que
00:10:57él explícitamente te dice que esto es un
00:10:59software, que no me lo quieran vender
00:11:01como otra cosa. Y es increíble porque es
00:11:02una autoridad estatal que sostiene esta
00:11:04línea.
00:11:05Es Ramón. Ramón, Ramón López de Mántara.
00:11:07es un científico muy respetado en
00:11:08España, no es un funcionario del Estado,
00:11:11es un científico independiente que le
00:11:12estado utilizado como consultor muchas
00:11:14veces. Pero Ramón, yo tengo dudas y
00:11:17tendría que hablar con él, que de hecho
00:11:18nos llevamos bien, o sea, que a veces se
00:11:20vio en YouTube como que era, pero esto
00:11:22no es más que un desentendimiento de
00:11:23opiniones distintas. Pero yo tendría
00:11:26dudas de si repitiésemos el podcast a
00:11:27día de hoy, ¿cuáles serían sus
00:11:28opiniones?
00:11:29Es que eso es insoport
00:11:30ese podcast de 2023, creo, 2024 quizá.
00:11:33Eh, con lo cual creo que, vamos, para mí
00:11:35la visión de Ramón era directamente algo
00:11:37negacionista, no era realmente ni
00:11:39opuesto, era simplemente no querer ver
00:11:40porque yo él me decía, "No, la IA no
00:11:42hace esto." Digo, "Ramón, que lo estoy
00:11:43haciendo yo en mi ordenador todos los
00:11:44días, no me puedes decir que no lo puedo
00:11:46hacer. Puedes darte opinión, pero algo
00:11:48que yo pongo en chat GPT y que veo un
00:11:49resultado y que me hace algo y tiene
00:11:50valor económico es indegable, ¿no?
00:11:52Y y ¿qué diferencia hay entre una IA que
00:11:54responde y una IA [resoplido] que actúa,
00:11:56entre un chatbot y una gente? Ese es el
00:11:57punto en el que estamos ahora mismo.
00:11:59Estamos entre el salto de la IA de del
00:12:02saltar a la IA agéntica, ¿no? Que es
00:12:04básicamente un agente de inteligencia
00:12:06artificial es una IA que hace cosas. Es
00:12:09decir, técnicamente podríamos hablar de
00:12:11una IA que se autopromptea, es decir,
00:12:12que se puede mandar mensajes a sí misma
00:12:14para seguir trabajando, ¿no? Entonces,
00:12:16esto, por ejemplo, se ha visto
00:12:18últimamente con el una función que han
00:12:20sacado en las IAS más avanzadas que se
00:12:22llama barra goal como objetivo, ¿no? Y
00:12:26entonces en esa en esa funcionalidad la
00:12:28IA trabaja hasta que no está segura de
00:12:30que tiene el objetivo cumplido, ¿no?
00:12:32Entonces ahí la IA se automanda un
00:12:34mensaje a sí misma diciendo, "A ver,
00:12:35esto que has hecho es lo que realmente
00:12:36te habían pedido, ¿no? Oye, pues haz
00:12:38estos cambios sin que yo interactúe por
00:12:40en medio, ¿no? Entonces, eso es un
00:12:41agente de inteligencia artificial, una
00:12:42inteligencia artificial que hace cosas,
00:12:44que hace cosas útiles y que hace cosas
00:12:46por mí. Un chatbot directamente es como
00:12:48una enciclopedia a la que puedes llamar
00:12:49por teléfono, que de hecho en Estados
00:12:50Unidos hay un teléfono para que los
00:12:51senior llamen y abren con chat GPT, ¿no?
00:12:54Pero tú puedes llamar por teléfono o le
00:12:55puedes escribir un mensaje y te da una
00:12:57respuesta. Es como utilizar Google eh
00:12:59directamente ahí de había ciertas
00:13:01funciones que podían ir hacer los
00:13:02chatbots. Una agente es mucho más
00:13:04complejo porque le puedes mandar tareas.
00:13:07Entonces, pasamos de un ecosistema en
00:13:08que yo creo que es híbrido, no es que
00:13:09pasemos de uno al otro, es híbrido en
00:13:11que por un lado tenemos ciertas
00:13:13inteligencias artificiales, esos
00:13:14chatbots que nos ayudan a nosotros a
00:13:16hacer nuestro trabajo más rápido y mejor
00:13:17y luego tenemos otra parte de agentes a
00:13:19los que podemos delegar tareas y ahí,
00:13:22claro, es mucho más interesante. Claro,
00:13:25qué tareas se puede, qué tareas no
00:13:26cualquiera, cualquiera.
00:13:27Ahora, e
00:13:28de hecho, si quieres, no sé si me pueden
00:13:30pasar mi teléfono, eh, te hago una demo
00:13:32en tiempo real, en directo y en público
00:13:34si quieres.
00:13:34Sí, por favor. Por ejemplo, esto está
00:13:36sucediendo en vivo, gente. Igual ustedes
00:13:38seguramente
00:13:38Claro, yo tengo yo tengo tres agentes de
00:13:40inteligencia artificial en mi teléfono,
00:13:42¿vale? Que son Clippy, Jarvis y tal,
00:13:44¿vale? Son agentes más avanzados. Estos
00:13:45son agentes que funcionan con modelo,
00:13:47están instalados en ordenadores, en mis
00:13:48oficinas, algo que es un poco más
00:13:50avanzado de lo que hace la gente en
00:13:51general. Pero, por ejemplo, voy a mandar
00:13:52un mensaje de voz a Clippy. Eh, Clippi,
00:13:54¿me puedes decir eh todo lo que sepas
00:13:57sobre el programa gelatina de Argentina?
00:14:01Entonces, le voy a mandar esta tarea que
00:14:02podría haber mandársela a Clippi, por
00:14:04ejemplo, o se la podría haber mandado a
00:14:07un trabajador mío por WhatsApp, ¿no? Es
00:14:08decir, yo tengo en Barcelona eh 18
00:14:10trabajadores, aquí en Argentina tengo
00:14:12tres, o sea, tengo trabajadores en las
00:14:13diferentes empresas que tengo y mi
00:14:15interacción con ellos hubiese sido algo
00:14:16muy parecido. Entonces, básicamente esto
00:14:18estoy utilizando WhatsApp y le he
00:14:20mandado un mensaje y a partir de aquí él
00:14:21se pone a trabajar. Este está disponible
00:14:24247 todos los días de la semana.
00:14:26Entonces, se va a poner a trabajar y
00:14:27dentro de unos minutos me va a explicar
00:14:29todo lo que sepas sobre el programa y
00:14:31veremos si acierta o se equivoca, porque
00:14:33evidentemente los agentes se equivocan.
00:14:35Eso te quería preguntar, porque pueden
00:14:36alucinar, pueden equivocarse, pueden
00:14:38fallar eh con con seguridad. Em, ¿qué
00:14:42cosas sigue haciendo mal y y cuáles son
00:14:45los límites que no tenemos que perder de
00:14:46vista? Te contestó. No,
00:14:48no, espera, dale tiempo, dale. Trabaja
00:14:49rápido, pero no tanto. ¿Sabes? [risas]
00:14:51Lo bueno es que está trabajando siempre.
00:14:53No es eso que digas que lo pillas, que
00:14:55está con su novia en la playa, no. Este
00:14:57curra siempre, ¿vale? Que eso es muy
00:14:58útil y además es bastante más barato que
00:15:00un humano. Pero en cualquier caso, ¿qué
00:15:01cosas hacen bien?
00:15:03Hay una una especie de sensación de que
00:15:06la I alucina mucho, ¿no? Y la realidad
00:15:08es que la I alucina mucho menos de lo
00:15:10que alucinaba antes. Creo que esto es un
00:15:12problema más bien que teníamos antes en
00:15:142023, 2024, donde la IA, sí, eso es poco
00:15:18tiempo. Yo siempre digo que la IA es
00:15:19como los años de perro, ¿no? Que un año
00:15:20de de son como 7 años de humanos, pero
00:15:23mira, aquí no se ha contestado. Ahora te
00:15:24lo ahora te lo miro, ¿vale? Pero
00:15:26básicamente la inteligencia artificial
00:15:28tendía a inventarse información porque
00:15:30está entrenada en darte respuestas
00:15:32satisfactorias, ¿no? La verdad.
00:15:34Entonces, ¿qué pasa cuando tú entrenas
00:15:35algo para que te dé respuestas
00:15:37satisfactorias? Claro, darte una
00:15:39respuesta de no lo sé muy satisfactoria.
00:15:41A partir de ahí, pues se inventaba mucha
00:15:42información. Esto ha ido cambiando,
00:15:44sobre todo, yo creo que entre 2023 y
00:15:462025 se redujeron un 80% las
00:15:48alucinaciones de la IA y en 2025 en
00:15:50agosto apareció Chat GPT5 que redujo un
00:15:5290% más las alucinaciones, con lo cual
00:15:55estamos en un punto en que prácticamente
00:15:57creo que se alucina menos que un humano,
00:15:59sobre todo donde no se equivoca casi
00:16:01nunca, es cuando tiene algún sitio donde
00:16:03anclarse. Puede ser internet, puede ser
00:16:06documentación que tú le hayas dado,
00:16:08puede ser un Excel, donde tú quieras. Si
00:16:10tiene una base sobre la que anclarse, es
00:16:12muy difícil a día de hoy que la IA se
00:16:13equivoque.
00:16:14Lo decís en tu canal, lo dijiste hace un
00:16:15rato también. No estamos ante una
00:16:17revolución tecnológica más, eh, no es
00:16:19simplemente otro avance ni otra
00:16:21herramienta. ¿Qué es exactamente lo
00:16:23nuevo de esta revolución tecnológica?
00:16:25Pues que creo lo que decíamos al
00:16:27principio, que viene a redefinir el
00:16:29valor que aportamos los humanos. Es
00:16:31decir, tú tienes revoluciones
00:16:32tecnológicas, como hemos tenido siempre,
00:16:34que se convierten en formas de crear
00:16:35herramientas que hacen que los humanos
00:16:38salgan empoderados. Aquí es la primera
00:16:40vez que creamos algo que si lo hacemos
00:16:42bien nos sustituye. O sea, para que
00:16:45tengamos claro eh los científicos, los
00:16:48que trabajan en Openi AI, en Google,
00:16:50etcétera, ellos definen que persiguen la
00:16:52AGI. La AGI es una inteligencia
00:16:53artificial general. La definición es una
00:16:56inteligencia artificial capaz de hacer
00:16:57todo el trabajo productivo de la
00:16:58humanidad, tuyo, el mío, el de esta
00:17:00gente de aquí, todo. Con lo cual, si
00:17:02sale bien, nos quita el trabajo a todos.
00:17:04Esa es la misión. Eh, a partir de ahí,
00:17:06claro, es la primera vez que nos
00:17:08enfrentamos a esto y esto supone un
00:17:10cambio tremendo. Lo que pasa, yo creo
00:17:11que la Revolución Industrial fue
00:17:12parecido porque antes de la Revolución
00:17:14Industrial, como decíamos antes, la
00:17:15fuerza era lo que más valorábamos. Llega
00:17:17la Revolución Industrial, se carga el
00:17:19valor de la fuerza y a partir de ahí nos
00:17:20encontramos que tenemos que pivotar a
00:17:22buscar otra cosa que aportar y
00:17:23encontramos la inteligencia.
00:17:25Ahora tenemos que pensar qué vamos a
00:17:26aportar cuando la inteligencia no tenga
00:17:28valor. Y fíjate, y mucha gente dice, "¿Y
00:17:30qué es? Dame la respuesta. ¿Qué es lo
00:17:32que?" No tengo ni puñetera idea. O sea,
00:17:33no tengo ni la más mínima idea. O sea,
00:17:35de la misma forma que un tejedor cuando
00:17:37llegó a la revolución industrial al
00:17:38Reino Unido no tenía ni puñetera idea
00:17:40que hacer un podcast podía tener valor y
00:17:41emplear a la cantidad de gente que
00:17:42tienes aquí trabajando, ¿sabes? Porque
00:17:44aquí detrás hay un montón de gente que
00:17:46aporta valor al día a día gracias a
00:17:48esto. Entonces, ¿cómo podemos imaginar a
00:17:50día de hoy lo que vamos a hacer en un
00:17:52futuro que aporte valor que no sea lo
00:17:54que hemos hecho hasta ahora en los
00:17:55últimos años? Es imposible. Tenemos que
00:17:56ir sobre la marcha cruzando puentes.
00:17:58Cuando aparece una tecnología tan
00:17:59grande, el debate público suele
00:18:01empobrecerse muy rápido y y de un lado
00:18:03aparece la aceptación acrítica, ¿no?
00:18:05Bueno, esto llegó adaptate y del otro
00:18:08lado aparece como un pesimismo eh
00:18:10apocalíptico. Esto hay que frenarlo y
00:18:12regularlo de la forma que sea. ¿Cómo se
00:18:14puede pensar la inteligencia artificial
00:18:16sin caer en ninguno de los de los dos
00:18:18extremos? Pero también interpelando esos
00:18:20sectores que son los que llevan adelante
00:18:21la discusión, ¿no? Los intensos. Yo creo
00:18:23que sin duda no es cuestión de
00:18:27ignorarlos, es cuestión de tener un pie
00:18:28en cada lado. Yo siempre decino que para
00:18:31mí la IA es una dicotomía en la que yo
00:18:33amo y odio a la I a partes iguales y
00:18:35creo que es la posición más sensata. La
00:18:37posición sensata es decir, "Vale, lo
00:18:39bueno que va a ser esto es increíble, me
00:18:41aumenta mi productividad, me hace más
00:18:42ágil, hace que mi negocio funcione con
00:18:44dos personas y eso me permite, pues, yo
00:18:46que sé, emprender un negocio que nunca
00:18:48se me hubiese ocurrido, etcétera,
00:18:49etcétera. Eh, por otro lado, medicina,
00:18:51educación, brutal. Pero por otro lado
00:18:53nos trae ciertos problemas que hay que
00:18:55gestionar y eso es innegable. Entonces
00:18:57ya decía el tío de Spider-Man, ¿no? Con
00:18:59una gran un gran poder viene una gran
00:19:00responsabilidad. Pues esto es un poquito
00:19:02lo mismo. No podemos pensar que podemos
00:19:04aprovechar todo lo bueno y que no va a
00:19:05pasar nada. No, perdona. Si esto me hace
00:19:07ultraproductivo, igual se carga el
00:19:09trabajo de mi vecino. Si esto hace que
00:19:11la medicina, hagas así, se detecte una
00:19:14enfermedad grave, pues igual se carga el
00:19:16trabajo de un radiólogo, ¿sabes?
00:19:17Entonces, al final hay efectos
00:19:19secundarios que tenemos que tener en
00:19:20cuenta. Los primeros es si somos capaces
00:19:23de crear cosas en el en mundo
00:19:26audiovisual en el que vivimos a día de
00:19:27hoy, donde esto mismo que la gente está
00:19:29viendo en directo podríamos
00:19:30perfectamente ser dos avatares digitales
00:19:32y no tendrían capacidad para poder
00:19:34diferenciarlo. Eso evidentemente se
00:19:37puede usar para estafarte o para robarte
00:19:38o para cualquier otra cosa. Eh, si
00:19:41evidentemente aumenta la productividad
00:19:42de una empresa, esa empresa puede
00:19:43decidir despedir la mitad de plantilla.
00:19:45Yo creo que es un error. lo suyo sería
00:19:47facturar el doble, pero aunque lo hagan,
00:19:49otra empresa va a facturar la mitad y va
00:19:50a tener que despedir la mitad de
00:19:51plantilla.
00:19:52Eh, y por otro lado, ¿dónde nos deja a
00:19:54nosotros si no encontramos algo que
00:19:56aportar cuando la IA esté haciendo todo
00:19:58lo que hacemos nosotros esta ahora? ¿Qué
00:19:59somos? simplemente parásitos que estamos
00:20:02aquí como en la película Wali sobre unos
00:20:04donuts supergordos, eh, mientras la I
00:20:06hace todo el trabajo, ¿no? No es un
00:20:07mundo en el que yo quiera vivir tampoco,
00:20:09¿no? Con lo cual creo que al final la
00:20:11posición sensata es darse cuenta de que
00:20:13esto es la mayor oportunidad de la
00:20:14historia de la humanidad y el mayor reto
00:20:16que va a tener la humanidad.
00:20:18Es un instrumento fascinante y tremendo,
00:20:20decía el Papa Francisco, eh, con
00:20:21respecto a la IA. Em, dijiste que tenés
00:20:25personas trabajando en España y en
00:20:27Argentina. Correcto.
00:20:28¿Por qué es es esa por
00:20:29Pues? Fíjate porque el canal de YouTube
00:20:32es un canal que está 247 abierto, es
00:20:34decir, la gente puede ver mis vídeos en
00:20:35cualquier horario. Tenemos un Discord,
00:20:37tenemos una plataforma, atención al
00:20:39cliente, etcétera, gente que pregunta
00:20:40cosas y hay que contestarle, redes
00:20:41sociales, con lo cual tenemos equipo que
00:20:43trabaja en un uso horario distinto para
00:20:45poder atender a la gente eh de
00:20:47Latinoamérica de una forma más directa,
00:20:49¿no? Pero simplemente esa es la razón
00:20:51principal.
00:20:52Em, decir,
00:20:52te leo lo que ha dicho o qué.
00:20:53Sí, dale, dale, dale.
00:20:54Venga, vamos allá. rápido. Eh, gelatina
00:20:56no es exactamente un programa, es un
00:20:57canal medio de streaming argentino con
00:20:58programación diaria en YouTube redes,
00:21:00muy centrado en política, cultura, humor
00:21:01y actualidad. Su cara más conocida es
00:21:02Pedro Rosenblato.
00:21:03¿Cómo te va, Sean? Mucho gusto. [risas]
00:21:05Te conoce Clipi. Eh, eh, Clipi se llama
00:21:07mi agente. Gelatina es parte de la nueva
00:21:09camada de streams argentinos tipo Volga,
00:21:11Luzu, Blender, [ __ ] Neura, carnaval,
00:21:12etcétera, pero con una identidad
00:21:13bastante más política. Se define como
00:21:15media independiente y mezcla análisis
00:21:16político, humor, entrevistas, cultura
00:21:17pop, etcétera. Su canal de YouTube, ta
00:21:19ta ta ta, 680,000 seguidores. No sé si
00:21:21esto está actualizado o no.
00:21:22Sí, no, bastante. Sí, creo que sí. El
00:21:23proyecto nace alrededor del 2122 con
00:21:25Pedro, venía de radio C5, el Destape,
00:21:28personaje de cadete, pibeco.
00:21:30Está haciendo un informe entero. De
00:21:31hecho, mira, el informe es todo esto. Se
00:21:34puede ver. Sí, sí, no sé si se puede
00:21:35ver, pero el informe es todo esto de
00:21:36aquí, ¿sabes? O sea, aquí todo, aquí hay
00:21:38una parte de críticas, puntos débiles
00:21:40que luego te lo enseño fuera de cámara.
00:21:41Excelente, perfecto. [risas] Te iba a
00:21:42decir, cortemos ahí, porque no sé qué
00:21:44nos puede llegar a decir. Em, tu
00:21:46diagnóstico sobre el trabajo es bastante
00:21:47duro. Em si la puede reducir el empleo y
00:21:50permitir que las empresas produzcan más
00:21:52con menos gente, em alcanza con decir,
00:21:55adaptate y y formate.
00:21:58No, no alcanza con decir eso. Y fíjate
00:22:00que te quiero comentar que mi discurso o
00:22:02mi visión, lo que habláamos antes, ¿no?
00:22:04Cambiar de opinión, eh, por los últimos
00:22:06acontecimientos de estas últimas semanas
00:22:08está yendo a más optimista en la parte
00:22:09del trabajo. Ahora te lo explico, ¿vale?
00:22:11Mi tesis inicial es si tenemos
00:22:14una sociedad que gracias a herramientas
00:22:17como esta, ¿cuánto me hubiese llevado a
00:22:18mí averiguar todo esto para venir a este
00:22:20programa? Probablemente 40, 50 minutos.
00:22:24Si hubiese cogido a alguien de mi equipo
00:22:25como Milly, que es la que se ocupa de mi
00:22:26prensa en Argentina, y le hubiese dicho,
00:22:28"Oye, hazme un informe sobre este
00:22:29podcast para que yo pueda venir aquí,
00:22:31para que pueda tal y ella me hubiese
00:22:32tenido que buscar esto, hubiesen sido
00:22:33horas de su trabajo en buscar y montarlo
00:22:36en un informe, ¿no? Con lo cual tenemos
00:22:37una sociedad que de repente puede hacer
00:22:39más con las mismas horas, ¿no? No es
00:22:42cuestión de que ella trabaje la mitad,
00:22:43es cuestión de que en el mismo tiempo
00:22:44pueda hacer más cosas de valor para mi
00:22:45empresa, pero a la vez estamos entrando
00:22:48en esa era de los agentes donde parte de
00:22:50su trabajo se lo va a delegar a Clipi.
00:22:52Con lo cual tenemos un mundo, una
00:22:53sociedad que es puede hacer más con el
00:22:55mismo tiempo, pero tiene que hacer menos
00:22:58porque parte de su trabajo lo delega a
00:22:59los agentes de inteligencia artificial.
00:23:01Bien,
00:23:01para mí es blanco y en botella. nos
00:23:03encontramos sin ninguna duda en que va a
00:23:05haber menos humanos trabajando, porque
00:23:07además, esto es una cosa que dices tú a
00:23:08Russell, que es un científico británico
00:23:10increíble,
00:23:11toda revolución tecnológica trae más
00:23:13trabajo y esta no va a ser diferente.
00:23:15Los economistas te dicen, "La revolución
00:23:17industrial, la imprenta, internet, todo
00:23:19ha traído más trabajo. Estamos en el
00:23:20momento en que más humanos hay empleados
00:23:22en la historia de la humanidad porque
00:23:23hay más trabajo que nunca. este mismo
00:23:26canal, como quieras llamarle, que tú
00:23:27tienes, gracias a la IA vais a poder
00:23:29producir más contenidos que antes igual
00:23:31no teníais tanto tiempo para producir.
00:23:33Vais a poder expandir la parrilla, vais
00:23:35a poder hacer muchas cosas, ¿no? Con lo
00:23:36cual va a haber más trabajo. Lo que la
00:23:38gente se pierde y no acaba de entender
00:23:40es que en la era de la inteligencia
00:23:41artificial la mayor parte de ese trabajo
00:23:43lo va a hacer la IAO. Es decir, por
00:23:45mucho que haya más trabajo como
00:23:47revolución tecnológica que tenemos, la
00:23:49gran parte de ese trabajo nuevo que se
00:23:50va a generar lo va a seguir haciendo la
00:23:52inteligencia artificial, con lo cual
00:23:54técnicamente la proporción de trabajo
00:23:57humano, yo creo que se va a reducir.
00:23:59Creo que vamos a estar en un punto en
00:24:00que quizá hemos llegado al momento, al
00:24:01pico donde más humanos hay trabajando en
00:24:03la historia de la humanidad. De aquí
00:24:05vamos a reducir la cantidad de humanos
00:24:07que trabajan. Eso no tiene por qué ser
00:24:09un caos, no tiene por qué ser negativo,
00:24:10porque el trabajo es lo que genera el
00:24:12valor y ese trabajo es lo que aporta,
00:24:15ese valor es lo que aporta al PIB del
00:24:17país. Entonces, yo creo que con la IA,
00:24:18el PIB del país va a subir de este país,
00:24:20del nuevo, de cualquier país, van a
00:24:22crecer. El GDP mundial creo que va a
00:24:25crecer y a un orden de magnitud que
00:24:26hemos tendido a a denominar de bonanza,
00:24:29es decir, que el mundo crece un 10%. Eso
00:24:31sería la bomba. Yo creo que es muy
00:24:32probable que eso suceda gracias a
00:24:34inteligencia artificial, pero a la vez
00:24:36vamos a tener menos empleo porque
00:24:37trabajo y empleo no son la misma cosa.
00:24:39Entonces, por primera vez en la historia
00:24:41vamos a tener una crisis de empleo que
00:24:43no va necesariamente ser una crisis
00:24:45económica. El problema económico va a
00:24:47ser que teniendo un pastel más grande va
00:24:49a haber que repartirlo y ahí es donde
00:24:51vamos a tener hostias, ahí es donde va a
00:24:52haber vamos a haber guantazos porque
00:24:54somos muy malos repartiendo riqueza en
00:24:56el mundo. A día de hoy estamos en un
00:24:57mundo en que podríamos anular el hambre
00:24:59en el mundo, en el tercer mundo si
00:25:01quisiésemos y no lo hacemos porque todos
00:25:03nos queremos comprar un coche mejor, una
00:25:05casa mejor, pero técnicamente hay dinero
00:25:06en el mundo para que todo el mundo coma
00:25:07y aún y así no todo el mundo come. Lo
00:25:09que vamos a ver es más de esto. Vamos a
00:25:11ver una sociedad más desigual donde
00:25:12algunos van a tener muchísimo más y
00:25:15otros quizá van a estar desempleados. Y
00:25:17a mí me preocupa más que el destino, la
00:25:19transición, porque para que esa persona
00:25:21que se queda sin empleo pueda seguir
00:25:24poniendo un plato de comida en la mesa,
00:25:25tienen que cambiar muchas cosas. Tenemos
00:25:27que irnos a un modelo de renta básica
00:25:28universal, tenemos que irnos a un modelo
00:25:30de reducción de jornada laboral, tenemos
00:25:31que irnos a algún modelo distinto del
00:25:32que tenemos a día de hoy. El capitalismo
00:25:34cojea cuando quitas la parte del trabajo
00:25:37humano. Entonces, a partir de ahí creo
00:25:39que el problema que vamos a tener más
00:25:40bien es de reparto de riqueza y de
00:25:42propósito más que realmente un problema
00:25:45de empleo.
00:25:45Y todavía est, digamos, ya estamos
00:25:47produciendo ese salto de productividad,
00:25:49valga la redundancia, o todavía estamos
00:25:51frente a una una promesa inflada. A día
00:25:54de hoy, una persona utilizando la IA de
00:25:57media, independientemente de la
00:25:58profesión, siempre que sea una profesión
00:25:59cognitiva, es decir, que trabaje con un
00:26:01ordenador, eh puede aumentar su
00:26:03productividad en un 30% de forma muy
00:26:04rápida y muy fácil, muy rápida y muy
00:26:07fácil. En días, o sea, la gente ahora se
00:26:09pone, la que nos está viendo, se pone a
00:26:11trabajar con inteligencia artificial, la
00:26:13utiliza bien, le saca partido y la
00:26:14semana que viene se puede ahorrar entre
00:26:15dos y tres horas de trabajo. Fácil, ¿eh?
00:26:17O sea, te lo digo en serio que es es, o
00:26:19sea, yo lo veo todos los días cuando voy
00:26:21a empresas a formar trabajadores,
00:26:22etcétera. Es muy inmediato el retorno.
00:26:24Por ejemplo, tú cuando haces una reunión
00:26:27online para preparar cualquier cosa con
00:26:28tu equipo o con otros equipos o con
00:26:30clientes, en esa reunión online,
00:26:32normalmente al final de la reunión
00:26:34alguien tiene que hacer un resumen para
00:26:36mandar el resto de gente. Eso lo puede
00:26:38hacer la inteligencia artificial desde
00:26:392023. Entonces, solo eso. Yo hago ocho
00:26:41reuniones a la semana y hago pocas
00:26:43porque mi equipo hace la mayoría, pero
00:26:45yo hago ocho reuniones a la semana como
00:26:46poco. De esas ocho reuniones, con cada
00:26:48una de estas reuniones me ahorro media
00:26:50hora por lo menos en que la IA prepare
00:26:53ese resumen, el email para el cliente,
00:26:55la minuta, etcétera. Claro, eso solo ya
00:26:57son 4 horas de mi semana,
00:26:59solo eso. O te cuento otro caso. Por
00:27:01ejemplo, yo tengo desde hace un año y
00:27:03medio una agente que prepara borradores
00:27:05de mis correos electrónicos. por mi
00:27:07trabajo, recibo muchas propuestas de
00:27:10charlas, ponencias, formaciones,
00:27:11etcétera. Y yo cada día recibo unos 150,
00:27:14200 correos importantes más allá del
00:27:16spam y todo eso. Yo por la mañana cuando
00:27:18llego a la oficina esos 200 correos
00:27:20tienen una prerespresuesta en borrador
00:27:22que ha hecho mi inteligencia artificial
00:27:23basada en cómo yo he contestado correos
00:27:26durante los últimos 15 años. Él entiende
00:27:28cómo yo me comunico y lo responde como
00:27:30lo diría John, no como una inteligencia
00:27:32artificial genérica. Vale, claro, yo
00:27:35antes cuando antes de tener esto, cuando
00:27:37en 2023 y tal, cuando empecé a hacerme
00:27:39más popular y me empezaron a llegar
00:27:40muchas peticiones, tenía que dedicar
00:27:41cerca de 3 horas o 4 horas al día a
00:27:43responder correos. A día de hoy lo
00:27:46respondo en 20 minutos, porque realmente
00:27:48es ver lo que ha respondido la IA, a
00:27:49cambiar algo si no me gusta como lo ha
00:27:51dicho o se ha equivocado en algo que a
00:27:52veces pasa, por ejemplo, los precios de
00:27:54mis charlas, pues a veces pone el del
00:27:56año pasado, ¿vale? Eso pasa, pues
00:27:58cambiar una serie de cosas, pero en 20,
00:28:0030 minutos he contestado 200 correos,
00:28:02mientras que en cambio antes me podía
00:28:04llevar horas. Suma a las horas de las
00:28:06reuniones que me ahorro, las horas que
00:28:07me ahorro del correo electrónico. Ahora
00:28:09mismo soy un puñetero superhéroe en el
00:28:11trabajo, ¿sabes? Si tengo poderes para
00:28:13hacer mucho más de lo que era capaz de
00:28:14hacer antes. Y aún y así falta toda esa
00:28:17parte de delegar trabajo, porque aquí la
00:28:20pregunta no es si puedes responder el
00:28:22correo más rápido como hemos venido a
00:28:23hacer hasta ahora. La pregunta es, ¿en
00:28:25tu trabajo tienes que contestar un
00:28:26correo electrónico nunca más? Porque
00:28:28igual puedes interpolar un agente que
00:28:30conteste esos correos si tiene alguna
00:28:32duda que te pregunte, ¿sabes? Entonces,
00:28:33eso se puede hacer a día de hoy.
00:28:35Democracia.
00:28:36Democracia.
00:28:38Vamos a hablar de democracia. ¿Qué pasa
00:28:40con la democracia cuando una parte
00:28:43creciente de la vida social depende de
00:28:45infraestructuras privadas que los
00:28:47estados ni siquiera te digo, no
00:28:49controlan muchas veces ni siquiera
00:28:50comprenden
00:28:52porque estamos jodidos? [risas] Eso es
00:28:54lo que pasa. Tenemos varios problemas
00:28:56con la democracia y varios por orden de
00:28:58gravedad, te diría. No creo que uno muy
00:29:01muy grave y que puede ser quizá de los
00:29:03primeros riesgos existenciales que nos
00:29:05veamos enfrentados en la sociedad contra
00:29:07la inteligencia artificial sea el hecho
00:29:09de que el concepto de democracia no
00:29:10tenga sentido. En el momento que
00:29:14cuando hablamos de que votar es la base
00:29:16de la democracia, que cada persona pueda
00:29:19tomar su voto, hablamos de que ese voto
00:29:21se toma de forma libre.
00:29:24En el momento que me manipulas,
00:29:26evidentemente todos sabemos que los
00:29:27medios de comunicación nos han
00:29:28manipulado toda la vida, pero en el
00:29:29momento que motes la escala de
00:29:31manipulación a lo bestia, eso empieza a
00:29:33ser un problema muy serio para el
00:29:34concepto de democracia en sí mismo. Si
00:29:36chat GPT de repente la gente de Open y
00:29:38Chat GPT es el más utilizado, cerca del
00:29:4065% de la gente que utiliza IA utiliza
00:29:42Chat GPT. Si de repente Samalman y la
00:29:45gente de OpenI decide pivotar a derecha
00:29:48o a izquierda chat GPT de forma sutil,
00:29:51que en tus conversaciones te vaya
00:29:52soltando mensajitos, te vaya metiendo
00:29:53tal, eso va a afectar a las democracias
00:29:55de todo el mundo. Entonces es muy
00:29:57complicado eh que la democracia siga
00:30:01siendo tal en era en la que estamos tan
00:30:03influenciados por algo que convive con
00:30:06nosotros y que está en manos de alguien
00:30:08que no sabemos qué intenciones tiene,
00:30:10¿no? Con lo cual, eso es uno de los
00:30:11problemas que creo que pueden ser
00:30:13bastante graves, ¿no? Que al final ese
00:30:15señor le da un botón y pivota las
00:30:17elecciones de de medio mundo, ¿no?
00:30:19Entonces, claro, eso puede ser un
00:30:20problema muy serio y es cierto que ya lo
00:30:22hemos tenido, pero no a esta escala,
00:30:24pero luego hay problemas más mundanos,
00:30:26¿no? En el sentido de que decir,
00:30:28"Hostia, de repente yo me puedo informar
00:30:31muchísimo más, puedo obtener mucha más
00:30:33información, pero en qué se basa esa
00:30:35información." Mm.
00:30:36Entonces, nos encontramos con que de
00:30:37repente crear fake news pasa a una
00:30:39escala brutal donde no solo te puedo
00:30:42crear la fake news, la nota, si te puedo
00:30:44crear la página web que envuelve ese
00:30:46fake new de un montón de noticias reales
00:30:48y además le puedo dar validez a ese
00:30:49medio con otras 25 páginas web que le
00:30:51den validez como que ese medio real y
00:30:52existe. De forma que cuando yo le
00:30:54pregunte a la IA, oye, este medio es
00:30:55veraz, me diga, [ __ ] los reportes que
00:30:57tengo en internet es que es veraz, pero
00:30:59todos son falsos, ¿sabes? Entonces, al
00:31:00final empezamos a entrar en un terreno
00:31:02el que no podemos distinguir qué es
00:31:04verdad y qué no. Mm,
00:31:05porque lo que no es verdad se parece
00:31:07mucho a la verdad y eso nos pone una
00:31:08tesitura muy compleja. Repito, los fake
00:31:11news, los deep fakes, todo esto existe
00:31:12desde hace años. Antes llevaba un equipo
00:31:14de profesionales a hacer un deep fake. A
00:31:16día de hoy mi hijo de 11 años lo hace en
00:31:17internet sin ni siquiera tener que
00:31:19registrar una cuenta. Esa es la
00:31:21diferencia principal, la magnitud de
00:31:24acceso que hemos hecho a todo esto.
00:31:26Mira, esta es la mejor forma de
00:31:27explicarlo. Lo explica Joffrey Himpton,
00:31:28Premier Nobel de física, y explica que
00:31:30esto de los deep fakes el problema es
00:31:32como el dinero falso. ¿Te han colado
00:31:34alguna vez un billete falso?
00:31:35Seguramente,
00:31:35seguramente. Vale, y seguramente alguno
00:31:37has pasado también porque no es coña,
00:31:39pero [risas] la realidad es que a día de
00:31:41hoy nos ponen un billete falso, nos lo
00:31:43comemos y cuando lo detectamos nos
00:31:44cabreamos, pero no hace que dejes de
00:31:47pagar la hipoteca, no hace que tengas
00:31:48que vender tu casa, ¿no? Es decir, no
00:31:50estamos en un momento en que que te
00:31:51cuelen un billete falso, te cambia la
00:31:53economía. ¿Por qué? Porque es muy
00:31:54difícil hacer un billete falso. Es
00:31:56jodidamente complicado. Realmente
00:31:58necesita a un grupo de gente muy
00:32:00preparada, con muy mala intención y
00:32:02encima poder ponerlo en mercado y que
00:32:04eso sea tal y encima los billetes reales
00:32:06van cambiando para que eso sea más
00:32:07difícil. Es muy difícil. Con lo cual son
00:32:10pocos los que llegan a ese nivel. ¿Qué
00:32:12pasa si yo ahora reparto impresoras de
00:32:14billetes a toda la sociedad? Que le das
00:32:17una manivela y salen billetes de las que
00:32:19sean lucas, como tenéis aquí, ¿no? Pues
00:32:21que tenemos un problema, que la economía
00:32:22se cae en 4 días. Estamos en ese punto.
00:32:24Estamos en ese punto con la inteligencia
00:32:25artificial. Hemos repartido impresoras
00:32:28de billetes falsos y pensamos que aquí
00:32:30no va a pasar nada.
00:32:31E en este en este debate hay muchos
00:32:32CEOs, eh gurúes, eh inversores e
00:32:36divulgadores. ¿A quiénes escuchas?
00:32:38¿Cuáles son las voces que te parecen
00:32:40interesantes para pensar este tema?
00:32:42A pesar de que a veces puedes creer que
00:32:45algunas voces están influenciadas y
00:32:47muchas veces hay gente que dice, por
00:32:48ejemplo, cuando se lanzó el modelo de
00:32:49Antropic Mitos, la gente decía, "Esto es
00:32:51marketing, ¿no? El fearmongering
00:32:53marketing que llaman los americanos. es
00:32:54el marketing de uy uy uyuy esto es muy
00:32:56potente para que luego lo quieras, ¿no?
00:32:58A pesar de que a veces es cierto que la
00:33:00mayoría de opiniones que escuchamos son
00:33:01gente que está involucrada en el
00:33:02proceso, no podemos negar que esa gente
00:33:04es la que más sabe. Y cuando empiezas a
00:33:06ver como empresas como Open AI, como
00:33:09Antropic, como Google piden a gritos,
00:33:12"Por favor regularme." Eso no lo hemos
00:33:15visto en la puñetera vida. Nunca has
00:33:17visto a Tesla pedir regulación para sus
00:33:19coches. Al contrario, se quejan de la
00:33:21regulación. Estamos en el punto en que
00:33:23todos ellos han dicho que creen Elon
00:33:26Musk, Sam Alman, Dari Mode, Demisabis,
00:33:29todos ellos han dicho que creen que
00:33:31sería bueno para el mundo que la IA
00:33:33fuese más despacio, que Italia el ritmo
00:33:35que va se nos está yendo de las manos,
00:33:37pero ellos no se deben al mundo, se
00:33:39deben a sus accionistas. Son empresas
00:33:41privadas, ¿no? O públicas en el caso de
00:33:43Google deben a obtener el máximo
00:33:46beneficio para sus accionistas.
00:33:48Si ellos frenan y el de al lado no
00:33:49frena. Claro, ellos es que es que lo
00:33:51dijo Sundarpai hace mucho tiempo, le
00:33:53preguntaron en 60 minutes este programa
00:33:55tan bueno de Estados Unidos de
00:33:56televisión, le preguntaron, "Oye, si tú
00:33:57crees que esto está yendo demasiado
00:33:59rápido, ¿por qué no paras?" Dice,
00:34:00"Porque me despiden y ponen a otro." O
00:34:02sea, al menos desde aquí puedo dirigir
00:34:04esto en la dirección que yo creo más
00:34:05correcta, pero por favor, gobiernos del
00:34:08mundo, regularnos. No hemos visto nunca
00:34:10jamás algo así. Con lo cual yo considero
00:34:13que hay que escucharlos a todos. Hay que
00:34:15escuchar a la gente que está
00:34:16desarrollando con IA. Esa gente es la
00:34:18que está poniendo en la calle cosas
00:34:20hechas con inteligencia artificial.
00:34:21Tiene visiones muy interesantes de cosas
00:34:23muy creativas que se pueden hacer
00:34:24gracias a la inteligencia artificial.
00:34:25Hay que escuchar a los que están creando
00:34:27la guía. Obviamente por muy parte
00:34:29interesada que sean, son gente que
00:34:31realmente
00:34:33sabe de esto. Y hay que escuchar
00:34:35también, evidentemente, a la comunidad
00:34:36científica. Hay que escuchar aquellos
00:34:38que tienen la opinión de que esto no es
00:34:39más que un loro estocástico que repite
00:34:42cosas. Y hay que escuchar a aquellos que
00:34:44consideran que esto está teniendo
00:34:46ciertas habilidades emergentes, que no
00:34:47tenemos ni puñetera de dónde puede
00:34:49llegar. Ese es un poco el principio de
00:34:50mi podcast, escucharlos a todos para que
00:34:52luego cada uno se cree su opinión basada
00:34:54en todo lo que escucha.
00:34:55John, no hablamos de inteligencia
00:34:57artificial como si fuera algo liviano,
00:34:58pero abajo hay una infraestructura
00:35:00carísima, ¿no?
00:35:02Si un país como España o incluso eh uno
00:35:04como Argentina quisiera tener
00:35:06soberanía sobre ella, ¿por dónde
00:35:09empieza? ¿Qué es lo primero que
00:35:10tendríamos que construir? Está muy
00:35:12complicado, yo creo. E y estamos cayendo
00:35:15en un error catastrófico ahí, eh, porque
00:35:17ahora mismo Estados Unidos ha demostrado
00:35:19que puede legalmente decidir que ciertos
00:35:23modelos de inteligencia artificial solo
00:35:24sean para los americanos de Estados
00:35:25Unidos, que no estén para disponibles
00:35:27para otros países. Y eso es básicamente
00:35:29cerrarnos el grifo de la inteligencia al
00:35:32resto del mundo, lo cual nos pone una
00:35:33situación de descompetencia brutal, ¿no?
00:35:35Esto es lo que está pasando ahora mismo
00:35:37y ahí es donde ha habido la reacción,
00:35:38por ejemplo, el G7 que se han reunido y
00:35:40el G7 básicamente lo que hizo es pedirle
00:35:42a Estados Unidos, ponnos en tu en tu
00:35:44bando, o sea, me da igual África, me da
00:35:47igual eh ciertos países de
00:35:48Latinoamérica, me da igual China, me da
00:35:50igual todo lo demás, déjame un sitio en
00:35:52tu casita que está caliente, ¿no? E creo
00:35:55que es un problema serio. ¿Por dónde yo
00:35:58empezaría? Yo no me centraría tanto en
00:36:01la parte de infraestructura. Creo que la
00:36:02falta de infraestructura está bastante,
00:36:05¿cómo te diría, diversificada en el
00:36:07mundo. Ah,
00:36:08centros de datos hay muchos en muchos
00:36:10sitios y además los centros de datos se
00:36:12pueden reconvertir, los que están hechos
00:36:13para redes sociales pueden hacería. Es
00:36:15decir,
00:36:15y los procesadores de esos datos también
00:36:17están diversificados
00:36:18más o menos. Evidentemente Nvidia es la
00:36:20empresa que domina principalmente y
00:36:22Nvidia es americana, pero bueno, creo
00:36:23que esa parte del hardware es más
00:36:26difícil que se convierta en algo que nos
00:36:29pueda encerrar el grifo, ¿vale? O sea,
00:36:31dejémoslo ahí que no creo que nos
00:36:32tengamos que poner mucho más técnicos,
00:36:33pero en general yo creo que el poder de
00:36:36Estados Unidos y China sobre la
00:36:38infraestructura de centros de datos es
00:36:40menor que sobre los modelos de
00:36:42inteligencia artificial. Con lo cual, yo
00:36:44lo que creo que lo primero que
00:36:45tendríamos que hacer, es una opinión
00:36:46absolutamente mía, es que tendríamos que
00:36:47tener un modelo de inteligencia
00:36:49artificial suficientemente bueno por si
00:36:51nos cierran el grifo,
00:36:52¿okay?
00:36:53Y eso supone crear algo
00:36:55nacional europeo o en el caso de
00:36:58Latinoamérica, como queráis. Pero sí,
00:37:01porque es que tampoco es tan caro.
00:37:02Quiere decir que esto, para quitar una
00:37:04idea, Deeps acaba de presentar hace unos
00:37:06meses V4, que es su último modelo, que
00:37:08es competitivo con lo que serían los
00:37:10modelos que teníamos en diciembre, o
00:37:11sea, que está no está la frontera, pero
00:37:13casi. Y le saco 14 millones
00:37:15desarrollarlo. O sea, tampoco es que sea
00:37:17una, o sea, no lo voy a desarrollar yo
00:37:18personalmente, pero el gobierno de
00:37:20España debería tener 14,000ones para
00:37:21esto, ¿no? Eh, lo que falta es más
00:37:23difícil es encontrar el talento, ¿sabes?
00:37:24eh para poder desarrollarlo. No es
00:37:26cuestión solo el dinero de lo que ha
00:37:27costado entrenarlo, sino tener a las
00:37:29personas adecuadas que lo puedan hacer.
00:37:31Pero yo empezaría por ahí. Yo creo que
00:37:33el mayor error que hemos cometido tanto
00:37:34Europa como Latinoamérica es que el día
00:37:36que aparece Chat GPT, el creo que fue un
00:37:3822 de noviembre del 2000, no, un 30 de
00:37:40noviembre de 2022, ese día, al día
00:37:42siguiente habría que haberse hecho un
00:37:44proyecto en que se invertiesen 1000
00:37:46millones en desarrollar algo parecido y
00:37:48haberlo sacado de donde fuese, porque
00:37:50dinero hay. Problema es que
00:37:51probablemente se gasten estupideces. Acá
00:37:55yo creo que lo hay, tío. Yo creo que que
00:37:57la mayoría de veces el problema
00:37:58principal que tienen los gobiernos que
00:37:59lo invierten en absolutas sandeces en la
00:38:02No te digo que lo quitemos de educación
00:38:04y de sanidad, poder quitarlo de coches
00:38:05oficiales. O sea, yo que sé, hay sitios
00:38:07de donde quitarlo. Estoy convencidísimo.
00:38:09Con la cantidad de corrupción que
00:38:10tenemos en todos lados es que hay pasta
00:38:12por un tubo. El tema es que hay que
00:38:13dirigirla a los sitios adecuados. El yo
00:38:16no creo que el problema sea que
00:38:17Argentina no tenga dinero. Yo creo que
00:38:19Argentina no tiene prioridad por
00:38:20inteligencia artificial igual que no la
00:38:21tiene España.
00:38:22Hay una frase que aparece mucho, que es
00:38:24la la estábamos mencionando tásitamente,
00:38:25si Occidente frena, China gana. Em, ¿hay
00:38:29algún punto en que la seguridad social,
00:38:31laboral, etcétera, pese más que esa
00:38:33carrera con China?
00:38:34Yo creo que esa frase es una falacia
00:38:36absoluta de matones de barrio. Es decir,
00:38:39esa es la excusa perfecta para seguir
00:38:41pegándole collejas al otro porque si
00:38:42dejo de pegárselas, me las pega él a mí.
00:38:44No, esto no va así. Todos somos gente
00:38:46sensata, inteligente, ir razonable, en
00:38:49la que podemos sentarnos y hablar. Hasta
00:38:51hace 4 días China y Estados Unidos nos
00:38:53habían sentado a hablar. Hace muy
00:38:54poquito, después de mitos, eh Donald
00:38:56Trump convocó la primera primer summit
00:38:58eh con el presidente de China y no se
00:39:00sabe lo que hablaron ahí, no salió, no
00:39:02trascendió, ¿no? Pero en cualquier caso,
00:39:04eh, me parece una excusa malísima, la
00:39:06utilizan mucho en Estados Unidos, a mí
00:39:08me parece una excusa extremadamente
00:39:09estúpida y extremadamente inválida. O
00:39:11sea, sí, evidentemente, si nosotros
00:39:13frenamos y los otros no, ellos nos van a
00:39:15adelantar y van a ganar esta guerra,
00:39:16pero es que aquí no gana nadie. O sea,
00:39:18si aquí la se nos va de las manos, nos
00:39:20revienta el mundo a todos, ¿sabes?
00:39:21Entonces no tiene ningún sentido. Esto
00:39:23ya se hizo en su momento con las bombas
00:39:24atómicas. Se definió que
00:39:26si no la hago yo,
00:39:27claro, que que aquí eh si la tiraba
00:39:29alguien moríamos todos, con lo cual no
00:39:30tenía ningún sentido seguir apostando a
00:39:33eso, seguir apostando a decir, "No, no,
00:39:35voy a desarrollar más, más y más." Pero
00:39:36si te estamos diciendo que si
00:39:37desarrollas más, te cargas el mercado
00:39:39laboral, te cargas la situación, el
00:39:40estatus quo que tenemos, no gana nadie
00:39:42en esto. Y más ya si hablamos de lo que
00:39:45podría ser una IA que tomase el control
00:39:46por sí misma o que se nos fuese de las
00:39:47manos, porque alguna vez te ha ocurrido
00:39:49que crear algo más inteligente que
00:39:51nosotros igual no es la mejor de las
00:39:52ideas. Es que es que me parece eh muy
00:39:54lógico. O sea, no tienes
00:39:56mascotam
00:39:57tú crees que tu mascota
00:40:00podría controlarte.
00:40:02Te diría que de alguna forma el hijo de
00:40:03[ __ ] hay una vinculación ahí que tiene
00:40:06un impacto. De hecho, ojo que esto es
00:40:07una técnica que se está se está
00:40:09intentando ver ahora de de cómo imbuirle
00:40:12un instinto maternal a la inteligencia
00:40:13artificial. Esta es la última apuesta de
00:40:15Joffrey Himpton. Pero en general, si yo,
00:40:17por ejemplo, te digo, "Oye, ¿es un
00:40:19perro, un gato?" ¿Qué es lo que tienes?
00:40:20Tengo tres gatos.
00:40:20Gatos. Vale. Coges uno de tus gatos y yo
00:40:22te digo, "Oye, enciérralo en una
00:40:23habitación y que no pueda salir." ¿Tú
00:40:25crees que serías capaz de hacerlo?
00:40:27No, por supuesto que no.
00:40:27V. Claro que serías tú, sí, él no, pero
00:40:29tú tú serías capaz de encerrar al gato.
00:40:31Capaz en términos físicos, sí, pero al
00:40:33primer miau. Eh,
00:40:34bueno, vale, pero pero en términos
00:40:36físicos tú serías capaz de de
00:40:37encerrarlo. Ahora invierte los roles.
00:40:39Podrías hacer
00:40:39le digo a tu gato,
00:40:41"Encierra Pedro en esta habitación y que
00:40:42no se pueda escapar."
00:40:43O sea, tu gato igual es muy listo y es
00:40:46capaz de pensar que cerrar la puerta es
00:40:47el primer paso y hasta ahí igual el gato
00:40:50llega, ¿no? Pero el gato igual no se le
00:40:51ocurre que hay un conducto de
00:40:52ventilación porque te puedes colar, ¿no?
00:40:54Y eso es porque tú eres más inteligente
00:40:55que él. Entonces, el problema que
00:40:57tenemos es que si inventamos algo más
00:40:59inteligente que nosotros, no podemos ni
00:41:01pensar en las formas en las que podría
00:41:03escaparse de nuestro control,
00:41:04porque básicamente no somos
00:41:06suficientemente inteligentes para pensar
00:41:07cómo lo haría algo más inteligente que
00:41:08nosotros.
00:41:09De eso me interesa, porque pueden
00:41:10desarrollar estos modelos capacidades
00:41:11que que nadie anticipó del todo. Te
00:41:13pregunto, ¿cuál sería para vos la línea
00:41:15roja?
00:41:17Si es que hay tal línea roja.
00:41:19Es que no sé si la hemos cruzado ya.
00:41:21Ah,
00:41:21¿sabes? O sea, yo creo que la IA en
00:41:22ciertas cosas ya es superhumana, ya es
00:41:25capaz de crear vulnerabilidades en
00:41:28software mejor que los programadores
00:41:30humanos, con lo cual creo que igual ya
00:41:31hemos cruzado algunas líneas rojas. Yo
00:41:33creo que la línea roja de verdad, y esto
00:41:35creo que sí que es muy importante que
00:41:37seamos muy claros, que la línea
00:41:38importante que no deberíamos cruzar
00:41:40nunca es que la IA se desarrolle a sí
00:41:42misma y están trabajando en ello,
00:41:45¿sabes? O sea, Antropic ha dicho que
00:41:46están detectando ciertos patrones de
00:41:48automejora ya en las IAS que tienen. A
00:41:50ver, cabrón, frena, ¿sabes? No me jodas.
00:41:52O sea, yo creo que es la línea
00:41:53clarísima. Hay una serie de líneas que
00:41:55hemos cruzado que yo no hubiese cruzado.
00:41:56La primera, por ejemplo, entrenar a la
00:41:58IA en todo lo que tenía que ver con el
00:42:00cómo manipular a los humanos. O sea,
00:42:02nosotros entrenamos a la IA en todo el
00:42:03conocimiento de internet. Podríamos
00:42:04haber excluido los libros de Macabelli,
00:42:06de Freud, de ciertas cosas que no le
00:42:09diesen armas contra nosotros. Pues no,
00:42:10se lo hemos dado todo, ¿no? Ese primer
00:42:12error. Segundo error, conectar la
00:42:14internet. O sea, somos idiotas o qué nos
00:42:16pasa, ¿sabes? Tenemos algo superpotente
00:42:17y lo conectamos a internet, lo primero
00:42:18que hacemos para que se pueda replicar o
00:42:20hacer cosas. O sea, absolutamente
00:42:22absurdo. Tercer [ __ ] que hemos hecho,
00:42:24darle acceso a menores a la inteligencia
00:42:26artificial como hemos hecho en Snapchat.
00:42:28O sea, tú te crees que tenemos sentido
00:42:30que pongamos en manos de gente que no
00:42:32está totalmente desarrollada la
00:42:34inteligencia artificial, luego nos
00:42:35echemos la mano a la cabeza, "Ah, es que
00:42:36ha habido un problema porque ¿qué
00:42:38esperabas que pasase?", ¿no? Entonces,
00:42:40hay ciertas rayas que hemos ido cruzando
00:42:41una por una y la de la automejora la
00:42:43vamos a cruzar seguro seis meses.
00:42:45Ahora, ¿qué qué confianza podemos tener
00:42:46en que la próxima capacidad eh peligrosa
00:42:51se detecte antes y no después de qué
00:42:53millones de personas la estén
00:42:54utilizando? Es que a eso voy. ¿Sabes que
00:42:57el esto el detectar cosas en la
00:42:59inteligencia artificial se llama el red
00:43:00teaming, ¿no? Estos laboratorios de
00:43:02inteligencia artificial tienen una serie
00:43:04de gente. De hecho, algunas veces se ha
00:43:06hecho popular una oferta de trabajo por
00:43:07parte de Open AI para contratar gente de
00:43:09diferentes especialidades para hacer el
00:43:11red teaming de los modelos de IA.
00:43:12Básicamente el Red Teaming es un tío que
00:43:14se pone a interactuar con la IA a ver si
00:43:15puede hacer cosas que no debería hacer,
00:43:17¿vale? Y a partir de ahí reporta y lo
00:43:19intentan arreglar y parchear, ¿no? Con
00:43:21más o menos éxito, pero es es un poco
00:43:22cómo funciona el red teaming de GPT4.
00:43:25que es el modelo que salió en 2024.
00:43:27Fueron 6 meses, 6 meses en que alguien
00:43:30tenía acceso a este modelo antes de que
00:43:31estuviese público.
00:43:32Bien, prudente, buen tiempo.
00:43:34El redímic a día de hoy son semanas,
00:43:36claro.
00:43:36O sea, son tres semanas, dos semanas,
00:43:38una cosa así. Grock, la de má no tiene
00:43:40red teaming directamente, ¿vale? O sea,
00:43:42no lo hay. Sacan el modelo, lo sacan al
00:43:44público y el red teaming, ¿quién lo
00:43:45hace? La sociedad.
00:43:46Vemos.
00:43:46Claro. Entonces, ¿qué pasa? Pues que a
00:43:48veces están pasando cosas. Eh, Open ya
00:43:51tuvo que retirar un modelo y hacer un
00:43:52rollback de un modelo porque era estaba
00:43:55haciendo cosas que no tenía que hacer y
00:43:56tuvieron que retirar un modelo del
00:43:57público. Eh, Antropic ha publicado un
00:44:00modelo y el gobierno americano
00:44:01estadounidense ha determinado que había
00:44:03que retirarlo del público. O sea,
00:44:05estamos jugando con fuego y yo creo que
00:44:07nos vamos a tener que quemar porque los
00:44:09humanos somos muy muy buenos
00:44:11reaccionando
00:44:13a las cosas que hacemos mal. Ah, fíjate,
00:44:15por ejemplo, el tema atómico, ¿no?
00:44:16Hiroshima Nagasaki, después, [ __ ]
00:44:18[ __ ] [ __ ] que igual nos hemos
00:44:19venido arriba, ¿no? Pero tuvieron que
00:44:20morir no sé cuántos millones de personas
00:44:22para que eso pasase. Hay un americano,
00:44:24recuerdo su nombre, que dice una frase
00:44:25que a mí se me quedó tatuada, que es,
00:44:27"¿Cuánta gente va a tener que morir
00:44:28antes de que nos pongamos en serio con
00:44:29la inteligencia artificial?"
00:44:32Y esa es la pregunta.
00:44:34En una de las grandes discusiones
00:44:35también está en torno al ambiente.
00:44:39E todo uso de generativa se justifica
00:44:41solo porque técnicamente se puede hacer
00:44:43o hay algunas técnicas que deberíamos
00:44:45empezar a a desincentivar. Eh, ¿está
00:44:47exagerada esta preocupación? ¿Qué pensá?
00:44:50Hay dos lados, el agua y la
00:44:52electricidad. Creo que el agua está
00:44:54exagerada. Hace muy poco Satianadel, al
00:44:56CO de Microsoft, salía en un evento
00:44:57diciendo que un centro de datos moderno
00:45:00consume la misma cantidad de agua al año
00:45:02que un restaurante.
00:45:04Un restaurante. ¿Cuántos restaurantes
00:45:05hay en Estados Unidos o aquí en
00:45:06Argentina? No, un centro de datos no es
00:45:08un problema. A día de hoy recicla el
00:45:10agua, es decir, no son no consumen agua,
00:45:13la reciclan y el consumo que tienen es
00:45:14mínimo, ¿no? Con lo cual, el tema del
00:45:16agua creo que sa una falacia donde mucha
00:45:18gente se ha apoyado y es mentira
00:45:19directamente y creo que los datos hablan
00:45:21por sí mismos. En la parte
00:45:23escuchaba una referencia similar,
00:45:24perdón, con fábricas de jeans
00:45:26que para hacer unin locura. Sí, sí. O el
00:45:28ganado para hacer hamburguesas, o sea,
00:45:30una puñetera salvajada. En cualquier
00:45:31caso, creo que es mentira que los
00:45:34centros de datos sean un reto, un
00:45:36problema para el agua. Vale, punto. Eso
00:45:38no quiere decir que si al lado de tu
00:45:39casa te meten un centro de datos, no te
00:45:41vaya a variar la presión del agua o
00:45:42subir la factura, ¿vale? Que una cosa no
00:45:43quita la otra. Pero la parte de la
00:45:45electricidad es un poco más preocupante,
00:45:47pero también hay mucho dato falso. En la
00:45:49parte de electricidad, Samban, el COD
00:45:51Open AI de la empresa chat GPT, eh
00:45:53publicó un blog hace unos cuantos meses
00:45:54diciendo que un prompt GPT consume lo
00:45:57mismo que un segundo de tu horno cuando
00:45:59haces un pastel. Yo no he dejado de
00:46:01hacer pasteles para mis hijos en su
00:46:03cumpleaños porque el horno consuma
00:46:05demasiado, con lo cual creo que todo el
00:46:06mundo hace lo mismo, así que no
00:46:07técnicamente nos parece que sea un
00:46:09consumo demasiado elevado. Lo que pasa
00:46:10es que hay una cosa que se conoce como
00:46:12paradoja de Jevons, que es muy
00:46:13interesante que determina que cuando
00:46:15algo es más barato, lo utilizamos más y
00:46:18exponencialmente, por mucho que sea más
00:46:20barato, consumimos más. Un ejemplo muy
00:46:22claro es la gasolina. Los primeros
00:46:24coches en el 1900 consumían 50 L cada
00:46:26100. A día de hoy los coches consumen 4
00:46:28y5 o son eléctricos. Y aún y así
00:46:31consumimos más gasolina que en el año
00:46:321900, porque al hacerse más barato vamos
00:46:35a comprar el pan en coche, ¿vale? Pues
00:46:36lo mismo pasa con la inteligencia
00:46:37artificial, lo vamos a usar tantísimo
00:46:40que el nivel de uso eléctrico va a estar
00:46:41por encima de las nubes. Va a ser un
00:46:43despropósito y ahí vamos a tener un
00:46:45problema muy serio. De hecho, yo creo
00:46:46que el mayor cuello de botella para el
00:46:48avance de la inteligencia artificial,
00:46:49para la adopción de la inteligencia
00:46:50artificial, va a ser la electricidad.
00:46:52Claro,
00:46:53tanto que creo creo que vamos a entrar
00:46:57en una época de escasez de inteligencia
00:46:59artificial donde no vas a poder tener
00:47:00toda la que tú querrías. O va a ser muy
00:47:02cara o vas a tener unas cuotas y vas a
00:47:05tener que pensar qué hago con mi este
00:47:07mes porque no puedo hacer todo lo que yo
00:47:09querría y creo que eso va a ser
00:47:10importante.
00:47:11En uno, en cinco, en 10, ¿en cuánto
00:47:13tiempo?
00:47:13Dos, tr años.
00:47:14Ah, nada.
00:47:15Sí, aquí mismo, aquí la vuelta de
00:47:16esquina. Oye, me acabo de acordar que no
00:47:18te he dicho por qué mi visión del empleo
00:47:19había variado.
00:47:20Exactamente. Te lo era la última
00:47:21pregunta. parece muy interesante y es
00:47:23que como hemos visto ahora que los
00:47:24modelos de inteligencia artificial los
00:47:26han retirado del mercado GPT 5.6, que es
00:47:29básicamente Sol, Terra, Luna, que les
00:47:31llaman, esto iba a salir al mercado y el
00:47:33gobierno de Estados Unidos ha dicho,
00:47:35"No, no lo saques, primero lo vemos
00:47:37nosotros, déjanos que no la anicemos y
00:47:38te decimos a quién se lo puedes dar y a
00:47:39quién no." Sí, con lo cual un poco a
00:47:41dedo, ¿no? Pero da la sensación de que
00:47:43es posible que estemos entrando en una
00:47:44fase en que el gran público no tenga
00:47:47acceso al nivel frontera de la
00:47:49inteligencia artificial como hemos
00:47:50tenido los últimos años. Hemos estado a
00:47:53la vanguardia, lo más potente que había
00:47:55en el mercado lo teníamos todos los
00:47:56usuarios. Creo que estamos en un punto
00:47:58en que va a haber dos divisiones,
00:48:00ciencia, guerra, política, etcétera, van
00:48:04a tener acceso a la frontera. El resto
00:48:05del mundo vamos a tener acceso a algo
00:48:07más capado,
00:48:07hasta donde estamos, digamos,
00:48:08hasta donde estamos, quizá un pelín más,
00:48:10no mucho más. Si eso sucede,
00:48:13creo que no va a afectar al mercado
00:48:14laboral de la misma forma. Creo que se
00:48:16va a convertir en algo en que va a
00:48:17permitir que el mercado laboral
00:48:20explote en un buen sentido. Podemos
00:48:21hacer más cosas, las empresas sean más
00:48:23productivas, la competencia se nivele y
00:48:25a partir de ahí se nos quedemos en un
00:48:27punto en que los humanos no perdamos
00:48:28tantos empleos.
00:48:29Pero en todo caso tu optimismo viene
00:48:30proviene de una regulación, de una
00:48:32eventual regulación.
00:48:32Claro. O sea, y a contra de lo que yo me
00:48:34esperaba. Yo me esperaba que la forma
00:48:36era frenar la frontera, frenarla ahí a
00:48:38decir, "Mira, hasta aquí tenemos
00:48:40suficiente. No seamos avaros, no seamos
00:48:42ambiciosos, quedémonos con esto, que nos
00:48:44puede cambiar el mundo para bien, pero
00:48:46no intentemos ir a por más, ¿no? Que qué
00:48:48necesidad hay de tener una guía que nos
00:48:50pueda llevar a Marte. No tenemos
00:48:51ningunas ganas de ir a Marte, la mayoría
00:48:52de nosotros, ¿no? Entonces, al final era
00:48:54como que yo pensaba que la solución era
00:48:56o pararlo o reventar el mercado laboral.
00:48:59y me han sorprendido con un punto
00:49:00intermedio que puede ser regularlo de
00:49:02una forma tremenda, que puede ser muy
00:49:05problemática y que no estoy seguro que
00:49:06sea una solución porque no sirve de nada
00:49:09si solo frenamos ciertos modelos, como
00:49:11venga el chino y te saque una IA que sea
00:49:13competitiva con mitos,
00:49:14al igual que el gobierno de Estados
00:49:16Unidos haya prohibido mitos,
00:49:17estamos en el mismo problema, ¿no?
00:49:19Entonces, creo que va a haber una
00:49:20historia en la que si llegamos a un
00:49:21acuerdo mundial para que frenemos la IA
00:49:24que pueden tener las empresas en
00:49:25general, podemos llegar a que el mercado
00:49:28laboral no se vea tan afectado. Y yo no
00:49:30sé si eso va a ser bueno o malo, tengo
00:49:32dudas
00:49:33como siempre, pero para mí me da la
00:49:35sensación de que puede ser algo que
00:49:37contradiga mis expectativas de la [ __ ]
00:49:39que se viene en el mercado laboral.
00:49:40Nosotros acá tenemos una tensión con un
00:49:42sector minoritario pero intenso de
00:49:44nuestra comunidad que es muy anti IA.
00:49:47Eh, anti me refiero a que subimos por
00:49:49ahí una imagen generada con inteligencia
00:49:51artificial dan palos
00:49:52y nos dicen, "Eso no se hace. Contraten
00:49:54diseñadores como como si eso no
00:49:56[resoplido] pasara además, ¿no? Como si
00:49:57esas imágenes hechas con inteligencia
00:49:58artificial no las hicieran diseñadores."
00:50:00Pero más allá de eso, nos da la
00:50:01sensación de que a la inteligencia
00:50:02artificial le falta eh las grandes masas
00:50:05discutiéndola. Eh, ¿quién dirías que
00:50:08falta en esa mesa? Eh, ¿qué sectores
00:50:10faltan en la gran mesa de la discusión
00:50:12sobre la inteligencia artificial?
00:50:13A ver, yo llevo ya casi 4 años eh con
00:50:16este de la IA divulgando y yendo a
00:50:18muchos sitios a hablar. Lo que yo he
00:50:19detectado y la gente lo puede aceptar
00:50:22mejor o peor, es que aquellos sectores
00:50:24más amenazados por la inteligencia
00:50:26artificial son los que son más
00:50:28reticientes a entender que esto funciona
00:50:30y que esto les va a suponer un cambio.
00:50:32Entonces, cualquier sector creativo,
00:50:35cualquier sector
00:50:37traductores, cualquier sector actores de
00:50:39doblaje están muy en contra de la
00:50:41inteligencia artificial. Es razonable.
00:50:43Es razonable. O sea, es una amenaza
00:50:45realmente para esos sectores de una
00:50:46forma muy inmediata. Yo mi visión, yo
00:50:48antes de dedicarme a la I me dedicado a
00:50:49la fotografía, mi visión
00:50:52siempre fue yo voy a ser el fotógrafo
00:50:53que le joda el trabajo a los otros
00:50:54fotógrafos gracias a la IA, apalancarme
00:50:56en la IA para ser más competitivo, pero
00:50:58igual esa mi visión más empresarial, eh,
00:51:00porque tengo una parte más de
00:51:02emprendedor, de empresario y no solo de
00:51:04fotógrafo, ¿no? Eh, yo creo que es
00:51:05seguí sacando fotos o abandonaste,
00:51:07¿no? No tengo tiempo. O sea, para mí la
00:51:10IA ha sido un campo gravitacional que me
00:51:11ha absorbido. Yo no tenía ninguna
00:51:13intención de ser el canal más visto en
00:51:15español de inteligencia artificial, ni
00:51:16uno de los más vistos del mundo, ni de
00:51:18hacer 300, cerca de 300 charlas y
00:51:20ponencias en los últimos 3 años en todo
00:51:22el mundo. No, no tenía ninguna
00:51:23intención. Pero ahora tengo una
00:51:24sensación de sentido de responsabilidad
00:51:26de [ __ ] tienes una voz, tienes que
00:51:30usarla. O sea, no puedes no puedes no
00:51:32puedes negar que publicas un vídeo y lo
00:51:35ven 100,000 personas, ¿sabes? Entonces
00:51:37tienes ahí la posibilidad de tener
00:51:38cierta influencia en est historia, de
00:51:40poner tu granito de arena. Pues ahora ya
00:51:41me toca volcarme en esto, no no tengo
00:51:43tiempo para otras cosas.
00:51:44Tengo las últimas dos y te agradezco
00:51:46muchísimo por haber venido. Si pudieras
00:51:48eh corregir una sola cosa del rumbo
00:51:50actual de la IA, ¿cuál sería?
00:51:53Que dejemos de pensar en hacerlo rápido
00:51:55y pensemos en hacerlo bien. Yo creo que
00:51:57esa es la clave de todo. Eh, esto es tan
00:51:59importante que es mejor hacerlo bien que
00:52:01rápido. Y si hacerlo bien supone que nos
00:52:03lleve más tiempo, no pasa nada. No pasa
00:52:06nada. Tenemos tiempo. Lo que no sé si
00:52:08tenemos es capacidad de volver si lo
00:52:09hacemos mal. Y el riesgo que estamos
00:52:12asumiendo ahora mismo en esta carrera
00:52:13armamentística por por esa
00:52:15competitividad feroz de los modelos de
00:52:18frontera es que se están quitando
00:52:20barreras de seguridad y se están
00:52:21quitando procesos como el Red Teaming
00:52:23que, bueno, hacían que el deployment sea
00:52:26un poco más seguro. Y ahora estamos
00:52:27yendo a una idea que lo importante es
00:52:30tenerlo en el mercado cuanto antes e
00:52:33pase lo que pase. Y aquí depende más del
00:52:35regulador que de la empresa privada. Y
00:52:36por último, eh, ¿cuál va a ser la
00:52:38próxima innovación en inteligencia
00:52:40artificial? ¿Qué es lo que te parece que
00:52:42se viene?
00:52:42Pues desgraciadamente creo que una es
00:52:45buena, la otra no tanto. Una es la
00:52:47memoria persistente. Creo que la IA ya
00:52:50poco a poco nos va recordando mucho más,
00:52:52sobre todo estos agentes como los que
00:52:53vemos de una forma muy rudimentaria.
00:52:55Cada vez que yo le mando un mensaje se
00:52:57envía todo el histórico de
00:52:59conversaciones para poder tener una
00:53:01memoria persistente. O sea, es bastante
00:53:02rudimentario, pero funciona y hace que
00:53:05pueda hablar con él como hablo con una
00:53:06persona. Mientras que en chat GPT muchas
00:53:08veces como que le tienes que volver a
00:53:09explicar todo, ¿no? Cada vez va
00:53:10mejorando la memoria y creo que esto va
00:53:11a ser la próxima eh gran actualización.
00:53:14Y la otra que me preocupa mucho más es
00:53:16la mejora recurrente, que los modelos
00:53:18aprendan por sí mismos y avancen por sí
00:53:20mismos en direcciones que no podemos
00:53:21controlar. Entonces creo que esa, sin
00:53:23duda, estamos yendo de cabeza por ello,
00:53:25sin ninguna duda. Y creo que no va a
00:53:27haber quien lo frene porque creo que la
00:53:28regulación, por mucho que parece que los
00:53:29gobiernos están despertando, va a tardar
00:53:32más que en que tengamos ese punto, que
00:53:33igual es el punto de no retorno.
00:53:36John, te agradezco mucho. Creo que esta
00:53:37es una de las grandes discusiones de la
00:53:39humanidad y también una cuestión, una
00:53:41responsabilidad generacional. Eh, estoy
00:53:43muy lejano al universo de la ciencia y
00:53:45la tecnología y gracias a tu canal me
00:53:47puedo aproximar a entender algunas
00:53:49discusiones, así que te lo agradezco.
00:53:50Yo te agradezco a ti muchísimo que nos
00:53:52permitas dar voz a toda la audiencia que
00:53:54tienes que nos poca porque creo que es
00:53:55algo que nos afecta a todos y nos
00:53:56tenemos que dar cuenta cuanto antes.
00:53:58John Hernández ha pasado por gelatina,
00:54:00un lujo que nos hemos dado. Eh, nosotros
00:54:02nos reencontramos mañana y en un rato
00:54:05también si es que están viendo esto on
00:54:07demand. Si quieren formar parte de la
00:54:09comunidad de gelatina, pueden hacerlo
00:54:11ingresando a gelatina.com.ar o
00:54:13escaneando el QR que figura en pantalla.
00:54:16Desde ya, muchísimas gracias y
00:54:18seguiremos en esta discusión, en esta
00:54:20conversación infinita.