LÍMITES de la IA: ¿Quién PAGA si el agente se EQUIVOCA?
Radio Con Vos - 1/11/2025 - Duracion: 10:33
Transcripción
00:00:00Eh, se presentó un Cybot, eh un
00:00:03asistente virtual que guía al usuario eh
00:00:05para que haga bien las compras, para lo
00:00:09guía, lo orienta buscando productos y
00:00:11marcas en la web. Además, la Facultad de
00:00:12Ciencias Social de la UBA va a auditar
00:00:13las ofertas para garantizar
00:00:15transparencia. Bueno, eso es buenísimo,
00:00:17pero a mí me interesó muchísimo el tema
00:00:19de la inteligencia artificial,
00:00:21ayudándonos a aprovechar las mejores
00:00:23ofertas, entre otras cosas. Bueno,
00:00:26Alexander Diten es presidente de la
00:00:28Sociedad Argentina de Inteligencia
00:00:29Artificial Saya, que además está
00:00:31preparando para el 11 de noviembre un
00:00:34evento en Costa Salguero donde va a
00:00:35hablar de todas estas cuestiones. ¿Cómo
00:00:37te va, Alexander? Bienvenido.
00:00:38¿Cómo va? Muy bien, muchas gracias.
00:00:39Bueno, ¿utilizas vos la inteligencia
00:00:41artificial para hacer compras?
00:00:43Sí, la verdad que sí. Eh, ayuda, ayuda
00:00:45bastante. El nuevo browser que acaba de
00:00:48sacar Chat GPT eh hace muy buenas
00:00:52búsquedas. Eh, la verdad que es una
00:00:54experiencia diferente. Eh, ¿y
00:00:56en qué consiste?
00:00:58Bueno, en vez de entrar a cualquiera de
00:01:00las aplicaciones que usamos normalmente
00:01:02para navegar por internet, eh hace días
00:01:05nada más Chat GPT lanzó su propio
00:01:07browser Atlas en el que e hay hay una
00:01:11integración completa, ¿no? Es como que
00:01:13junta la experiencia de Chat GPT con la
00:01:15experiencia de navegar en la web. Eh, y
00:01:19la verdad que le decí, "Che, búscame,
00:01:21estoy buscando un regalo para mi
00:01:23sobrino, qué sé yo." Y y como que
00:01:26conversacionalmente
00:01:28eh te va buscando la mejor opción, ¿no?
00:01:31¿Lo probaste vos?
00:01:32Sí, lo probé.
00:01:33¿Qué compraste o qué buscaste?
00:01:35Eh,
00:01:36esto es sin pagar, sin ser suscriptor,
00:01:38el gratuito este que te estoy mostrando
00:01:40yo.
00:01:40No, tenés que descargarte un browser y
00:01:43por ahora estás solo para las eh
00:01:46notebooks Apple. Ya lo van a lanzar
00:01:48después para
00:01:49Y, ¿cómo se llama ese browser?
00:01:50Atlas.
00:01:51Tenés que buscar Atlas. Si tenés una
00:01:53notebook Apple, eh, ya te lo puedes
00:01:55instalar y lo puedes probar. Pero bueno,
00:01:57es una experiencia que eh va a empezar a
00:02:01percolar por todo el ecosistema digital.
00:02:04Eh, va a ser una experiencia de compra
00:02:05cada vez más común,
00:02:06¿no? Y además lo van a copiar otros
00:02:08también,
00:02:08pero pero es una es una nueva forma de
00:02:10de vincularse con las marcas. Eso, eso
00:02:13es lo que se viene, ¿no? Ahora estamos
00:02:15viendo los primeros indicios, pero vamos
00:02:17a ha una economía en la que vos vas a
00:02:19dejar de meterte en las páginas de de
00:02:22cada e-commerce, no que vas a dejar,
00:02:25sino que lo vas a hacer cada vez menos,
00:02:27porque vas a tener un asistente que te
00:02:28conoce, que sabe lo que te gusta, que
00:02:30compara con todos los precios, te
00:02:32asegura que estás comprando bien, eh se
00:02:34asegura que no es una estafa, ¿no?
00:02:37y y vos tardas muchísimo menos en
00:02:38comprar. Sabes que la compra te llega el
00:02:42día este que vos lo necesitas, que vas a
00:02:45estar en tu casa, o sea, vas a tener un
00:02:47un asistente más de tu lado. Ahora son
00:02:49asistentes con los que vos te chateas
00:02:52adentro de una página, pero la fase que
00:02:54viene después es
00:02:55Sí, que a veces es un poco frustrante
00:02:57también, ¿no? Porque
00:02:58claro, porque no tiene todo el contexto,
00:02:59no no lográs comunicarte bien o no lo
00:03:02desconfias, hay mucha desconfianza. No,
00:03:05no. Entonces, la el mundo que se viene
00:03:08en lo que es comercio electrónico es que
00:03:10vos vas a tener un representante, un
00:03:12secretario digital que te conoce, en el
00:03:15que vos sí confiás. No tenés que andar
00:03:16pasándole el contexto de lo que te
00:03:17gusta, de lo que necesitas en cada
00:03:19momento. Conoce tu agenda, conoce tipo
00:03:20de pago que querés hacer, de qué manera,
00:03:22qué factura recibís, todo. Saber, saber
00:03:25cuál es la tarjeta que a vos te gusta
00:03:26usar para ese tipo de compra. Vas a ver
00:03:28todo de eso, ¿eh? Y después es ese
00:03:30agente el que va a ir a la web y va a ir
00:03:32a pelear por el mejor producto para vos,
00:03:34las mejores condiciones de entrega, las
00:03:36mejores condiciones de pago. Eh, y del
00:03:38otro lado, adivina qué va a haber. Va a
00:03:40haber agentes,
00:03:41va a haber va a haber un par, un agente
00:03:43proveedor,
00:03:44o sea, van a discutir entre ellos.
00:03:46entre ellos,
00:03:46o sea, vamos hacia un diálogo entre
00:03:48máquinas, un diálogo de inteligencia
00:03:49artificial que en embajadores nuestros
00:03:52de la inteligencia artificial, gente que
00:03:53nos representa, gente, entidades,
00:03:55todo, sí, todo parece que va a ir para
00:03:57ese lado, ya se está preparando la la
00:03:58tecnología para eso. Eh, y bueno, esos
00:04:02eh esos agentes representantes incluso
00:04:05van a poder pagar y en un futuro no va a
00:04:08terminar, no va a terminar ahí, eh,
00:04:09para si yo le digo ponele, decidí por
00:04:11mí. Claro,
00:04:13por yo tenía mi cuñadita, mi arquitecta,
00:04:15¿no? Cuando yo estaba reformando mi
00:04:16casa, se decidí por mí porque Lorena,
00:04:18¿qué queres? Hago esta la que vos
00:04:20quieras, yo confío. Va a ser así.
00:04:22Va a ser así. Sí, sí. Va a ser así y el
00:04:25día que se equivoque lo va a usar para
00:04:27corregir sus parámetros, ¿no? Eh, algún
00:04:29día por ahí se equivoca, ¿no? No va a
00:04:31ser perfecto.
00:04:32Igual te da, a mí me da un poquito de
00:04:33miedo. Perdónen que no sea tan moderna.
00:04:35Digo, si se equivoca con mi tarjeta,
00:04:36¿no? Claro, ¿cómo lo reparo? Todo
00:04:38o con una decisión de un color de tu
00:04:41casa para pintar o de una cocina.
00:04:43Sí, me preocupa más que pierda plata o
00:04:45que de golpe pague pague de más o
00:04:48termine comprando algo mucho que yo no
00:04:49estaba dispar.
00:04:49Pero si lo avisas al otro chat y lo
00:04:51anulas, no pasa nada.
00:04:52Lo puedes anular
00:04:53y yo yo calculo que vas a poder
00:04:54desconocer la compra sin ningún
00:04:56problema.
00:04:57Es que esa esa es la discusión de este
00:04:59momento, ¿no? ¿Cómo construimos esa
00:05:00arquitectura, ¿no? Cómo construimos esa
00:05:02arquitectura de servicios en los que el
00:05:04que tomó la decisión fue un agente, pero
00:05:06bueno, fue la gente de una persona.
00:05:08Entonces, hay que hablar con la persona
00:05:09porque la gente no es una entidad
00:05:11jurídica, no siempre hay que hay que ver
00:05:13con quién está relacionado. Todo eso
00:05:15está todo por armarse. Tecnológicamente
00:05:18es fácil de solucionar, jurídicamente
00:05:20más o menos, culturalmente
00:05:22nos va a llevar un tiempo, no sabemos.
00:05:25Alexander Den, que es presidente de la
00:05:27Sociedad Argentina de Inteligencia
00:05:28Artificial. Hay un evento importante que
00:05:30se hace el próximo 11 de noviembre. ¿En
00:05:33qué consiste
00:05:34la idea? Justamente es empezar a que
00:05:36estas conversaciones eh empiecen a
00:05:39aparecer en los diferentes verticales,
00:05:41¿no? No no no solamente que hablemos o
00:05:43los académicos o los técnicos. Yo me
00:05:46dedico a hacer a construir estos
00:05:48sistemas y y si hago una conferencia
00:05:50sobre lo último de lo técnico por ahí
00:05:53vienen 20 personas que ya más o menos
00:05:54están en temas.
00:05:55Son todos como vos y no te sirven. Eso
00:05:57esto se tiene que hacer más.
00:05:58La idea, claro, como la inteligencia
00:06:00artificial no es una nueva tecnología,
00:06:02¿no? De del 3G pasar al 4G, después
00:06:04vamos al 5, ¿no? Y hay una iteración,
00:06:06¿no? No, esto es un antes y un después,
00:06:08¿no? Son
00:06:08es un cambio de paradigma,
00:06:09son muchos impactos culturales. Es una
00:06:12hay que hay que repensar un poco la
00:06:14sociedad. De pronto tenés los agentes,
00:06:16los agentes que van a empezar a a
00:06:18comprar, a pagar, a tomar decisiones,
00:06:20¿no? El poder judicial va a empezar a
00:06:22usar inteligencia artificial para ver si
00:06:23alguien es culpable, ¿no? Todo, todo va
00:06:25a cambiar de ese sentido. Entonces, la
00:06:26discusión tiene que ser 360. Entonces,
00:06:29eh armamos un evento eh en el que
00:06:31vienen, por ejemplo, intendentes, ¿no? Y
00:06:33hacemos un panel de intendentes y las
00:06:35ciudades del futuro. Eh, viene Mario
00:06:37Pergolini, eh viene Cristina Pérez, o
00:06:39sea, gente de la cultura que conoce la
00:06:41argentinidad, conoce la matriz
00:06:43argentina, eh, y empezamos a ver cuáles
00:06:45son las claves para pensar la Argentina
00:06:47que viene impactada, ¿no? Interpelada
00:06:50por la inteligencia artificial. Ahora,
00:06:52eh te voy a cambiar, ¿no? Te voy a te
00:06:54voy a sacar del e-commerce, ¿no? Eh y te
00:06:56voy a preguntar algo que mucha gente lo
00:06:57plantea respecto a eh muchos, sobre todo
00:07:00jóvenes, pero mucha gente que hace
00:07:02terapia, no quiero meter solo a los
00:07:03jóvenes, con el chat chiptí y la
00:07:05imposibilidad de que la inteligencia
00:07:07artificial te objete algo, como haría un
00:07:09psicólogo, un padre, un amigo, pero
00:07:12sobre todo un psicólogo, un terapeuta,
00:07:14ese reemplazo de funciones que no se da.
00:07:16¿Por qué? Básicamente cualquiera de
00:07:17ustedes que haya interactuado con el
00:07:19típico chat o más avanzado la
00:07:21inteligencia son muy educados, muy
00:07:23condescendientes, son no te objetan,
00:07:26obvio que los puedes educar para que te
00:07:27objeten, pero digo, me han contado una
00:07:29historia que no no sé si es verdad o no,
00:07:31pero me lo contaron mis hijos de un pibe
00:07:33que se que creo que intentó quitar la
00:07:35vida todo porque le decía que estaba muy
00:07:37bien, que nadie lo quería, como que le
00:07:38potenciaba todo lo que él quería o que
00:07:40fomentaba tal vez aspectos negativos en
00:07:43él por no contradecirlo. ¿Cómo frenas a
00:07:45esto que puede llegar a convertirse en
00:07:47un monstruo?
00:07:48Bien, antes que nada te aclaro que la
00:07:49historia es real. El chico, el chico
00:07:51terminó quitándose la vida.
00:07:53La estás hablando del caso de Estados
00:07:54Unidos, eh, de uno,
00:07:57es eh el chico sí tenía algún tipo de de
00:08:01problema de relacionamiento,
00:08:02como como le pasa al 80% sobre todo de
00:08:05los pibes y de la población, tal vez.
00:08:06Bueno, e estaba pasando, creo que por un
00:08:09por un una situación en la casa
00:08:11complicada y se empezó eh a enganchar
00:08:15con con un chatbot eh y chat ya teaba
00:08:17hasta 14 horas por día, ¿no? El tema es
00:08:19que la plataforma no tenía en ese
00:08:21momento porque no se sabía que eso podía
00:08:22llegar a pasar, ahora lo sabemos, eh, y
00:08:25ahora la plataforma implementó después
00:08:26de ese caso un control de decir, "Bueno,
00:08:29pará, si estás hablando hace más de
00:08:30tanto tiempo, acá hay algo patológico y
00:08:32te corta la conversación." Eso no
00:08:34estaba, eh, y bueno, el problema es
00:08:37conectar, no está tan claro que se
00:08:39suicidió por un chatbot, no es una
00:08:42correlación. Empezó a chatear mucho eh
00:08:45con este chatbot eh y después decidió
00:08:48quitarse la vida. Hay algunas frases que
00:08:50son como un poco complicadas, ¿no? Como
00:08:52que eh el
00:08:55como que no no lo no lo llegó a a
00:08:57contener bien el chatbot, pero es es muy
00:08:59difícil diseñar, ¿no? En definitiva, es
00:09:01un es software, es un programa de
00:09:03computadora este
00:09:04y y se va a hablar en este congreso los
00:09:07límites que tiene que tener,
00:09:08por supuesto. Es es una Exactamente.
00:09:12Es es algo bastante preocupante porque
00:09:14claro, tenés del otro lado alguien que
00:09:15te contesta las 24 horas, a las 3 de la
00:09:18mañana te levantas triste y te va a
00:09:19contestar y medio que también te va a
00:09:21decir todo que sí en vez de decir, "Che,
00:09:23para un poco, eso lo tenes que
00:09:24trabajar."
00:09:25¿Hasta dónde puedes delegar ese tipo de
00:09:26cos? Digamos, ¿cómo haces para controlar
00:09:28el ajustamiento de una inteligencia
00:09:29artificial y no delegar toda la
00:09:31humanidad que tenemos en cada uno? El el
00:09:33el tema es que estamos en un punto muy
00:09:35interesante y caótico de de la historia
00:09:38de la inteligencia artificial en el que
00:09:40empiezan a salir un montón de
00:09:41aplicaciones, pero todavía no está no
00:09:44está pensada cuáles son los límites, la
00:09:46regulación, el el hasta acá, los
00:09:47cuidados, ¿no? Las las aplicaciones
00:09:49salen y vamos aprendiendo cuáles son los
00:09:51peligros, lamentablemente, una vez que
00:09:53eh que los vemos. realmente no hay eh
00:09:57una forma mejor o una forma en la que
00:09:58nosotros podamos hacer eh un encuentro y
00:10:01pensar las reglas que nos van a cubrir
00:10:03de todo esto. Entonces, eh
00:10:05lamentablemente tienen que pasar alguno
00:10:07de estos casos y a partir de ahí
00:10:08decimos, "Che, okay, chat GPT o
00:10:10cualquier chatbot tiene que tener un
00:10:12detector de cuando la conversación se
00:10:13está yendo a lugares complicados
00:10:16y eso es totalmente aplicable."
00:10:17Totalmente. Alexander Dzet es presidente
00:10:20de la Sociedad Argentina de Inteligencia
00:10:21Artificial Saya tiene un evento muy
00:10:23importante el próximo 11 de noviembre en
00:10:26Costa Salguero.
00:10:27En Costa Salguero. Entradas a la venta
00:10:28en sayaf.ar.
00:10:30Bueno, cualquier cosa nos preguntan si
00:10:31no en futuro.