Adolescente se quita la vida tras enamorarse de un chatbot de inteligencia artificial
Radio Con Vos - 25/10/2024 - Duracion: 10:16
Transcripción
00:00:00viernes saludo a Freddy vivas Qué haces
00:00:01Fredy cómo andas cómo andan Che todo
00:00:03bien bien todo bien te voy a saludar con
00:00:06esta onda Pero nos vamos a meter y te
00:00:07voy a pedir que me ayudes a darle
00:00:09contexto y entender porque seguramente
00:00:10vos venís siguiendo todo ese tema
00:00:13más más profundamente con un caso que
00:00:16está teniendo mucha repercusión que es
00:00:18un pibe de 14 años que los titulares
00:00:21dicen se suicidó después de tener un
00:00:25intercambio con un chatbot de
00:00:27Inteligencia artificial me ayudas a
00:00:29entender primero son este tipo de
00:00:31chatbot Qué relación puede tener un
00:00:33adolescente y en todo caso entender el
00:00:35contexto de una noticia que termina con
00:00:37ese drama Sí sí Tremendo la verdad que
00:00:41mira esto justo es un tema que está
00:00:44bastante bajo debate hace un tiempo que
00:00:47es el uso de Inteligencia artificial
00:00:50para tratamientos psicológicos o en el
00:00:52mundo de la psicología podríamos decir
00:00:54estaba leyendo varias cuestiones esta
00:00:56aplicación donde chateó este chico es
00:00:59apliación muy conocida eh estaba leyendo
00:01:02recién por ejemplo dentro de el sitio
00:01:05web oficial de la Universidad de
00:01:06Cataluña están hablando de de esta
00:01:08plataforma Esta es una nota de principio
00:01:10de este año la aplicación donde chateó
00:01:13este chico o por lo menos la que se
00:01:15conoció donde él chateó que vea un
00:01:17personaje de Game of thrones Y que él se
00:01:19había como enamorado de esa agente
00:01:23digital artificial que parecía un
00:01:25personaje de Game of thrones este chico
00:01:27estaba hablando todo el tiempo y bueno
00:01:29la familia se dio cuenta de que estaba
00:01:31muy aislado eh de todos y metido dentro
00:01:34de la computadora chateando de esta
00:01:36plataforma que estamos hablando se llama
00:01:37chac Ai es una plataforma muy conocida
00:01:41eh Y la los datos que que mostraban en
00:01:44esta en este estudio de la Universidad
00:01:47de Cataluña dice que es uno de los Bots
00:01:49conversacionales más populares
00:01:51eh dentro de de charter ahí que es como
00:01:55un conjunto de de chatbots donde vos
00:01:58puedes interactuar con diferentes
00:02:00personalidades por ejemplo podes
00:02:01interactuar como un profesor de
00:02:03filosofía un profesor de inglés y
00:02:05practicar inglés eh Como si fuese un
00:02:08amigo y te da un consejo Hay un montón
00:02:09como de de roles artificiales en esa
00:02:12plataforma y uno de los más usados según
00:02:15un estudio de la bbc Es uno que se llama
00:02:17psicólogo y que recibió eh 18 millones
00:02:21de mensajes solo durante principio de
00:02:24este año no solo durante noviembre 2023
00:02:2718 millones de mensajes dice voy voy a
00:02:30ordenar para que eh nos pongamos todos
00:02:32en sintonía en el mundo de la
00:02:34Inteligencia artificial ponerle lo más
00:02:36popular que conocemos eh muy popular
00:02:38ahora es chat gpt que vos le preguntas
00:02:40cosas te devuelve cosas hay otro
00:02:42universo que también es bastante fácil
00:02:44de entender que es el universo de los
00:02:45Bots que son no sé sistemas a través de
00:02:48WhatsApp que te responden cosas no sé
00:02:49para hacer trámites etcétera ahora vos
00:02:51estás diciendo hay muy popular una
00:02:54aplicación que adentro esconde o tiene
00:02:57como servicios un montón de o de Bots de
00:03:01distinto tipo distinta temática que te
00:03:03permiten como tener charl ya sea de
00:03:04filosofía de literatura y hay también de
00:03:08golpe Como si tuvieras un Bot que es tu
00:03:10psicólogo por ejemplo un psicólogo eso
00:03:13eso está dentro de charter ie que es
00:03:15esta aplicación tan popular y con ese
00:03:17rol de psicólogo estaba hablando este
00:03:19chico con ese o con otro en este caso
00:03:22muy parecido que era en realidad no era
00:03:25un rol de psicólogo sino que
00:03:26Aparentemente era un rol de personaje de
00:03:29que
00:03:30Ah bueno claro y como que lo que dice la
00:03:34madre en el artículo que que se hizo
00:03:36conocido sobre este caso eh que
00:03:39desarrolló como un digamos un apego muy
00:03:42fuerte a ese personaje virtual eh
00:03:45Aparentemente como que se enamora de ese
00:03:47personaje o por lo menos quiere hablar
00:03:50todo el día con con ese personaje y eh
00:03:54dentro de esa misma plataforma como
00:03:56decíamos digo no es común que la gente
00:03:58lo use relacionado a un apoyo
00:04:01terapéutico dice la nota de esta
00:04:03Universidad de Cataluña dice recibió 18
00:04:0618 millones de mensajes solo durante
00:04:08noviembre 2023 la plataforma est char.
00:04:12cuenta con 475 robots que incluyen la
00:04:15palabra terapia terapeuta psiquiatra o
00:04:18psicólogo en sus nombres y que hay cada
00:04:20vez más interés en chicos o personas de
00:04:24todas las edades y digo lo de chicos
00:04:26porque por supuesto Esto no es lo mismo
00:04:28si es es una adulto que quiere saber eh
00:04:31si la carrera que eligió es algo que le
00:04:33gusta o no o si tenés 14 años no me puse
00:04:37a leer los términos y condiciones de la
00:04:39plataforma char. a y hay un punto es un
00:04:44texto bastante largo pero la verdad que
00:04:45es bastante entendible también donde
00:04:47dice uso de los servicios eh Y y habla
00:04:50muy claramente de que no puedes usarlo
00:04:52Si tenés menos de 16 años por lo tanto
00:04:56puede haber una demanda que de hecho
00:04:57Aparentemente la madre eh está iniciando
00:05:00una demanda esta plataforma no es la
00:05:02primera que tiene una demanda todas las
00:05:04redes sociales tienen demandas tipo
00:05:06tiktok y todas esas plataformas de hecho
00:05:08hay servicios de asesoramiento legal
00:05:10casi exclusivos en Estados Unidos para
00:05:13hacer demandas a estas plataformas de
00:05:14social media no eh pero claramente ellos
00:05:18en términos y condiciones dicen Si tenés
00:05:20menos de 16 años No uses esto Claro Lo
00:05:22que pasa que nadie lee los términos y
00:05:23condiciones de nada Claro podrían hacer
00:05:26seguramente algún tipo de validación más
00:05:29eh tipo Cuando entras a una
00:05:32plataforma donde no sé haces una
00:05:34transacción bancaria te vuelve a
00:05:36preguntar la edad bueno Se podrían usar
00:05:38métodos más intrusivos para hacer laada
00:05:40de la persona sí Se podrían después
00:05:42habríamos que ver diríamos Che esto no
00:05:45sé si está violando la privacidad o lo
00:05:47mismo que la observación o la moderación
00:05:50como se llama con la misma Inteligencia
00:05:52artificial dentro de un chatbot
00:05:53Imagínate que que vos digas Che Estaría
00:05:56bueno saber si un chico o una persona
00:05:58que está chateando con un Bot está
00:06:01confundiéndose porque por más que el
00:06:02chatbot te diga soy una Inteligencia
00:06:04artificial y lo Dicen todos los mensajes
00:06:06No esto es un es una es una es un rol
00:06:10artificial no es real esto por más que
00:06:13te lo diga por ahí tenés 14 años y y en
00:06:15un momento caes porque es tan es tan
00:06:19increíble la manera en la que conversan
00:06:21estas herramientas hoy que es medio
00:06:23fácil caer en el engaño en lo que se
00:06:26llama el síndrome de Lisa no el síndrome
00:06:28de Lisa es que en el 66 hizo un chatbot
00:06:30que se llamaba Elisa eh la gente
00:06:33confundía la interacción con una máquina
00:06:35con la interacción con un humano y eso
00:06:37nos puede empezar a pasar hoy cada vez
00:06:38más seguido creo y Freddy eh imagino que
00:06:41esto es para hablar largo y tendido
00:06:43nunca se puede asociar un suicidio con
00:06:45un hecho particular o sea también eso es
00:06:48como una cuestión mucho más amplia pero
00:06:51la cuestión de los este sistemas de
00:06:53psicólogo de Inteligencia artificial eh
00:06:56Son de uso muy popular Qué es
00:06:57Inteligencia artificial son algoritmos
00:06:59programados por psicólogos son robots
00:07:02que se ponen a ver todo lo que dice un
00:07:04psicólogo en tantas millones de sesiones
00:07:05y con eso aprenden Cómo se es un
00:07:07psicólogo de Inteligencia artificial
00:07:09Está buena la pregunta Sí la verdad es
00:07:12que las plataformas la mayoría de las
00:07:14plataformas que se dedican o por lo
00:07:16menos que yo conocí que se dedican a
00:07:18este tipo de conversaciones con
00:07:20herramientas de Inteligencia artificial
00:07:22en general están fundadas incluso por
00:07:24médicos fundadas creadas y digamos
00:07:28observadas en todo el desarrollo por
00:07:30profesionales de la salud porque saben
00:07:33que claramente esto es extremadamente
00:07:35delicado ahora dentro de una plataforma
00:07:39como esta como charter punai donde los
00:07:41los robots estos pueden ser creados por
00:07:45usuarios ahí me da la sensación de que
00:07:47el control se va a perder se pierde
00:07:50directamente no es lo mismo entrar a una
00:07:52plataforma creada por una persona que
00:07:55estudió psicología que tiene eh la
00:07:58posibilidad de auditar todo lo que se
00:08:00genera ahí adentro que una plataforma
00:08:02donde tiene como decía ahí más de no sé
00:08:05hoy debe tener 500 Bots donde capaz que
00:08:07un usuario sube contenido y y nosotros
00:08:10perdemos ahí ese control Pienso que de
00:08:13hecho hay muchos estudios donde dicen la
00:08:16Inteligencia artificial puede ayudar por
00:08:18ejemplo a ayudar a sostener un
00:08:20tratamiento Imagínate que te puede hacer
00:08:23en el tiempo preguntas cómo te sentís
00:08:25hoy con esta cuestión eh a observar en
00:08:28el en el lenguaje algún indicador de
00:08:31Progreso o de que estás yendo para atrás
00:08:33en tu terapia la gente que está en el
00:08:35mundo de psicología no ve la
00:08:36Inteligencia artificial como un peligro
00:08:38de hecho lo ve como un Aliado ahora
00:08:42estas situaciones que están pasando como
00:08:43la que lamentablemente estamos chando
00:08:46Eh bueno vienen a ponerlo en la mesa de
00:08:49se puede hacer sí pero hay que hacerlo
00:08:51muy bien y ese es un gran desafío
00:08:53también no eh Fredy siempre atrapante
00:08:56interesantísimo escucharte y bueno
00:08:58Seguiremos hablando porque esto es como
00:09:00que cada semana abre un Universo de
00:09:02preguntas de interrogantes de noticias
00:09:04eh que basan en paralelo a toda nuestra
00:09:07agenda y la tenemos acá presente Gracias
00:09:08a vos Así que te mando un abrazo grande
00:09:10y estamos hablando Gracias Ja abrazo
00:09:12para toda la mesa Yo tengo ganas un día
00:09:14de que termine anote y decirle que no
00:09:15era yo entendés que era una especie de
00:09:17robot pero que él no se di cuenta pronto
00:09:20chao Fredy