Efecto tabaco de internet | EMI GARZON con BERCOVICH
Radio Con Vos - 1/4/2026 - Duracion: 15:11
Transcripción
00:00:00Muy bien. Me gustaría comer esa crema
00:00:01pastelera de la rosca, ¿eh?
00:00:02¡Uf! No sabes lo que es.
00:00:03Me encantaría.
00:00:04Bueno, eh, fue una semana agitada en tu
00:00:08tema a nivel mundial. A mí me impresionó
00:00:11el juicio en Los Ángeles que terminó
00:00:14hallando culpables a los dueños de
00:00:16YouTube y de Instagram por enfermar a
00:00:19una nena desde los 6 años. Mm. Sí,
00:00:21[música]
00:00:22estamos hablando y y varias veces se
00:00:24comenta de la adicción a las redes
00:00:27sociales, pero me parece que hay un
00:00:29concepto que es el que aplica para esto,
00:00:31que es el momento tabaco de las redes y
00:00:34de las plataformas. Y yo les quiero
00:00:36traer algunos antecedentes por los que
00:00:38llegamos ahora a esta situación de
00:00:40juicios de muchas personas, en este caso
00:00:42de una chica en particular, lo que
00:00:44contabas recién, que le tienen que
00:00:45terminar pagando 6 millones de dólares,
00:00:46que no es nada comparado con la
00:00:48facturación que manejan,
00:00:49pero que además [música] estas empresas
00:00:51formal que son 6 millones de dólares
00:00:52dicen, "No, no lo vamos a pagar
00:00:53tampoco." Porque en realidad nosotros no
00:00:55tenemos nada que ver con eso, es
00:00:56responsabilidad de los padres, bla, bla,
00:00:58bla. Y nos hacen cargo del diseño que
00:00:59tienen estas plataformas para lograr la
00:01:01mayor cantidad de usuarios posibles y
00:01:03mayor tiempo de atención. Claro, lo que
00:01:05pasa es que el juicio eh ventiló
00:01:07documentos internos que tienen desde
00:01:08hace 10 años que prueban que
00:01:10efectivamente esos algoritmos son
00:01:12construidos para hacernos más adictos.
00:01:14Sí, pensemos que las plataformas son
00:01:16empresas [música] que quieren generar
00:01:19más rentabilidad, mayor cantidad de
00:01:20ingresos posibles a toda costa. Quiero
00:01:23ir para atrás cuando hablamos de
00:01:25antecedentes con Francis Hagin. No sé si
00:01:28alguna vez la escuchaste nombrar.
00:01:29Mm, me suena. Es poco probable que se
00:01:32haya escuchado tanto acá en Argentina,
00:01:33porque no estábamos en ese momento
00:01:34prestando atención a este tipo de
00:01:36cuestiones, pero Francis Hagen es una
00:01:39empleada de meta Facebook en ese momento
00:01:42que hace unos años atrás mostró los
00:01:44documentos, los filtró a los medios, a
00:01:46la prensa,
00:01:47diciendo que sabían internamente el
00:01:49efecto que generaban los chicos y las
00:01:51chicas, diciendo que hay un 32% de
00:01:53adolescentes que cuando miran Instagram
00:01:55se sienten peor con su cuerpo. Ese y
00:01:57entre otras cuestiones más, ¿no?
00:01:59separado por género, por edad, que eso
00:02:01es lo que se hace con los productos y es
00:02:02el sueño del marketing. Es lo que
00:02:03siempre digo, estamos en el momento del
00:02:04sueño del marketing porque es poder
00:02:05rastrear a todas las personas, a todos
00:02:07los usuarios, consumidores, así es como
00:02:09los llaman, y de esa manera pueden tener
00:02:12mucha más data de ellos información. Lo
00:02:15sabían, por supuesto. Y ahí Francis
00:02:17Hagen cuando lo filtra, que se le armó
00:02:19un lío enorme, dice, "Bueno, yo esto lo
00:02:21tenía que contar porque yo soy parte,
00:02:22era parte del diseño de producto."
00:02:25Entonces esto yo lo sabía y lo sabían
00:02:26también desde Mark Soccer hasta otras
00:02:29áreas de la compañía. Pero también lo
00:02:31que pasa hoy en día respecto a el
00:02:33impacto que tienen las plataformas tiene
00:02:35que ver con la privacidad. Y si vamos
00:02:37también para atrás, no sé si se acuerdan
00:02:38de Cambridge Analytica, la empresa que
00:02:42dio servicios para que Donald Trump
00:02:44pudiera ganar, donde Facebook en ese
00:02:47momento a más de 80 millones de usuarios
00:02:49les había eh puesto distintas
00:02:51alternativas para que puedan elegir
00:02:53entre una opción u otra de campañas en
00:02:56redes sociales y que además les den
00:02:57información de sus sentimientos y demás
00:02:59likes [música] y comentarios. Y un dato,
00:03:02en el 2022 yo entrevisté a Brittany
00:03:05Keiser. Brittany Keiser es la [música]
00:03:08chica que cuenta todo esto y visitó
00:03:10Argentina en el 2022. No podía creer que
00:03:13nadie la taqueó. Yo fui y la busqué.
00:03:14Había tuve un accidente y fui y la
00:03:16busqué, no me importó.
00:03:17Sí.
00:03:17Y le pregunté, "Che, ¿pasó algo acá?" O
00:03:20sea, cuando pensamos en América Latina y
00:03:22en otros países, además de Estados
00:03:23Unidos, estuvo Cambridge Analytica y me
00:03:26dijo, "Sí." me dice, "Entiendo que para
00:03:28el gobierno de Macri, para ese proceso,
00:03:30fueron contratados estos servicios." Con
00:03:32lo cual también la privacidad ahí se
00:03:34puso en juego. Cambridge Analytica en
00:03:36ese momento cerró. Otra cuestión también
00:03:39que pasó fue Sewell Setzer, que lo vamos
00:03:43a ver en pantalla. es un chico de 14
00:03:45años que en febrero del 2025
00:03:48se quitó la vida por una plataforma que
00:03:51se llama Character AI, que había sido
00:03:54creada por ExGoogles y que después esta
00:03:57plataforma la compra otra vez Google,
00:03:59todo un movimiento, le sigue
00:04:01perteneciendo a Google ahora.
00:04:02Pero, ¿cómo fue que motivó su suicidio?
00:04:05Básicamente él hablaba mucho con un
00:04:08avatar. Carácter AI es una plataforma
00:04:10donde vos puedes crear como ciertas
00:04:12comillas, personalidades de modelos de
00:04:14lenguaje que hablan desde Mirta Legrán,
00:04:17Diego Maradona, quien sea.
00:04:18Y él hablaba con un personaje de Game of
00:04:20Thrones
00:04:21y le plantea, "Che, me siento mal." Le
00:04:24empieza a contar cosas. Pasan los días,
00:04:26se pega un tiro él porque había un arma
00:04:28en la casa. Cuando la policía va a ver
00:04:30qué fue lo último que tenía abierto en
00:04:31su celular, era carácter AI, donde este
00:04:34avatar le decía que lo esperaba como
00:04:36después que se muriera. O sea, te espero
00:04:38aquí, mi amor. Cuando él está diciendo
00:04:39que se quiere quitar la vida y demás. Y
00:04:42este avatar lo incentiva. ¿Por qué?
00:04:43Porque los Llms y estos modelos de
00:04:45lenguaje lo que hacen es ser como muy
00:04:46positivo para que vos sigas teniendo
00:04:47interacción. Y lo que decían es que era
00:04:50sexualizada y depresiva la comillas,
00:04:52personalidad que tenía este avatar. Se
00:04:55quitó la vida. Impresionante.
00:04:56La madre hace un juicio y están ahora
00:04:58tratando de ver cómo se resuelve. Lo que
00:04:59sucede es que es un intermediario.
00:05:02La plataforma en Estados Unidos lo que
00:05:03consideran es que los intermediarios no
00:05:05tienen responsabilidad con lo que se
00:05:06haga a nivel contenidos ni información
00:05:08que se maneje usuario con la máquina. No
00:05:12hay responsabilidad. Claro, pero eh este
00:05:14es un eh juicio, en todo caso uno más de
00:05:17los muchos que están siguiendo eh
00:05:19familiares de usuarios de eh estos
00:05:21sistemas de inteligencia artificial o
00:05:23LMS eh en todo Estados Unidos. O sea,
00:05:27estamos viviendo un momento, vos decís,
00:05:28parecido al que se vivió con la
00:05:31industria del tabaco en su momento, eh,
00:05:33que eran acción, o sea, vos consumías
00:05:36tabaco, no se hablaba de adicción hasta
00:05:38los años 80 y ahora se empieza a hablar
00:05:40de adicción,
00:05:41pero en parte fue porque hubo una serie
00:05:42de juicios en los cuales las compañías
00:05:44fueron eh halladas culpables
00:05:46y enfermedades claras. Claro.
00:05:47Y también el lobby que tenemos es un
00:05:49punto en común porque hoy hay un lobby
00:05:51tecnológico para que todas las
00:05:52investigaciones sobre salud mental no se
00:05:54conozcan
00:05:55y pasaba lo mismo con el tabaco
00:05:57anteriormente. También solo como un
00:05:59detalle ahí de color, por ejemplo,
00:06:00Conanaldi, habrán escuchado nombrar, que
00:06:03era del espectáculo, ella había hecho
00:06:05Cooks con distintas financiación de
00:06:06distintas personas y empresas. Cooks era
00:06:09una plataforma que daba asistencia
00:06:10psicológica, especialmente a
00:06:12adolescentes. Por supuesto que la
00:06:14Federación de Psicólogos y Psicólogas de
00:06:16Argentina dijo que no es válido algo de
00:06:18este estilo porque no está regulado. Se
00:06:20podía hackear eso y que dé cualquier
00:06:22tipo de de respuesta peligrosa.
00:06:25Pero, ¿qué era eso de Cooks?
00:06:26Cooks era una plataforma que es como si
00:06:28vos hablaras por WhatsApp para pedir
00:06:30asistencia psicológica.
00:06:31Ah, como un psicólogo online. Ha un
00:06:33[carraspeo]
00:06:33terapeuta. Impersonal, digamos. Sí, pero
00:06:35vos en el ID y vuelta vas entrenando y
00:06:37te puede decir cualquier cosa. Entonces,
00:06:38un adolescente tiene algún problema de
00:06:40corto con una novia o le pasó algo en la
00:06:42casa y han llegado a hackearlo y
00:06:45demostraron que podía llegar a
00:06:46recomendar algún tipo de eh medicación
00:06:48que te tiene que dar un psiquiatra.
00:06:49CL. Pero era un bot. Es
00:06:51era un chatbot. Sí, un LM. Y encima,
00:06:54bueno, si vamos a ir profundizar, decía
00:06:56que tenía como un certificado de ética
00:06:57que lo daba Cecilia Danesi. Entonces,
00:07:00acá hay mucho humo en temas tecnológicos
00:07:02y responsabilidad que no se está tomando
00:07:04en cuenta. Y Cecilan ha hablado en
00:07:06distintos medios como como si nada.
00:07:07Estamos desmascarando cosas que yo sé
00:07:08que va incomodar un grupo de gente, pero
00:07:10pero son cosas que sucedían. Es que no
00:07:12no está en condiciones un eh sistema de
00:07:15este tipo. Yo vengo de leerle a CI
00:07:17Recap, que hace un ratito invitaba a la
00:07:18presentación que vamos a hacer de su
00:07:19libro El lunes. Está buenísimo este
00:07:21libro, en serio.
00:07:22Eh, pero ella, bueno, hay hay mucha
00:07:25gente como ella que discute que el
00:07:28nombre inteligencia artificial sea
00:07:30adecuado para esto. De hecho, leí el
00:07:32otro día a unos que proponían llamarla
00:07:34nooscopio, eh, como un telescopio, pero
00:07:37del conocimiento de la noófera. Eh, y me
00:07:40parece más adecuado porque de algún modo
00:07:42es eso, es como que es un sistema que te
00:07:44ayuda a aprovechar el conocimiento o los
00:07:47datos que hay disponibles de manera
00:07:48mucho más potente. Yo no creo que sea
00:07:51inútil la inteligencia artificial, eh,
00:07:53pero lo que me parece discutible es eh
00:07:56considerarla inteligente o considerar
00:07:59que se puede hablar con los agentes que
00:08:02ahora empiezan a proliferar de la misma
00:08:03manera que como una persona, ¿no?
00:08:04Exactamente. Nosotros no decimos, "Mira,
00:08:05ese auto tiene vida porque una vez que
00:08:07lo arrancas puede andar y es autónomo,
00:08:08¿no? No decís eso." Entonces, eh por eso
00:08:10yo también digo muchas veces como
00:08:11sistemas automatizados te cambia mucho
00:08:13la mirada decir inteligencia artificial,
00:08:15que fue un movimiento de marketing
00:08:16también de una disciplina a decir
00:08:17sistemas automatizados con tal o cual
00:08:19característica.
00:08:20Ahora, Emy, eh estos juicios, está bien,
00:08:22vos decís, generan una sentencia, una
00:08:25una pena de seis una multa de 6 millones
00:08:27de dólares. No es nada para Meta, no es
00:08:29nada para Google. De hecho, tenés una de
00:08:31375 millones de dólares también en Nuevo
00:08:34México porque decían que las plataformas
00:08:36facilitaban el tráfico de personas y lo
00:08:38mismo, ¿no? Nosotros no tenemos nada que
00:08:40ver con esto, somos intermediarios no
00:08:41más.
00:08:41Pero ahora que este jurado en Los
00:08:43Ángeles los encontró culpables, que los
00:08:45obliga a pagar este dinero, ¿no puede
00:08:47haber una eh un efecto dominó una
00:08:50cascada de juicios de otra gente en
00:08:52otros lugares del mundo? es el deseo de
00:08:53eso. Por eso contaba los antecedentes de
00:08:55de este chico que se que se quitó la
00:08:57vida y la la persona que habló sobre los
00:08:59documentos que estaban ahí adentro en
00:09:01meta. Es eh es dejar un antecedente
00:09:04posible, pero la verdad es que cuentan
00:09:06con un sistema de abogados tan potente y
00:09:08el lobby tecnológico, porque en
00:09:10definitiva estas herramientas funcionan
00:09:11para Estados Unidos para recolectar
00:09:13información. Pensa que en Europa hay
00:09:16regulaciones más potentes, están
00:09:18queriendo, por ejemplo, frenar a que los
00:09:20chicos no usen las plataformas, pero no
00:09:22es suficiente. Entonces, el punto está
00:09:24en que para no sirve una multa ni la
00:09:27cantidad de demandas que puedan hacer.
00:09:30Lo que sirve efectivamente para este
00:09:31tipo de cuestiones es modificar el
00:09:33diseño de esas plataformas como lo está
00:09:34haciendo Brasil. Ahora te digo porque
00:09:36hay una cosa que no estoy de acuerdo,
00:09:37pero Brasil está planteando algo básico,
00:09:39que es no puede ser que cuando vos estás
00:09:41scroleando inmediatamente tiene que ser
00:09:43infinito una y otra vez o que hay eh
00:09:46pauta publicitaria, ¿no? Para los
00:09:47menores de edad. Ahora, ¿cuáles son los
00:09:49riesgos de hacer algo así? ¿Está bien
00:09:51que se modifiquen los diseños? Lo que no
00:09:53está bien es que se les pida eh la
00:09:55identidad de los chicos y las chicas,
00:09:57que vos pongas tu documento, por
00:09:58ejemplo, porque eso es justamente una
00:10:00problemática, es es va a generar un
00:10:03problema de privacidad. Entonces, lo que
00:10:04van a hacer es que chicos que no tienen
00:10:06compartida mucha información van a
00:10:07compartir su DNI para que de esa manera
00:10:10puedan rastrear eh a las personas.
00:10:13Claro, lo que vos decís es que en los
00:10:14países donde están tratando de evitar el
00:10:16impacto de estas plataformas en los más
00:10:19chicos, en los más jóvenes, corren el
00:10:21riesgo de perjudicarlos en términos de
00:10:23su privacidad.
00:10:23Por supuesto. Entonces, ¿por qué no
00:10:24puede ser para todos? ¿Por qué no para
00:10:26todos no es que el scrolling infinito
00:10:28ese suceda o que sea simplemente por
00:10:30orden cronológico? ¿Hay alguien que esté
00:10:32pensando en algoritmos menos adictivos o
00:10:35alguna red social que los tenga que no
00:10:37tenga esto del scroll infinito? Sí,
00:10:39existen redes sociales que buscan como
00:10:41que darle hasta, bueno, hasta acá
00:10:43llegaste y no se ve mucho más, pero
00:10:45mismo vos tenés en la plataforma
00:10:46una opción en Instagram que está oculta
00:10:49y que vos podés poner por orden
00:10:50cronológico y ya solamente las personas
00:10:52que vos seguís. El tema es que todo eso
00:10:53tiene que estar dado de base y por
00:10:55diseño y es muy importante también el
00:10:57tema de la privacidad y los datos y
00:10:59solamente esto para cerrar que no tiene
00:11:00que ver de forma directa con con el tema
00:11:02de la columna que es el tabaco y las
00:11:04inteligencias artificiales y los
00:11:05sistemas automatizados cómo se vinculan,
00:11:07pero sí que hay que tener mucho cuidado
00:11:09con los datos porque recientemente, por
00:11:10ejemplo, aparecieron un montón de
00:11:12instituciones públicas donde se filtró
00:11:14información.
00:11:15Ah, esta semana, ¿viste? En Yoma y en
00:11:17otros lugares, ministerios y demás.
00:11:20Sí, bueno, dos cosas ahí. La primera es
00:11:23que cuando una agrupación con tanta
00:11:25antelación dice, "Vamos a hacer tal
00:11:27cosa, no es una agrupación seria." O
00:11:29sea, eso en el mundo hacker es como,
00:11:30¿quiénes son estos? ¿Quién se creen que
00:11:31son? Son unos pivitos. Al parecer son
00:11:33unos pivitos que son de la Patagonia que
00:11:36hacían ataques y facement, es decir,
00:11:37modificar los sitios web y de esa manera
00:11:39llamar la atención. Lo que buscaban era
00:11:41eso, llamar la atención. La data que se
00:11:43filtró es data vieja y si hay data nueva
00:11:45es por un problema que tienen los
00:11:47sistemas, las plataformas de estos eh
00:11:49lugares públicos que no están
00:11:51actualizados. Lo que sí hay que exigir
00:11:53dentro de todo lo que pasa en el mundo
00:11:55de internet y que eh no está funcionando
00:11:57bien es que se dé aviso como lo hizo
00:11:59Yoma, pero que las distintas
00:12:00instituciones estén obligadas a poder
00:12:03dar el aviso de que se filtró la
00:12:05información para que la gente esté más
00:12:06atenta, porque lo que va a pasar a
00:12:07continuación es que puedan haber muchas
00:12:09más estafas, que te puedan contactar.
00:12:11Entonces, eso tiene que ser una
00:12:13obligación dentro del mundo de incluso
00:12:15datos personales, la ley de datos
00:12:17personales.
00:12:17Bueno, eh alguna de las próximas
00:12:19columnas la vamos a dedicar a eso, a a
00:12:21ver qué le podemos exigir a las
00:12:22instituciones que acaparan o que tienen
00:12:25de alguna manera guardados datos
00:12:26nuestros respecto de la seguridad de
00:12:28esos datos. Pero antes de que te vayas,
00:12:30eh lo que pasó en San Cristóbal, Santa
00:12:33Fe,
00:12:34eh algo realmente tremendo que
00:12:37[carraspeo] eh bueno, tiene que ver con
00:12:38un montón de factores sociales. El chico
00:12:41tenía acceso a la escopeta de su abuelo,
00:12:44eh estaba atravesando una situación
00:12:45familiar de se separaban sus
00:12:47papás, él se había autolesionado. Eh,
00:12:51¿hasta qué punto se vincula con el uso
00:12:54de plataformas, con la acción de los
00:12:55algoritmos? Mira, yo hablé con Andrea
00:12:57Golding, que es una neurocientífica del
00:13:00CONISET,
00:13:00que ella en un momento me lo había
00:13:02comentado y dije, "No, para esto que me
00:13:03estás diciendo es muy zarpado." Hay un
00:13:05estudio del 2023 que demuestra como la
00:13:08el tiempo en pantallas te afecta al
00:13:10sistema inmunológico, a tu salud, a que
00:13:13te refríes más o menos que otro piven.
00:13:15un estudio en 50 estudiantes,
00:13:17adolescentes y que también afecta
00:13:19directamente a las horas del sueño y no
00:13:21dormir bien genera un montón de
00:13:23cuestiones de pensar mal, hasta la
00:13:26dislexia comillas que puede llegar a ver
00:13:28usando Twitter. Vas a ver que cuando
00:13:30alguien escribe en Twitter es más
00:13:31probable que escriba mal a otras redes
00:13:32sociales porque son pocos caracteres,
00:13:34demasiadas letras. Eh, sí, lo que hace
00:13:37es reafirmar un pensamiento. Entonces,
00:13:39si vos estás en una re oscura,
00:13:41vas a meterte ahí y si no tenés un
00:13:43entrenamiento de alguien adulto que te
00:13:45acompañe y mire o mismo a nosotros nos
00:13:47pasa más allá de los chicos, ya lo
00:13:48sabemos que nos pasa a los adultos, si
00:13:49no nos responsables de eso y entramos en
00:13:51en cajas de resonancia, en confirmar las
00:13:54cosas que que pensamos, por supuesto que
00:13:56este chico no puede encontrar ayuda en
00:13:58sistemas automatizados, en algoritmos
00:14:01que generan traumas, o sea, son
00:14:02inteligencias artificiales que traen
00:14:04beneficios, pero de formas muy
00:14:05traumáticas, como en este caso alguien,
00:14:07el chico este que se que se quitó la
00:14:09vida en Estados Unidos, que comenté al
00:14:11principio, tenía algo previo que lo
00:14:13llevó a esa situación también. Pero si
00:14:15no hay un acompañamiento porque estas
00:14:17plataformas van a llevarse todo el
00:14:19tiempo tu atención, si vos no estás
00:14:20bien, lo que hace es incrementar esa
00:14:22sensación y tenés que despegarte. Y lo
00:14:25podemos pensar como, bueno, no hay un
00:14:27estudio que haga una algo lineal
00:14:29directo, pero en serio, necesitamos un
00:14:31estudio más para darnos cuenta lo que
00:14:32está pasando como adultos que ya sabemos
00:14:34que eso sucede, que lo vemos en la
00:14:35calle, los chicos, los chicos [música]
00:14:37de primaria que tienen celular se chocan
00:14:40cuando van al recreo, cuando les quitan
00:14:41el teléfono. Sí,
00:14:42porque no pueden usar su cuerpo, no
00:14:44saben. Entonces, imagínate todo lo
00:14:45demás. Es Emy Garzón, a quien están
00:14:47escuchando, que a veces parece que nos
00:14:49pinta un futuro apocalíptico, pero no,
00:14:51está hablando de hoy. Eh, [risas]
00:14:53Emy Garzón la encuentran en sus redes
00:14:55sociales para consejos sobre
00:14:57ciberseguridad y más historias de estas
00:14:59como la que comparte cada 15 días con
00:15:01nosotros. Gracias.
00:15:02Pasaron cosas, pasaron cosas
00:15:06de 14 al 17
00:15:08en Radio Combos. Yeah.