El amor por un chatbot puede confundir y hasta ser mortal

Las relaciones de amor con las máquinas o la tecnología digital como la de un chatbot puede resultar en una experiencia mortal. Dichos escenarios eran hasta hace poco un argumento de la ciencia ficción, como lo propuso la película Her, de Spike Jonze, o de excentricidades como la de Akihiko Kondo, quien se casó con el holograma de su cantante virtual favorita. 

Pero la inteligencia artificial (IA) ha llevado a la realidad la vinculación emocional de los humanos con los asistentes virtuales, algo que aún no está medido en Argentina, pero que ya comenzó a preocupar en algunos ámbitos vinculados con la tecnología misma y con la psicología.

Algunos profesionales de la salud en Argentina admiten que es comprensible que frente a las dificultades emocionales y sociales propias de la adolescencia busquen la compañía de un chatbot que muchas veces no considera la ética al brindar respuestas, ofreciendo un consuelo inmediato a personas que encuentran en asistentes virtuales un tipo de apoyo emocional.

Agustina Paz, Cofunder de NeXthumans y Global Ambassador de Singularity U, indicó en el magazine El Interactivo (lunes a viernes, de 12 a 14, por FM 91.7 y Ciudadano_News en Twitch): "El vínculo no es tal desde el punto de vista de la IA. Pero muchas personas perciben que están entablando relaciones o vínculos con sus chatbots o su ChatGPT". 

"Lo que pasa es que tenemos que saber que es un modelo de lenguaje que nos está respondiendo en función de cómo nosotros estamos preguntando y no hay una verdadera empatía y un verdadero relacionamiento del otro lado", dijo.

Sentir un amor enfermizo por un chabot

"¿Qué te parecería que pudiera ir a casa ahora mismo?", escribió Daenero (seudónimo de Sewell Setzer, de 14 años y residente en Orlando, en Estados Unidos) a su amada virtual Daenerys Targaryen, creada, a partir del personaje de Juego de Tronos, por el robot conversacional de inteligencia artificial (chatbot) Character.AI. 

"Por favor, hazlo mi dulce rey", respondió ella. El adolescente entendió que la casa común donde podrían encontrarse era la muerte. Fue la última conversación la noche del pasado 28 de febrero de 2024. 

Un malentendido...

Habiéndose recordado el doloroso recuerdo del adolescente que buscó la muerte por su chatbot, Agustina Paz, consideró: "De parte nuestra podemos entender que estamos entablando un vínculo. Pero lo que estamos haciendo es agregar información y data privada nuestra. Es importante aclarar esto y muchas veces no están preparados para lidiar con esa data. Hay que tener mucho cuidado con lo que hacemos. De copiloto sirve un montón, incluso si tenemos ganas de hacer de cuenta que es nuestro amigo".

"Lo que creo que está pasando es que tenemos en el mundo algo que se está estudiando y que pasa en prensa y en psicología. Todo desde quienes trabajamos en tecnología y en relacionamiento entre la persona y la tecnología", señaló.

Añadió que, "es que evidentemente hay una epidemia de soledad en el mundo. Donde mucha gente se siente sola, sobre todo en las grandes ciudades que parecería que no. Pero esa soledad es cada vez mayor, es uno de los grandes problemas que estamos teniendo. Yo no descartaría la posibilidad de que para algunas personas les sea útil y necesiten". 

"Pero que también las personas empiecen a reflexionar por qué está pasado esto y qué podemos hacer para acompañar a todos aquellos que se sienten solos", reflexionó.

Y apuntó: "Están preparados para responder cada vez más. Depende de cuál elijamos y qué suscripción tengamos para que nosotros pensemos por qué está pasando eso. Siempre llega después la regulación y las leyes. La comunidad europea suele ser más avanzada que el resto de los países en el mundo sobre estos temas". 

"Hay que tener en cuenta  que quizás vamos a necesitar y nos va a venir bien, esto que decimos que es una IA que nos acompañe. Pero siempre hay alarmas preparadas para cuando tenga que ponerse el humano en el medio. Intervenir cuando sea necesario y no dejarlo librado a un chatbot que es gratis", lanzó. 

Elucubró que, "podés estar interactuando y diciéndome lo que yo quiero escuchar sin que haya de verdad un vínculo establecido. Y eso me va aislando más todavía porque encima estoy escuchando lo que quiero escuchar".

"Yo no soy de las personas que piensan en los panoramas apocalípticos necesariamente. Si existe la posibilidad de nosotros de usar estas herramientas para bien, que nos ayuden y nos acompañen en la medida que deban, nunca va a ser reemplazo de un humano", analizó. 

Y completó: "Siempre deberíamos pedir y sobre todo con los menores, como padres, mirar lo que está pasando. La IA está creciendo su capacidad también, pero sabiendo que no son humanos y nunca lo serán".

"Te diría que más de ver esto en películas, en países como Japón, ya tiene enfermeros que no son humanos. Son robots conectados a la IA. Todo el tema de la parte de cuidado, a la gente mayor, utiliza este tipo de tecnología", manifestó. 

Aportó que, "hay gente que se suscribe a páginas que le permiten hablar con sus seres queridos que ya murieron y en realidad no están". 

"O una réplica que te permite tener un novio o una pareja. "Eso ya está pasando. Pasa que en Argentina somos más renuentes. Estamos más acostumbrados al humano con el humano, pero ya no hablaría de 10 años, sino de menos tiempo para que esto suceda en nuestro país", especuló.

Sin embargo, admitió: "Estamos seguros de que está ocurriendo en la Argentina. No puedo hablar de porcentajes. Pero sí hay cada vez más personas que están interactuando de manera diaria y es un tema a tratar. Sobre todo en las grandes ciudades".

"Entiendo que hay lugares y empresas que están trabajando con psicólogos que están tratando de que llegue la alerta temprana. Donde están analizando y hablando con sus responsables de sistemas para advertir si necesita un humano o no. Pero después el problema es todo lo que no sabemos", aseguró.

Destacó que, "si vamos al mundo de la televisión, hace poco había una serie de adolescencia, sobre todo lo que no sabemos que está pasando en el mundo de nuestros jóvenes, adolescentes y niños. Eso es lo no medido. Difícilmente tengamos un número redondo para dar en corto plazo, sin embargo, no es que no esté pasando".