Hablar con quienes ya no estn: el riesgo de resucitar a los muertos con inteligencia artificial




Entre lgrimas, tras escuchar a sus familiares fallecidos, varias mujeres confesaban su asombro en el show televisivo El Hormiguero (Antena 3). Lo he sentido superreal y me haca falta, me haca mucha falta, sollozaba una joven ante las cmaras. Es que la voz es clavada, muy contenta por la experiencia, aada otra mujer secndose las lgrimas del rostro. El programa de Pablo Motos haba aprovechado la inteligencia artificial para recrear, a partir de audios reales, la voz de personas muertas. No solo la reproducan, algo muy sencillo de hacer y que ha causado problemas de desinformacin por el uso de estos deepfakes con la voz de Joe Biden o el lder de los laboristas britnicos, Keir Starmer. Los audios generados planteaban preguntas que sugestionaban a las participantes nos qued alguna conversacin pendiente? en esta experiencia real, como la etiqueta el programa, que se ha zambullido en prime time en un mercado emergente, el de recrear a los fallecidos con inteligencia artificial (IA). Los psiclogos advierten de que puede interferir en la adaptacin natural al duelo y cronificar las fases ms dolorosas.La muerte de alguien cercano es como perder una parte del propio ser. Es el origen de varias de las dificultades en el bienestar emocional y muchos estaran dispuestos a hacer cualquier cosa para aliviar esa sensacin de prdida abrumadora. Incluso conversar cara a cara con ese ser querido, si fuera posible. Suena a ciencia ficcin, pero empresas como HereAfter, StoryFile y Replika lo estn haciendo y no es nada sobrenatural. A partir de entrevistas y otros contenidos, crean versiones digitales de individuos fallecidos para interactuar con los vivos, ya sea a travs de chat, voz o vdeo. En China, este negocio ya est creciendo, con varias compaas que declaran haber creado miles de estas personas digitales o bots fantasmas. Algunas incluso afirman que pueden realizarlo con apenas 30 segundos de grabacin audiovisual del difunto.La estadounidense StoryFile entrevista a personas durante su vida por vdeo, haciendo una serie de preguntas sobre vivencias clave, como su infancia, su boda o su mayor desafo, junto a otras que el entrevistado decida aadir. A partir de las respuestas y con el uso de la inteligencia artificial, se genera un vdeo conversacional con el cual los hijos, padres, amigos y parientes podrn interactuar en el futuro. Segn indican, aproximadamente 5.000 personas ya han creado perfiles en la plataforma. El coste del servicio vara entre 40 y 450 euros, dependiendo del nmero de preguntas que se deseen incluir. Tambin ofrecen una prueba gratuita.Ms informacinStephen Smith, cofundador de StoryFile, explica que la empresa naci hace una dcada con el objetivo preservar la memoria de supervivientes del Holocausto. Pero fue a finales de 2021 que la plataforma se convirti en lo que es hoy, donde la cualquier persona puede grabar a los videos con una webcam desde su casa o en un estudio.El cofundador subraya que la plataforma no inventa contenido, sino que recupera algo que s fue pregrabado, ya existente. Pero es posible ir ms all y aadir informacin a partir de otros formatos. Lo hemos hecho utilizando la metodologa conversacional de archivos. Significa usar contenido de la vida de la persona, como un vdeo donde podemos clonar la voz y luego hacer que digan cosas que dijeron en sus vidas. Por ejemplo, podras usar un correo electrnico y luego hacer que se lo lea. Si alguien quiere que eso suceda, es posible, dice a EL PAS por videoconferencia.El peligro de engancharseQuizs el elemento ms perturbador es que algunas personas podran volverse dependientes o incluso adictas a conversar con avatares virtuales, porque generan una falsa sensacin de cercana con el muerto, como mostraba el programa de Antena 3. Las mujeres que se prestaron hablaban directamente a la voz te dira…, te echo de menos como si esa recreacin sinttica fuera su abuela muerta un ao antes.En un primer momento, hay alivio. Pero despus surge una adiccin, una dependencia, advierte Jos Gonzlez, psiclogo especialista en procesos de duelo. Si la IA reproduce literalmente cmo era uno, hay un peligro grande de cronificacin, sobre todo en los vnculos muy intensos. Es fcil entrar en esa fantasa de que no ha muerto. Puede provocar esa congelacin en la fase de negacin, prosigue.El experto, que ha trabajado con ms de 20.000 personas en duelo a lo largo de 25 aos, coincide de que los vdeos conversacionales pueden ser tiles para mantener vivos algunos recuerdos, contar ancdotas o traspasar informacin entre las generaciones con emocin. Tambin a la hora de replicar algunas de las tcnicas que se hacen en consulta para cerrar asuntos pendientes, que no se han podido arreglar hablando. Hago unas preguntas sobre el vnculo con la persona que ha muerto, por ejemplo lo que ms me gustaba de ti o cuando me decepcionaste ms. Con esas respuestas, el doliente escribe una carta y se la lee a una silla vaca, describe. Segn sostiene, la IA podra ser aplicada a dinmicas como esta, de forma puntual, siempre y cuando est muy supervisada por un profesional.Gonzlez seala que tambin hay un riesgo asociado con lo que se expresa en esas grabaciones. Los mensajes de despedida pueden ser muy potentes y ayudar a aliviar el sufrimiento porque es el momento en que les dice a sus familiares lo tanto que les quiere, les libera de la culpa y eso hace que el duelo sea mucho ms llevadero. No obstante, si no cuenta con la supervisin de un experto, incluso con las mejores intenciones se podra ocasionar un efecto adverso. Imagina que soy padre de una hija nica y le digo: Te dejo como objetivo vital que cuides mucho de tu madre. Puede ser muy bonito, pero tambin puede ser una condena si la que sera la madre est extremamente enferma, ejemplifica. Es en este instante cuando un profesional recomendara al padre hablar de una forma diferente para prevenir la creacin de una carga emocional. Y si no existe supervisin alguna, la probabilidad de malentendidos aumenta.Un problema ticoHasta qu punto un avatar puede ser fiel? A quin pertenece? Qu tipo de datos se pueden emplear para su creacin? Esos son solo algunos de los interrogantes que surgen en torno a este tema. Para Gry Hasselbalch, experta en tica del Consejo Europeo de Investigacin, las implicaciones se amplan a una esfera existencial: Cada tecnologa que est basada en el hecho o en la idea de que puede competir con los humanos genera la pregunta de qu significa ser humano, cules son nuestros lmites y si es posible utilizarla para superar un lmite.Hasselbalch, que tambin es cofundadora del think tank dans DataEthics.eu, opina que la proliferacin de avatares de difuntos supone de un dilema que va ms all de los datos, del consentimiento o de quin tiene los derechos. Podra cambiar la identidad de la humanidad y del ser humano, porque cuestiona la propia idea de la mortalidad, dice.Entre varios problemas potenciales, la experta en tica de la IA resalta la posibilidad de una herramienta que no solo recolecte el contenido de redes sociales, correos electrnicos y mensajes de mvil de una persona fallecida, sino tambin sus patrones de bsqueda en internet. Esto podra revelar aficiones o intereses desconocidos de la persona, desde una pasin por un animal o un deporte hasta, en el peor de los casos, un secreto oscuro.Si la inteligencia artificial combina esta informacin con otros elementos que constituyen su identidad, pero le da mayor relevancia a ciertos aspectos, podra resultar en la creacin de un avatar o robot que poco o nada se asemeje a cmo era esa persona en la vida real. Es un escenario en que se perdera el control, alerta. Y no es el nico. Cun fcilmente podras ser manipulado si un ser querido que extraas te dice para votar de cierta manera o comprar cosas especficas? No sabemos qu empresas surgirn detrs de esto, reflexiona.Deepfakes y copyrightUno de los clientes de StoryFile ha sido el fallecido Sam Walton, fundador del gigantesco negocio Walmart. Trabajamos con el archivo de su empresa. Revisamos muchas horas de material, transcribimos sus discursos, sus vdeos y creamos 2.500 respuestas a preguntas que l haba respondido durante su vida con exactamente las mismas palabras que utiliz, describe. El resultado fue una recreacin digital que tiene el rostro, la voz y un holograma a tamao real de Walton. Puede ser muy realista? A las personas que conocieron a Sam se les empaan los ojos por lo realista que es, asegura Alan Dranow, ejecutivo de esta compaa. La familia del empresario haba dado consentimiento para esta produccin, pero otros famosos han tenido sus caras y palabras recreadas por IA sin un acuerdo comn.Es el caso del comediante estadunidense George Carlin, quien muri en 2008, y cuya su voz y estilo fueron clonados para la creacin del podcast George Carlin: Me Alegro de Estar Muerto, publicado en YouTube a principios de enero. La pasada semana, se present una demanda en el tribunal federal de Los ngeles solicitando que Dudesy, la empresa que lo impulsa, retire inmediatamente el especial de audio. Su hija, Kelly Carlin, ya haba criticado la produccin, en que una sntesis de voz del artista comenta episodios actuales. Mi padre pas toda una vida perfeccionando su oficio desde su humanidad, cerebro e imaginacin. Ninguna mquina reemplazar jams su genio. Estos productos generados por IA son ingeniosos intentos de recrear una mente que nunca ms existir. Dejen que el trabajo del artista hable por s mismo, dijo en la plataforma X.Segn StoryFile, el servicio que integra lo ms avanzado en esta tecnologa est dirigido nicamente a un grupo selecto. No lo ofrecemos como un producto en nuestra pgina web en este momento, sino para clientes privados. No queremos que nuestra tecnologa sea utilizada para crear un deepfake de otra persona, matiza Smith.Sin embargo, existen alternativas que s lo hacen. La empresa HeyGen, por ejemplo, permite generar vdeos con clonacin de voz, sincronizacin de labios y estilos de habla. Si no se fija con mucha cautela, es casi imposible notar que se trata de una creacin artificial. Pese a que la plataforma se presenta como una solucin para personalizar y traducir contenido en el mundo corporativo, en la prctica puede usarse para cualquier fin de este tipo: despedirse de un ser querido o usarlo para generar dinero.Puedes seguir a EL PAS Tecnologa en Facebook y X o apuntarte aqu para recibir nuestra newsletter semanal.