Entre lágrimas, tras escuchar a sus seres queridos fallecidos, varias mujeres admitieron su asombro ante la situación. Mostrar televisión el hormiguero (Antena 3). “Era súper real y lo necesitaba, lo necesitaba mucho”, sollozó una joven frente a las cámaras. “La voz es increíble, muy contenta con la experiencia”, añadió otra mujer secándose las lágrimas. El programa de Pablo Motos aprovechó la inteligencia artificial para recrear, a partir de audio real, las voces de los muertos. No sólo lo reprodujeron, algo muy sencillo de hacer y que generó problemas de desinformación por el uso de estos falsificaciones profundas con la voz de Joe Biden o el líder del Partido Laborista británico, Keir Starmer. Los audios generados planteaban preguntas que sugerían a los participantes: «¿Seguimos teniendo conversaciones?» » – en esta “experiencia real”, como la llama el programa, que se sumergió en hora estelar en un mercado emergente, el de recrear a los fallecidos mediante inteligencia artificial (IA). Los psicólogos advierten que esto puede interferir en la adaptación natural al duelo y cronificar las fases más dolorosas.
La muerte de un ser querido es como perder una parte de uno mismo. Esta es la fuente de muchas dificultades con el bienestar emocional y muchas personas harían cualquier cosa para aliviar este sentimiento de pérdida abrumadora. Incluso habla cara a cara con tu ser querido, si es posible. Suena a ciencia ficción, pero empresas como HereAfter, StoryFile y Replika lo están haciendo y no tiene nada de sobrenatural. Utilizando entrevistas y otros contenidos, crean versiones digitales de personas fallecidas para interactuar con los vivos, ya sea a través de chat, voz o video. En China, esta actividad ya está creciendo, y varias empresas afirman haber creado miles de estos personajes digitales o robots fantasma. Algunos incluso afirman que pueden lograrlo con tan solo 30 segundos de grabación audiovisual del fallecido.
El American StoryFile entrevista a personas a lo largo de sus vidas a través de video, haciendo una serie de preguntas sobre experiencias clave, como su infancia, matrimonio o su mayor desafío, así como otras que el entrevistado decida agregar. A partir de las respuestas y mediante el uso de inteligencia artificial se genera un vídeo conversacional con el que niños, padres, amigos y familiares podrán interactuar en el futuro. Según indican, alrededor de 5.000 personas ya han creado perfiles en la plataforma. El coste del servicio varía entre 40 y 450 euros, dependiendo del número de preguntas que quieras incluir. También ofrecen una prueba gratuita.
Stephen Smith, cofundador de StoryFile, explica que la empresa nació hace diez años con el objetivo de preservar la memoria de los supervivientes del Holocausto. Pero fue a finales de 2021 que la plataforma pasó a ser lo que es hoy, donde cualquiera puede grabar vídeos con una webcam desde casa o en el estudio.
El cofundador subraya que la plataforma no inventa contenidos, sino que “recupera algo pregrabado”, ya existente. Pero es posible ir más allá y añadir información de otros formatos. “Hicimos esto utilizando la metodología de archivo conversacional. Eso significa usar contenido de la vida de la persona, como un video donde podemos clonar la voz y luego hacer que diga cosas que ha dicho en su vida. Por ejemplo, puede utilizar un correo electrónico y luego hacer que lo lean. Si alguien quiere que esto suceda, es posible”, dijo a EL PAÍS por videoconferencia.
El peligro de volverse adicto
Quizás lo más preocupante es que algunas personas podrían volverse dependientes, incluso adictas, a hablar con avatares virtuales, porque generan una falsa sensación de cercanía con los muertos, como ha demostrado el programa de Antena 3. Unas voluntarias hablaron directamente con la voz. “Te diré…”, “Te extraño”, como si esta recreación sintética fuera su abuela fallecida un año antes.
“Al principio hay alivio. Pero luego surge una adicción, una dependencia”, advierte José González, psicólogo especializado en procesos de duelo. “Si la IA reproduce literalmente lo que éramos, existe un gran peligro de cronificación, sobre todo en vínculos muy intensos. Es fácil caer en la fantasía de que no está muerto. Esto puede provocar este congelamiento en la fase de negación”, continúa.
El experto, que ha trabajado con más de 20.000 personas en duelo a lo largo de 25 años, coincide en que los vídeos conversacionales pueden ser útiles para mantener recuerdos, contar anécdotas o transmitir información entre generaciones con emoción. También a la hora de reproducir algunas de las técnicas implementadas en consulta para resolver cuestiones pendientes, que no pudieron resolverse mediante la discusión. “Hago algunas preguntas sobre la conexión con la persona fallecida, por ejemplo ‘qué es lo que más me gustó de ti’ o ‘cuándo me decepcionaste más’. Con estas respuestas, el doliente escribe una carta y la lee en una silla vacía”, describe. Según él, la IA podría aplicarse a dinámicas como ésta con el tiempo, siempre que esté estrechamente supervisada por un profesional.
González destaca que también existe un riesgo vinculado a lo expresado en estas grabaciones. Los mensajes de despedida pueden ser muy poderosos y ayudar a aliviar el sufrimiento porque es el momento en el que le dices a tu familia cuánto los amas, esto los libera de la culpa y hace el duelo mucho más llevadero. Sin embargo, sin una supervisión experta, incluso las mejores intenciones podrían resultar contraproducentes. “Imagínate que soy padre de una hija única y le digo: ‘Te dejo el objetivo vital de cuidar bien de tu madre’. «Puede ser muy bonito, pero también puede ser una frase si la persona que sería la madre está muy enferma», ilustra, cuando un profesional recomendaría que el padre hablara diferente para evitar crear carga emocional… Y si no hay control, aumenta la probabilidad de malentendidos.
Un problema ético
¿Qué tan fiel puede ser un avatar? ¿A quién le pertenece? ¿Qué tipo de datos se pueden utilizar para su creación? Estas son sólo algunas de las preguntas que surgen en torno a este tema. Para Gry Hasselbalch, especialista en ética del Consejo Europeo de Investigación, las implicaciones se extienden a una esfera existencial: “Cualquier tecnología basada en el hecho o la idea de que puede competir con los humanos plantea la cuestión de qué significa ser humano. cuáles son nuestros límites y si es posible utilizarlos para superar un límite.
Hasselbalch, que también es cofundador de grupo de pensamiento El sitio danés DataEthics.eu cree que la proliferación de avatares de fallecidos representa un dilema que va más allá de los datos, el consentimiento o quién tiene derechos. “Podría cambiar la identidad de la humanidad y del ser humano, porque desafía la idea misma de mortalidad”, afirma.
Entre varios problemas potenciales, el experto en ética de la IA destaca la posibilidad de una herramienta que recopile no sólo el contenido de las redes sociales, los correos electrónicos y los mensajes móviles de una persona fallecida, sino también sus hábitos de investigación en Internet. Esto podría revelar aficiones o intereses desconocidos para la persona, desde la pasión por un animal o un deporte hasta, en el peor de los casos, un oscuro secreto.
Si la inteligencia artificial combina esta información con otros elementos que conforman tu identidad, pero da más importancia a determinados aspectos, podría dar como resultado la creación de un avatar o robot que no se parece en nada a ti, cómo era esa persona en la vida real. vida. Se trata de un escenario en el que “se perdería el control”, advierte. Y no es el único. “¿Con qué facilidad te pueden manipular si un ser querido al que extrañas te dice que votes de cierta manera o que compres cosas específicas? No sabemos qué empresas surgirán detrás de esto”, reflexiona.
“Deepfakes” y “derechos de autor”
Uno de los clientes de StoryFile es el fallecido Sam Walton, fundador del gigante Walmart. “Trabajamos con su expediente comercial. Revisamos muchas horas de material, transcribimos sus discursos, sus videos y creamos 2.500 respuestas a preguntas que había respondido a lo largo de su vida con exactamente las mismas palabras que usaba”, describe. El resultado fue una recreación digital con el rostro, la voz y un holograma de tamaño natural de Walton. ¿Puede ser esto muy realista? «La gente que conoció a Sam se queda con los ojos nublados por su realismo», dice el ejecutivo de la empresa Alan Dranow. La familia del empresario había accedido a esta producción, pero otros famosos vieron sus rostros y palabras recreados por IA sin mutuo acuerdo.
Es el caso del actor estadounidense George Carlin, fallecido en 2008, y cuya voz y estilo fueron clonados para la creación de podcast George Carlin: Me alegro de estar muerto, publicado en YouTube a principios de enero. La semana pasada, se presentó una demanda en un tribunal federal de Los Ángeles exigiendo que Dudesy, la empresa detrás de este proyecto, retirara inmediatamente el especial de audio. Su hija, Kelly Carlin, había criticado previamente la producción, en la que una síntesis de voz del artista comenta los episodios actuales. “Mi padre pasó su vida perfeccionando su oficio a través de su humanidad, su cerebro y su imaginación. Ninguna máquina reemplazará jamás su genio. Estos productos generados por IA son intentos ingeniosos de recrear una mente que nunca volverá a existir. Dejemos que el trabajo del artista hable por sí mismo», afirmó durante la plataforma.
Según StoryFile, el servicio que incorpora lo más avanzado de esta tecnología está dirigido únicamente a un grupo restringido. “Por el momento no lo ofrecemos como producto en nuestra página web, sino más bien para clientes privados. No queremos que nuestra tecnología se utilice para crear una profundamente falso de otra persona”, añade Smith.
Sin embargo, existen alternativas que hacen esto. La empresa HeyGen, por ejemplo, permite generar vídeos con clonación de voz, sincronización de labios y estilos de habla. Si no se mira con atención, es casi imposible darse cuenta de que se trata de una creación artificial. Aunque la plataforma se presenta como una solución para personalizar y traducir contenidos en el mundo empresarial, en la práctica puede servir para cualquier fin: despedirse de un ser querido o utilizarlo para generar dinero.
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
