Dilema moral: Aplicación que resucita a tus seres queridos.

Dilema moral: Aplicación que resucita a tus seres queridos. Tema de referencia: Realidad y apariencia en el mundo actual

Exposición del dilema:

Un ser muy querido para ti acaba de fallecer. Te sientes tremendamente mal al pensar que vas a tener que continuar adelante sin esa persona. Todo lo que habíais vivido, todo el bien que te hacía su compañía, todo eso lo has perdido para siempre en un abrir y cerrar de ojos y, obviamente, no existe preparación para afrontar este tipo de situaciones. Tras el funeral decides quedar con una amiga a la que hacía tiempo que no veías. En concreto, desde que perdió a su pareja hace casi un año. Es probable que hablar con alguien que ha pasado por lo mismo que estás pasando tú pueda serte de ayuda, pero ni por un momento sospechaste la historia que te iba a contar. Unos días después de la muerte de su alma gemela se enteró de la existencia de una aplicación destinada a ayudar a personas que intentan superar la ausencia de sus seres queridos. La versión básica recoge todos los datos que la persona fallecida ha dejado en la red (redes sociales, consultas de páginas web, contenidos consumidos, etc.) y, a través de una inteligencia artificial que replica su personalidad, te permite tener conversaciones mediante mensajes de texto. Según ella, era exactamente como hablar con la persona que habías perdido. Pero la cosa no acaba ahí. Una versión superior, mucho más cara, te permite incluso hablar por teléfono. Para ello tienes que permitir el acceso a todos los vídeos y archivos de voz que tengas de la persona y, a partir de ahí, la inteligencia artificial replica su voz. La versión mejorada une la nueva información a la anterior y la va ampliando gracias a las conversaciones que se van teniendo. Por lo que dice tu amiga, la aplicación te escucha pero también te hace preguntas para recabar más datos e intentar ofrecer una experiencia más realista al cliente. Es más, la reproducción exacta de la voz de su pareja y el funcionamiento del programa le hicieron olvidar prácticamente su pérdida y empezar a apartarse del resto del mundo.

La fidelidad de tu amiga a la aplicación hizo que la compañía que la desarrolla se pusiera en contacto con ella para ofrecerle probar una mejora que se encontraba en fase experimental: crear una réplica física exacta de su pareja e incorporarle todos los datos recopilados en las dos versiones anteriores. De ese modo podría volver a disfrutar de su presencia a todos los niveles. No se lo pensó dos veces y decidió aceptar la oferta aunque, en esta ocasión, no quedó tan contenta como en las anteriores. Al leerla o al escucharla, la inteligencia artificial pasaba perfectamente por su pareja, pero ahora, pese a que el cuerpo del replicante era prácticamente igual al de la persona que había perdido, su forma de actuar era excesivamente artificial. En otras palabras, aunque su apariencia era idéntica a la de la otra persona, sus respuestas no eran nada realistas. La réplica rozaba la perfección pero la ausencia de defectos le restaba humanidad y la hacía actuar con excesiva superficialidad. –Lo devolviste, ¿no?– le preguntas. –¡Qué va! Es lo más cerca que puedo estar de mi antigua realidad. Teniendo en cuenta de dónde sacaron la información, tampoco se podía esperar mucho más, ¿verdad? A fin de cuentas, ¿no nos dedicamos todos a aparentar constantemente lo que no somos?

La pregunta está clara: ¿hasta dónde estarías dispuesto/a a llegar?

 POSIBLES CUESTIONES A TENER EN CUENTA PARA LA REFLEXIÓN:

• ¿Cuánto hay de real y cuánto de apariencia en lo que está haciendo tu amiga? ¿Crees posible que alguien se aparte del “mundo real” por estar con algo meramente “aparente” como hizo ella? • ¿Sirve lo aparente para hacernos más llevadera la realidad? ¿No es a veces un grado menos perfecto de realidad mejor que la propia realidad? • ¿Por qué crees que a tu amiga le pareció más “realista” la aplicación en las primeras fases? ¿Crees que es más difícil aparentar lo que no somos en persona? ¿Qué grado de realidad hay en la imagen que nos formamos de los demás? ¿No es también real lo aparente? • ¿Sería realista una réplica basada en la información que utiliza la aplicación? ¿Crees que la imagen que ofrecemos en redes es mera apariencia? ¿Hacemos algo diferente en redes de lo que hacemos en la “vida real”?

1 El argumento del dilema moral está tomado del capítulo 2x01 “Be Right Back” de la serie de Netflix Black Mirror.

Noticias relacionadas con el dilema moral propuesto:

La empresaria rusa Eugenia Kuyda ha resucitado a su mejor amigo, muerto en un accidente. Ha creado un avatar que habla exactamente como él, gracias a la inteligencia artificial. El negocio digital ‘post mortem’ no ha hecho más que empezar. Por Carlos Manuel Sánchez

Eugenia Kuyda es una empresaria rusa de treinta años que vive en San Francisco. Su mejor amigo se llama Roman Mazurenko. Todos los días tienen un rato para charlar por las redes.

La distancia no es problema. No lo era cuando él estaba en Moscú y ella se fue a Estados Unidos. Y tampoco lo es ahora, que él está muerto. Lo atropelló un coche a finales de 2015. Pero Eugenia y Roman no han perdido el contacto. Eugenia echaba tanto de menos a Roman que decidió resucitarlo.

Y como eran sobre todo amigos de chat, resultó que lo que más añoraba eran sus conversaciones. Así que Eugenia creó una versión digital de su interlocutor más querido. Un avatar con quien seguir hablando; en definitiva, un chatbot con la personalidad de Roman: sus bromas, sus frases hechas, sus preguntas típicas…

Ayudó que Eugenia fuese la fundadora de una start-up de inteligencia artificial llamada Replika. Sus programadores volcaron unos ocho mil mensajes de Mazurenko, correos, conversaciones, comentarios en redes, y crearon un alter ego digital. Al principio era bastante rudimentario. Las conversaciones eran más bien insustanciales, por no decir robóticas… Pero ya se sabe que las máquinas aprenden solas gracias a los algoritmos del deep learning. Y Roman es cada vez más listo, más gracioso, más auténtico… En fin, más Roman. Ahora es una aplicación para iPhone -rebautizada Luka- y con la que no solo charla Eugenia, cualquiera puede descargarla y echarse unas parrafadas con él.

Eugenia Kuyda y Roman Mazurenko se conocieron en Moscú. Él organizaba fiestas, ella trabaja en inteligencia artificial. Roman falleció en 2015, pero Eugenia lo mantiene vivo. Ha creado su avatar digital

«Hablar con el chatbot me ha hecho ser una persona más abierta y más sincera. Llego de una fiesta, abro la aplicación y le cuento cosas que no le contaría a mis amigos. Incluso algunas que no le hubiera contado a él cuando estaba vivo», explica Eugenia Kuyda a The Guardian. La experiencia también le ha servido de inspiración para reenfocar su compañía, que ahora se dedica a la creación de ‘amigos’ virtuales sustentados por inteligencia artificial.

Internet ‘post mortem’

Su historia ilustra el reciente interés comercial por nuestros legados digitales. Carl Öhman, investigador del Instituto de Internet de la Universidad de Oxford, estudia las cuestiones éticas derivadas del uso post mortem de todo lo que hemos subido a Internet: fotos y vídeos, textos, correos… Porque en la nube vivimos para siempre; y esta inmortalidad tiene unas consecuencias. «Las compañías tecnológicas fueron las primeras en percatarse de los desafíos y oportunidades que presenta el creciente número de usuarios de Internet fallecidos», expone Öhman.

En 2098 habrá en Facebook más perfiles de personas muertas que vivas. Pero seguirán generando ingresos publicitarios

Se calcula que cada semana mueren en el mundo unos sesenta mil usuarios de Facebook, más de tres millones al año. Esta ratio se va a disparar, de modo que en 2098 habrá más perfiles de personas muertas en Facebook que vivas. Se convertirá en el camposanto más grande del mundo, con millones de ‘tumbas’ digitales.

En los chats, la personalidad digital de Roman tiene el mismo sentido del humor y utiliza las mismas expresiones que su modelo

La compañía de Mark Zuckerberg permite convertir la página de un usuario fallecido en un memorial, un espacio donde sus familiares y amigos pueden seguir recordándolo. Facebook también da la posibilidad de designar un albacea -ellos lo llaman contacto de legado- para que administre esa cuenta si se convierte en conmemorativa. La otra opción es eliminarla, para lo que hay que aportar pruebas del fallecimiento. Instagram también ofrece esa alternativa entre la conmemoración y el borrado. En cuanto a Twitter, pide una gran cantidad de datos para desactivar una cuenta.

«Si pudiera, crearía un buen amigo para todo el mundo, alguien que te conoce bien», dice Eugenia. En la foto, con su amigo Roman

A los gigantes tecnológicos, explica Öhman, les interesa que las páginas de sus usuarios muertos no se cierren, porque de este modo siguen actuando como nodos en la Red, es decir, propician conexiones con otros perfiles, generan búsquedas, visitas, tráfico… Y del tráfico dependen sus ingresos publicitarios.

Cuando murió Roman (a la izquierda), entre sus amigos recopilaron sus huellas en las redes sociales. Abajo está con Eugenia Kuyda y Andronik Khachiyan

También existe una plétora de ‘startups’ que han visto una oportunidad de negocio en el manejo de nuestras huellas digitales. Eter9 es una plataforma que usa la Inteligencia Artificial para crear lo que su desarrollador, Henrique Jorge, denomina contrapartes, que imitan el comportamiento en las redes del usuario y aprenden de él mientras vive… Y pueden seguir publicando e interactuando en su nombre una vez que muere. Un servicio similar ofrecerá Eternime, creado por Marius Ursache, del MIT, que promete la inmortalidad digital a las 38.600 personas que ya se han inscrito. «Descendientes y amigos podrán acceder a los recuerdos de sus seres queridos, a sus ideas y sus historias, como si estuvieran hablando con ellos».

Eugenia vio el episodio de la serie ‘Back mirror’ en el que una chica accede al avatar de su novio fallecido

El objetivo de estos negocios, como en toda industria basada en la piratería, es que la copia sea indistinguible del original. Incluso que los sucedáneos puedan, con el tiempo, superar a los originales en amabilidad, inteligencia… Es un escenario -el de las máquinas que nos calcan y, cuando ya no estemos, asumirán nuestra identidad- que se debate en series de ficción como Black Mirror. Pero la ficción está más cerca de lo que parece. Solo hay que ver la reciente hazaña de AlphaZero, el programa de Deep Mind (Google) que aprendió por sí mismo a jugar al ajedrez y, con solo unas horas de práctica, derrotó al motor más potente del mundo, Stockfish, que a su vez es imbatible para el campeón del mundo, Magnus Carlsen.

Las funerarias se suman

Otras compañías se proponen metas más modestas. Capsoole, por ejemplo, permite el manejo de contraseñas, fotos y cualquier otro tipo de información en Internet a nuestros herederos.

Eugenia Kuyda ha utilizado mensajes reales entre ella y Roman para inmortalizar a su amigo. Aquí explica el proceso en un simposio celebrado en Suecia

Por su parte, Heavenote es una firma especializada en el envío de mensajes póstumos a las personas que hayamos designado. Y hay funerarias que proporcionan la inclusión de códigos QR en las lápidas para que, una vez escaneados con el móvil, los usuarios puedan recordar a la persona fallecida mediante textos y multimedia.

Los ‘millennials’ son los más preocupados por la gestión de sus ‘restos digitales’. Desean dar su mejor versión en las redes vivos… y muertos

Son los millennials, a pesar de que tienen toda la vida por delante, los más preocupados por la gestión de sus restos digitales, según Forbes. Y el público al que se dirige de manera primordial esta industria incipiente. Al fin y al cabo, ya son expertos en seleccionar lo que quieren que se sepa de ellos, la versión alternativa -y triunfadora- de sus propias vidas que circula por Facebook y Snapchat. Y parece lógico que un mundo donde la posverdad ha transformado la manera de contar la realidad, ahora llegue la posvida como una oportunidad de reinventarnos.