Sistemas de Inteligência Artificial já fazem parte de nossas vidas, agindo em muitas camadas sociais e sobre aspectos humanos: da saúde à comunicação. Dois empresários de tecnologia querem usá-las em algo delicado da humanidade: a morte.
As duas histórias são interligadas com a morte de entes queridos e o desejo de reparar o luto com tecnologias modernas. Ambos criaram chatbots de IA para que pessoas em luto mantenham contato com o falecido. Isso, claro, envolve muitas questões éticas e morais.
Eternime
Mario Urschace, empresário de 41 anos cresceu na Romênia e fundou a companhia Eternime em 2014 com a missão de tornar as pessoas digitalmente imortais ao recriar um avatar digital pós-morte. O projeto ganhou novos rumos quando seu amigo morreu em um acidente de carro.
Ele assistia repetidas vezes a uma filmagem do amigo em um TEDX durante o processo de luto: “Isso me fez lembrar o quão importante essa pessoa era para minha vida”. Mario deseja que o Eternime tenha um efeito semelhante.
No momento, o Eternime assume a forma de um aplicativo que coleta dados sobre você. Que é feito de duas maneiras: coletando automaticamente dados de smartphones e fazendo perguntas através de um chatbot.
A ideia é reunir informações suficientes para que seja criado um “avatar” do chatbot após a morte de uma pessoa, com o qual os entes queridos poderão interagir.
“Coletamos geolocalização, movimento, atividade, dados de aplicativos de saúde, dados de hábito de sono, fotos, mensagens que os usuários adicionam no aplicativo. Também coletamos dados do Facebook de fontes externas”, tudo feito com permissão do usuário. Explica o empresário ao Business Insider.
O site do app já recebeu 40.000 inscrições para o teste beta, mas até agora apenas 40 pessoa tem o acesso. O teste é baseado no que os usuários relatam de seus cotidianos.
Claudiu Jojatu, um dos testadores do sistema, define o aplicativo como um “alter-ego digital” e usa o app há 1 ano:
“Para mim, é muito importante, e estou usando todos os dias como um diário pessoal. Envio muitos dados sobre como foi meu dia e como me senti naquele dia. E é muito legal que sincronize com minha conta do Facebook e com minhas fotos do telefone “, diz
Replika
Eugenia Kuyda perdeu o amigo Roman Mazurenko, também em um acidente de carro. Para superar a perda, ela recriou o amigo em um chatbot.
“Eu queria contar uma história sobre ele e contar algumas coisas que não consegui. Reuni cerca de 10.000 de suas mensagens de texto e, juntamente com um brilhante engenheiro de IA da nossa equipe, Artem, fizemos um bot que poderia replicar a maneira como Roman costumava falar”.
O que era um projeto pessoal, ganhou escala comercial com o Replika: um app no qual você interage com um chatbot de IA enquanto ele aprende sobre você. Com a mesma intenção do Eternime, o sistema tem 200.000 usuários mensais e já levantou U$ 11 milhões.
Kuyda está ciente das miríades de desafios técnicos e éticos, citando questões como: e se app compartilhar assuntos íntimos que a pessoa nunca revelaria em vida? Ou, com que idade você deseja ser imortalizado?
“Isso é especialmente verdadeiro para pessoas mais velhas ou pessoas com Alzheimer e outras doenças que mudam a maneira como agem e falam. Você quer conversar com seu avô na casa dos 20 anos? Ou o avô que você lembra quando era criança? ” ela disse.
A ficção ensina a vida
Não é de hoje que as ficções nos mostram que imortalidade é algo intocável. Do belíssimo filme Marjorie Prime, ao grotesco Pet Sematery ou às angustiantes reflexões sobre relações entre tecnologia e sociedade em Black Mirror: todas, à sua maneira, exploram as consequências do desejo humano pela vida após a morte.
O pesquisador Carl Öhman, do Instituto de Internet de Oxford, faz uma análise real sobre os dilemas morais e éticos em torno dos aplicativos em questão, em um artigo publicado na revista Nature, nomeado Eternime e Replika.
“O principal problema, a meu ver, é a atualização do software”, diz ao Business Insider.
Isso porque, uma vez assinado os termos de compromisso ao se inscrever para ser transformado em um chatbot, não é possível assinar qualquer atualização do software que mude a maneira como o bot funciona após sua morte.
Ele também relembra infortúnios recentes de algoritmos que agiram de maneira imprevisível: “Basta ver o que aconteceu com o chatbot da Microsoft no Twitter, Tay – ele se tornou um fanático racista, negador do Holocausto, em questão de horas. Como podemos garantir que isso não aconteça com os chatbots que pretendem retratar uma pessoa real?”
Entender como o sistema funciona seria essencial para os consumidores, mas é algo muito difícil quando se trata de algoritmos complexos alimentados com várias fontes de dados diferentes.
E quem fica?
Ao considerar as abordagens éticas dos aplicativos, também é necessário pensar na saúde dos entes queridos que vão se relacionar com os “alter-egos digitais”, já que eles exploram o campo delicado do luto e seus processos psicológicos.
Mark Alhermizi, também empresário da tecnologia ligado ao luto, se diz otimista sobre como a Inteligência Artificial pode melhorar a assistência à morte, mas se preocupa quando o assunto é chatbot pós-morte.
Ele é CEO da Everydays, empresa que cria redes sociais pop-up, com memoriais e obituários para notificar as pessoas sobre a morte de alguém próximo. Antes destinados às funerárias, mas lançado recentemente para consumidores.
“O problema ético em permitir que isso exista … é que você fica preso vivendo uma falsa realidade”.
O empresário relembra o episódio “Be Right Back”, de Black Mirror, no qual uma mulher de luto ressuscita seu parceiro por meios tecnológicos usando seus dados, mas no fim tudo fica sombrio e acaba mal.
Embora já existam aplicativos que desejam recriar o homem em chatbot, a tecnologia para desenvolver um algoritmo que imite uma pessoa de forma convincente está longe da realidade.
“Mas um dia elas serão aperfeiçoadas, e eu penso sobre quais são as consequências para as pessoas que as usariam. Esqueça a ética, é sobre pessoas vivendo em uma realidade falsa. Não apenas não seguindo adiante com tristeza, mas não seguindo em frente com suas vidas.” ,” ele diz.
Ursach, da Eternime, diz que seu app foi criado com o auxilio de psicólogos, mas admite as possíveis consequências, como por exemplo, que pessoas se isolem do convívio social por se envolverem demais com o chatbot.
O pesquisador Carl Öhman sustenta que a regulamentação precisa ser estabelecida antes que os “serviços digitais de vida após a morte” se tornem comuns.
“Como sociedade, devemos pensar duas vezes antes de deixarmos a natureza de nossas vidas posteriores inteiramente em um mercado não regulamentado”, explica.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.