Como muitos outros, estou atualmente fascinado – e um pouco aterrorizado – por avanços rápidos em IA. Embora pareça que a tecnologia pode ser usada para o bem, várias aplicações dela me deixam preocupado. Os websites substituíram escritores humanos por robôs propensos a erros, Hollywood recusa-se a proteger o seu talento criativo da tecnologia e Jogos gerados por IA, como Summer levantaram bandeiras vermelhas sobre o plágio de bots. Embora o que mais me preocupou nos últimos meses seja a existência da terapia de IA.
Atualmente, existem vários serviços disponíveis que automatizam a terapia de alguma forma. Ai bot é um “agente conversacional automatizado” que está sendo posicionado como uma ferramenta pessoal de saúde mental. Os usuários podem fazer check-in todos os dias para ter breves conversas com um chatbot que enviará dicas e vídeos de bem-estar. Wysa, por outro lado, emparelha os usuários com um treinador de IA, mas os usuários Premium podem adicionar suporte humano individual. Considerando o quanto a terapia tradicional depende da conexão com uma pessoa real, a ideia de automatizá-la parece uma receita para o desastre.
Vídeos recomendados
Há uma razão pela qual tudo isso me intriga especialmente. Isso é por causa de um pequeno romance visual chamado Elizabeth. Lançado em 2019, o joia independente previu silenciosamente a mudança preocupante da IA para o espaço da saúde mental. É um excelente conto de advertência sobre as complexidades da automação da conexão humana – com o qual os empreendedores de tecnologia poderiam aprender muito.
Bem vindo a Eliza
Situado em Seattle, Elizabeth segue uma personagem chamada Evelyn Ishino-Aubrey, que começa a trabalhar em um novo empreendimento tecnológico criado por uma megacorporação fictícia semelhante à Apple chamada Skandha. A empresa criou um aplicativo de aconselhamento virtual, chamado Eliza, que oferece aos usuários sessões de terapia guiadas por IA a um preço relativamente acessível.
Eliza não é apenas um chatbot sem rosto. Para reter o elemento humano da terapia presencial, o aplicativo emprega representantes humanos que se sentam pessoalmente com os clientes e leem as respostas geradas pelo bot em tempo real. Skandha afirma que sua metodologia se resume a uma ciência, portanto, os proxies estão proibidos de se desviar do roteiro de qualquer forma. Eles estão lá simplesmente para adicionar uma face tangível aos conselhos que a máquina emite.
O jogo resiste à tentação de apresentar essa ideia como um conceito distópico exagerado. Em vez disso, opta por um tom baseado no realismo, não muito diferente do Spike Jonze Dela. Isso permite fazer algumas perguntas sérias e diferenciadas sobre a automatização de interações humanas que estavam à frente de seu tempo. A história de cinco horas pergunta se uma aplicação de IA como essa traz um benefício líquido, tornando algo tão caro quanto uma terapia mais acessível, ou simplesmente uma decisão de negócios exploradora por parte de uma grande tecnologia que negocia a interação humana por fácil lucros.
Os jogadores exploram essas questões através Elizabethsistemas de novelas visuais. A interação é mínima aqui, com os jogadores simplesmente escolhendo opções de diálogo para Evelyn. Isso tem um grande impacto em suas sessões, no entanto. Ao longo da história, Evelyn se encontra com alguns clientes recorrentes assinantes do serviço. Alguns estão lá simplesmente para monologar sobre o drama de baixo risco em suas vidas, mas outros estão chegando ao serviço militar com problemas mais sérios. Não importa a gravidade da situação individual, Eliza cospe o mesmo roteiro simples para Evelyn ler, fazendo algumas perguntas que se repetem ao longo das sessões e prescrevendo exercícios respiratórios e medicamento.
Quanto mais Evelyn investe na vida de seus clientes, mais ela começa a ver os limites da tecnologia. Alguns dos conselhos de Eliza não são uma solução única para todos os problemas, e mais clientes problemáticos começam a implorar por ajuda real de um ser humano real. Os jogadores têm a opção de sair do roteiro e deixar Evelyn resolver o problema com suas próprias mãos, uma mudança que tem sérias implicações tanto para seu trabalho quanto para o bem-estar de seus clientes.
Nem sempre é a resposta certa. Embora alguns de seus conselhos forneçam aos clientes a ajuda de que precisam, outros se veem em uma espiral ainda maior. Suas palavras podem ser distorcidas de maneiras que ela não esperava, algo contra o qual o algoritmo seguro de Eliza foi criado para proteger. É mais seguro seguir o roteiro esterilizado ou pelo menos tentar fazer uma conexão real? E será que tecnologias como essa prejudicam mais do que ajudam, ou vice-versa?
Eliza não responde a essas perguntas, deixando isso para os jogadores mastigarem. É um questionamento cuidadoso da tecnologia moderna que só se tornou mais urgente devido ao surgimento de serviços como o Wysa, que estão perigosamente próximos da tecnologia fictícia do jogo. Quer você seja um defensor da IA ferramentas como ChatGPT ou firmemente contra eles, Eliza fornecerá um conto de advertência sobre os limites das máquinas e dos humanos.
Elizabeth está disponível para PC e Nintendo Switch.
Recomendações dos Editores
- Você deveria jogar o jogo mais bonito do ano no Xbox Game Pass agora mesmo
- Escolhas da equipe: Por que Elden Ring é nosso jogo do ano de 2022
- Precisa de um jogo assustador de Halloween? Mundaun é um jogo obrigatório este ano
- Sable tem o melhor design de som que você ouvirá em um jogo este ano
- Alexey Pajitnov ainda não domina o Tetris, o jogo que inventou há 35 anos
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
