Net als vele anderen ben ik momenteel gefascineerd – en een beetje doodsbang – door snelle vooruitgang op het gebied van AI. Hoewel de technologie voorgoed lijkt te kunnen worden gebruikt, maken verschillende toepassingen ervan mij zorgen. Websites hebben menselijke schrijvers vervangen door foutgevoelige robots, Hollywood weigert zijn creatieve talent te beschermen tegen de technologie, en Door AI gegenereerde games zoals Sumner hebben rode vlaggen gehesen over botplagiaat. Maar wat mij de afgelopen maanden het meest zorgen baart, is het bestaan van AI-therapie.
Er zijn momenteel een handvol diensten beschikbaar die de therapie op de een of andere manier automatiseren. Woebot is een ‘geautomatiseerde gespreksagent’ die wordt gepositioneerd als een persoonlijk hulpmiddel voor de geestelijke gezondheidszorg. Gebruikers kunnen er elke dag mee inchecken om korte gesprekken te voeren met een chatbot die wellnesstips en video's doorstuurt. Wysadaarentegen koppelt gebruikers aan een AI-coach, maar Premium-gebruikers kunnen 1:1 menselijke ondersteuning toevoegen. Als je bedenkt hoezeer traditionele therapie afhankelijk is van de verbinding met een echte persoon, lijkt het idee om deze te automatiseren een recept voor een ramp.
Aanbevolen video's
Er is een reden waarom dit alles mij vooral intrigeert. Dat komt door een kleine visuele roman genaamd Eliza. Uitgebracht in 2019, de indie juweeltje voorspelde stilletjes de verontrustende stap van AI in de geestelijke gezondheidszorg. Het is een uitstekend waarschuwend verhaal over de complexiteit van het automatiseren van menselijke verbindingen – een verhaal waar tech-ondernemers veel van kunnen leren.
Welkom bij Eliza
Gevestigd in Seattle, Eliza volgt een personage genaamd Evelyn Ishino-Aubrey die begint te werken bij een nieuwe technologie-onderneming die is opgericht door een fictieve, Apple-achtige megacorporatie genaamd Skandha. Het bedrijf heeft een virtuele counseling-app gemaakt, genaamd Eliza, die AI-geleide therapiesessies aanbiedt aan gebruikers tegen een relatief betaalbare prijs.
Eliza is echter niet alleen een gezichtsloze chatbot. Om het menselijke element van face-to-face therapie te behouden, maakt de app gebruik van menselijke proxy's die persoonlijk bij de cliënt zitten en de gegenereerde reacties van de bot in realtime lezen. Skandha beweert dat de methodologie een wetenschap is, dus het is proxy's verboden om op welke manier dan ook van het script af te wijken. Ze zijn er gewoon om een tastbaar gezicht toe te voegen aan het advies dat de machine uitspuugt.
De game weerstaat de drang om dat idee te presenteren als een over-the-top-dystopisch concept. In plaats daarvan kiest het voor een toon die gebaseerd is op realisme, vergelijkbaar met die van van Spike Jonze Haar. Hierdoor kan het een aantal serieuze en genuanceerde vragen stellen over het automatiseren van menselijke interacties die hun tijd ver vooruit waren. In het vijf uur durende verhaal wordt gevraagd of zo'n AI-toepassing een nettovoordeel is, waardoor zoiets duurs als therapie wordt gemaakt toegankelijker, of eenvoudigweg een uitbuitende zakelijke beslissing van grote technologiebedrijven die menselijke interactie voor gemak inruilen winst.
Spelers onderzoeken deze vragen door middel van Eliza's visuele nieuwe systemen. Interactie is hier minimaal, waarbij spelers eenvoudigweg dialoogopties voor Evelyn kiezen. Dat heeft echter een grote impact op haar sessies. Gedurende het hele verhaal ontmoet Evelyn een handvol terugkerende klanten die op de dienst zijn geabonneerd. Sommigen zijn er gewoon voor een monoloog over het drama in hun leven dat weinig op het spel staat, maar anderen komen met ernstiger problemen naar de dienst. Ongeacht de ernst van iemands individuele situatie, Eliza spuugt hetzelfde platte script uit voor Evelyn lezen, enkele vragen stellen die tijdens de sessies worden herhaald en ademhalingsoefeningen voorschrijven en medicatie.
Hoe meer Evelyn wordt geïnvesteerd in de levens van haar klanten, hoe meer ze de grenzen van de technologie begint te zien. Sommige adviezen van Eliza zijn niet voor elk probleem een kant-en-klare oplossing, en steeds meer cliënten in problemen beginnen te smeken om echte hulp van een echt mens. Spelers krijgen de keuze om van het script af te wijken en Evelyn het heft in eigen handen te laten nemen, een zet die ernstige gevolgen heeft voor zowel haar werk als het welzijn van haar cliënten.
Het is niet altijd het juiste antwoord. Terwijl sommige van haar adviezen cliënten de hulp geven die ze nodig hebben, raken anderen nog meer in de war. Haar woorden kunnen verdraaid worden op manieren die ze niet had verwacht, iets waartegen het veilige algoritme van Eliza is gebouwd. Is het veiliger om vast te houden aan het gesteriliseerde script of op zijn minst te proberen een echte connectie te maken? En doet dit soort technologie uiteindelijk meer pijn dan dat het helpt, of omgekeerd?
Eliza beantwoordt deze vragen niet en laat het aan spelers over om op te kauwen. Het is een doordachte ondervraging van moderne technologie die alleen maar urgenter is geworden gezien de opkomst van diensten als Wysa, die gevaarlijk dicht bij de fictieve technologie van het spel staan. Of je nu een voorstander bent van AI tools zoals ChatGPT of er resoluut tegen is, zal Eliza een doordacht waarschuwend verhaal vertellen over de grenzen van zowel machines als mensen.
Eliza is beschikbaar op pc en Nintendo Switch.
Aanbevelingen van de redactie
- Speel nu meteen de mooiste game van het jaar op Xbox Game Pass
- Keuzes van het personeel: waarom Elden Ring onze game van het jaar 2022 is
- Heb je een griezelig Halloween-spel nodig? Mundaun is dit jaar een must-play
- Sable heeft het beste geluidsontwerp dat je dit jaar in een game zult horen
- Alexey Pajitnov heeft Tetris, het spel dat hij 35 jaar geleden heeft uitgevonden, nog steeds niet onder de knie
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
