Precis som många andra är jag för närvarande fascinerad - och lite livrädd - av snabba framsteg inom AI. Även om tekniken verkar som om den skulle kunna användas för gott, gör flera tillämpningar av den mig orolig. Webbplatser har ersatt mänskliga författare med felbenägna robotar, Hollywood vägrar att skydda sin kreativa talang från tekniken, och AI-genererade spel som Sumner har hissat röda flaggor om botplagiat. Även om det som har oroat mig mest under de senaste månaderna är förekomsten av AI-terapi.
Det finns för närvarande en handfull tjänster tillgängliga som automatiserar terapi på något sätt. Woebot är en "automatiserad samtalsagent" som positioneras som ett personligt verktyg för mental hälsa. Användare kan checka in med den varje dag för att ha korta samtal med en chatbot som skickar över hälsotips och videor. Wysa, å andra sidan, parar användare med en AI-coach, men Premium-användare kan lägga till 1:1 mänsklig support. Med tanke på hur mycket traditionell terapi förlitar sig på anslutning till en verklig person, verkar tanken på att automatisera den som ett recept på katastrof.
Rekommenderade videor
Det finns en anledning till att allt detta fascinerar mig särskilt. Det beror på en liten visuell roman som heter Eliza. Släppt 2019, den indie pärla förutspådde tyst AI: s oroande drag in i det mentala hälsoområdet. Det är en utmärkt varnande berättelse om komplexiteten i att automatisera mänsklig anslutning - en som tekniska entreprenörer kan lära sig mycket av.
Välkommen till Eliza
Utspelar sig i Seattle, Eliza följer en karaktär vid namn Evelyn Ishino-Aubrey som börjar arbeta på ett nytt teknikföretag skapat av ett fiktivt, Apple-liknande megaföretag som heter Skandha. Företaget har skapat en virtuell rådgivningsapp, kallad Eliza, som erbjuder AI-styrda terapisessioner till användare till ett relativt överkomligt pris.
Eliza är dock inte bara en ansiktslös chatbot. För att behålla det mänskliga elementet av ansikte mot ansikte terapi, använder appen mänskliga proxyservrar som sitter med klienter personligen och läser genererade svar från boten i realtid. Skandha hävdar att det har sin metodik ner till en vetenskap, så ombud är förbjudna att avvika från manuset på något sätt. De är helt enkelt där för att lägga till ett påtagligt ansikte till råden som maskinen spottar ur sig.
Spelet motstår lusten att presentera den idén som ett over-the-top-dystopiskt koncept. Istället väljer den en ton grundad i realism, inte olikt Spike Jonzes Henne. Det gör att det kan ställa några allvarliga och nyanserade frågor om automatisering av mänskliga interaktioner som var före sin tid. Den fem timmar långa historien frågar om en sådan AI-applikation är en nettofördel, vilket gör något så dyrt som terapi mer lättillgänglig, eller helt enkelt ett exploaterande affärsbeslut av stortekniker som lätt byter in mänsklig interaktion vinster.
Spelare utforskar dessa frågor genom Elizas visuella nya system. Interaktionen är minimal här, med spelare som helt enkelt väljer dialogalternativ för Evelyn. Det har en stor inverkan på hennes sessioner, dock. Under hela historien träffar Evelyn en handfull återkommande kunder som prenumererar på tjänsten. Vissa är helt enkelt där för att monologa om dramat med låg insats i deras liv, men andra kommer till tjänsten med allvarligare problem. Oavsett svårighetsgraden av ens individuella situation, spottar Eliza ut samma platta manus för Evelyn att läser, ställer några frågor som upprepas under hela sessionerna och ordinerar andningsövningar och medicin.
Ju mer Evelyn investerar i sina kunders liv, desto mer börjar hon se gränserna för tekniken. Några av Elizas goda råd är inte en lösning för alla problem, och fler oroliga kunder börjar vädja om verklig hjälp från en verklig människa. Spelare får välja att gå av med manuset och låta Evelyn ta saken i egna händer, ett drag som har några allvarliga konsekvenser för både hennes jobb och hennes kunders välbefinnande.
Det är inte alltid det rätta svaret. Medan några av hennes råd ger klienterna den hjälp de behöver, finner andra att de spirar ännu mer. Hennes ord kan vridas runt på sätt hon inte förväntade sig, något som Elizas säkra algoritm är byggd för att skydda mot. Är det säkrare att hålla sig till det steriliserade manuset eller åtminstone försöka skapa en riktig koppling? Och gör teknik som denna i slutändan mer ont än det hjälper, eller vice versa?
Eliza svarar inte på dessa frågor och lämnar det åt spelarna att tugga på. Det är ett genomtänkt förhör av modern teknik som bara har blivit mer pressande med tanke på framväxten av tjänster som Wysa, som är farligt nära spelets fiktiva teknik. Oavsett om du är en anhängare av AI verktyg som ChatGPT eller bestämt emot dem, kommer Eliza att ge en tankeväckande varnande berättelse om gränserna för både maskiner och människor.
Eliza finns på PC och Nintendo Switch.
Redaktörens rekommendationer
- Du borde spela årets vackraste spel på Xbox Game Pass just nu
- Personalens val: Varför Elden Ring är årets spel 2022
- Behöver du ett läskigt Halloween-spel? Mundaun är ett måste i år
- Sable har den bästa ljuddesignen du kommer att höra i ett spel i år
- Alexey Pajitnov har fortfarande inte bemästrat Tetris, spelet han uppfann för 35 år sedan
Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
