Wie viele andere bin ich derzeit fasziniert – und ein wenig verängstigt – davon rasante Fortschritte in der KI. Auch wenn es den Anschein hat, als könnte die Technologie für einen guten Zweck genutzt werden, bereiten mir einige ihrer Anwendungen Sorgen. Websites haben menschliche Autoren durch fehleranfällige Roboter ersetzt, Hollywood weigert sich, sein kreatives Talent vor der Technologie zu schützen, und KI-generierte Spiele wie Sommer haben Warnsignale bezüglich Bot-Plagiaten gehisst. Was mich in den letzten Monaten jedoch am meisten beunruhigt hat, ist die Existenz der KI-Therapie.
Derzeit gibt es eine Handvoll Dienste, die die Therapie auf irgendeine Weise automatisieren. Woebot ist ein „automatisierter Gesprächsagent“, der als persönliches Tool für die psychische Gesundheit positioniert wird. Benutzer können täglich einchecken, um kurze Gespräche mit einem Chatbot zu führen, der Wellness-Tipps und Videos sendet. Wysa, hingegen verbindet Benutzer mit einem KI-Coach, Premium-Benutzer können jedoch eine 1:1-menschliche Unterstützung hinzufügen. Wenn man bedenkt, wie sehr die traditionelle Therapie auf die Verbindung mit einer realen Person angewiesen ist, scheint die Idee, sie zu automatisieren, ein Rezept für eine Katastrophe zu sein.
Empfohlene Videos
Es gibt einen Grund, warum mich das alles besonders fasziniert. Das liegt an einem kleinen Visual Novel mit dem Titel Eliza. Das im Jahr 2019 erschienene Indie-Juwel sagte in aller Stille den beunruhigenden Vorstoß der KI in den Bereich der psychischen Gesundheit voraus. Es ist eine ausgezeichnete warnende Geschichte über die Komplexität der Automatisierung menschlicher Verbindungen – eine, aus der Technologieunternehmer viel lernen könnten.
Willkommen bei Eliza
Es spielt in Seattle, Eliza folgt einer Figur namens Evelyn Ishino-Aubrey, die bei einem neuen Technologieunternehmen zu arbeiten beginnt, das von einem fiktiven, Apple-ähnlichen Megakonzern namens Skandha gegründet wurde. Das Unternehmen hat eine virtuelle Beratungs-App namens Eliza entwickelt, die Benutzern KI-gesteuerte Therapiesitzungen zu einem relativ erschwinglichen Preis bietet.
Eliza ist jedoch nicht nur ein gesichtsloser Chatbot. Um das menschliche Element der persönlichen Therapie beizubehalten, setzt die App menschliche Stellvertreter ein, die persönlich mit den Klienten zusammensitzen und die generierten Antworten des Bots in Echtzeit lesen. Skandha behauptet, dass die Methodik auf einer Wissenschaft beruht, weshalb es den Stellvertretern untersagt ist, in irgendeiner Weise vom Skript abzuweichen. Sie sind lediglich dazu da, den Ratschlägen, die die Maschine ausspuckt, ein greifbares Gesicht zu verleihen.
Das Spiel widersteht dem Drang, diese Idee als übertrieben dystopisches Konzept darzustellen. Stattdessen wählt es einen auf Realismus basierenden Ton, der dem von nicht unähnlich ist Spike Jonzes Ihr. Dadurch können einige ernsthafte und differenzierte Fragen zur Automatisierung menschlicher Interaktionen gestellt werden, die ihrer Zeit voraus waren. In der fünfstündigen Geschichte wird die Frage gestellt, ob eine solche KI-Anwendung einen Nettovorteil darstellt und etwas so teuer macht wie eine Therapie zugänglicher oder einfach eine ausbeuterische Geschäftsentscheidung großer Technologiekonzerne, die menschliche Interaktion gegen Einfachheit eintauschen Gewinne.
Die Spieler gehen diesen Fragen nach Elizas Visual-Novel-Systeme. Die Interaktion ist hier minimal, da die Spieler einfach Dialogoptionen für Evelyn auswählen. Das hat jedoch einen großen Einfluss auf ihre Sitzungen. Im Laufe der Geschichte trifft sich Evelyn mit einer Handvoll wiederkehrender Kunden, die den Dienst abonniert haben. Einige sind einfach da, um einen Monolog über das Drama in ihrem Leben zu halten, das nicht viel auf dem Spiel steht, andere kommen mit ernsteren Problemen zum Gottesdienst. Egal wie ernst die individuelle Situation ist, Eliza spuckt Evelyn das gleiche flache Drehbuch aus Lesen Sie, stellen Sie einige Fragen, die sich während der Sitzungen wiederholen, und verschreiben Sie Atemübungen Medikamente.
Je mehr Evelyn in das Leben ihrer Kunden investiert, desto mehr erkennt sie die Grenzen der Technologie. Einige von Elizas Ratschlägen sind keine allgemeingültige Lösung für jedes Problem, und immer mehr Kunden mit Problemen flehen um echte Hilfe von einem echten Menschen. Die Spieler haben die Wahl, vom Drehbuch abzuweichen und Evelyn die Dinge selbst in die Hand nehmen zu lassen, ein Schritt, der schwerwiegende Auswirkungen sowohl auf ihren Job als auch auf das Wohlergehen ihrer Kunden hat.
Es ist nicht immer die richtige Antwort. Während einige ihrer Ratschläge den Klienten die Hilfe geben, die sie brauchen, geraten andere in eine noch größere Spirale. Ihre Worte können auf unerwartete Weise verdreht werden, wovor der sichere Algorithmus von Eliza schützen soll. Ist es sicherer, sich an das sterile Skript zu halten oder zumindest zu versuchen, eine echte Verbindung herzustellen? Und schadet eine solche Technologie letztlich mehr, als dass sie hilft, oder umgekehrt?
Eliza beantwortet diese Fragen nicht und überlässt es den Spielern, darüber nachzudenken. Es handelt sich um eine nachdenkliche Auseinandersetzung mit moderner Technologie, die angesichts des Aufkommens von Diensten wie Wysa, die der fiktiven Technologie des Spiels gefährlich nahe kommen, noch dringlicher geworden ist. Ob Sie ein Befürworter von KI sind Tools wie ChatGPT Ob Sie entschieden dagegen sind, Eliza wird eine nachdenkliche, warnende Geschichte über die Grenzen von Maschinen und Menschen liefern.
Eliza ist für PC und Nintendo Switch verfügbar.
Empfehlungen der Redaktion
- Sie sollten jetzt das schönste Spiel des Jahres auf dem Xbox Game Pass spielen
- Mitarbeitertipps: Warum Elden Ring unser Spiel des Jahres 2022 ist
- Brauchen Sie ein gruseliges Halloween-Spiel? Mundaun ist dieses Jahr ein Muss
- Sable hat das beste Sounddesign, das Sie dieses Jahr in einem Spiel hören werden
- Alexey Pajitnov beherrscht Tetris, das Spiel, das er vor 35 Jahren erfunden hat, immer noch nicht
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
