Ce jeu vidéo de science-fiction a prédit notre paysage actuel de l'IA

Comme beaucoup d’autres, je suis actuellement fasciné – et un peu terrifié – par progrès rapides dans l’IA. Bien que la technologie semble pouvoir être utilisée à bon escient, plusieurs applications m’inquiètent. Les sites Web ont remplacé les écrivains humains par des robots sujets aux erreurs, Hollywood refuse de protéger ses talents créatifs de la technologie et Des jeux générés par l'IA comme Été ont soulevé des signaux d’alarme concernant le plagiat des robots. Mais ce qui m’a le plus préoccupé ces derniers mois, c’est l’existence de la thérapie par l’IA.

Il existe actuellement une poignée de services disponibles qui automatisent la thérapie d'une manière ou d'une autre. Woébot est un « agent conversationnel automatisé » qui se positionne comme un outil personnel de santé mentale. Les utilisateurs peuvent s'y connecter quotidiennement pour avoir de brèves conversations avec un chatbot qui leur enverra des conseils et des vidéos de bien-être. Wysa, d'autre part, associe les utilisateurs à un coach IA, mais les utilisateurs Premium peuvent ajouter une assistance humaine 1:1. Considérant à quel point la thérapie traditionnelle repose sur la connexion avec une personne réelle, l’idée de l’automatiser semble être une recette pour un désastre.

Il y a une raison pour laquelle tout cela m’intrigue particulièrement. C'est à cause d'un petit roman visuel appelé Élise. Sorti en 2019, le joyau indépendant prédit discrètement l’évolution troublante de l’IA dans le domaine de la santé mentale. Il s’agit d’une excellente mise en garde sur les complexités de l’automatisation des connexions humaines – une mise en garde dont les entrepreneurs technologiques pourraient tirer de nombreuses leçons.

Bienvenue à Eliza

Situé à Seattle, Élise suit un personnage nommé Evelyn Ishino-Aubrey qui commence à travailler dans une nouvelle entreprise technologique créée par une mégacorporation fictive semblable à Apple appelée Skandha. La société a créé une application de conseil virtuel, appelée Eliza, qui propose aux utilisateurs des séances de thérapie guidées par l'IA à un prix relativement abordable.

Cependant, Eliza n’est pas seulement un chatbot sans visage. Afin de conserver l'élément humain de la thérapie en face à face, l'application utilise des mandataires humains qui s'assoient en personne avec les clients et lisent les réponses générées par le robot en temps réel. Skandha prétend que sa méthodologie relève de la science, il est donc interdit aux proxys de s'écarter du script de quelque manière que ce soit. Ils sont simplement là pour ajouter un visage tangible aux conseils émis par la machine.

Le jeu résiste à l’envie de présenter cette idée comme un concept dystopique exagéré. Au lieu de cela, il opte pour un ton fondé sur le réalisme, un peu comme celui de Celui de Spike Jonze Son. Cela lui permet de poser des questions sérieuses et nuancées sur l’automatisation des interactions humaines qui étaient en avance sur leur temps. L'histoire de cinq heures demande si une application d'IA comme celle-là constitue un avantage net, rendant quelque chose d'aussi coûteux qu'une thérapie. plus accessible, ou simplement une décision commerciale exploitante de la part des grandes technologies qui échangent l'interaction humaine contre une bénéfices.

Les joueurs explorent ces questions à travers ÉliseLes systèmes de roman visuel de. L'interaction est minime ici, les joueurs choisissant simplement les options de dialogue pour Evelyn. Cela a cependant un impact majeur sur ses séances. Tout au long de l'histoire, Evelyn rencontre une poignée de clients récurrents abonnés au service. Certains sont simplement là pour monologuer sur les drames aux faibles enjeux de leur vie, mais d’autres arrivent au service avec des problèmes plus graves. Quelle que soit la gravité de la situation individuelle, Eliza crache le même scénario plat pour qu'Evelyn lire, poser des questions qui se répètent tout au long des séances et prescrire des exercices de respiration et médicament.

Plus Evelyn s'investit dans la vie de ses clients, plus elle commence à voir les limites de la technologie. Certains des conseils incontournables d’Eliza ne constituent pas une solution universelle à tous les problèmes, et les clients les plus en difficulté commencent à implorer une véritable aide de la part d’un véritable être humain. Les joueurs ont le choix de sortir du scénario et de laisser Evelyn prendre les choses en main, une décision qui a de sérieuses implications à la fois sur son travail et sur le bien-être de ses clients.

Ce n’est pas toujours la bonne réponse. Alors que certains de ses conseils apportent aux clients l’aide dont ils ont besoin, d’autres se retrouvent dans une spirale encore plus forte. Ses mots peuvent être déformés d’une manière à laquelle elle ne s’attendait pas, ce contre quoi l’algorithme sécurisé d’Eliza est conçu pour se protéger. Est-il plus sûr de s’en tenir au scénario stérilisé ou au moins d’essayer d’établir une véritable connexion? Et une technologie comme celle-ci fait-elle finalement plus mal qu’elle n’aide, ou vice versa ?

Eliza ne répond pas à ces questions, laissant aux joueurs le soin de réfléchir. Il s’agit d’une interrogation réfléchie sur la technologie moderne qui devient encore plus urgente compte tenu de l’émergence de services comme Wysa, qui sont dangereusement proches de la technologie fictive du jeu. Que vous soyez partisan de l'IA des outils comme ChatGPT ou fermement contre eux, Eliza fournira un récit réfléchi et édifiant sur les limites des machines et des humains.

Élise est disponible sur PC et Nintendo Switch.

Recommandations des rédacteurs

• Vous devriez jouer dès maintenant au plus beau jeu de l’année sur Xbox Game Pass
• Choix du personnel: Pourquoi Elden Ring est notre jeu de l’année 2022
• Besoin d'un jeu effrayant pour Halloween? Mundaun est un jeu incontournable cette année
• Sable a la meilleure conception sonore que vous entendrez dans un jeu cette année
• Alexeï Pajitnov ne maîtrise toujours pas Tetris, le jeu qu'il a inventé il y a 35 ans

Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.