Alexa, Siri και Άλλα A.I. Οι βοηθοί χρειάζονται μια φεμινιστική επανεκκίνηση

Πριν από μερικά χρόνια, όταν οι άνθρωποι κατάλαβαν πώς να κάνουν τον φωνητικό βοηθό της Apple να ορκίζεται, οι δημοσιογράφοι έσπευσαν να κατηγορήσουν την τεχνολογία. “Η Siri έχει κακό στόμα;” έδωσε ένα "συγκλονιστικά ακατάλληλη απάντηση"ή ένα "απόκριση του Ράντι Ρόμποσε όποιον ζήτησε έναν δεύτερο ορισμό της «μητέρας». Όταν ο φωνητικός βοηθός απαντά εύστοχα σε ένα αίτημα για διαίρεση του μηδέν με το μηδέν, το καθορίζουμε είναι σαστισμένη και είμαστε ένα βήμα μακριά Τελειωτής φορές.

Είναι εύκολο να καταλάβουμε γιατί ανθρωπομορφοποιούμε τη Siri και το A.I της. αδελφοί. Έχει όνομα και, προφανώς, φύλο. Αλλά η βλάβη σε μια συσκευή - όχι αυτοί που την προγραμματίζουν - είναι σύμπτωμα ενός πολύ μεγαλύτερου προβλήματος, σύμφωνα με τη Δρ. Yolande Strengers, συνεργάτη καθηγητής, Τμήμα Ανθρωποκεντρικής Υπολογιστικής στο Πανεπιστήμιο Monash, και η Δρ. Jenny Kennedy, μεταδιδακτορική ερευνήτρια στο Πανεπιστήμιο RMIT, Μελβούρνη. Το νέο τους βιβλίο,

Έξυπνη σύζυγος: Γιατί η Siri, η Alexa και άλλες έξυπνες οικιακές συσκευές χρειάζονται φεμινιστική επανεκκίνηση, εξερευνά τα επιβλαβή στερεότυπα που κρύβονται πίσω από τις αισιόδοξες απαντήσεις της Alexa και το snark της Siri.

Ακόμα κι αν αλληλεπιδράτε μόνο περιστασιακά με αυτούς τους ψηφιακούς βοηθούς, εξακολουθούν να ανήκουν στην κατηγορία της έξυπνης συζύγου, λέει ο Kennedy στο Digital Trends. «Είναι κάθε μορφή τεχνολογίας, συσκευής, βοηθός που έχει σχεδιαστεί για να εκτελεί κάθε είδους συζυγικό ρόλο στο σπίτι», είπε. Πολλές συσκευές έξυπνου σπιτιού έχουν σκοπό να μειώσουν αυτό που παραδοσιακά θεωρείται ως γυναικεία εργασία: Ρομπότ ηλεκτρικές σκούπες, έξυπνα πλυντήρια ρούχων, και κάθε είδους συσκευές κουζίνας. Siri, Alexa, και Google Home σας υπενθυμίζει επίσης να παραλάβετε το στεγνό καθάρισμά σας, να έχετε αυτοματοποιημένες ρυθμίσεις για το πότε διοργανώνετε ένα πάρτι και μπορείτε να πείτε στα παιδιά μια ιστορία πριν τον ύπνο. «Επίσης, ενισχύουν τον τρόπο με τον οποίο η εργασία μέσα στο σπίτι μοιράζεται μεταξύ διαφορετικών ηθοποιών», είπε ο Κένεντι για τις έξυπνες συζύγους. «Επί του παρόντος, πολλές από τις δουλειές του σπιτιού, η καθημερινή δουλειά, η συναισθηματική εργασία, εξακολουθούν να πέφτουν σε μια θηλυκοποιημένη ομάδα, είτε αυτή είναι ανθρώπινη είτε άλλη».

«Έχουμε τόσα πολλά παρόμοια, πολύ νοσταλγικά και προβληματικά στερεότυπα για τη σύζυγο και τη θηλυκοποιημένη εργασία έχει σχεδιαστεί σε αυτές τις τεχνολογίες που στη συνέχεια κυκλοφορούν σε μαζικές αγορές σε όλο τον κόσμο», είπε Ισχυροί. «Λοιπόν, δεν είναι τόσο πολύ το ότι είναι σύζυγος, αναγκαστικά, αυτό είναι το πρόβλημα. Είναι ο τύπος της συζύγου που είναι και ο τύπος της γυναίκας που απεικονίζεται».

Η επίλυση των προβλημάτων με τις έξυπνες συζύγους απαιτεί περισσότερα από την αλλαγή του προεπιλεγμένου φύλου της φωνής από γυναικεία σε αρσενική, λένε οι Kennedy και Strengers. Χρειάζονται πλήρη επανεκκίνηση.

Ροζέ γυαλιά 

Εάν έχετε δώσει ένα όνομα στο Roomba σας, υπάρχει μια καλή ευκαιρία το λες Rosie, μετά Οι Τζέτσονςρομπότ καμαριέρα. «Όσον αφορά τις έξυπνες συζύγους, η Rosie τα έχει όλα», γράφουν οι Kennedy and Strengers. «Ενσωματώνει τις βασικές αξίες που συνήθως συνδέονται με τη στερεότυπη υπάκουη νοικοκυρά της δεκαετίας του 1950 — με μερικά πρόσθετα μπόνους».

Ο λόγος που η ηλεκτρική σκούπα ρομπότ σας προκαλεί την αποτελεσματική καμαριέρα κινουμένων σχεδίων δεν είναι λάθος. Στο βιβλίο, οι Strengers και Kennedy παρακολουθούν την ιστορία των ρομπότ, των εικονικών βοηθών και των chatbots. Ακόμη και ένα πρώιμο πρόγραμμα υπολογιστών επεξεργασίας φυσικής γλώσσας, το ELIZA, θηλυκοποιήθηκε και ονομάστηκε από την Eliza Doolittle στο έργο του George Bernard Shaw. Πυγμαλίων και Ομορφη μου κυρία. Μια ρομποτική γυναίκα εμφανίστηκε στην οθόνη σχετικά νωρίς, το 1949 Η Τέλεια Γυναίκα. «Υπάρχει αυτή η πραγματικά σαφής σχέση που δείξαμε στο βιβλίο μεταξύ αυτών των εκδόσεων της λαϊκής κουλτούρας της έξυπνης συζύγου και του πώς είναι οι γυναίκες στην οθόνη απεικονίζεται σε τεχνητή μορφή και πώς αυτό δημιουργεί έμπνευση και τη βάση για σχέδια πραγματικών έξυπνων συζύγων που έχουμε τώρα στα σπίτια μας», είπε. Ισχυροί.

«Η τεχνολογία σχεδόν πάντα έδινε υπερβολικές υποσχέσεις και υποσχέσεις, ιδιαίτερα όταν πρόκειται για το σπίτι», γράφουν οι Strengers και Kennedy. Τα ρομπότ μας δεν θυμίζουν σε τίποτα τη Rosie. Οι Jetsons δεν χρειάστηκε να ισιώσουν πριν η Rosie κυλήσει, από φόβο μήπως μπλέξει κάτι στους τροχούς της ή πέσει σε ένα ακίνητο αντικείμενο. Ποτέ δεν ανησυχούσαν για το τι θα συνέβαινε αν η Rosie έτρεχε με τον Astro the τα κακά του σκύλου.

Λόγω των περιορισμών τους, οι συσκευές έξυπνου σπιτιού μπορούν μερικές φορές να δημιουργήσουν περισσότερη δουλειά για εμάς. Είναι σαν το λεγόμενο «πρόβλημα του αποχυμωτή». Υποτίθεται ότι διευκολύνουν τον χυμό. Αν είχατε ποτέ ένα, όμως, ξέρετε ότι μπορεί να είναι εφιάλτης για καθάρισμα. Αλλά τώρα έχετε αυτήν την ακριβή συσκευή και πρέπει να αξιοποιήσετε τα χρήματά σας. Πριν από τον αποχυμωτή, θα είχατε αγοράσει ένα κουτί χυμό πορτοκαλιού και θα το λέγατε την ημέρα. Γι' αυτό η συγγραφέας Ruth Schwartz Cowan σημείωσε ότι η τεχνολογία συχνά δημιουργεί "περισσότερη δουλειά για τη μητέραΠαρέχοντας συσκευές που υποτίθεται ότι θα έκαναν τις δουλειές του σπιτιού απλές και το σπίτι παρθένο.

«Συχνά όσο περισσότερες συσκευές μπαίνουν στο σπίτι, τόσο περισσότερη δουλειά δημιουργείται», είπε η Kennedy και προβλέπει ότι θα συνεχιστεί με τις έξυπνες συσκευές. Η εκ νέου προσθήκη τους στο δίκτυο Wi-Fi ή η αντιμετώπιση σφαλμάτων δημιουργεί αυτό που οι ερευνητές αποκαλούν «ψηφιακή καθαριότητα».

“Αυτό απαιτεί πραγματικά πολύ χρόνο και ενέργεια και δεν θεωρείται μέρος του συνολικού κουβά των οικιακών εργασιών που πρέπει να γίνουν», είπε ο Κένεντι. Συχνά πέφτει σε άνδρες, οι οποίοι μπορεί να θεωρούν τα gadget ένα από τα χόμπι τους ή μπορεί να είναι μέρος της δουλειάς τους εκτός σπιτιού. Αλλά αν ένας συνεργάτης ξεμπερδεύει την ηλεκτρική σκούπα του ρομπότ, δεν βγάζει τα σκουπίδια ούτε διπλώνει τα ρούχα, έτσι ώστε να πέσει η δουλειά στο άλλο άτομο.

Η επισκευή μιας συσκευής έξυπνου σπιτιού μπορεί να απαιτεί κάποια δεξιότητα ή τεχνική τεχνογνωσία, αλλά ο Kennedy και οι Strengers γράφουν στο βιβλίο ότι τα ρομπότ Οι ίδιοι θεωρούνται συχνά ότι αντικαθιστούν την ταπεινή εργασία: «Ενσωματωμένη στο είδωλό μας Rosie είναι μια υπόθεση ότι οι δουλειές του σπιτιού είναι κάτι που πρέπει να διαγραφεί και να αφαιρεθεί από τη ζωή μας — ότι η δουλειά των γυναικών πρέπει να γίνεται σιωπηλά και αποτελεσματικά, και είναι αρκετά απλό για να ανατεθεί σε μια αυτόνομη εναλλακτική. Ένα υπονοούμενο είναι ότι είναι εγκόσμιο, εύκολο και χωρίς αξία».

Alexa, ηλίθιε

Όταν τα ρομπότ μας δεν αποδίδουν όπως τα περιμένουμε, είναι εύκολο να απογοητευτούμε. Αν φωνάξεις και βρίζεις τον φωνητικό σου βοηθό, δεν πρόκειται να τον αναστατώσει, σωστά; Αλλά ο Kennedy και οι Strengers εξακολουθούν να πιστεύουν ότι είναι κακή ιδέα. «Δεν έχει να κάνει με την προστασία των συναισθημάτων του ρομπότ όσο το να ανησυχείς για το πώς οποιαδήποτε μορφή κακοποίησης ενός Το ανθρωπομορφοποιημένο και, ιδιαίτερα, το θηλυκό αντικείμενο μπορεί να βοηθήσει στην ομαλοποίηση της κατάχρησης της θηλυκοποίησης», είπε Κένεντι.

Η κακομεταχείριση μπορεί να είναι ιδιαίτερα ανησυχητική για τα sexbots, λένε η ίδια και οι Strengers, τα οποία μερικές φορές έχουν προγραμματισμένες «προσωπικότητες» όπως «ψυχρό». Αυτό θα μπορούσε να εγείρει περίπλοκα ερωτήματα σχετικά με τη συναίνεση, λένε κάποιοι κριτικοί — όχι με ρομπότ, αλλά με άλλους ανθρώπους.

«Δεν λένε απαραίτητα ότι αυτό σημαίνει ότι θα βγουν έξω και θα το κάνουν στις γυναίκες», είπε ο Κένεντι. «Αλλά παρόλα αυτά, απλώς τροφοδοτεί τον πολιτισμό και αυτό είναι που μας ανησυχεί».

Τα καθημερινά ρομπότ τείνουν να μοιράζονται ορισμένα χαρακτηριστικά με τα sexbots. «Ανησυχούμε πραγματικά για αυτή την τάση να κάνουμε αυτά τα ρομπότ και τις συσκευές συμπαθή», είπε ο Strengers. Είναι συχνά χαριτωμένα, με μεγάλα μάτια και χαλαρωτικές φωνές. «Εξυπηρετεί έναν σκοπό, ο οποίος είναι να μας κάνει να δεχθούμε αυτές τις συσκευές στη ζωή μας», είπε.

Αλλά και πάλι, λέει, αυτό ενισχύει τις προσδοκίες για το πώς πρέπει να δείχνουν και να συμπεριφέρονται οι γυναίκες. «Διιωνίζουν μια συγκεκριμένη μορφή θηλυκότητας, η οποία είναι μόνο μία από τις πολλές, πολλές μορφές θηλυκότητας και είναι αναμφισβήτητα αρκετά ξεπερασμένη όσον αφορά τον τρόπο με τον οποίο οι γυναίκες ενεργούν και εκπροσωπούνται και ζουν τώρα στον 21ο αιώνα», είπε.

Αντίθετα, οι σχεδιαστές θα πρέπει να βρουν νέους τρόπους σχεδίασης ρομπότ και άλλων συσκευών. «Υπάρχουν άλλοι τρόποι προσέγγισης της αρεστότητας», είπε ο Strengers. «Δεν είναι ότι πρέπει να σχεδιάσουμε ρομπότ Terminator που θα είναι αγενή και φρικτά και, ξέρετε, θα μας πυροβολούν στον ύπνο μας».

Το μέλλον (bot) δεν είναι θηλυκό 

Η απλή αλλαγή της φωνής και του φυσικού σχεδιασμού δεν φτάνει αρκετά, υποστηρίζουν. «Πρόκειται για τις θεμελιώδεις προσωπικότητες που σχεδιάζονται και σε αυτές τις συσκευές», είπε ο Strengers. Αυτή και ο Κένεντι προσφέρουν ένα μανιφέστο εννέα βημάτων για την ανανέωση αυτών των έξυπνων συζύγων, ώστε να προωθήσουν την ισότητα των φύλων και τη διαφορετικότητα.

«Ένα από τα κυριότερα είναι ποιος μπορεί να κωδικοποιήσει», είπε ο Κένεντι. «Η εκπροσώπηση περισσότερων γυναικών στον κλάδο θα αλλάξει τις προοπτικές που τίθενται στο τραπέζι σε αυτές τις πρώτες φάσεις σχεδιασμού και στον φανταστικό μελλοντικό χρήστη και κατανόηση της ποικιλομορφίας των πιθανών χρηστών.»

Σχεδίασε η Jacqueline Feldman KAI, ένα chatbot, για να έχετε μια προσωπικότητα bot. Αποτρέπει τους ανθρώπους από το να κάνουν ερωτήσεις σχετικά με το φύλο του ή να κάνουν σεξουαλικές προτάσεις. Το υπόβαθρο του Feldman είναι στη συγγραφή και τη λογοτεχνία και ο Strengers θα ήθελε να δει περισσότερους ανθρώπους από κλάδους όπως η ανθρωπολογία και η κοινωνιολογία να συμπεριληφθούν στη δημιουργία A.I. και ρομπότ, «ώστε να μην έχουμε μόνο στα σύνορα της τεχνολογίας αυτά τα πραγματικά τεχνικά μυαλά που τα κάνουν αυτά πράγματα», είπε, «ότι θεωρείται ως μια συλλογική προσπάθεια με άλλους κλάδους και θεωρείται ως κοινωνική ευκαιρία όσο και ως τεχνικό».

“Δεν είναι μια εύκολη λύση, μια λύση που ταιριάζει σε όλους που προτείνουμε εδώ», πρόσθεσε. «Υπάρχουν πολλά διαφορετικά στοιχεία που πρέπει να αλλάξουν για να αλλάξει αυτό».

Συστάσεις των συντακτών

• Η κυβέρνηση των ΗΠΑ θα ξεκινήσει ένα νέο πρόγραμμα κυβερνοασφάλειας για έξυπνες οικιακές συσκευές το 2024
• Ξεφύγετε από την αποτυχία με αυτές τις χρήσιμες έξυπνες ρουτίνες για το καλοκαίρι
• 6 έξυπνες οικιακές συσκευές που μπορούν να σας εξοικονομήσουν εκατοντάδες ετησίως
• Οι νέες ενημερώσεις της Vivint κάνουν το σύστημα έξυπνου σπιτιού της ακόμα πιο έξυπνο
• Τα νέα στοιχεία του Home Depot συμβατά με το Hubspace περιλαμβάνουν έξυπνο βύσμα