Δύο στελέχη της Google δήλωσαν την Παρασκευή ότι η μεροληψία στην τεχνητή νοημοσύνη βλάπτει τις ήδη περιθωριοποιημένες κοινότητες στην Αμερική και ότι πρέπει να γίνουν περισσότερα για να διασφαλιστεί ότι αυτό δεν θα συμβεί. Χ. Eyeé, ηγέτης για υπεύθυνη καινοτομία στην Google και Άντζελα Γουίλιαμς, υπεύθυνος πολιτικής στην Google, μίλησε στο (Όχι IRL) Pride Summit, μια εκδήλωση που διοργανώθηκε από το Lesbians Who Tech & Allies, τον μεγαλύτερο οργανισμό LGBTQ που εστιάζει στην τεχνολογία στον κόσμο για γυναίκες, μη δυαδικά και τρανς άτομα σε όλο τον κόσμο.
Σε ξεχωριστόςσυνομιλίες, εξέτασαν τους τρόπους με τους οποίους η τεχνολογία μηχανικής μάθησης μπορεί να χρησιμοποιηθεί για να βλάψει τη μαύρη κοινότητα και άλλες κοινότητες στην Αμερική — και ευρύτερα σε όλο τον κόσμο.
Προτεινόμενα βίντεο
Η προκατάληψη στους αλγόριθμους ΔΕΝ ΕΙΝΑΙ ΑΠΛΩΣ ΠΡΟΒΛΗΜΑ ΔΕΔΟΜΕΝΩΝ. Η επιλογή χρήσης της τεχνητής νοημοσύνης μπορεί να είναι προκατειλημμένη, ο τρόπος με τον οποίο μαθαίνει ο αλγόριθμος μπορεί να είναι προκατειλημμένος και ο τρόπος με τον οποίο οι χρήστες επηρεάζονται/αλληλεπιδρούν/αντιλαμβάνονται ένα σύστημα μπορεί να ενισχύσει την προκατάληψη! Ολοκλήρωση αγοράς
@timnitGebruδουλειά για να μάθετε περισσότερα!- Χ. Μάτι (@TechWithX) 26 Ιουνίου 2020
Ο Williams συζήτησε τη χρήση του A.I. για τη σαρωτική επιτήρηση, ο ρόλος της σε υπερβολική αστυνόμευση, και την εφαρμογή του για μεροληπτική καταδίκη. «[Δεν είναι] ότι η τεχνολογία είναι ρατσιστική, αλλά μπορούμε να κωδικοποιήσουμε με τη δική μας ασυνείδητη προκατάληψη στην τεχνολογία», είπε. Ο Ουίλιαμς τόνισε το περίπτωση του Robert Julian-Borchak Williams, ένας Αφροαμερικανός από το Ντιτρόιτ που πρόσφατα συνελήφθη άδικα αφού ένα σύστημα αναγνώρισης προσώπου ταίριαξε εσφαλμένα τη φωτογραφία του με πλάνα ασφαλείας ενός κλέφτη καταστήματος. Προηγούμενες μελέτες έχουν δείξει ότι τα συστήματα αναγνώρισης προσώπου μπορούν να δυσκολευτούν διάκριση μεταξύ διαφορετικών μαύρων ανθρώπων. «Εδώ είναι όπου η A.I. … η επιτήρηση μπορεί να πάει τρομερά στραβά στον πραγματικό κόσμο», είπε ο Williams.
Χ. Το Eyeé συζήτησε επίσης πώς η A.I. μπορεί να βοηθήσει στην «κλιμάκωση και ενίσχυση της αθέμιτης προκατάληψης». Εκτός από τις πιο οιονεί δυστοπικές χρήσεις που τραβούν την προσοχή A.I., η Eyeé εστίασε στον τρόπο με τον οποίο η προκατάληψη θα μπορούσε να εισχωρήσει σε πιο φαινομενικά κοσμικές, καθημερινές χρήσεις της τεχνολογίας — συμπεριλαμβανομένης της δικής της Google εργαλεία. «Στην Google, δεν είμαστε ξένοι σε αυτές τις προκλήσεις», είπε ο Eyeé. «Τα τελευταία χρόνια… βρεθήκαμε πολλές φορές στα πρωτοσέλιδα για το πώς οι αλγόριθμοί μας έχουν επηρεάσει αρνητικά τους ανθρώπους». Για παράδειγμα, η Google έχει αναπτύξει ένα εργαλείο για ταξινόμηση της τοξικότητας των σχολίων στο διαδίκτυο. Αν και αυτό μπορεί να είναι πολύ χρήσιμο, ήταν επίσης προβληματικό: φράσεις όπως "Είμαι μια μαύρη γκέι γυναίκα" αρχικά ταξινομήθηκαν ως περισσότερες τοξικό από το «Είμαι λευκός άνδρας». Αυτό οφειλόταν σε ένα κενό στα σύνολα δεδομένων εκπαίδευσης, με περισσότερες συζητήσεις για συγκεκριμένες ταυτότητες από ό, τι οι υπολοιποι.
Δεν υπάρχουν γενικές λύσεις σε αυτά τα προβλήματα, είπαν τα δύο στελέχη της Google. Όπου εντοπίζονται προβλήματα, η Google εργάζεται για να εξαλείψει την προκατάληψη. Αλλά το εύρος των πιθανών σημείων όπου η μεροληψία μπορεί να εισέλθει στα συστήματα — από το σχεδιασμό των αλγορίθμων έως τους ανάπτυξη στο κοινωνικό πλαίσιο κάτω από το οποίο παράγονται τα δεδομένα — σημαίνει ότι πάντα θα υπάρχουν προβληματικές παραδείγματα. Το κλειδί είναι να το γνωρίζουμε αυτό, να επιτρέψουμε τον έλεγχο τέτοιων εργαλείων και να μπορούν οι διάφορες κοινότητες να κάνουν τη φωνή τους να ακουστεί σχετικά με τη χρήση αυτών των τεχνολογιών.
Συστάσεις των συντακτών
- Μπορεί η A.I. νικήσει τους ανθρώπους μηχανικούς στο σχεδιασμό μικροτσίπ; Το πιστεύει η Google
- The BigSleep A.I. είναι σαν την Αναζήτηση εικόνων Google για φωτογραφίες που δεν υπάρχουν ακόμα
- Η Google επαναφέρει τους ανθρώπους για να αναλάβουν την εποπτεία περιεχομένου YouTube από την A.I.
- Ψεύτικες ειδήσεις; ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. Ο αλγόριθμος αποκαλύπτει πολιτική προκατάληψη στις ιστορίες που διαβάζετε
- ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. Η αναβάθμιση κάνει αυτή την ταινία του 1896 να μοιάζει σαν να γυρίστηκε σε εκθαμβωτική ανάλυση 4Κ
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
