Αλλά μπορεί να υπάρξει μια διόρθωση — ή τουλάχιστον ένας τρόπος για να παρακολουθείτε τους αλγόριθμους και να πείτε εάν έχουν κάνει ακατάλληλες διακρίσεις σε βάρος ενός δημογραφικού στοιχείου.
Προτεινόμενα βίντεο
"Οι μαθημένοι κανόνες πρόβλεψης είναι συχνά πολύ περίπλοκοι για να κατανοηθούν."
Προτάθηκε από μια ομάδα επιστημόνων υπολογιστών από την Google, το Πανεπιστήμιο του Σικάγο και το Πανεπιστήμιο του Τέξας στο Ώστιν, το Ισότητα Ευκαιριών στην Εποπτευόμενη Μάθηση Η προσέγγιση αναλύει τις αποφάσεις που παίρνουν τα προγράμματα μηχανικής μάθησης - αντί για τις ίδιες τις διαδικασίες λήψης αποφάσεων - για τον εντοπισμό διακρίσεων. Η ίδια η φύση αυτών των αλγορίθμων είναι να παίρνουν αποφάσεις μόνοι τους, με τη δική τους λογική, σε ένα μαύρο κουτί κρυμμένο από την ανθρώπινη κριτική. Ως εκ τούτου, οι ερευνητές θεωρούν ότι η πρόσβαση στα μαύρα κουτιά είναι πρακτικά μάταιη.
«Οι μαθημένοι κανόνες πρόβλεψης είναι συχνά πολύ περίπλοκοι για να κατανοηθούν», επιστήμονας υπολογιστών και συν-συγγραφέας του Πανεπιστημίου του Σικάγο, Νέιθαν Σρέμπρο, είπε στο Digital Trends. «Πράγματι, το όλο νόημα της μηχανικής μάθησης είναι να μάθουμε αυτόματα έναν [στατιστικά] καλό κανόνα…όχι έναν κανόνα του οποίου η περιγραφή έχει απαραίτητα νόημα για τους ανθρώπους. Έχοντας κατά νου αυτήν την άποψη της μάθησης, θέλαμε επίσης να είμαστε σε θέση να διασφαλίσουμε μια αίσθηση μη διάκρισης, ενώ παράλληλα αντιμετωπίζουμε τους μαθητευόμενους κανόνες ως μαύρα κουτιά».
Srebro και συν-συγγραφείς Μόριτζ Χαρτ της Google και Έρικ Πράις του UT Austin ανέπτυξε μια προσέγγιση για να αναλύσει τις αποφάσεις ενός αλγορίθμου και να βεβαιωθεί ότι δεν έκανε διακρίσεις στη διαδικασία λήψης αποφάσεων. Για να γίνει αυτό, οδήγησαν με την αρχή κατά των προκαταλήψεων ότι μια απόφαση για ένα συγκεκριμένο άτομο δεν πρέπει να βασίζεται αποκλειστικά στα δημογραφικά στοιχεία αυτού του ατόμου. Στην περίπτωση ενός προγράμματος τεχνητής νοημοσύνης, η απόφαση του αλγόριθμου για ένα άτομο δεν θα πρέπει να αποκαλύπτει τίποτα σχετικά με το φύλο ή τη φυλή αυτού του ατόμου με τρόπο που θα ήταν ακατάλληλη διάκριση.
Είναι ένα τεστ που δεν λύνει άμεσα το πρόβλημα, αλλά βοηθά στην επισήμανση και την πρόληψη διαδικασιών που εισάγουν διακρίσεις. Για το λόγο αυτό, ορισμένοι ερευνητές είναι επιφυλακτικοί.
"Η μηχανική εκμάθηση είναι εξαιρετική αν τη χρησιμοποιείτε για να βρείτε τον καλύτερο τρόπο δρομολόγησης ενός αγωγού πετρελαίου." Noel Sharkey, είπε ο ομότιμος καθηγητής ρομποτικής και τεχνητής νοημοσύνης στο Πανεπιστήμιο του Σέφιλντ Ο κηδεμόνας. «Μέχρι να μάθουμε περισσότερα για το πώς λειτουργούν οι προκαταλήψεις σε αυτούς, θα ανησυχούσα πολύ να κάνουν προβλέψεις που επηρεάζουν τις ζωές των ανθρώπων».
Ο Σρέμπρο αναγνωρίζει αυτήν την ανησυχία, αλλά δεν το θεωρεί σαρωτική κριτική για την προσέγγιση της ομάδας του. «Συμφωνώ ότι σε πολλές εφαρμογές με υψηλά διακυβεύματα επιπτώσεις σε άτομα, ειδικά από την κυβέρνηση και δικαστικές αρχές, η χρήση στατιστικών προγνωστικών μαύρων κουτιών δεν είναι κατάλληλη και η διαφάνεια είναι ζωτικής σημασίας». αυτός είπε. «Σε άλλες περιπτώσεις, όταν χρησιμοποιούνται από εμπορικές οντότητες και όταν μεμονωμένα πονταρίσματα είναι χαμηλότερα, οι στατιστικές προβλέψεις μαύρου κουτιού μπορεί να είναι κατάλληλοι και αποτελεσματικοί. Μπορεί να είναι δύσκολο να τα απορρίψουμε εντελώς, αλλά εξακολουθεί να είναι επιθυμητό να ελεγχθούν για συγκεκριμένες προστατευόμενες διακρίσεις».
ο έγγραφο για την ισότητα ευκαιριών στην εποπτευόμενη μάθηση ήταν ένα από τα λίγα που παρουσιάστηκαν αυτόν τον μήνα στο Neural Information Processing Systems (NIPS) στη Βαρκελώνη της Ισπανίας, το οποίο προσέφερε προσεγγίσεις για την ανίχνευση διακρίσεων σε αλγόριθμους, σύμφωνα με Ο κηδεμόνας.
Συστάσεις των συντακτών
- Το Google Bard θα μπορούσε σύντομα να γίνει ο νέος σας προπονητής ζωής AI
- Η νέα εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ στοχεύει να «κατανοήσει το σύμπαν»
- Όλο το διαδίκτυο ανήκει πλέον στο AI της Google
- Η Google λέει στους εργαζόμενους να είναι επιφυλακτικοί με τα chatbot AI
- Τι είναι το MusicLM; Δείτε το AI της Google για μετατροπή κειμένου σε μουσική
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
