Από ένα βίντεο ενός θύματος αυτοκτονίας στο YouTube για να διαφημίσεις που στοχεύουν "μισητές Εβραίων", επί Facebook, οι πλατφόρμες μέσων κοινωνικής δικτύωσης μαστίζονται από ακατάλληλο περιεχόμενο που καταφέρνει να ξεφύγει από τα κενά. Σε πολλές περιπτώσεις, η απάντηση της πλατφόρμας είναι η εφαρμογή εξυπνότερων αλγορίθμων για τον καλύτερο εντοπισμό του ακατάλληλου περιεχομένου. Τι είναι όμως πραγματικά ικανή να πιάσει η τεχνητή νοημοσύνη, πόσο πρέπει να την εμπιστευόμαστε και πού αποτυγχάνει παταγωδώς;
"ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. μπορεί να πάρει προσβλητική γλώσσα και μπορεί να αναγνωρίσει πολύ καλά τις εικόνες. Η δύναμη της αναγνώρισης της εικόνας είναι εκεί», λέει ο Winston Binch, ο επικεφαλής ψηφιακός διευθυντής της
Deutsch, μια δημιουργική εταιρεία που χρησιμοποιεί A.I. στη δημιουργία ψηφιακών καμπανιών για επωνυμίες από το Target έως το Taco Bell. «Η γκρίζα περιοχή γίνεται η πρόθεση».ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. μπορεί να διαβάσει κείμενο και εικόνες, αλλά η ακρίβεια ποικίλλει
Χρησιμοποιώντας επεξεργασία φυσικής γλώσσας, η A.I. μπορεί να εκπαιδευτεί στην αναγνώριση κειμένου σε πολλές γλώσσες. Ένα πρόγραμμα που έχει σχεδιαστεί για να εντοπίζει αναρτήσεις που παραβιάζουν τις οδηγίες της κοινότητας, για παράδειγμα, μπορεί να διδαχθεί να ανιχνεύει ρατσιστικές προσβολές ή όρους που σχετίζονται με εξτρεμιστική προπαγάνδα.
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. μπορεί επίσης να εκπαιδευτεί να αναγνωρίζει εικόνες, να αποτρέπει ορισμένες μορφές γυμνού ή να αναγνωρίζει σύμβολα όπως η σβάστικα. Λειτουργεί καλά σε πολλές περιπτώσεις, αλλά δεν είναι αλάνθαστο. Για παράδειγμα, το Google Photos επικρίθηκε για την προσθήκη ετικετών σε εικόνες ατόμων με σκουρόχρωμο δέρμα με τη λέξη-κλειδί "γορίλλας." Χρόνια αργότερα, η Google εξακολουθεί να μην έχει βρει λύση για το πρόβλημα, αντίθετα επέλεξε να την αφαιρέσει ο την ικανότητα του προγράμματος να επισημαίνει πιθήκους και γορίλες εξ ολοκλήρου.
Οι αλγόριθμοι πρέπει επίσης να ενημερώνονται καθώς εξελίσσεται το νόημα μιας λέξης ή για να κατανοήσουν πώς χρησιμοποιείται μια λέξη στο πλαίσιο. Για παράδειγμα, οι χρήστες LGBT Twitter παρατήρησαν πρόσφατα έλλειψη αποτελεσμάτων αναζήτησης για #gay και #bisexual, μεταξύ άλλων όρων, με αποτέλεσμα ορισμένοι να πιστεύουν ότι η υπηρεσία τους λογοκρίνει. Το Twitter ζήτησε συγγνώμη για το σφάλμα, κατηγορώντας το ένας ξεπερασμένος αλγόριθμος που προσδιόριζε ψευδώς αναρτήσεις με ετικέτα με τους όρους ως δυνητικά προσβλητικές. Το Twitter είπε ότι ο αλγόριθμός του έπρεπε να εξετάσει τον όρο στο πλαίσιο της ανάρτησης, αλλά απέτυχε να το κάνει με αυτές τις λέξεις-κλειδιά.
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. είναι προκατειλημμένος
Η αποτυχία της προσθήκης ετικετών γορίλλα φέρνει ένα άλλο σημαντικό μειονέκτημα — ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. είναι προκατειλημμένος. Ίσως αναρωτιέστε πώς ένας υπολογιστής θα μπορούσε να είναι προκατειλημμένος, αλλά το A.I. εκπαιδεύεται παρακολουθώντας τους ανθρώπους να ολοκληρώνουν εργασίες ή εισάγοντας τα αποτελέσματα αυτών των εργασιών. Για παράδειγμα, τα προγράμματα αναγνώρισης αντικειμένων σε μια φωτογραφία συχνά εκπαιδεύονται τροφοδοτώντας το σύστημα με χιλιάδες εικόνες που είχαν αρχικά επισημανθεί με το χέρι.
Το ανθρώπινο στοιχείο είναι αυτό που καθιστά δυνατή την A.I. να κάνει καθήκοντα αλλά ταυτόχρονα του δίνει ανθρώπινη προκατάληψη.
Το ανθρώπινο στοιχείο είναι αυτό που καθιστά δυνατή την A.I. για την ολοκλήρωση εργασιών που προηγουμένως ήταν αδύνατες σε τυπικό λογισμικό, αλλά το ίδιο ανθρώπινο στοιχείο δίνει επίσης ακούσια ανθρώπινη προκατάληψη σε έναν υπολογιστή. Ένα A.I. Το πρόγραμμα είναι τόσο καλό όσο και τα δεδομένα προπόνησης — εάν το σύστημα τροφοδοτούσε σε μεγάλο βαθμό εικόνες λευκών ανδρών, για παράδειγμα, το πρόγραμμα θα δυσκολευτεί να αναγνωρίσει άτομα με άλλους τόνους δέρματος.
«Ένα μειονέκτημα της A.I., γενικά, όταν πρόκειται για την εποπτεία οτιδήποτε, από σχόλια έως χρήστες περιεχόμενο, είναι ότι είναι εγγενώς αποδεκτό από το σχεδιασμό», δήλωσε ο PJ Ahlberg, ο εκτελεστικός τεχνικός διευθυντής του Stink Studios Νέα Υόρκη, ένα πρακτορείο που χρησιμοποιεί A.I. για τη δημιουργία bots μέσων κοινωνικής δικτύωσης και τον συντονισμό καμπανιών επωνυμίας.
Μόλις αναπτυχθεί ένα σύνολο εκπαίδευσης, αυτά τα δεδομένα μοιράζονται συχνά μεταξύ των προγραμματιστών, πράγμα που σημαίνει ότι η προκατάληψη εξαπλώνεται σε πολλά προγράμματα. Ο Ahlberg λέει ότι αυτός ο παράγοντας σημαίνει ότι οι προγραμματιστές δεν μπορούν να τροποποιήσουν αυτά τα σύνολα δεδομένων σε προγράμματα που χρησιμοποιούν πολλαπλές A.I. συστήματα, καθιστώντας δύσκολη την άρση τυχόν προκαταλήψεων μετά την ανακάλυψή τους.
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. δεν μπορεί να προσδιορίσει την πρόθεση
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. μπορεί να εντοπίσει μια σβάστικα σε μια φωτογραφία — αλλά το λογισμικό δεν μπορεί να προσδιορίσει πώς χρησιμοποιείται. Το Facebook, για παράδειγμα, ζήτησε πρόσφατα συγγνώμη μετά αφαιρώντας μια ανάρτηση που περιείχε μια σβάστικα αλλά συνοδεύτηκε από ένα κείμενο έκκλησης για να σταματήσει η εξάπλωση του μίσους.
Αυτό είναι ένα παράδειγμα αποτυχίας του A.I. να αναγνωρίσει την πρόθεση. Το Facebook επισήμανε ακόμη και μια φωτογραφία του το άγαλμα του Ποσειδώνα ως σεξουαλικά ρητά. Επιπλέον, οι αλγόριθμοι ενδέχεται να επισημαίνουν ακούσια τη φωτορεπορτάζ λόγω συμβόλων μίσους ή βίας που μπορεί να εμφανίζονται στις εικόνες.
Οι ιστορικές εικόνες που κοινοποιήθηκαν για εκπαιδευτικούς σκοπούς είναι ένα άλλο παράδειγμα — το 2016, το Facebook προκάλεσε διαμάχη μετά από αυτό αφαίρεσε την ιστορική φωτογραφία «κορίτσι ναπάλμ». πολλές φορές προτού η πίεση των χρηστών ανάγκασε την εταιρεία να αλλάξει τη σκληρή στάση της για το γυμνό και να επαναφέρει τη φωτογραφία.
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. τείνει να χρησιμεύει ως αρχική εξέταση, αλλά συχνά εξακολουθούν να χρειάζονται ανθρώπινοι συντονιστές για να προσδιοριστεί εάν το περιεχόμενο παραβιάζει πραγματικά τα πρότυπα της κοινότητας. Παρά τις βελτιώσεις στο A.I., αυτό δεν είναι γεγονός που αλλάζει. Το Facebook, για παράδειγμα, αυξάνει το μέγεθος της ομάδας αναθεώρησής του σε 20.000 φέτος, διπλάσιο από πέρυσι.
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. βοηθά τους ανθρώπους να εργαστούν πιο γρήγορα
Μπορεί ακόμα να απαιτείται ανθρώπινος εγκέφαλος, αλλά η A.I. έχει κάνει τη διαδικασία πιο αποτελεσματική. ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. μπορεί να σας βοηθήσει να προσδιορίσετε ποιες αναρτήσεις απαιτούν μη αυτόματο έλεγχο, καθώς και να βοηθήσουν στην ιεράρχηση αυτών των αναρτήσεων. Το 2017, το Facebook μοιράστηκε αυτό ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. σχεδιασμένο να εντοπίζει τάσεις αυτοκτονίας είχε ως αποτέλεσμα 100 κλήσεις σε άτομα έκτακτης ανάγκης σε ένα μήνα. Εκείνη την εποχή,
Getty Images/Blackzheep
"[ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. έχει διανύσει πολύ δρόμο και σίγουρα σημειώνει πρόοδο, αλλά η πραγματικότητα είναι ότι εξακολουθείτε να χρειάζεστε πολύ ένα ανθρώπινο στοιχείο που να επαληθεύει ότι τροποποιείτε τις σωστές λέξεις, το σωστό περιεχόμενο και το σωστό μήνυμα», δήλωσε ο Chris Mele, διευθύνων σύμβουλος της Stink Στούντιο. «Εκεί που νιώθει A.I. λειτουργεί καλύτερα είναι να διευκολύνει τους ανθρώπινους συντονιστές και να τους βοηθήσει να εργαστούν πιο γρήγορα και σε μεγαλύτερη κλίμακα. Δεν νομίζω ότι η A.I. είναι σχεδόν 100% αυτοματοποιημένο σε οποιαδήποτε πλατφόρμα."
ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. είναι γρήγορο, αλλά η ηθική είναι αργή
Η τεχνολογία, γενικά, τείνει να αναπτύσσεται με ρυθμό ταχύτερο από ό, τι μπορούν να συμβαδίσουν οι νόμοι και η ηθική — και η μετριοπάθεια στα μέσα κοινωνικής δικτύωσης δεν αποτελεί εξαίρεση. Ο Binch προτείνει ότι αυτός ο παράγοντας θα μπορούσε να σημαίνει αυξημένη ζήτηση για υπαλλήλους με υπόβαθρο στις ανθρωπιστικές ή ηθικές επιστήμες, κάτι που δεν έχουν οι περισσότεροι προγραμματιστές.
Όπως το έθεσε, «Βρισκόμαστε τώρα σε ένα μέρος όπου ο ρυθμός, η ταχύτητα, είναι τόσο γρήγορος, που πρέπει να βεβαιωθούμε ότι το ηθικό στοιχείο δεν τραβάει πολύ πίσω».
Συστάσεις των συντακτών
- Όταν τα πνευματικά δικαιώματα δυσκολεύουν την εύρεση των soundtrack βίντεο, αυτό το A.I. ο μουσικός μπορεί να βοηθήσει
- Από 8K σε A.I., αυτό μπορεί να έρθει στις κάμερες το 2019
- Οι υπολογιστές σύντομα θα μας ξεπεράσουν. Αυτό κάνει ένα A.I. αναπόφευκτη εξέγερση;
