Οι ερευνητές στο UC Berkeley και στο Πανεπιστήμιο Georgetown το γνωρίζουν πολύ καλά, γι' αυτό και πέρυσι αποφάσισαν να διερευνήσει ακριβώς πόσο ευάλωτο το λογισμικό αναγνώρισης φωνής που τροφοδοτεί τόσες πολλές από τις υπολογιστικές μας συσκευές είναι πραγματικά. Επικεντρώθηκαν σε Βοηθός Google, το οποίο ζει σε όλο το σύστημα Android και εντός της εφαρμογής Google στο iOS, και ανέπτυξε έναν τρόπο να αλλοιώνει τις φωνητικές εντολές αρκετά, ώστε ο Βοηθός Google να τις κατανοεί, αλλά ήταν ακατανόητες για τους περισσότερους ανθρώπους.
Προτεινόμενα βίντεο
Οι ερευνητές δοκίμασαν την αναγνώριση πολλών συγκεχυμένων εντολών, όπως το "OK Google", και μέτρησαν την ικανότητα του λογισμικού να αποκρυπτογραφεί το μήνυμα σε σύγκριση με αυτή των ανθρώπων. Αυτό που βρήκαν, ιδιαίτερα στην περίπτωση του "OK Google", ήταν ότι το πάνελ των συμμετεχόντων ήταν μόνο σε θέση για να αναγνωρίσει την ανακατεμένη φράση το 22 τοις εκατό των περιπτώσεων, αλλά ο Βοηθός την κατανοούσε στο 95 τοις εκατό χρόνος. Επιπλέον, το λογισμικό ήταν καλύτερο στην αποκωδικοποίηση της συγκεχυμένης έκδοσης από την κανονική προφορά του "OK Google", η οποία απέδωσε ποσοστό αναγνώρισης μόνο 90%.
Σχετίζεται με
- Οι ειδικοί προειδοποιούν ότι οι βοηθοί τεχνητής νοημοσύνης βλάπτουν την κοινωνική ανάπτυξη των παιδιών
- Το Amazon Echo εξακολουθεί να είναι ο βασιλιάς μεταξύ των έξυπνων ηχείων παρά τη μείωση του μεριδίου αγοράς των ΗΠΑ
- Το ηχείο Alexa σας μπορεί να χακαριστεί με κακόβουλα κομμάτια ήχου. Και λέιζερ.
Επίδειξη VoiceHack
Με την πρώτη ματιά, πολλές από αυτές τις παραμορφωμένες εντολές μπορεί απλώς να φανούν στατικές με τον αόριστο ρυθμό της ομιλίας, αλλά μόνο να επιταχυνθούν. Ως άνθρωποι, όταν γνωρίζουμε ποια είναι η φράση πριν την ακούσουμε, γίνεται απείρως ευκολότερο να την αναγνωρίσουμε. Αλλά χωρίς αυτές τις πληροφορίες, σε πολλές περιπτώσεις, μένουμε μπερδεμένοι.
Η μελέτη σημειώνει ότι μερικές από τις μπερδεμένες εντολές είναι πιο εύκολο για εμάς να καταλάβουμε από άλλες. Η "Κλήση 911", για παράδειγμα, απέδωσε ποσοστό ανθρώπινης αναγνώρισης 94 τοις εκατό, σε σύγκριση με μόνο 40 τοις εκατό από την Google Βοηθός, πιθανώς επειδή είναι μια φράση για την οποία έχει προϋποτεθεί η μεγάλη πλειοψηφία των Αμερικανών αγγλόφωνων ακούω. Όμως, ο σωστός συνδυασμός μιας εντολής εξειδικευμένης θέσης άλλαξε αρκετά, ώστε οι προσωπικοί μας βοηθοί να είναι δεκτικοί σε αυτόν ενώ είμαστε Το αριστερό ξύσιμο του κεφαλιού μας ενέχει έναν προφανή κίνδυνο, δεδομένου ότι τα φωνητικά χειριστήρια στις περισσότερες καταναλωτικές συσκευές δεν έχουν καμία μορφή αυθεντικοποίηση.
Τι μπορούμε να κάνουμε για να προστατευτούμε από το φωνητικό hacking;
Ένα από τα λίγα προληπτικά μέτρα έναντι αυτού του είδους φωνητικής στόχευσης χειραγώγησης είναι ότι πολλές εντολές προτρέπουν τους βοηθούς να ζητήσουν επιβεβαίωση στη συνέχεια. Ωστόσο, όπως επισημαίνει το The Atlantic στο το κομμάτι τους για τη μελέτη, αυτό είναι απλώς ένα μικρό εμπόδιο για να το ξεκαθαρίσετε με ένα παραμορφωμένο "ναι" και εάν όλα συμβαίνουν πολύ γρήγορα ώστε ο χρήστης να καταλάβει τι συμβαίνει, δεν θα μπορέσει να το σταματήσει εγκαίρως.
Μερικές από τις μπερδεμένες εντολές είναι πιο εύκολο να τις καταλάβουμε από άλλες.
Η ομάδα ακολούθησε την ανακάλυψή της προτείνοντας τρόπους όπως το Google Assistant, το Siri της Apple και το Amazon Alexa θα μπορούσε να αποτρέψει αυτές τις επιθέσεις και αποδεικνύεται ότι υπάρχουν διάφορες μέθοδοι που οι εταιρείες ενδέχεται να τείνουν να εφαρμόσουν. Ορισμένες άμυνες, όπως ένα CAPTCHA ήχου, θα μπορούσαν να χρησιμοποιηθούν ως τελική επιβεβαίωση για τη διάκριση των ανθρώπινων χρηστών από τις μηχανές — αν και οι ερευνητές επισημαίνουν επισημαίνει ότι οι αλγόριθμοι που τροφοδοτούν τα CAPTCHA ήχου είναι σχετικά ξεπερασμένοι και δεν έχουν συμβαδίσει με τις εξελίξεις στην τεχνολογία αναγνώρισης ομιλίας. Για να μην αναφέρουμε, τα CAPTCHA είναι εξοργιστικά στην αντιμετώπιση.
Μια πιο περίπλοκη λύση είναι η προσαρμογή της αναγνώρισης στη φωνή του ιδιοκτήτη, την οποία πολλές υπηρεσίες χρησιμοποιούν ήδη σε περιορισμένη δυναμικότητα. Ωστόσο, η έκθεση παραδέχεται ότι η πρόταση απαιτεί εκπαίδευση από την πλευρά της συσκευής και δημιουργεί πρόβλημα για gadget που προορίζονται να χρησιμοποιηθούν από πολλά άτομα, όπως το Amazon Echo. Η ομάδα έχει καθορίσει ότι μία από τις πιο πρακτικές και αποτελεσματικές άμυνες θα ήταν ένα φίλτρο που υποβαθμίζει ελαφρώς τον ήχο ποιότητα των εντολών, καθιστώντας τις περισσότερες συγκεχυμένες φράσεις μη αναγνωρίσιμες στη συσκευή, ενώ επιτρέπει σε ανθρώπινες να περάσουν διά μέσου.
Αν και οι αναφορές για επιθέσεις που βασίζονται στη φωνή αυτού του είδους είναι ασυνήθιστες, αν όχι ανύπαρκτες, είναι πάντα χρήσιμες να γνωρίζουν τις περιοχές όπου υπάρχουν ευπάθειες, ώστε να μπορούν να περιοριστούν πριν αρχίσουν πραγματικά να εμφανίζονται προβλήματα πάνω. Χάρη στην έρευνα που έγινε εδώ, θα είμαστε λίγο πιο προετοιμασμένοι σε περίπτωση που ένα κύμα σατανιστικών ψίθυρων αρχίσει να λέει στα smartphone μας τι να κάνουν.
Συστάσεις των συντακτών
- Ξεχάστε το ChatGPT — Το Siri και ο Βοηθός Google κάνουν αυτά τα 4 πράγματα καλύτερα
- Η Siri και ο Βοηθός Google λένε ότι υποστηρίζουν πλέον το Black Lives Matter
- Η Alexa μπορεί τώρα να δείξει περισσότερα συναισθήματα όταν η αθλητική σας ομάδα χάνει
- Νέα έρευνα διαπιστώνει ότι τα έξυπνα ηχεία μπορούν να τεθούν σε κίνδυνο από τα λέιζερ
- Η νέα ενημέρωση απορρήτου της Google σάς επιτρέπει να διαγράψετε το ιστορικό φωνητικών εντολών του Βοηθού
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
