Ξεγελώντας τα νευρωνικά δίκτυα στον φυσικό κόσμο
Στο χαρτί τους, η ομάδα των ερευνητών του MIT περιγράφει έναν αλγόριθμο που αλλάζει την υφή ενός αντικειμένου τόσο ώστε να μπορεί να ξεγελάσει τους αλγόριθμους ταξινόμησης εικόνων. Η απόδειξη αυτού που η ομάδα αποκαλεί «αντίπαλα παραδείγματα» αποδεικνύεται ότι προκαλεί σύγχυση στα συστήματα αναγνώρισης εικόνων, ανεξάρτητα από τη γωνία από την οποία βλέπονται τα αντικείμενα — όπως η τρισδιάστατη εκτυπωμένη χελώνα που αναγνωρίζεται σταθερά ως ένα τουφέκι. Αυτά είναι κακά νέα για συστήματα ασφαλείας που χρησιμοποιούν A.I. για τον εντοπισμό πιθανών απειλών για την ασφάλεια.
1 του 5
«Στην πραγματικότητα δεν είναι μόνο ότι αποφεύγουν τη σωστή κατηγοριοποίηση - ταξινομούνται ως επιλεγμένοι αντίπαλοι τάξη, έτσι θα μπορούσαμε να τα είχαμε μετατρέψει σε οτιδήποτε άλλο, αν το θέλαμε», είπε η ερευνήτρια Anish Athalye στο Digital Τάσεις. «Τα μαθήματα τουφέκι και εσπρέσο επιλέχθηκαν ομοιόμορφα τυχαία. Τα αντίθετα παραδείγματα παράγονται χρησιμοποιώντας έναν αλγόριθμο που ονομάζεται Expectation Over Transformation (EOT), ο οποίος παρουσιάζεται στην ερευνητική μας εργασία. Ο αλγόριθμος δέχεται οποιοδήποτε τρισδιάστατο μοντέλο με υφή, όπως μια χελώνα, και βρίσκει έναν τρόπο να αλλάξει διακριτικά το υφή τέτοια που μπερδεύει ένα δεδομένο νευρωνικό δίκτυο πιστεύοντας ότι η χελώνα είναι οποιοσδήποτε επιλεγμένος στόχος τάξη."
Σχετίζεται με
- Το μικροσκοπικό ρομπότ περπατήματος του MIT θα μπορούσε τελικά να κατασκευάσει άλλα, μεγαλύτερα ρομπότ
- Οι επιστήμονες καταφέρνουν να εκτυπώσουν τρισδιάστατα μια πραγματική καρδιά χρησιμοποιώντας ανθρώπινα κύτταρα
Αν και μπορεί να είναι αστείο να αναγνωρίζεται μια τρισδιάστατη χελώνα ως τουφέκι, ωστόσο, οι ερευνητές επισημαίνουν ότι οι συνέπειες είναι αρκετά τρομακτικές. Φανταστείτε, για παράδειγμα, ένα σύστημα ασφαλείας που χρησιμοποιεί τεχνητή νοημοσύνη για να επισημαίνει όπλα ή βόμβες, αλλά μπορεί να εξαπατηθεί ώστε να νομίζει ότι είναι ντομάτες, ή φλιτζάνια καφέ, ή ακόμα και εντελώς αόρατα. Υπογραμμίζει επίσης την αδυναμία στο είδος των συστημάτων αναγνώρισης εικόνας στα οποία θα βασίζονται τα αυτόνομα αυτοκίνητα, με υψηλή ταχύτητα, για να διακρίνουν τον κόσμο γύρω τους.
Προτεινόμενα βίντεο
«Η εργασία μας δείχνει ότι τα αντίθετα παραδείγματα είναι μεγαλύτερο πρόβλημα από ό, τι πολλοί άνθρωποι πίστευαν προηγουμένως, και δείχνει ότι τα αντίθετα παραδείγματα για νευρωνικά δίκτυα είναι μια πραγματική ανησυχία στον φυσικό κόσμο», συνέχισε η Athalye. «Αυτό το πρόβλημα δεν είναι απλώς μια πνευματική περιέργεια: είναι ένα πρόβλημα που πρέπει να λυθεί προκειμένου τα πρακτικά συστήματα που χρησιμοποιούν βαθιά μάθηση να είναι ασφαλή από επίθεση».
Συστάσεις των συντακτών
- Η Ford μπορεί να χρησιμοποιήσει τη φωνή σας για να κάνει τους τροχούς του αυτοκινήτου σας αντικλεπτικούς
- Η σημαντική ανακάλυψη στη βιοεκτύπωση θα μπορούσε να επιτρέψει την τρισδιάστατη εκτύπωση οργάνων αντικατάστασης
- Υπάρχει επιτέλους ένας τρόπος για να εντοπίσουμε «μη ανιχνεύσιμα» όπλα με 3D εκτύπωση
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
