Menipu Jaringan Syaraf Tiruan di Dunia Fisik
Di makalah mereka, tim peneliti MIT mendeskripsikan suatu algoritma yang mengubah tekstur suatu objek secukupnya sehingga dapat menipu algoritma klasifikasi gambar. Bukti dari apa yang disebut tim sebagai “contoh yang merugikan” ternyata membingungkan sistem pengenalan gambar. terlepas dari sudut pandang objek tersebut — seperti kura-kura cetakan 3D yang selalu diidentifikasikan sebagai senapan. Ini adalah berita buruk bagi sistem keamanan yang menggunakan AI. untuk melihat potensi ancaman keamanan.
1 dari 5
“Sebenarnya bukan hanya mereka menghindari kategorisasi yang benar – mereka juga diklasifikasikan sebagai musuh terpilih. kelas, jadi kami bisa mengubahnya menjadi hal lain jika kami mau,” kata peneliti Anish Athalye kepada Digital Tren. “Kelas senapan dan espresso dipilih secara acak dan seragam. Contoh permusuhan dihasilkan menggunakan algoritma yang disebut Expectation Over Transformation (EOT), yang disajikan dalam makalah penelitian kami. Algoritme ini mengambil model 3D bertekstur apa pun, seperti kura-kura, dan menemukan cara untuk mengubahnya secara halus tekstur sedemikian rupa sehingga membingungkan jaringan saraf tertentu sehingga menganggap penyu adalah target yang dipilih kelas."
Terkait
- Robot berjalan kecil milik MIT pada akhirnya dapat membuat robot lain yang lebih besar
- Para ilmuwan berhasil mencetak jantung asli secara 3D menggunakan sel manusia
Meskipun mungkin lucu jika kura-kura hasil cetakan 3D dikenali sebagai senapan, namun para peneliti menunjukkan bahwa implikasinya sangat menakutkan. Bayangkan, misalnya, sebuah sistem keamanan yang menggunakan AI untuk menandai senjata atau bom, namun dapat ditipu dengan berpikir bahwa itu adalah tomat, atau cangkir kopi, atau bahkan sama sekali tidak terlihat. Hal ini juga menggarisbawahi kelemahan sistem pengenalan gambar yang diandalkan oleh mobil self-driving, pada kecepatan tinggi, untuk membedakan dunia di sekitar mereka.
Video yang Direkomendasikan
“Pekerjaan kami menunjukkan bahwa contoh-contoh permusuhan adalah masalah yang lebih besar daripada yang dipikirkan banyak orang sebelumnya, dan ini menunjukkan bahwa contoh-contoh permusuhan bagi jaringan saraf adalah kekhawatiran nyata di dunia fisik,” lanjut Athalye. “Masalah ini bukan sekedar keingintahuan intelektual: Ini adalah masalah yang perlu dipecahkan agar sistem praktis yang menggunakan pembelajaran mendalam aman dari serangan.”
Rekomendasi Editor
- Ford dapat menggunakan suara Anda untuk membuat roda mobil Anda anti pencurian
- Terobosan dalam bioprinting dapat memungkinkan pencetakan organ pengganti secara 3D
- Akhirnya ada cara untuk melacak senjata cetak 3D yang 'tidak dapat dilacak'
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.
