Fiziksel Dünyadaki Sinir Ağlarını Kandırmak
MakalelerindeMIT araştırmacılarından oluşan ekip, bir nesnenin dokusunu, görüntü sınıflandırma algoritmalarını yanıltabilecek kadar değiştiren bir algoritma tanımlıyor. Ekibin "karşıt örnekler" olarak adlandırdığı kanıtın, görüntü tanıma sistemleri için kafa karıştırıcı olduğu ortaya çıktı. Nesnelerin görüntülendiği açı ne olursa olsun; örneğin 3D baskılı kaplumbağa gibi. bir tüfek. Bu, yapay zeka kullanan güvenlik sistemleri için kötü haber. Potansiyel güvenlik tehditlerini tespit etmek için.
1 ile ilgili 5
"Aslında bu sadece doğru sınıflandırmadan kaçınmaları değil, aynı zamanda seçilmiş bir düşman olarak da sınıflandırılmaları." Araştırmacı Anish Athalye, Digital'e şöyle dedi: "Eğer isteseydik onları başka herhangi bir şeye dönüştürebilirdik." Trendler. “Tüfek ve espresso sınıfları rastgele ve eşit bir şekilde seçildi. Karşıt örnekler, araştırma makalemizde sunulan Dönüşüm Üzerinden Beklenti (EOT) adlı bir algoritma kullanılarak üretildi. Algoritma, kaplumbağa gibi herhangi bir dokulu 3 boyutlu modeli alır ve modeli ustalıkla değiştirmenin bir yolunu bulur. Belirli bir sinir ağını, kaplumbağanın seçilen herhangi bir hedef olduğunu düşünerek karıştıracak şekilde doku sınıf."
İlgili
- MIT'nin minik yürüyen robotu sonunda daha büyük robotlar yapabilir
- Bilim insanları insan hücrelerini kullanarak gerçek bir kalbi 3 boyutlu olarak yazdırmayı başardı
3D baskılı bir kaplumbağanın tüfek olarak tanınması komik olsa da, araştırmacılar sonuçların oldukça korkutucu olduğuna dikkat çekiyor. Örneğin, silahları veya bombaları işaretlemek için yapay zekayı kullanan, ancak bunların domates veya bir fincan kahve olduğunu, hatta tamamen görünmez olduğunu düşünerek kandırılabilen bir güvenlik sistemi düşünün. Aynı zamanda sürücüsüz araçların yüksek hızda çevrelerindeki dünyayı ayırt etmek için kullanacağı görüntü tanıma sistemlerindeki zayıflığın da altını çiziyor.
Önerilen Videolar
"Çalışmamız, karşıt örneklerin birçok insanın önceden düşündüğünden daha büyük bir sorun olduğunu gösteriyor ve karşıt örneklerin nöral ağlar fiziksel dünyada gerçek bir endişe kaynağı," diye devam etti Athalye. "Bu sorun sadece entelektüel bir merak değil: Derin öğrenmeyi kullanan pratik sistemlerin saldırılardan korunabilmesi için çözülmesi gereken bir sorun."
Editörlerin Önerileri
- Ford, aracınızın tekerleklerini hırsızlığa karşı dayanıklı hale getirmek için sesinizi kullanabilir
- Biyobaskıda atılım, yedek organların 3 boyutlu basılmasına olanak sağlayabilir
- Sonunda 'takibi mümkün olmayan' 3D baskılı silahların izini sürmenin bir yolu var
Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön incelemelerle okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.
