UC Berkeley ve Georgetown Üniversitesi'ndeki araştırmacılar bunun son derece farkındadır ve bu nedenle geçen yıl bu konuyu araştırmaya karar verdiler. tam olarak ne kadar savunmasız olduğunu araştırın Bilgisayar cihazlarımızın çoğuna güç veren ses tanıma yazılımı gerçekten de öyle. Odaklandılar Google Asistansistem genelinde yaşayan Android ve iOS'taki Google uygulamasında, sesli komutları Google Asistan'ın anlayabilmesine yetecek kadar bozmanın bir yolunu geliştirdi, ancak bunlar çoğu insan için anlaşılmazdı.
Önerilen Videolar
Araştırmacılar, "OK Google" gibi karmaşık birkaç komutun tanınmasını test etti ve yazılımın mesajı çözme yeteneğini insanlarla karşılaştırıldığında ölçtü. Özellikle "OK Google" örneğinde buldukları şey, katılımcı panelinin yalnızca karışık ifadeyi yüzde 22 oranında tespit edebildi, ancak Asistan bunu yüzde 95 oranında anladı zaman. Dahası, yazılım, karmaşıklaştırılmış versiyonun kodunu çözmede, yalnızca yüzde 90'lık bir tanıma oranı sağlayan "OK Google"ın normal telaffuzundan daha iyiydi.
İlgili
- Uzmanlar, yapay zeka asistanlarının çocukların sosyal gelişimine zarar verdiği konusunda uyarıyor
- Amazon Echo, ABD pazar payının azalmasına rağmen hala akıllı hoparlörler arasında kral
- Alexa hoparlörünüz kötü amaçlı ses parçalarıyla saldırıya uğrayabilir. Ve lazerler.
Demo VoiceHack
İlk bakışta, bu çarpık komutların çoğu, konuşmanın belirsiz ritmiyle birlikte statik, yalnızca hızlanmış gibi görünebilir. İnsanlar olarak, ifadenin ne olduğunu duymadan önce bildiğimizde, onu tanımlamak çok daha kolay hale gelir. Ancak çoğu durumda bu bilgi olmadan şaşkına döneriz.
Çalışma, bazı karışık komutların anlaşılmasının diğerlerinden daha kolay olduğunu belirtiyor. Örneğin "911'i arayın", Google'ın yalnızca yüzde 40'ına kıyasla yüzde 94'lük bir insan tanıma oranı sağladı. Asistan, muhtemelen Amerikan İngilizcesi konuşanların büyük çoğunluğunun önceden şartlandırıldığı bir ifade olduğundan duymak. Ancak, bir niş komutun doğru kombinasyonu, biz çalışırken kişisel asistanlarımızın buna açık olmasını sağlayacak kadar değiştirildi. Tüketici cihazlarının çoğunda ses kontrollerinin herhangi bir şekilde bulunmadığı göz önüne alındığında, kafamızı kaşımaktan vazgeçmek bariz bir risk teşkil ediyor kimlik doğrulama.
Ses korsanlığından korunmak için ne yapabiliriz?
Bu tür ses hedefli manipülasyona karşı birkaç önleyici tedbirden biri, birçok komutun asistanlardan daha sonra onay istemesini istemesidir. Ancak The Atlantic'in belirttiği gibi çalışmayla ilgili makaleleri, bu sadece çarpık bir "evet" ile aşılması gereken küçük bir engeldir ve her şey kullanıcının neler olduğunu anlayamayacağı kadar hızlı gerçekleşirse, bunu zamanında durduramayacaktır.
Karmaşık komutlardan bazılarını anlamak bizim için diğerlerinden daha kolaydır.
Ekip, keşfini Google Asistan, Apple'ın Siri'si ve Amazon'unki gibi hizmetlerin yollarını önererek sürdürdü. Alexa Bu saldırıların önüne geçebilir ve şirketlerin uygulama eğiliminde olabileceği çeşitli yöntemlerin olduğu ortaya çıktı. Araştırmacılar, insan kullanıcıları makinelerden ayırmak için ses CAPTCHA'sı gibi bazı savunmaların son bir onay olarak sunulabileceğini belirtiyor. Ses CAPTCHA'larına güç veren algoritmaların nispeten eski olduğu ve konuşma tanıma teknolojisindeki gelişmelere ayak uyduramadığı ortaya çıktı. CAPTCHA'larla uğraşmanın sinir bozucu olduğundan bahsetmiyorum bile.
Daha karmaşık bir çözüm ise, birçok hizmetin hâlihazırda sınırlı bir kapasiteyle kullandığı, tanımayı sahibinin sesine göre uyarlamaktır. Ancak rapor, teklifin cihaz açısından eğitim gerektirdiğini ve Amazon Echo gibi birden fazla kişi tarafından kullanılması amaçlanan cihazlar için sorun teşkil ettiğini kabul ediyor. Ekip, en pratik ve etkili savunmalardan birinin, sesi biraz bozan bir filtre olacağını belirledi. Komutların kalitesi, karmaşık ifadelerin çoğunu cihaz tarafından tanınamaz hale getirirken insanların geçmesine izin verir başından sonuna kadar.
Bu tür ses tabanlı saldırılara ilişkin raporlar, hiç olmasa da nadir olmakla birlikte, her zaman faydalıdır Güvenlik açıklarının bulunduğu alanların farkında olmak ve böylece sorunlar gerçekten ortaya çıkmaya başlamadan önce bunların engellenmesini sağlamak yukarı. Burada yapılan araştırma sayesinde akıllı telefonlarımıza ne yapmamız gerektiğini söyleyen şeytani fısıltılar dalgasına karşı biraz daha hazırlıklı olacağız.
Editörlerin Önerileri
- ChatGPT'yi unutun — Siri ve Google Asistan bu 4 şeyi daha iyi yapıyor
- Siri ve Google Asistan artık Black Lives Matter'ı desteklediklerini söylüyor
- Alexa artık spor takımınız kaybettiğinde daha fazla duygu gösterebiliyor
- Yeni araştırmalar, akıllı hoparlörlerin lazerler tarafından tehlikeye atılabileceğini ortaya koyuyor
- Google'ın yeni gizlilik güncellemesi, Asistan'ın sesli komut geçmişini silmenize olanak tanıyor
Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön bakışlarla okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.
