Uzmanlar Yüz Tanıma Sisteminin Yakında Her Yerde Olabileceği Uyardı

Bu ayın başlarında her ikisi de Amazon Ve IBM'in Tartışmalı yüz tanıma teknolojisinden geri adım attı.

Amazon, artık polisin Rekognition yüz tanıma teknolojisini kullanmasına izin vermeyeceğini duyurdu ve IBM, teknolojiyi daha fazla geliştirmekten vazgeçeceğine söz verdi.

Bu hamleler, araçların yanlışlıklar nedeniyle eleştirilmesi ve kitlesel gözetim tekniği olarak potansiyel olarak kötüye kullanılması nedeniyle geldi. akıllı Şehirler.

Amazon duyurusunda, kararının doğrudan aktivistlerin polisin yüz tanımayı kullanmasını yasaklama çabasından ilham aldığını yazdı. İçinde IBM'in beyanı, şirket şöyle yazdı: "Yüz tanıma teknolojisi de dahil olmak üzere herhangi bir teknolojinin kitlesel gözetleme amacıyla kullanılmasına kesinlikle karşı çıkıyoruz ve buna göz yummayacağız." ırksal profil oluşturma, temel insan hakları ve özgürlüklerin ihlalleri veya değerlerimizle ve Güven İlkelerimiz ile tutarlı olmayan herhangi bir amaç ve Şeffaflık.

Ancak bazı siber güvenlik uzmanları satılmıyor ve bu kararlar muhtemelen gelecekte yüz tanıma teknolojisi akışını yavaşlatmaya pek yardımcı olmayacak.

"Bu, kitlesel gözetime dahil olup olmadıkları gibi bir sürü soruyu gündeme getiriyor. Daha önce yazılım mı?” diye sordu siber güvenlik şirketinin baş teknik sorumlusu David Harding ImageWare. “Bundan önce neden güven ve şeffaflık ilkelerini ihlal etmediniz? Çok tuhaf görünüyor. Burada açıklanacak çok şey var."

3 boyutlu yüz tarama teknolojisi firması SensibleVision'ın CEO'su George Brostoff, Digital Trends'e, kararların arkasında bir ön nedenin olabileceğine inandığını söyledi.

"Birçok şeyde olduğu gibi, IBM'in duyurusu muhtemelen göründüğünden daha karmaşık" dedi ve IBM'in ilk etapta yüz tanıma konusunda pek bir payının olma ihtimalinin düşük olduğunu öne sürdü.

IBM, böyle bir hareketin kârlılığını ne kadar etkileyeceği veya yüz tanıma araştırma ve geliştirmesine ne kadar yatırım yaptıklarına ilişkin yorum talebine yanıt vermedi.

Hem Brostoff hem de Harding, IBM'in yüz gözetimi dünyasında mutlaka tanınmış bir hükümet yüklenicisi olmadığını belirtti.

“Hükümet ölçeğinde [yüz tanıma teknolojisi] yapan şirketlerin çoğu kimsenin adını duymadığı şirketler" dedi siber güvenlik firmasının kıdemli başkan yardımcısı Ben Goodman ForgeRock. “Bu şirketlerin itibar riski konusunda endişelenmelerine gerek yok. Amazon ve IBM büyük isimler, daha fazla risk altındalar.”

Goodman, Amazon gibi bir şirketin şu anda yüz tanıma teknolojisi geliştirme konusunda ne tür bir getiri elde ettiğini sorguladı.

“İnsanların mahremiyetini engellemenin değip değmeyeceğini gerçekten düşünmeleri gerekiyor. Bunun karşılığını yeterince alıyorsunuz” dedi. “Clearview A.I.'ye bakın. [Sosyal medyayı kazıdığı ve sattığı ortaya çıkan FRT şirketi yazılımdan kolluk kuvvetlerine] ne yaptıkları hakkında küstahça konuşanlar ve onlar yerlebir edilmiş. Eminim bunu yapan tek kişi onlar değildir ama bu halkın ruh halinin ne olduğunu gösteriyor."

Ve yüz gözetimi rezil edilirken onun meşhur yanlışlığı, söylenti olarak kullanıldığı söyleniyor protestolar sırasında polis aracıve gizlilik haklarının potansiyel ihlalleri, ikincisinin çok yakında günlük yaşamın bir parçası olarak ortaya çıkmaya başlaması muhtemeldir.

Herkese açık ve özel yüz tanıma teknolojisi

"Hükümet hiçbir zaman [yüz tanıma teknolojisine] erişememeli ve bu uyumlu değil Electronic Frontier'da kadrolu avukat olan Saira Hussain, "Demokratik bir toplumla" dedi. Temel. “Birinci ve Dördüncü Değişiklik haklarımızı ihlal ediyor.”

Ancak teknolojinin kullanımı kolaylaştıkça yüz tanıma teknolojisinin özel alanda da yaygınlaşması kaçınılmaz olabilir. Brostoff, iki yıl içinde FaceID veya eşdeğerini kullanmanın bir mağazada check-in yapmak veya havaalanında check-in yapmak gibi günlük işler için standart bir uygulama haline geleceğini öngördü.

Özel alan söz konusu olduğunda Hussain, Digital Trends'e şirketlerin bu teknolojiyi etik sonuçları dikkate almadan geliştirmesinden korktuğunu söyledi. Örneğin otel endüstrisi yüz tanıma teknolojisini benimsemeye başlarsa, bunu her yerde yaygın hale getirmek yerine insanların bunu tercih edebilmesinin bir yolu olması gerektiğini söyledi.

"Otellerin her zaman sisteme dahil olmak istemeyen birinin check-in yapmasının bir yolu olmalı" dedi.

ExpressVPN'in başkan yardımcısı Harold Li, Digital Trends'e bu uygulamanın ilk kez çalışanlara yönelik iş uygulamaları olarak sunulacağını öngördüğünü söyledi. "İster kayıt yaptırmak ister yüklenicilerin kimliklerini doğrulamasını sağlamak için olsun, bu teknolojiyi reddetmeye daha az eğilimli veya daha az yetenekli olanlar" diye yazdı bir yazısında. e-posta.

Bunu, bazı ülkelerde zaten mevcut olan tüketiciye yönelik uygulamalar izleyecektir.

"Bunu, süpermarketlerin ve metro istasyonlarının insanların yüzlerini tarayarak ödeme yapmalarına olanak tanıdığı Çin gibi dünyanın daha az gizlilik bilincine sahip bölgelerinde zaten görüyoruz" diye yazdı. “Singapur'da otele yüz yüze giriş için bazı denemeler de başladı. Bu henüz ABD'ye ulaşmış gibi görünmese de, Amazon Go gibi gözetim ağırlıklı mağazalar kolaylık sağlamak için mahremiyetin takasını normalleştirmeye başlayabilir."

Goodman, "Bu, durdurulamaz bir kuvvetin hareket ettirilemez bir nesneyle buluşması gibi bir şey" dedi. “Açıkçası casusluk faktörü, sürünme faktörü ve gizlilik faktörü var ama aynı zamanda kolaylık faktörü de var. Bu, havaalanında temassız kalabileceğim anlamına geliyor. Bu, telefonumu on kişinin dokunduğu bir yüzeye koymadan uçağa binebileceğim anlamına geliyor.”

Etik bir sistem

Uzmanlar haklıysa ve yüz tanıma teknolojisinin yayılması kaçınılmazsa, herkesin mahremiyetini bozmadan oraya varacağımızdan nasıl emin olabiliriz?

Medya sorumlusu Gabrielle Hermier, "Algılanan faydalar uğruna mahremiyetten vazgeçme eğiliminde olduğumuzu unutmamalıyız" dedi. Surfshark. "Kullanıcıların mahremiyeti, rızası ve FRT cinsiyeti ve ırk önyargısı tartışmanın merkezinde yer alıyor ve öncelikle ele alınması gerekiyor. Amazon veya Microsoft gibi FRT satıcıları ve kolluk kuvvetleri ve havalimanları da dahil olmak üzere kullanıcıları, FRT'nin önyargılı olmamasını sağlama sorumluluğunu paylaşmalıdır."

Önyargı sorunu pratikte FRT sorunuyla bağlantılıdır. Birleşik Krallık merkezli ProPrivacy'den Tom Chivers'ın belirttiği gibi, "Kötüye kullanım potansiyeli çok yüksek. Yüz tanımayla ilgili çalışmalar, yüz eşleştirmede %81'lik bir başarısızlık oranı gösterdi" diye yazdı DT'ye yazdığı bir mesajda, Birleşik Krallık'taki araştırmacıların Metropolitan Polisinin yüz tanıma sistemini test ettiklerinde bulduklarına atıfta bulunuyor teknoloji.

Bu çalışma, teknolojinin masum insanları astronomik derecede yüksek bir oranda hatalı bir şekilde tanımladığını ortaya çıkardı. SkyNews'e göre.

Li, rıza ve şeffaflığın önemli olduğunu kabul etti. “Böyle bir teknolojiyi zorunlu kılmayın. Kullanıcıların vazgeçmek yerine kaydolmasına izin verin" diye yazdı ve Hussain'in endişelerini yineledi. Ayrıca yakın zamanda yapılan bir ExpressVPN anketinde ABD'li yetişkinlerin %68'inin yüz tanıma teknolojisinin giderek yaygınlaşmasından endişe duyduklarını söylediğini söyledi. Yalnızca buna dayanarak, geri itme ve hukuki sorunlar da neredeyse kesinlikle kaçınılmazdır.

Goodman, "Hukuksal açıdan kesinlikle o noktada değiliz" dedi. “Ne yazık ki yasal çerçevelerimiz insanların bu konudaki duygularının gecikmeli bir göstergesi gibi görünüyor. Muhtemelen kimsenin dikkatini çekmeden önce FRT çevresinde ilgi çekici bir olayın gerçekleşmesine ihtiyacınız olacak.

Avukatlar, günün sonunda, sizin yüzünüzden bahsettiğimizi ve insanların kendi yüzlerine erişimi kontrol edebilmeleri gerektiğini söyledi.

Hussain, "İnsanların katılabileceği ve bu kararı kendi başlarına verme becerisine sahip olabileceği anlamlı bir süreç yoksa, o zaman bu etik değildir" dedi. "Yüzünüz kadar özel olan biyometri hakkında konuşuyorsanız ve bunu, elleriniz gibi kamuya açık bir şekilde gizleyemiyorsanız, bu mahremiyetin erozyona uğramasıdır."

Editörlerin Önerileri

• Microsoft artık yüz tanıma teknolojilerine yatırım yapmayacak