Clearview AI Yüz Tanıma Uygulaması Takip Edilen Mağdurlar İçin Bir Kabus

Silikon Vadisi'nin kibrinin son örneği yüz tanıma uygulamasıdır Clearview AI. Küçük girişimin uygulaması o kadar güçlü ki birisi sokakta yanınıza gelebilir, fotoğrafınızı çekebilir ve adınızı, adresinizi ve telefon numaranızı hızlı bir şekilde öğrenebilir. The New York Times'ta yer alan bir rapor.

Bu teknoloji muhtemelen iki tip insana harika bir fikir gibi gelebilir: Kanun yaptırımı ve sürünür. Savunucuları, bu tür yüz tanıma teknolojisinin sapkınlar için bir nimet olabileceğinden endişe ediyor. aile içi istismar geçmişi ve hain bir amaçla hakkınızda her şeyi öğrenmek isteyen herkes amaç.

İngiltere merkezli ProPrivacy'nin gizlilik savunucusu Jo O'Reilly, Digital Trends'e yaptığı açıklamada, "Bu uygulamanın haberi yayıldıkça, her yerdeki kadınlar içini çekti" dedi. "Bir kez daha, hem çevrimiçi hem de gerçek hayatta kadınların güvenliği, teknoloji girişimlerinin giderek daha fazla istilacı teknoloji yaratma ve bu teknolojiden para kazanma arzusunun ardından ikinci sırada yer aldı."

Clearview, kısmen, aşağıdakiler gibi popüler sosyal medya sitelerinden halka açık verileri toplayarak çalışır: Facebook, Twitter, YouTube ve Venmo ve diğerleri. Bir Facebook şirketi sözcüsü Digital Trends'e şunları söyledi: Facebook bilgilerin bir dizine eklenmesi politikalarımız tarafından yasak olduğundan, hak taleplerini inceliyoruz Bu şirket hakkında ve kurallarımızı ihlal ettiklerini tespit edersek gerekli önlemleri alacağız." heyecan Ayrıca yasakladığını söylüyor verilerinin bu şekilde kullanılması.

İstismarcılar için yeni bir araç

Stalking, çevrimiçi ortamda uzun süredir kadınlar için bir sorundur ve bu, birinin yalnızca yüzüne bakarak izini sürebilecek bir araç olmadan mümkün olur. Clearview şimdilik hizmetlerini yalnızca kolluk kuvvetlerine sattığını iddia ediyor ve bu da teknolojiyle ilgili gerçekten olumlu değerlendirmeler veriyor. O'Reilly, "Ancak bu yazılımın yanlış ellere geçtiğinde hemen hemen herkesi taciz etmek ve takip etmek için kullanılabileceği konusunda garip bir şekilde sessiz kalıyorlar" dedi. "Yazılımın halka açık hale getirilmesi durumunda bunu önlemek imkansız olurdu; Clearview yatırımcılarının mümkün olduğunu kabul ettiği bir senaryo."

Pazarlama ve Geliştirme Direktörü Crystal Justice, "Geliştirdiğiniz ve insanlar tarafından tüketilecek herhangi bir teknolojinin kusurlarını düşünmelisiniz" dedi. Ulusal Aile İçi Şiddet Yardım Hattı . "İstismarcılar her zaman alet kutularında bir sonraki aleti ararlar."

Yardım hattı, 2015 yılında dijital istismarı kendi özel kategorisi olarak raporlamaya başladı ve o zamandan bu yana, özellikle gençler arasında sayılarda ciddi bir artış görüldü. Justice, Digital Trends'e yardım hattının 2018'de 371.000 kişiyle iletişime geçtiğini ve bunların yüzde 15'inin dijital istismar şikayetleri olduğunu söyledi. Yardım hattının rakamlarına göre, ülke çapında ortalama dört kadından biri ve yedi erkekten biri aile içi şiddet mağduru.

Justice, "Hayatta kalanlar nüfusumuzun büyük bir bölümünü oluşturuyor" dedi. "Teknoloji şirketleri, uygulamalarını tasarlarken hayatta kalanların deneyimini dikkate almalı."

Devam eden bir sorun

Bu, günümüzde çok fazla yıkıcı teknoloji içeren kalıcı bir kalıptır. Uber 2009'da piyasaya sürüldüğünde teknoloji gerçek olamayacak kadar harika görünüyordu. Artık taksi endüstrilerinin veya kendi şehirlerimizde yetersiz toplu taşımanın kölesi değildik.

Tabii ki, Uber'in modeli aynı zamanda çocukluğumuzda bize öğretilen geleneksel bilgeliğe de doğrudan ters düştü: Yabancılarla arabaya binmeyin. On yıl ve birkaç bin davacinsel saldırı üzerine daha sonra, geleneksel inanışa uygun bir neden olduğu ortaya çıktı. Pek çok insan için, bir yabancının arabasına binmek, orada olmak için para ödeseniz bile güvenli değildir.

Ancak güvenlik hakkında düşünme ya da sürekli olarak fiziksel güvenliğinizle ilgilenerek dünyayı dolaşmak zorunda kalma unsuru, pek çok kişi gibi Uber gibi teknoloji şirketleri kuran (çoğunlukla beyaz) erkeklerin aklında kadınlar ve azınlık cinsiyetlerden insanlar yer almalı, öyle görünmüyor. beğenmek heyecan, diğerleri gibi. Sadece dünyayı değiştirecek harika bir şey yapmak istediler. Bunun kötü amaçlarla kullanılacağı fikri çok geç olana kadar akıllarından geçmedi.

Ulusal Aile İçi Şiddeti Sona Erdirme Ağı'nın kıdemli teknoloji güvenliği uzmanı Rachel Gibson, mahremiyet ve güvenliğin en başından itibaren bir uygulamaya dahil edilmesi gerektiğini söyledi. Gibson, Digital Trends'e şunları söyledi: "Bir şeyin iyi niyetle inşa edilmesi bir şeydir, ancak teknolojinin kötüye kullanılabileceğini de biliyoruz." “Bunu yeni teknoloji, eski davranış olarak düşünüyoruz. İnsanlar [Uber'den önce] hâlâ taksilerde tecavüze uğruyordu, ancak günümüzde teknolojinin takip etme ve saldırı gibi eski davranışları nasıl kolaylaştırabileceğini düşünmemiz gerekiyor.”

Gibson, Clearview gibi bir şeyin kolluk kuvvetleri için kullanımları olsa da, kesinlikle halk için nasıl ve neden faydalı olacağına dair soruları gündeme getirdiğini söyledi. "Bunları kamu tüketimi için yapmak hayatta kalanları riske atıyor ve istenmeyen sonuçları düşünmemiz gerekiyor" dedi.

Justice, teknolojinin kamu güvenliğindeki rolünün değiştiğini gördüğünü söyledi. "MeToo'dan bu yana söylem değişti" dedi. “Ve bunun da zamanı geldi. Bu yeni bir sorun değil. Aile içi şiddette mutlaka bir artış görmüyoruz, nihayet bunun tartışılmaya başlandığını görüyoruz. Artık teknolojinin bunun bir parçası olduğuna dair karmaşık unsurları da dahil edebiliriz.”

Gibson ayrıca birkaç "büyük teknoloji şirketiyle" görüşmelerde bulunduğunu da söyledi (gerçi kendisi bu konuda bir açıklama yapmamıştı) hangisi olduğunu belirtin) ve artık mahremiyet ve güvenlik için bina inşa etme konusunda "dikkatli olmaya çalıştıklarını" söylediler. güvenlik.

Clearview, Digital Trends'e kısa bir açıklama yaparak "bu endişeleri ciddiye aldıklarını ve ticari bir yayın yapma planlarının olmadığını" söyledi. İçinde bir blog yazısı, şirket, ürünlerinin halka açık olmadığını ve "yalnızca kolluk kuvvetleri ve seçkin güvenlik profesyonellerinin kullanımına" sunulacağını vurguladı.

Kendinizin veya tanıdığınız birinin partnerinizin istismarına maruz kaldığını düşünüyorsanız, 1−800−799−7233 numaralı telefondan 7/24 Ulusal Aile İçi Şiddet Yardım Hattını arayın.

Editörlerin Önerileri

• Yapay zeka destekli yorumlar gelecek ayki Wimbledon'a geliyor
• Elon Musk, Twitter'da üretken yapay zeka projesi kuruyor, iddialara göre
• Google Smart Canvas, uygulamalar arasında daha derin entegrasyon sağlıyor
• Nvidia, AI Superpod platformunu ayda 90 bin dolara kiralıyor
• Portland, yüz tanıma teknolojisinin özel ve kamuya açık kullanımını yasakladı