Amazon bunun için çizim tahtasına geri dönmek isteyebilir. Perakende devinin şu anda geliştiricilere sunduğu bir yüz tanıma aracı oldukça hata The New York Times'ın haberine göre, Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından yürütülen bir testte. Araç, 28 Kongre üyesini ülkenin yasama organının üyeleri olarak tanımlamak yerine, bu kişileri polis şüphelileri olarak sınıflandırdı. Daha da kötüsü, orantısız sayıda Afrikalı-Amerikalı ve Latin Kongre üyesinin hatalı bir şekilde seçim yapmasıydı. belirlenmesi, ırksal profil oluşturmanın makine öğrenimimize bile ne kadar yerleştiğine dair soruları gündeme getiriyor yazılım.
Şimdi Kongre cevap istiyor. Yanlış tanımlanan yasa koyuculardan beşi, Amazon CEO'su Jeff Bezos ile "acil" bir toplantı talep ediyor. 26 Temmuz Perşembe günü, Temsilciler. Jimmy Gomez, John Lewis, Luis Gutierrez ve Mark DeSaulnier'in yanı sıra Sen. Edward Markey, çevrimiçi perakende devine neden uyumsuz olduklarını soran mektuplar gönderdi. Ancak bu yanlış kimlik vakalarının kişisel sonuçlarının ötesinde, kongre üyeleri şunları talep ediyor: "Yanlış bilgilerin önlenmesi için bu teknolojinin kusurlarının nasıl giderileceği" sorusuna verilen yanıtlar sonuçlar.”
Önerilen Videolar
Amazon, CEO'sunun bu toplantıları kabul edip etmeyeceğini henüz belirtmedi.
Ayrı bir açıklamada Rep. G.K. Butterfield şunları kaydetti: "Bu teknolojiyle ilgili hatalı sonuçlardan rahatsızım, özellikle insanlar için istenmeyen sonuçlara yol açacak açık kör noktalar olduğundan renk. Bu teknolojinin geniş kapsamlı bir ekonomik potansiyeli olsa da, Amazon'u kullanıcılarını bu teknolojinin kullanımına yönelik en iyi uygulamalar konusunda daha iyi eğitmeye teşvik ediyorum. teknolojisinin sınırlamaları konusunda açık ve net olun ve bu kusurların giderilmesine uygun şekilde yardımcı olabilecek daha fazla farklı ırktan çalışanı işe alın teknoloji.”
İlgili
- Amazon Prime üyeleri, renkli Destiny 2 egzotiklerinden oluşan ücretsiz bir paket alabilir
- Küçük işletme sahipleri Kongre'den Amazon Bezos'u sorgulamaya çağırıyor
- Amazon, polisin yüz tanıma teknolojisi Tanıma'yı kullanmasını 1 yıl süreyle yasakladı
Yanlış tanımlanan milletvekilleri arasında Temsilciler de vardı. John Lewis ve Bobby Rush, her ikisi de tanınmış sivil haklar liderleri ve Kongre Kara Grubunun üyeleridir. Ancak bu iki adam (diğer 26 kişiyle birlikte) seçilmiş temsilciler olarak tanınmak yerine, yanlışlıkla suçlu olarak işaretlendi. Bu hatalar, ACLU'nun Amazon'un yazılımını kullanarak tüm Kongre üyelerinin resimlerini kamuya açık 25.000 sabıka fotoğrafından oluşan bir veritabanında analiz etmesiyle ortaya çıktı. Bu, 28 Kongre üyesinin yanlışlıkla kanunları çiğneyen olarak tanımlanmasıyla sonuçlandı; bu da yüzde 5'lik bir hata oranını temsil ediyor.
Kuzey Kaliforniya ACLU'da teknoloji ve sivil özgürlükler avukatı Jacob Snow, The New York Times'a şunları söyledi: "Bu test, yüz tanımanın kusurlu, önyargılı ve tehlikeli olduğunu doğruluyor."
Teste yanıt olarak Amazon Web Hizmetleri sözcüsü Nina Lindsey, ACLU'nun yüz eşleştirme aracını (adlandırılan) kullandığını söyledi. Amazon Tanınması) Amazon'un önerilerinden farklı olarak. "Gerçek dünya senaryolarında Amazon Tanıma'nın neredeyse yalnızca kapsamı daraltmaya yardımcı olmak için kullanıldığını belirtmekte fayda var. Lindsey şunları söyledi: ifade.
Ayrıca ACLU'nun aracın "güven eşiğini" varsayılan yüzde 80'de tuttuğunu belirtti. Bu, grubun eşleşen herhangi bir yüzü polis veri tabanına yüzde 80 oranında benzer olarak dikkate aldığı anlamına geliyor. Ancak Amazon'un kendi internet sitesindeki bir örnekte de aynı eşiği kullandığını, çalışanların yüzlerinin kimlik kartlarıyla nasıl eşleştirilebileceğini gösterdiğini belirtmekte fayda var. Lindsey, Amazon'un polis departmanları söz konusu olduğunda bu tür hataları önlemek için yüzde 95'lik bir benzerlik eşiğinin uygulanmasını önerdiğini söyledi.
Amazon daha önce Rekognition'ı sattığı için eleştirilere hedef olmuştu. Mayıs ayında ACLU liderliğindeki 24 sivil özgürlük grubu, Amazon CEO'su Jeff Bezos'a yazılımın emniyet teşkilatlarına satışının durdurulmasını talep eden bir mektup yazdı. Gruplar, yazılımın yalnızca polis şüphelileri yerine protestocuları, göçmenleri veya halkın genel üyelerini gözetlemek için kullanılabileceği yönündeki endişelerini dile getirdi. Amazon çalışanları, yatırımcıları ve akademisyenleri o zamandan beri Amazon'dan benzer taleplerde bulundu.
Ancak şimdilik bu, web devinin elinde görünmüyor. Amazon sözcüsünün dediği gibi, "Görüntü ve video analizinin dünyada iyiliğe nasıl yön verebileceği konusunda heyecanımızı sürdürüyoruz."
27 Temmuz'da güncellendi: Kongre, Amazon'dan Rekognition yazılımının yaptığı hatalarla ilgili yanıt talep ediyor.
Editörlerin Önerileri
- Ah! Bazı Amazon Prime üyeleri %43'lük fiyat artışıyla karşı karşıya
- Facebook, Google, Amazon ve Apple'ın CEO'larının Kongre'ye ifade vermesi nasıl izlenir?
- Amazon, Apple, Facebook ve Google Temmuz ayında Kongre önünde ifade verecek
- You are. Josh Hawley, Amazon'a yönelik cezai antitröst soruşturması çağrısında bulundu
- ABD askeri yüz tanıma sistemi, insanları 1 km uzaklıktan tanımlayabiliyor
Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön bakışlarla okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.
