Amazon mungkin ingin kembali ke papan gambar untuk yang satu ini. Alat pengenalan wajah yang saat ini ditawarkan oleh raksasa ritel buatan pengembang kesalahan besar dalam tes yang dilakukan oleh American Civil Liberties Union (ACLU), The New York Times melaporkan. Alih-alih mengidentifikasi 28 anggota Kongres sebagai anggota legislatif negara tersebut, alat tersebut malah mengklasifikasikan orang-orang tersebut sebagai tersangka polisi. Lebih buruk lagi, jumlah anggota Kongres keturunan Afrika-Amerika dan Latin yang jumlahnya tidak proporsional memberikan pernyataan yang salah teridentifikasi, sehingga menimbulkan pertanyaan tentang seberapa jauh profil rasial telah tertanam dalam pembelajaran mesin kita perangkat lunak.
Sekarang, Kongres menginginkan jawaban. Lima dari anggota parlemen yang salah identifikasi meminta pertemuan “segera” dengan CEO Amazon Jeff Bezos. Pada hari Kamis, 26 Juli, Reps. Jimmy Gomez, John Lewis, Luis Gutierrez, dan Mark DeSaulnier, serta Senator. Edward Markey, mengirim surat ke raksasa ritel online menanyakan mengapa mereka tidak cocok. Namun di luar dampak pribadi dari kasus-kasus kesalahan identitas ini, para anggota kongres juga meminta hal tersebut jawaban tentang “bagaimana mengatasi cacat pada teknologi ini untuk mencegah ketidakakuratan hasil.”
Video yang Direkomendasikan
Amazon belum mengindikasikan apakah kepala eksekutifnya akan menerima pertemuan ini.
Dalam pernyataan terpisah, Rep. G.K. Butterfield mencatat, “Saya merasa terganggu dengan hasil yang tidak akurat terkait dengan teknologi ini, karena ada titik buta yang jelas yang akan menimbulkan konsekuensi yang tidak diinginkan khususnya bagi masyarakat warna. Meskipun teknologi ini memiliki potensi ekonomi yang luas, saya mendorong Amazon untuk lebih melatih penggunanya tentang praktik terbaik dalam menggunakan teknologi ini teknologi, bersikap terbuka dan terbuka mengenai keterbatasannya, dan pekerjakan lebih banyak karyawan kulit berwarna yang dapat membantu mengatasi kekurangan teknologi ini. teknologi."
Terkait
- Anggota Amazon Prime dapat mengklaim paket eksotik Destiny 2 warna-warni gratis
- Pemilik usaha kecil meminta Kongres untuk menghentikan Bezos dari Amazon
- Amazon melarang polisi menggunakan teknologi pengenalan wajah Rekognition selama 1 tahun
Di antara anggota parlemen yang salah diidentifikasi adalah Rep. John Lewis dan Bobby Rush, keduanya adalah pemimpin hak-hak sipil terkenal dan anggota Kongres Kaukus Hitam. Namun alih-alih diakui sebagai wakil terpilih, kedua pria ini (bersama 26 orang lainnya), justru difitnah sebagai penjahat. Kesalahan ini terjadi ketika ACLU menggunakan perangkat lunak Amazon untuk menganalisis gambar seluruh anggota Kongres terhadap database 25.000 foto yang dapat diakses publik. Hal ini mengakibatkan 28 anggota Kongres salah diidentifikasi sebagai pelanggar hukum, yang berarti tingkat kesalahan sebesar 5 persen.
“Tes ini menegaskan bahwa pengenalan wajah memiliki kelemahan, bias, dan berbahaya,” Jacob Snow, pengacara teknologi dan kebebasan sipil di ACLU California Utara, mengatakan kepada The New York Times.
Menanggapi pengujian tersebut, Nina Lindsey, juru bicara Amazon Web Services, mengatakan bahwa ACLU menggunakan alat pencocokan wajah (disebut Pengakuan Amazon) berbeda dari rekomendasi Amazon. “Perlu dicatat bahwa dalam skenario dunia nyata, Amazon Rekognition hampir secara eksklusif digunakan untuk membantu mempersempit permasalahan lapangan dan memungkinkan manusia untuk dengan cepat meninjau dan mempertimbangkan pilihan menggunakan penilaian mereka,” kata Lindsey dalam a penyataan.
Dia lebih lanjut menunjukkan bahwa ACLU mempertahankan “batas kepercayaan” alat tersebut pada nilai default sebesar 80 persen. Artinya, kelompok tersebut memperhitungkan setiap wajah yang cocok hingga 80 persen mirip dengan database polisi. Namun, perlu diperhatikan bahwa Amazon menggunakan ambang batas yang sama dalam contoh di situs webnya, yang menunjukkan bagaimana wajah karyawan dapat dicocokkan dengan lencana ID mereka. Lindsey mengatakan bahwa dalam kasus departemen kepolisian, Amazon merekomendasikan penerapan ambang batas kemiripan sebesar 95 persen untuk menghindari kesalahan semacam ini.
Amazon sebelumnya mendapat kecaman karena menjual Rekognition. Pada bulan Mei, 24 kelompok kebebasan sipil, yang dipimpin oleh ACLU, menulis surat kepada CEO Amazon Jeff Bezos meminta agar perangkat lunak tersebut berhenti dijual ke lembaga penegak hukum. Kelompok-kelompok tersebut menyatakan kekhawatirannya bahwa perangkat lunak tersebut dapat digunakan untuk mengawasi pengunjuk rasa, imigran, atau anggota masyarakat umum, dan bukan hanya untuk tersangka polisi. Karyawan Amazon, investor, dan akademisi juga mengajukan tuntutan serupa kepada Amazon.
Namun, untuk saat ini, hal tersebut tampaknya tidak berlaku bagi raksasa web tersebut. Seperti yang dikatakan juru bicara Amazon, “Kami tetap bersemangat tentang bagaimana analisis gambar dan video dapat menjadi pendorong kebaikan di dunia.”
Diperbarui pada 27 Juli: Kongres menuntut jawaban dari Amazon mengenai kesalahan yang dilakukan oleh perangkat lunak Rekognition-nya.
Rekomendasi Editor
- Aduh! Beberapa anggota Amazon Prime menghadapi kenaikan harga sebesar 43%.
- Cara menyaksikan CEO Facebook, Google, Amazon, dan Apple bersaksi di depan Kongres
- Amazon, Apple, Facebook, dan Google akan memberikan kesaksian di depan Kongres pada bulan Juli
- Sen. Josh Hawley menyerukan penyelidikan kriminal antimonopoli ke Amazon
- Pengenalan wajah militer AS dapat mengidentifikasi orang dari jarak 1 km
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.
