Pengenalan Wajah Akan Segera Ada Dimana-mana, Para Ahli Memperingatkan

Awal bulan ini, keduanya Amazon Dan IBM mundur dari teknologi pengenalan wajah yang kontroversial.

Amazon mengumumkan tidak lagi mengizinkan polisi menggunakan teknologi pengenalan wajah Rekognition, dan IBM berjanji tidak akan melakukan pengembangan lebih lanjut terhadap teknologi tersebut.

Langkah ini dilakukan ketika alat tersebut dikritik karena ketidakakuratan dan potensi penyalahgunaan sebagai teknik pengawasan massal kota pintar.

Amazon menulis dalam pengumumannya bahwa keputusannya secara langsung terinspirasi oleh dorongan para aktivis untuk melarang polisi menggunakan pengenalan wajah. Di dalam pernyataan IBM, perusahaan tersebut menulis “dengan tegas menentang dan tidak akan memaafkan penggunaan teknologi apa pun, termasuk teknologi pengenalan wajah … untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak sesuai dengan nilai-nilai dan Prinsip Kepercayaan dan Transparansi.

Namun beberapa pakar keamanan siber tidak setuju – dan keputusan tersebut kemungkinan besar tidak akan banyak memperlambat membanjirnya teknologi pengenalan wajah di masa depan.

“Ini hanya membuka banyak pertanyaan, misalnya, apakah mereka terlibat dalam pengawasan massal perangkat lunak sebelumnya?” tanya David Harding, kepala bagian teknis perusahaan keamanan siber Perangkat Gambar. “Mengapa hal itu tidak melanggar prinsip kepercayaan dan transparansi mereka sebelumnya? Tampaknya sangat aneh. Ada banyak hal yang perlu dibongkar di sini.”

George Brostoff, CEO perusahaan teknologi pemindaian wajah 3D SensibleVision, mengatakan kepada Digital Trends bahwa dia yakin mungkin ada motif anterior dalam keputusan tersebut.

“Seperti dalam banyak hal, pengumuman IBM kemungkinan lebih kompleks daripada yang terlihat di permukaan,” katanya, menunjukkan bahwa kecil kemungkinannya IBM memiliki banyak kepentingan dalam pengenalan wajah.

IBM tidak menanggapi permintaan komentar mengenai seberapa besar tindakan tersebut akan mempengaruhi keuntungan mereka, atau seberapa besar investasi mereka dalam penelitian dan pengembangan pengenalan wajah.

Baik Brostoff maupun Harding mencatat bahwa IBM belum tentu merupakan kontraktor pemerintah terkemuka di dunia pengawasan wajah.

“Banyak perusahaan yang melakukan [teknologi pengenalan wajah] pada skala pemerintah perusahaan yang belum pernah didengar oleh siapa pun,” kata Ben Goodman, wakil presiden senior perusahaan keamanan siber ForgeRock. “Perusahaan-perusahaan ini tidak perlu khawatir tentang risiko reputasi. Amazon dan IBM adalah nama-nama besar, mereka mempunyai risiko yang lebih besar.”

Goodman mempertanyakan keuntungan seperti apa yang diperoleh perusahaan seperti Amazon saat ini dalam pengembangan teknologi pengenalan wajah.

“Mereka benar-benar perlu memikirkan apakah ada gunanya menghalangi privasi orang lain. Apakah Anda mendapatkan cukup keuntungan dari itu,” katanya. “Lihatlah Clearview A.I. [Perusahaan FRT yang terungkap sedang menggores media sosial dan menjualnya perangkat lunak untuk penegakan hukum], yang dengan berani berbicara tentang apa yang mereka lakukan, dan memang demikian hancur. Saya yakin mereka bukan satu-satunya yang melakukan hal ini, tapi itu menunjukkan bagaimana suasana hati masyarakat.”

Dan meskipun pengawasan wajah telah dipermalukan ketidakakuratannya yang terkenal, dikabarkan digunakan sebagai alat polisi selama protes, dan potensi pelanggaran hak privasi, hal ini kemungkinan besar akan segera menjadi bagian dari kehidupan sehari-hari.

Teknologi pengenalan wajah publik versus pribadi

“Pemerintah seharusnya tidak memiliki akses terhadap [teknologi pengenalan wajah] dan itu tidak kompatibel dengan masyarakat demokratis,” kata Saira Hussain, staf pengacara di Electronic Frontier Dasar. “Ini melanggar hak Amandemen Pertama dan Keempat kami.”

Namun perkembangan teknologi pengenalan wajah di ranah pribadi mungkin tidak dapat dihindari karena teknologi tersebut semakin mudah digunakan. Brostoff memperkirakan bahwa dalam dua tahun, penggunaan FaceID atau sejenisnya akan menjadi praktik standar untuk tugas sehari-hari seperti check-out di toko atau check-in di bandara.

Terkait sektor swasta, Hussain mengatakan kepada Digital Trends bahwa dia khawatir perusahaan akan mengembangkan teknologi ini tanpa mempertimbangkan implikasi etisnya. Jika, misalnya, industri perhotelan mulai mengadopsi teknologi pengenalan wajah, maka harus ada cara bagi masyarakat untuk ikut serta, katanya, daripada sekadar menerapkannya di mana-mana.

“Harus selalu ada cara bagi hotel untuk check-in seseorang yang tidak ingin ikut serta dalam sistem ini,” katanya.

Harold Li, wakil presiden ExpressVPN, mengatakan kepada Digital Trends bahwa dia membayangkan peluncuran ini pertama kali tersedia sebagai aplikasi kerja bagi karyawan, “yang kurang berkeinginan atau tidak mampu menolak teknologi ini, apakah itu untuk pencatatan jam kerja, atau meminta kontraktor memverifikasi identitas mereka,” tulisnya dalam sebuah pernyataan. surel.

Hal ini akan diikuti oleh aplikasi yang ditujukan untuk konsumen – yang sudah ada di beberapa negara.

“Kami sudah melihat hal ini terjadi di negara-negara yang kurang memperhatikan privasi, seperti Tiongkok, di mana supermarket dan stasiun kereta bawah tanah memungkinkan orang membayar dengan memindai wajah mereka,” tulisnya. “Di Singapura, beberapa uji coba check-in hotel secara langsung juga telah dimulai. Meskipun hal ini tampaknya belum sampai ke AS, toko-toko yang banyak melakukan pengawasan seperti Amazon Go mungkin mulai menormalisasi pengorbanan privasi demi kenyamanan.”

“Ini seperti kekuatan yang tidak dapat dihentikan dan bertemu dengan benda yang tidak dapat digerakkan,” kata Goodman. “Tentu saja ada faktor mata-mata, faktor merayap, dan faktor privasi, tapi ada juga faktor kenyamanan. Artinya, saya bisa melakukan touchless di bandara. Artinya saya bisa naik pesawat tanpa meletakkan ponsel saya di permukaan yang baru saja disentuh oleh sepuluh orang lainnya.”

Sebuah sistem etika

Jika para ahli benar dan penyebaran teknologi pengenalan wajah tidak dapat dihindari, bagaimana kita memastikan bahwa kita mencapai tujuan tersebut tanpa mengganggu privasi semua orang?

“Kita tidak boleh lupa bahwa kita tergoda untuk melepaskan privasi demi keuntungan yang dirasakan,” kata Gabrielle Hermier, petugas media di hiu selancar. “Pertanyaan tentang privasi pengguna, persetujuan, dan bias gender dan ras FRT merupakan inti perdebatan dan harus ditangani terlebih dahulu. Vendor FRT seperti Amazon atau Microsoft dan penggunanya, termasuk lembaga penegak hukum dan bandara, harus berbagi tanggung jawab untuk memastikan bahwa FRT tidak bias.”

Pertanyaan tentang bias secara praktis dikawinkan dengan pertanyaan tentang FRT. Seperti yang diungkapkan oleh Tom Chivers dari ProPrivacy yang berbasis di Inggris, “Potensi penyalahgunaan terlalu tinggi. Studi mengenai pengenalan wajah telah menunjukkan tingkat kegagalan sebesar 81% dalam pencocokan wajah,” tulisnya dalam pesan kepada DT, mengacu pada apa yang ditemukan para peneliti di Inggris ketika mereka menguji pengenalan wajah Polisi Metropolitan teknologi.

Studi tersebut menemukan bahwa teknologi tersebut salah mengidentifikasi orang-orang yang tidak bersalah dengan tingkat yang sangat tinggi, menurut SkyNews.

Li setuju bahwa persetujuan dan transparansi adalah kuncinya. “Jangan menjadikan teknologi seperti itu sebagai suatu keharusan. Biarkan pengguna memilih untuk ikut serta, bukan memilih untuk tidak ikut serta,” tulisnya, sejalan dengan kekhawatiran Hussain. Dia juga mengatakan jajak pendapat ExpressVPN baru-baru ini menemukan bahwa 68% orang dewasa AS mengatakan mereka khawatir dengan semakin meluasnya teknologi pengenalan wajah. Berdasarkan hal ini saja, penolakan dan pertanyaan hukum hampir pasti tidak bisa dihindari.

“Kami tentu saja belum sampai di sana secara hukum,” kata Goodman. “Sedihnya, kerangka hukum kita nampaknya menjadi indikator tertinggalnya emosi masyarakat mengenai hal ini. Anda mungkin memerlukan peristiwa menarik yang terjadi di sekitar FRT sebelum ada orang yang memperhatikannya.”

Pada akhirnya, inilah wajah Anda yang sedang kita bicarakan – dan orang-orang harus dapat mengontrol akses terhadap wajah mereka sendiri, kata para advokat.

“Jika tidak ada proses yang berarti di mana masyarakat dapat memilih dan memiliki kemampuan untuk membuat keputusan sendiri, maka hal tersebut tidak etis,” kata Hussain. “Ketika Anda berbicara tentang biometrik yang bersifat pribadi seperti wajah Anda, dan tidak dapat menutupinya di depan umum dengan cara yang sama seperti yang Anda lakukan pada tangan Anda, itu adalah erosi privasi.”

Rekomendasi Editor

• Microsoft tidak akan lagi berinvestasi pada teknologi pengenalan wajah