Contoh terbaru dari keangkuhan Silicon Valley adalah aplikasi pengenalan wajah Tampilan Jelas AI. Aplikasi startup kecil ini sangat canggih sehingga seseorang dapat mendatangi Anda di jalan, mengambil foto Anda, dan dengan cepat mengetahui nama, alamat, dan nomor telepon Anda, menurut sebuah laporan di The New York Times.
Isi
- Alat baru untuk pelaku kekerasan
- Masalah yang sedang berlangsung
Teknologi ini mungkin terdengar seperti ide bagus bagi dua tipe orang: Penegakan hukum dan merinding. Para pendukungnya khawatir teknologi pengenalan wajah semacam ini bisa bermanfaat bagi para penguntit, orang-orang dengan a riwayat kekerasan dalam rumah tangga, dan siapa pun yang ingin mengetahui segala sesuatu tentang Anda secara jahat tujuan.
Video yang Direkomendasikan
“Saat berita tentang aplikasi ini menyebar, perempuan di mana pun menghela nafas,” kata Jo O’Reilly, advokat privasi di ProPrivacy yang berbasis di Inggris, dalam sebuah pernyataan kepada Digital Trends. “Sekali lagi, keselamatan perempuan baik di dunia maya maupun di kehidupan nyata berada di urutan kedua setelah keinginan para startup teknologi untuk menciptakan – dan memonetisasi – teknologi yang semakin invasif.”
Terkait
- Amazon menerapkan AI untuk merangkum ulasan produk
- AI mengubah Breaking Bad menjadi anime — dan itu menakutkan
- Teknologi pengenalan wajah untuk beruang bertujuan untuk menjaga keselamatan manusia
Clearview bekerja, sebagian, dengan mengambil data yang tersedia untuk umum dari situs media sosial populer seperti Facebook, Twitter, YouTube, dan Venmo, antara lain. Juru bicara perusahaan Facebook mengatakan kepada Digital Trends bahwa “mengikis
Alat baru untuk pelaku kekerasan
Menguntit telah lama menjadi masalah bagi wanita online, dan hal tersebut tidak memerlukan alat yang dapat melacak seseorang hanya berdasarkan wajahnya. Untuk saat ini, Clearview mengklaim bahwa mereka hanya menjual layanannya kepada penegak hukum, yang telah memberikan ulasan yang sangat bagus mengenai teknologi tersebut. “Namun anehnya mereka diam mengenai fakta bahwa, jika berada di tangan yang salah, perangkat lunak ini dapat digunakan untuk melecehkan dan menguntit hampir semua orang,” kata O’Reilly. “Hal ini tidak mungkin dicegah jika perangkat lunak tersebut tersedia untuk umum – sebuah skenario yang diakui oleh investor Clearview adalah mungkin terjadi.”
“Teknologi apa pun yang Anda kembangkan yang akan dikonsumsi oleh manusia, Anda harus memikirkan kekurangannya,” kata Crystal Justice, kepala pemasaran dan pengembangan untuk Hotline KDRT Nasional . “Pelaku kekerasan selalu mencari alat berikutnya dalam kotak peralatan mereka.”
Hotline ini mulai melaporkan pelecehan digital sebagai kategori spesifiknya pada tahun 2015, dan sejak saat itu jumlahnya terus meningkat secara signifikan, terutama di kalangan anak muda. Justice mengatakan kepada Digital Trends bahwa hotline tersebut menerima 371.000 kontak pada tahun 2018, dan 15 persen di antaranya adalah pengaduan penyalahgunaan digital. Rata-rata secara nasional, satu dari empat perempuan dan satu dari tujuh laki-laki adalah penyintas kekerasan dalam rumah tangga, menurut nomor hotline tersebut.
“Orang yang selamat merupakan bagian terbesar dari populasi kita,” kata Justice. “Perusahaan teknologi harus mempertimbangkan pengalaman para penyintas saat merancang aplikasi mereka.”
Masalah yang sedang berlangsung
Ini adalah pola yang terus-menerus dengan banyak teknologi yang disruptif di zaman sekarang ini. Ketika Uber diluncurkan pada tahun 2009, teknologinya tampak terlalu keren untuk menjadi kenyataan. Kami tidak lagi menjadi budak industri taksi atau angkutan umum yang tidak kompeten di kota kami masing-masing.
Tentu saja, model Uber juga secara langsung bertentangan dengan kebijaksanaan konvensional yang telah diajarkan kepada kita sejak kecil: Jangan masuk mobil bersama orang asing. Sepuluh tahun dan beberapa ribu tuntutan hukumatas kekerasan seksual kemudian, tampaknya ada alasan yang merupakan kebijaksanaan konvensional. Bagi banyak orang, menaiki mobil orang asing tidaklah aman, meskipun Anda membayar untuk berada di sana.
Namun elemen pemikiran tentang keselamatan, atau harus bergerak di dunia ini terus-menerus mengkhawatirkan keselamatan fisik Anda, adalah hal yang sama perempuan dan kelompok minoritas harus, tampaknya tidak ada dalam pikiran laki-laki (kebanyakan berkulit putih) yang mendirikan perusahaan teknologi seperti Uber, menyukai Twitter, seperti banyak lainnya. Mereka hanya ingin membuat sesuatu yang keren yang akan mengubah dunia. Gagasan bahwa itu akan digunakan untuk tujuan jahat tidak terlintas dalam pikiran mereka sampai semuanya sudah terlambat.
“Membuat barang-barang ini untuk konsumsi publik akan menempatkan para penyintas dalam risiko, dan kita perlu memikirkan konsekuensi yang tidak diinginkan.”
Privasi dan keamanan perlu dimasukkan ke dalam aplikasi sejak awal, kata Rachel Gibson, spesialis keamanan teknologi senior untuk Jaringan Nasional untuk Mengakhiri Kekerasan Dalam Rumah Tangga. “Adalah sesuatu yang dibangun dengan niat baik, tetapi kami tahu bahwa teknologi dapat disalahgunakan,” kata Gibson kepada Digital Trends. “Kami menganggapnya sebagai teknologi baru, perilaku lama. Orang-orang masih diperkosa di dalam taksi [sebelum adanya Uber], namun kita harus memikirkan bagaimana teknologi saat ini dapat memfasilitasi perilaku lama seperti menguntit dan menyerang.”
Mirip dengan Clearview, kata Gibson, meskipun kegunaannya untuk penegakan hukum, tentu saja menimbulkan pertanyaan tentang bagaimana atau mengapa hal itu dapat bermanfaat bagi masyarakat umum. “Menjadikan hal-hal ini sebagai konsumsi publik menempatkan para penyintas dalam risiko, dan kita perlu memikirkan konsekuensi yang tidak diinginkan,” katanya.
Justice mengatakan dia melihat perbincangan tentang peran teknologi dalam keselamatan publik sedang berubah. “Wacananya telah bergeser sejak MeToo,” katanya. “Dan ini juga sudah waktunya. Ini bukanlah isu baru. Kami tidak melihat adanya peningkatan kekerasan dalam rumah tangga, kami melihat bahwa hal ini akhirnya menjadi perbincangan. Dan sekarang kita dapat memasukkan elemen kompleks tentang bagaimana teknologi menjadi bagian dari hal tersebut.”
Gibson juga mengatakan dia telah melakukan percakapan dengan beberapa “perusahaan teknologi besar” (walaupun dia tidak mau tentukan yang mana), dan mereka mengatakan bahwa mereka sekarang “mencoba untuk berhati-hati” dalam membangun privasi dan keamanan.
Clearview memberikan pernyataan singkat kepada Digital Trends, dengan mengatakan bahwa mereka “menanggapi kekhawatiran ini dengan serius, dan tidak memiliki rencana untuk merilisnya secara komersial.” Di dalam sebuah postingan blog, perusahaan menekankan bahwa produk mereka tidak tersedia untuk umum, dan akan tersedia “hanya untuk lembaga penegak hukum dan profesional keamanan terpilih.”
Jika Anda yakin bahwa Anda atau seseorang yang Anda kenal menderita pelecehan dari pasangan intim, hubungi Hotline KDRT Nasional 24/7 di 1−800−799−7233.
Rekomendasi Editor
- Komentar yang didukung AI akan hadir di Wimbledon bulan depan
- Elon Musk menyiapkan proyek AI generatif di Twitter, klaim laporan
- Google Smart Canvas mendapatkan integrasi yang lebih mendalam antar aplikasi
- Nvidia menyewakan platform AI Superpod-nya seharga $90K per bulan
- Portland melarang penggunaan teknologi pengenalan wajah secara pribadi dan publik
