CEO IBM Arvind Krishna mengatakan perusahaannya tidak akan lagi mengembangkan atau menawarkan perangkat lunak pengenalan wajah atau analisis untuk tujuan umum. Di dalam surat tertanggal 8 Juni ditujukan kepada Kongres dan ditulis untuk mendukung Undang-Undang Keadilan dalam Perpolisian tahun 2020, Krishna mengadvokasi hal baru reformasi yang mendukung penggunaan teknologi secara bertanggung jawab – dan memerangi ketidakadilan rasial dan polisi yang sistematis pelanggaran.
“IBM dengan tegas menentang dan tidak akan membiarkan penggunaan teknologi apa pun, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak sejalan dengan nilai-nilai dan Prinsip Kepercayaan dan Transparansi kami,” tulis Krishna dalam surat.
Video yang Direkomendasikan
Krishna, yang mengambil alih jabatan kepala eksekutif pada bulan April, menambahkan bahwa sudah waktunya bagi Kongres untuk memulai dialog nasional tentang implikasi teknologi pengenalan wajah dan bagaimana teknologi tersebut “seharusnya digunakan oleh penegak hukum dalam negeri agensi.”
Terkait
- Lindungi masyarakat dari risiko AI, kata Gedung Putih kepada raksasa teknologi
- Para pemimpin teknologi menyerukan penghentian pengembangan GPT-4.5 dan GPT-5 karena ‘risiko berskala besar’
- Microsoft menghentikan A.I.
Sang CEO pun menyuarakan keprihatinannya terkait bias rasial yang sering ditemukan di dalamnya kecerdasan buatan sistem saat ini. Krishna lebih lanjut menyebut perlunya lebih banyak pengawasan untuk mengaudit alat kecerdasan buatan, terutama ketika alat tersebut digunakan dalam penegakan hukum dan kebijakan nasional yang “menghadirkan transparansi dan akuntabilitas yang lebih besar pada kepolisian, seperti kamera tubuh dan analisis data modern teknik.”
Orang-orang yang mengetahui masalah tersebut menceritakannya CNBC bahwa kematian George Floyd, seorang pria kulit hitam, saat berada dalam tahanan polisi Minneapolis dan Fokus utama pada reformasi kepolisian dan ketidakadilan rasial meyakinkan IBM untuk menghentikan pengenalan wajahnya produk.
Selama beberapa tahun terakhir, sistem pengenalan wajah telah mengalami kemajuan pesat berkat perkembangan di bidang seperti pembelajaran mesin. Namun, tanpa adanya pengawasan resmi, sebagian besar aplikasi tersebut dibiarkan berjalan tanpa regulasi dan melanggar privasi pengguna. Yang paling menonjol, teknologi pengenalan wajah menjadi topik pembicaraan nasional pertama kali oleh sebuah startup bernama Tampilan Jelas AI yang mampu membangun database lebih dari 3 miliar gambar, terutama dari situs media sosial. Clearview sejak itu menghadapi reaksi keras dari perusahaan seperti Twitter dan saat ini sedang menghadapi berbagai tuntutan hukum privasi.
Clearview AI juga dilaporkan digunakan oleh lembaga penegak hukum dalam protes Black Lives Matter yang sedang berlangsung di seluruh AS. Para ahli berpendapat bahwa sistem ini dapat salah mengidentifikasi orang, karena mereka sebagian besar dilatih menggunakan wajah laki-laki berkulit putih.
Krishna tidak mengatakan apakah perusahaan akan mempertimbangkan kembali keputusannya jika dan ketika Kongres memperkenalkan undang-undang baru yang akan memberikan pengawasan lebih besar terhadap teknologi seperti pengenalan wajah. Kami telah menghubungi IBM dan akan memperbarui cerita ini ketika kami mendengarnya kembali.
Rekomendasi Editor
- Pakar kesehatan medis merupakan yang terbaru yang menyuarakan kekhawatiran atas perkembangan AI
- AI dapat menggantikan sekitar 7.800 pekerjaan di IBM sebagai bagian dari jeda perekrutan
- Google melewatkan peluang besar dengan teknologi mirip ChatGPT, klaim laporan
- AI Zoom teknologi untuk mendeteksi emosi selama panggilan membuat para kritikus kesal
- IBM mengklaim prosesor barunya dapat mendeteksi penipuan secara real time
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.
