Google Mungkin Mengakhiri Pekerjaannya di Proyek Maven

Pada bulan April, lebih dari 4.000 karyawan Google menandatangani sebuah surat Terbuka kepada CEO Sundar Pichai yang ingin keluar dari apa yang mereka sebut sebagai “bisnis perang”. Insinyur senior Google termasuk di antara ribuan anggota staf Google yang menandatangani surat tersebut, menurut The New York Times. Surat itu meminta pembatalan segera proyek militer tertentu dan pernyataan kebijakan yang lebih umum mengenai pembangunan teknologi untuk militer.

Satu bulan kemudian, sekitar selusin karyawan Google memutuskan untuk mengundurkan diri sebagai bentuk protes atas kelanjutan partisipasi Google dalam proyek militer yang dikenal dengan Project Maven. Mereka yang mengundurkan diri menyebutkan masalah etika dalam memanfaatkan A.I. dalam peperangan drone, serta kekhawatiran yang lebih umum mengenai keputusan Google di arena politik. Banyak karyawan yang memilih untuk mengakhiri masa jabatannya di Google telah menyampaikan alasannya dalam sebuah dokumen yang telah diedarkan secara internal di Google.

Seperti yang dilaporkan Gizmodo, “Para karyawan yang mengundurkan diri sebagai bentuk protes… mengatakan bahwa para eksekutif menjadi kurang transparan terhadap tenaga kerja mereka mengenai keputusan bisnis yang kontroversial. dan tampaknya kurang tertarik untuk mendengarkan keberatan para pekerja dibandingkan sebelumnya.” Meskipun budaya Google sering kali digambarkan sebagai budaya yang terbuka dan jujur, tampaknya memang demikian bergeser. Seperti yang dikatakan oleh seorang karyawan yang mengundurkan diri, “Selama beberapa bulan terakhir, saya semakin tidak terkesan dengan tanggapan dan cara kekhawatiran orang-orang ditangani dan didengarkan.”

Surat terbuka yang rupanya diabaikan manajemen tersebut meminta agar Google segera membatalkan perannya dalam implementasi Project Maven. Nama kode untuk Tim Lintas Fungsional Perang Algoritmik (AWCFT) Departemen Pertahanan (DoD), Project Maven adalah program kecerdasan buatan (A.I.) yang saat ini sedang dikembangkan. Tujuan Maven adalah untuk menilai rekaman video drone, Gizmodo melaporkan.

Menanggapi protes ini, Google dilaporkan telah mengambil keputusan untuk tidak memperbarui Proyek Maven meskipun itu akan menyelesaikan kontrak saat ini. Google belum membuat pengumuman resmi mengenai hal ini, meskipun Reuters mengutip sumber yang “mengetahui kesepakatan tersebut.” Sebelumnya, Google telah membela kontrak tersebut dengan mengatakan bahwa Proyek Maven digunakan untuk tujuan non-ofensif dan akan digunakan menyelamatkan nyawa.

Project Maven didirikan oleh Departemen Pertahanan (DoD) A.S. untuk Pentagon pada bulan April 2017. Sebuah surat di bawah kop surat Wakil Menteri Pertahanan bertanggal 26 April 2017 menyatakan bahwa Departemen Pertahanan perlu “mengintegrasikan teknologi buatan intelijen dan pembelajaran mesin secara lebih efektif di seluruh operasi untuk mempertahankan keunggulan dibandingkan musuh yang semakin mampu dan pesaing.”

Pengumuman Wakil Menteri Pertahanan mengatakan tujuan awal penggunaan Maven adalah untuk menyediakan “komputer algoritma visi untuk deteksi objek, klasifikasi, dan peringatan” untuk Sistem Udara Tak Berawak (UAS), taktis, atau drone.

Permintaan kedua yang lebih umum dalam surat Google adalah agar Pichai “menyusun, mempublikasikan, dan menegakkan kebijakan yang jelas yang menyatakan bahwa baik Google maupun kontraktornya tidak akan pernah melakukan peperangan teknologi."

Berpartisipasi dalam Project Maven akan “merusak merek Google dan kemampuannya bersaing untuk mendapatkan bakat yang tidak dapat diperbaiki,” kata surat itu. Google “berjuang untuk menjaga kepercayaan masyarakat,” lanjut surat itu, sementara banyak orang khawatir akan “bias dan mempersenjatai AI.”

Surat tersebut mengacu pada pernyataan nilai inti Google: “Setiap pengguna mempercayai kami. Jangan pernah membahayakan hal itu. Pernah." Para penandatangan surat tersebut menegaskan bahwa kontrak dengan Departemen Pertahanan secara langsung bertentangan dengan nilai inti ini dan membahayakan reputasi perusahaan.

Mantan CEO dan Ketua Eksekutif Google Eric Schmidt menjadi pembicara utama pada November 2017 Pusat Keamanan Amerika Baru KTT Kecerdasan Buatan dan Keamanan Global. Schmidt ditanya tentang hubungan antara perusahaan teknologi, A.I. penelitian, dan keamanan nasional.

“Ada kekhawatiran umum di komunitas teknologi mengenai kompleks industri militer yang menggunakan perangkat mereka untuk membunuh orang secara tidak benar,” kata Schmidt.

Surat kepada CEO Pichai saat ini adalah bukti bahwa setidaknya bagi mereka yang menandatanganinya, kekhawatiran umum yang disebutkan Schmidt adalah nyata dan spesifik. Surat lain telah diedarkan, ditulis oleh lebih dari 90 akademisi di bidang kecerdasan buatan, etika, dan ilmu komputer, yang juga meminta Google untuk menghentikan pekerjaannya di Project Maven.

Diperbarui pada 2 Juni: Google dilaporkan telah memutuskan tidak akan memperbarui Project Maven.

Rekomendasi Editor

• Project Starline Google adalah cermin ajaib untuk menghidupkan obrolan video 3D
• Eksekutif Google mengatakan kita memerlukan rencana untuk menghentikan A.I. algoritma untuk memperkuat rasisme
• Perangkat keras Project Yeti Google mungkin akan diungkap di Game Developers Conference
• 'Project Stream' Google memungkinkan Anda memainkan game-game besar di browser Chrome

Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.