Google Bard adalah kekacauan etika, kata para pekerja Google sendiri

Google diluncurkan Penyair, saingannya ChatGPT, meskipun ada kekhawatiran internal bahwa mereka adalah “pembohong patologis” dan memberikan hasil yang “mengerikan”, sebuah laporan baru mengklaim. Pekerja mengatakan kekhawatiran ini tampaknya diabaikan dalam upayanya untuk melakukannya mengejar ChatGPT dan mencegah ancaman yang dapat ditimbulkannya Bisnis pencarian Google.

Wahyu tersebut datang dari a laporan Bloomberg yang menyelami lebih dalam Google Penyair dan permasalahan yang diangkat oleh karyawan yang pernah mengerjakan proyek tersebut. Ini adalah kisah yang membuka mata tentang bagaimana chatbot tampaknya telah keluar jalur dan kekhawatiran yang ditimbulkan oleh insiden ini di kalangan pekerja yang peduli.

Misalnya, Bloomberg mengutip seorang karyawan anonim yang meminta instruksi Bard tentang cara mendaratkan pesawat, lalu merasa ngeri melihat deskripsi Bard akan menyebabkan kecelakaan. Seorang pekerja lain mengatakan tip scuba diving Bard “kemungkinan besar akan mengakibatkan cedera serius atau kematian.”

Permasalahan ini tampaknya muncul tidak lama sebelum Bard diluncurkan, namun Google tetap memaksakan tanggal peluncurannya, hal ini sesuai dengan keinginannya untuk mengikuti perkembangan zaman. jalur yang dirintis oleh ChatGPT. Namun hal tersebut dilakukan dengan mengabaikan komitmen etisnya, sehingga tidak hanya menghasilkan nasihat yang berbahaya, namun juga potensi penyebaran informasi yang salah.

Bergegas ke depan untuk meluncurkan

Pada tahun 2021, Google berjanji untuk melipatgandakan tim karyawannya yang mempelajari konsekuensi etis dari kecerdasan buatan (AI) dan berinvestasi lebih besar dalam menentukan potensi bahaya. Namun tim tersebut kini “tidak berdaya dan kehilangan semangat,” klaim laporan Bloomberg. Lebih buruk lagi, anggota tim telah diberitahu “untuk tidak menghalangi atau mencoba mematikan alat AI generatif apa pun yang sedang dikembangkan,” sehingga komitmen Google terhadap etika AI dipertanyakan.

Itu terlihat dalam aksi sebelum Bard diluncurkan. Pada bulan Februari, seorang pekerja Google mengirim pesan ke grup internal untuk mengatakan, “Bard lebih buruk daripada tidak berguna: tolong jangan diluncurkan,” dan sejumlah karyawan lain ikut setuju. Bulan berikutnya, Jen Gennai, pimpinan tata kelola AI Google, membatalkan evaluasi risiko yang dikatakan Bard dapat menyebabkan kerusakan dan belum siap untuk diluncurkan, sehingga tetap melanjutkan peluncuran publik pertama dari chatbot.

Laporan Bloomberg memberikan gambaran tentang sebuah perusahaan yang tidak mempercayai masalah etika yang dirasa dapat menghalangi profitabilitas produknya. Misalnya, seorang pekerja meminta untuk menerapkan keadilan dalam pembelajaran mesin, namun berulang kali ditolak, hingga hal ini memengaruhi tinjauan kinerja mereka. Para manajer mengeluh bahwa masalah etika menghalangi “pekerjaan nyata” mereka, kata karyawan tersebut.

Ini merupakan sikap yang memprihatinkan, terutama karena kita telah melihat banyak contohnya Kesalahan chatbot AI yang telah menghasilkan informasi yang menyinggung, menyesatkan, atau benar-benar salah. Jika laporan Bloomberg mengenai pendekatan Google yang tampaknya bermusuhan terhadap masalah etika benar, maka ini mungkin hanya permulaan dari masalah yang disebabkan oleh AI.

Rekomendasi Editor

• Penulis terkenal menuntut pembayaran dari perusahaan AI untuk menggunakan karya mereka
• GPT-4: cara menggunakan chatbot AI yang mempermalukan ChatGPT
• Wix menggunakan ChatGPT untuk membantu Anda membangun keseluruhan situs web dengan cepat
• Pembuat ChatGPT, OpenAI, menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen
• Lalu lintas situs web ChatGPT turun untuk pertama kalinya

Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.