Efek Negatif Kecerdasan Buatan

Perkembangan mesin yang mampu meniru pemikiran manusia, melampauinya, atau bahkan menjadi sadar diri adalah premis yang dieksplorasi dengan baik dalam fiksi ilmiah. Dalam lanskap teknologi saat ini, munculnya kecerdasan buatan -- AI -- dapat menjadi salah satu yang terbesar bagi umat manusia prestasi, tetapi sebagai fisikawan terkenal Stephen Hawking memperingatkan, "mungkin juga yang terakhir, kecuali kita belajar untuk menghindari risiko."

Teknologi canggih terus melekat pada masyarakat modern, mulai dari asisten pribadi digital dan algoritme pencarian pintar di Google, hingga mobil swakemudi eksperimental. Kecerdasan buatan didefinisikan sebagai komputer atau mesin yang mampu melakukan "deduksi dan inferensi logis", dan "membuat keputusan". berdasarkan pengalaman masa lalu atau informasi yang tidak memadai atau saling bertentangan." Tingkat teknologi saat ini telah menimbulkan dilema etika yang menakutkan, seperti seperti apakah drone militer atau sistem robot lainnya harus dirancang untuk menggunakan kekuatan mematikan terhadap target tanpa manusia langsung keterlibatan. Saat ini, mesin yang diprogram dapat bereaksi dengan kecepatan dan akurasi yang lebih tinggi daripada operator manusia, tetapi masih mampu melakukan kesalahan besar tanpa bias dan intuisi manusia untuk memandu pengambilan keputusan. Masalah-masalah ini akan meningkat jika AI dibangun ke dalam sistem seperti itu, memperkenalkan motif independen yang mungkin sama sekali tidak dapat diprediksi atau bertentangan langsung dengan niat manusia.

Penggabungan kecerdasan buatan akan secara drastis mengubah konsep kerja manusia. Sejak Era Industri, teknologi dalam bentuk apa pun pasti membuat banyak pekerjaan menjadi usang sekaligus menciptakan peluang baru di bidang yang sedang berkembang. AI menawarkan masa depan di mana mesin melakukan tugas menggantikan kita, memungkinkan orang mengejar kehidupan yang santai. Ekonom John Maynard Keynes melangkah sejauh ini -- pada tahun 1930 -- dengan memperkirakan minggu kerja 15 jam pada tahun 2030. Pada tingkat populasi saat ini, semua aspek masyarakat akan memerlukan visi ulang yang drastis baik secara budaya maupun ekonomi jika otomatisasi menciptakan perubahan dramatis dalam cara hari-hari kita dihabiskan.

Salah satu ancaman signifikan dari kecerdasan buatan adalah apakah ia memilih untuk menggunakan kemampuan yang sudah ditingkatkan untuk membuat mesin dengan kekuatan kognitif yang lebih besar. Generasi AI yang lebih maju dapat beroperasi setinggi manusia seperti yang kita lakukan di atas hewan, dan bahkan sangat mungkin berkembang melampaui kemampuan manusia untuk memahaminya. Dalam hasil ini -- disebut sebagai Singularitas oleh Dr. Vernor Vinge untuk VISION-21 Symposium NASA Lewis Research Center pada tahun 1993 -- aturan hidup seperti yang kita tahu akan berubah selamanya, karena tidak ada cara untuk memprediksi apakah AI akan memutuskan untuk hidup berdampingan atau memusuhi umat manusia.

Hawking menekankan bahwa setiap diskusi serius tentang kecerdasan buatan harus mempertimbangkan potensi ancaman dan cara mengelolanya, dan menyerukan penelitian institusional yang lebih kritis karena peningkatan sumber daya perusahaan ditujukan untuk mewujudkan terobosan dalam menciptakan buatan intelijen. Vinge mendalilkan bahwa AI dapat diatur secara ketat oleh aturan yang secara efektif bersifat baik hati perilaku menjadi robot otonom, seperti yang dibayangkan oleh penulis fiksi ilmiah Isaac Asimov's Three Laws of Robotika. Vinge juga memperingatkan bahwa persaingan manusia secara alami kemungkinan akan mengarah pada pengembangan model AI yang tidak dibatasi, sehingga perlindungan semacam itu mungkin tidak cukup untuk mengendalikan Singularitas jika itu terjadi.