Sebut saja hipotesis Skynet, Kecerdasan Umum Buatan, atau munculnya Singularitas — selama bertahun-tahun, para pakar AI dan orang-orang yang bukan ahli sama-sama merasa resah (dan, bagi sebagian kecil orang, merayakan) gagasan bahwa kecerdasan buatan suatu hari nanti bisa menjadi lebih pintar daripada manusia.
Menurut teori, kemajuan dalam AI – khususnya jenis pembelajaran mesin yang mampu menerima hal-hal baru informasi dan menulis ulang kodenya - pada akhirnya akan menyusul perangkat basah biologis otak. Dalam penafsiran kejadian ini, setiap AI maju dari Bahaya-memenangkan mesin IBM ke model bahasa AI besar-besaran GPT-3 membawa umat manusia selangkah lebih dekat ke ancaman eksistensial. Kami benar-benar sedang membangun milik kami penerus yang akan segera hidup.
Video yang Direkomendasikan
Kecuali hal itu tidak akan pernah terjadi. Setidaknya, menurut penulis buku baru tersebut Mengapa Mesin Tidak Akan Pernah Menguasai Dunia: Kecerdasan Buatan tanpa Rasa Takut.
Rekan penulis Profesor filsafat Universitas di Buffalo
Barry Smith Dan Pekerjaan Landgrebe, pendiri perusahaan AI Jerman, Cognotekt, berpendapat bahwa kecerdasan manusia tidak akan dikalahkan oleh “seorang diktator abadi” dalam waktu dekat – atau selamanya. Mereka bilang Tren Digital alasan mereka mengapa.
Tren Digital (DT): Bagaimana subjek ini menarik perhatian Anda?
Pekerjaan Landgrebe (JL): Saya seorang dokter dan ahli biokimia berdasarkan pelatihan. Ketika saya memulai karir saya, saya melakukan eksperimen yang menghasilkan banyak data. Saya mulai belajar matematika untuk dapat menafsirkan data ini, dan melihat betapa sulitnya memodelkan sistem biologis menggunakan matematika. Selalu ada ketidaksesuaian antara metode matematika dan data biologis.
Di usia pertengahan tiga puluhan, saya meninggalkan dunia akademis dan menjadi konsultan bisnis dan wirausaha yang bekerja di sistem perangkat lunak kecerdasan buatan. Saya mencoba membangun sistem AI untuk meniru apa yang bisa dilakukan manusia. Saya menyadari bahwa saya menghadapi masalah yang sama dengan yang saya alami bertahun-tahun sebelumnya dalam biologi.
Pelanggan berkata kepada saya, 'mengapa Anda tidak membuat chatbot?' Saya berkata, 'karena mereka tidak akan berfungsi; kita tidak dapat memodelkan sistem seperti ini dengan benar.’ Hal itulah yang akhirnya mendorong saya untuk menulis buku ini.
Profesor Barry Smith (BS): Saya pikir ini adalah masalah yang sangat menarik. Saya sudah mempunyai firasat akan masalah serupa dengan AI, tapi saya tidak pernah memikirkannya secara matang. Awalnya, kami menulis makalah berjudul 'Membuat kecerdasan buatan menjadi bermakna kembali.’ (Ini terjadi di era Trump.) Ini tentang mengapa jaringan saraf gagal dalam pemodelan bahasa. Kemudian kami memutuskan untuk mengembangkan makalah ini menjadi sebuah buku yang mengeksplorasi subjek ini lebih dalam.
DT: Buku Anda mengungkapkan skeptisisme tentang cara jaringan saraf, yang penting bagi pembelajaran mendalam modern, meniru otak manusia. Itu hanyalah perkiraan, bukan model akurat tentang cara kerja otak biologis. Namun apakah Anda menerima premis inti bahwa mungkin saja kita memahami otak secara granular cukup detail, hal ini dapat direplikasi secara artifisial – dan hal ini akan memunculkan kecerdasan atau kesanggupan merasa?
JL: Nama 'jaringan saraf' adalah istilah yang keliru. Jaringan saraf yang kita miliki sekarang, bahkan yang paling canggih sekalipun, tidak ada hubungannya dengan cara kerja otak. Pandangan bahwa otak adalah sekumpulan simpul yang saling berhubungan dalam cara jaringan saraf dibangun sangatlah naif.
Jika Anda melihat sel bakteri paling primitif, kita masih belum memahami cara kerjanya. Kami memahami beberapa aspeknya, namun kami tidak memiliki model cara kerjanya – apalagi neuron, yang jauh lebih rumit, atau miliaran neuron yang saling berhubungan. Saya yakin ini secara ilmiah mustahil untuk memahami cara kerja otak. Kita hanya dapat memahami aspek-aspek tertentu dan menangani aspek-aspek tersebut. Kita tidak memiliki, dan tidak akan mendapatkan, pemahaman penuh tentang cara kerja otak.
Jika kita memiliki pemahaman yang sempurna tentang cara kerja setiap molekul otak, kita mungkin bisa menirunya. Itu berarti memasukkan semuanya ke dalam persamaan matematika. Kemudian Anda dapat mereplikasinya menggunakan komputer. Masalahnya adalah kita tidak mampu menuliskan dan membuat persamaan tersebut.
BS: Banyak hal paling menarik di dunia terjadi pada tingkat perincian yang tidak dapat kita dekati. Kita hanya tidak memiliki peralatan pencitraan, dan mungkin kita tidak akan pernah memiliki peralatan pencitraan, untuk menangkap sebagian besar apa yang terjadi pada tingkat paling halus di otak.
Artinya kita tidak mengetahui, misalnya, apa yang menyebabkan kesadaran. Faktanya, terdapat serangkaian permasalahan filosofis yang cukup menarik, yang menurut metode yang kita ikuti, tidak akan pernah terpecahkan – sehingga kita sebaiknya mengabaikannya.
Yang lainnya adalah kebebasan berkehendak. Kami sangat mendukung gagasan bahwa manusia mempunyai kemauan; kita bisa mempunyai niat, tujuan, dan lain sebagainya. Tapi kita tidak tahu apakah itu kehendak bebas atau tidak. Itu adalah masalah yang ada hubungannya dengan fisika otak. Sejauh bukti yang tersedia bagi kita, komputer tidak bisa memiliki kemauan.
DT: Subjudul buku ini adalah ‘kecerdasan buatan tanpa rasa takut.’ Apa ketakutan spesifik yang Anda maksud?
BS: Hal ini dipicu oleh literatur tentang singularitas, yang saya tahu Anda sudah familiar dengannya. Nick Bostrom, David Chalmers, Elon Musk, dan sejenisnya. Ketika kami berbicara dengan rekan-rekan kami di dunia nyata, menjadi jelas bagi kami bahwa memang ada a ketakutan tertentu di kalangan masyarakat bahwa AI pada akhirnya akan mengambil alih dan mengubah dunia sehingga merugikan manusia.
Kita punya cukup banyak buku tentang argumen tipe Bostrum. Argumen inti yang menentang mereka adalah jika mesin tidak dapat memiliki kemauan, maka ia juga tidak dapat mempunyai keinginan jahat. Tanpa niat jahat, tidak ada yang perlu ditakutkan. Sekarang, tentu saja, kita masih bisa takut pada mesin, sama seperti kita takut pada senjata.
Tapi itu karena mesin-mesin tersebut dikelola oleh orang-orang yang mempunyai tujuan jahat. Namun bukan AI yang jahat; orang-oranglah yang membangun dan memprogram AI
DT: Mengapa gagasan tentang singularitas atau kecerdasan umum buatan ini begitu menarik minat banyak orang? Entah mereka takut atau terpesona olehnya, ada sesuatu tentang gagasan ini yang diterima oleh banyak orang.
JL: Ada gagasan yang dimulai pada awal abad ke-19 dan kemudian dinyatakan oleh Nietzsche pada akhir abad tersebut, bahwa Tuhan sudah mati. Karena para elit masyarakat kita bukan lagi orang Kristen, mereka memerlukan penggantinya. Max Stirner, seperti Karl Marx, murid Hegel, menulis sebuah buku tentang hal ini, dengan mengatakan, 'Saya adalah tuhan bagi diri saya sendiri.'
Jika Anda adalah Tuhan, Anda juga ingin menjadi pencipta. Jika Anda bisa menciptakan kecerdasan super maka Anda seperti Tuhan. Saya pikir ini ada hubungannya dengan kecenderungan hiper-narsistik dalam budaya kita. Kita tidak membicarakan hal ini di dalam buku, namun hal ini menjelaskan kepada saya mengapa gagasan ini begitu menarik di zaman kita di mana tidak ada lagi entitas transenden yang bisa dijadikan sandaran.
DT: Menarik. Jadi untuk menindaklanjutinya, terdapat gagasan bahwa penciptaan AI – atau tujuan untuk menciptakan AI – adalah tindakan narsistik. Dalam hal ini, konsep bahwa ciptaan-ciptaan ini entah bagaimana akan menjadi lebih kuat daripada kita adalah sebuah perubahan yang mengerikan. Itu adalah anak yang membunuh orang tuanya.
JL: Kurang lebih seperti itu, ya.
DT: Bagi Anda, apa hasil akhir dari buku Anda jika semua orang yakin dengan argumen Anda? Apa dampaknya bagi masa depan pengembangan AI?
JL: Itu pertanyaan yang sangat bagus. Saya dapat memberi tahu Anda apa yang menurut saya akan terjadi – dan akan terjadi. Saya pikir dalam jangka menengah orang-orang akan menerima argumen kami, dan ini akan menciptakan matematika terapan yang lebih baik.
Sesuatu yang sepenuhnya disadari oleh semua matematikawan dan fisikawan hebat adalah keterbatasan dari apa yang dapat mereka capai secara matematis. Karena sadar akan hal tersebut, mereka hanya fokus pada permasalahan tertentu saja. Jika Anda sangat menyadari keterbatasannya, maka Anda menjelajahi dunia dan mencari masalah-masalah ini dan menyelesaikannya. Begitulah cara Einstein menemukan persamaan gerak Brown; bagaimana dia mengemukakan teori relativitasnya; bagaimana Planck memecahkan radiasi benda hitam dan dengan demikian memprakarsai teori materi kuantum. Mereka mempunyai naluri yang baik mengenai permasalahan mana yang dapat diselesaikan dengan matematika dan mana yang tidak.
Jika orang-orang memahami pesan dari buku kami, kami yakin mereka akan mampu merekayasa sistem yang lebih baik, karena mereka akan berkonsentrasi pada apa yang benar-benar mungkin – dan berhenti membuang-buang uang dan tenaga untuk sesuatu yang tidak mungkin dilakukan tercapai.
BS: Saya pikir beberapa pesan sudah tersampaikan, bukan karena apa yang kami katakan tetapi karena pengalaman yang dialami orang-orang ketika mereka memberikan sejumlah besar uang untuk proyek AI, dan kemudian proyek AI tersebut gagal. Saya rasa Anda tahu tentang Pusat Kecerdasan Buatan Gabungan. Saya tidak ingat jumlah pastinya, tapi menurut saya jumlahnya sekitar $10 miliar, yang mereka berikan kepada kontraktor terkenal. Pada akhirnya, mereka tidak mendapatkan apa pun darinya. Mereka membatalkan kontrak.
(Catatan Editor: JAIC, sebuah subdivisi Angkatan Bersenjata Amerika Serikat, dimaksudkan untuk mempercepat “pengiriman dan adopsi AI untuk mencapai dampak misi dalam skala besar.” Badan ini kemudian digabungkan menjadi organisasi terpadu yang lebih besar, Chief Digital and Artificial Intelligence Officer, dengan dua kantor lainnya pada bulan Juni tahun ini. JAIC tidak lagi ada sebagai entitasnya sendiri.)
DT: Menurut Anda, dalam istilah tingkat tinggi, apa argumen paling meyakinkan yang Anda buat dalam buku ini?
BS: Setiap sistem AI bersifat matematis. Karena kita tidak dapat memodelkan kesadaran, kemauan, atau kecerdasan secara matematis, hal ini tidak dapat ditiru dengan menggunakan mesin. Oleh karena itu, mesin tidak akan menjadi cerdas, apalagi menjadi supercerdas.
JL: Struktur otak kita hanya mengizinkan model alam yang terbatas. Dalam fisika, kita memilih bagian realitas yang sesuai dengan kemampuan pemodelan matematika kita. Begitulah cara Newton, Maxwell, Einstein, atau Schrödinger memperoleh model mereka yang terkenal dan indah. Namun hal ini hanya dapat menggambarkan atau memprediksi sejumlah kecil sistem. Model terbaik kami adalah model yang kami gunakan untuk merekayasa teknologi. Kami tidak dapat membuat model matematika lengkap tentang alam bernyawa.
Wawancara ini telah diedit agar panjang dan jelasnya.
Rekomendasi Editor
- Penulis terkenal menuntut pembayaran dari perusahaan AI untuk menggunakan karya mereka
- Bing Chat melawan larangan AI di tempat kerja
- Google Bard sekarang dapat berbicara, tetapi bisakah ia meredam ChatGPT?
- Perusahaan AI baru Elon Musk bertujuan untuk ‘memahami alam semesta’
- Rekor pertumbuhan ChatGPT baru saja digulingkan oleh aplikasi viral baru
