AI generatif telah bergerak dengan kecepatan luar biasa dalam beberapa bulan terakhir, dengan peluncuran berbagai alat dan bot seperti ChatGPT OpenAI, Google Bard, dan banyak lagi. Namun perkembangan pesat ini menimbulkan kekhawatiran serius di antara para veteran berpengalaman di bidang AI — jadi sedemikian rupa sehingga lebih dari 1.000 dari mereka telah menandatangani surat terbuka yang meminta pengembang AI untuk membantingnya rem.
Surat itu diterbitkan di situs web Institut Kehidupan Masa Depan, sebuah organisasi yang menyatakan misinya adalah "mengarahkan teknologi transformatif untuk memberi manfaat bagi kehidupan dan menjauhi risiko skala besar yang ekstrim". Diantara penandatangan adalah beberapa akademisi terkemuka dan pemimpin di bidang teknologi, termasuk salah satu pendiri Apple Steve Wozniak, CEO Twitter Elon Musk, dan politisi Andrew Yang.
Video yang Direkomendasikan
Artikel tersebut menyerukan kepada semua perusahaan yang mengerjakan model AI yang lebih kuat dari itu baru-baru ini merilis GPT-4
untuk segera menghentikan pekerjaan selama setidaknya enam bulan. Moratorium ini harus bersifat “publik dan dapat diverifikasi” dan akan memberikan waktu untuk “bersama-sama mengembangkan dan mengimplementasikan seperangkat kebijakan bersama. protokol keselamatan untuk desain dan pengembangan AI tingkat lanjut yang diaudit secara ketat dan diawasi oleh pihak luar yang independen ahli.”Terkait
- Pembuat ChatGPT OpenAI menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen
- Fitur penjelajahan Bing ChatGPT dinonaktifkan karena kelemahan akses paywall
- Saingan ChatGPT Apple dapat secara otomatis menulis kode untuk Anda
Surat itu mengatakan ini diperlukan karena "sistem AI dengan kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan." Itu risiko termasuk penyebaran propaganda, penghancuran pekerjaan, potensi penggantian dan keusangan hidup manusia, dan “hilangnya kendali peradaban kita.” Para penulis menambahkan bahwa keputusan apakah akan terus maju ke masa depan ini tidak boleh diserahkan kepada “teknologi yang tidak dipilih pemimpin.”
AI 'untuk keuntungan yang jelas bagi semua'
Surat itu muncul tepat setelah klaim dibuat bahwa GPT-5, versi berikutnya dari teknologi yang mendukung ChatGPT, bisa mencapai kecerdasan umum buatan. Jika benar, itu berarti ia dapat memahami dan mempelajari apapun yang dapat dipahami oleh manusia. Itu bisa membuatnya sangat kuat dengan cara yang belum sepenuhnya dieksplorasi.
Terlebih lagi, surat tersebut menyatakan bahwa perencanaan dan manajemen yang bertanggung jawab seputar pengembangan sistem AI tidak terjadi, “meskipun beberapa bulan terakhir telah melihat AI laboratorium terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menyebarkan pikiran digital yang semakin kuat yang tidak seorang pun — bahkan pembuatnya — dapat memahami, memprediksi, atau andal kontrol."
Sebaliknya, surat tersebut menegaskan bahwa sistem tata kelola baru harus dibuat yang akan mengatur pengembangan AI, membantu orang membedakan buatan AI dan konten yang dibuat manusia, meminta laboratorium AI seperti OpenAI bertanggung jawab atas kerusakan yang ditimbulkannya, memungkinkan masyarakat untuk mengatasi gangguan AI (terutama terhadap demokrasi), dan banyak lagi.
Penulis mengakhiri dengan catatan positif, mengklaim bahwa “umat manusia dapat menikmati masa depan yang berkembang dengan AI… di mana kita menuai hasilnya, merekayasa sistem ini untuk keuntungan semua orang, dan memberi masyarakat kesempatan untuk beradaptasi.” Memukul jeda pada sistem AI lebih kuat dibandingkan GPT-4 akan membiarkan ini terjadi, kata mereka.
Akankah surat itu memiliki efek yang diinginkan? Itu sulit dikatakan. Jelas ada insentif bagi OpenAI untuk terus mengerjakan model lanjutan, baik finansial maupun reputasi. Tetapi dengan begitu banyak potensi risiko — dan dengan sangat sedikit pemahaman tentangnya — penulis surat tersebut jelas merasa bahwa insentif tersebut terlalu berbahaya untuk dikejar.
Rekomendasi Editor
- Google Bard sekarang dapat berbicara, tetapi bisakah itu menenggelamkan ChatGPT?
- Lalu lintas situs web ChatGPT turun untuk pertama kalinya
- 81% berpendapat bahwa ChatGPT adalah risiko keamanan, demikian temuan survei
- Saya mengajari ChatGPT untuk mengajari saya permainan papan, dan sekarang saya tidak akan pernah kembali
- Pengacara NY didenda karena menggunakan kasus ChatGPT palsu dalam ringkasan hukum
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan, dan cuplikan unik.
