Jika individu yang berada di garis depan teknologi kecerdasan buatan berkomentar tentang efek berpotensi bencana dari sistem AI yang sangat cerdas, maka mungkin bijaksana untuk duduk dan menerima melihat.
Beberapa bulan yang lalu, Geoffrey Hinton, seorang pria yang dianggap sebagai salah satu "bapak baptis" AI untuk pekerjaan perintisnya di lapangan, mengatakan bahwa laju perkembangan teknologi yang pesat berarti bahwa itu "tidak terbayangkan" bahwa AI superintelijen — dianggap lebih unggul dari pikiran manusia — pada akhirnya dapat memusnahkan umat manusia.
Video yang Direkomendasikan
Dan Sam Altman, CEO OpenAI, perusahaan di belakang chatbot ChatGPT yang viral, telah mengaku "sedikit takut" tentang efek potensial dari sistem AI canggih pada masyarakat.
Terkait
- Pembuat ChatGPT OpenAI menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen
- Lalu lintas situs web ChatGPT turun untuk pertama kalinya
- Saya mengajari ChatGPT untuk mengajari saya permainan papan, dan sekarang saya tidak akan pernah kembali
Altman sangat prihatin sehingga pada hari Rabu perusahaannya mengumumkan sedang menyiapkan unit baru bernama Penyelarasan super bertujuan untuk memastikan bahwa AI superintelijen tidak menyebabkan kekacauan atau sesuatu yang jauh lebih buruk.
“Kecerdasan super akan menjadi teknologi paling berpengaruh yang pernah ditemukan umat manusia, dan dapat membantu kita memecahkan banyak masalah paling penting di dunia,” kata OpenAI dalam posting memperkenalkan inisiatif baru. “Tetapi kekuatan superintelijen yang sangat besar juga bisa sangat berbahaya, dan dapat menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia.”
OpenAI mengatakan bahwa meskipun AI superintelligent tampaknya masih jauh, ia percaya itu dapat dikembangkan pada tahun 2030. Dan dengan mudah mengakui bahwa saat ini, tidak ada sistem "untuk mengarahkan atau mengendalikan AI yang berpotensi superintelijen, dan mencegahnya menjadi nakal".
Untuk menghadapi situasi tersebut, OpenAI ingin membangun "peneliti penyelarasan otomatis tingkat manusia" yang akan melakukan pemeriksaan keamanan pada AI superintelijen, menambahkan bahwa mengelola risiko ini juga akan membutuhkan institusi baru untuk tata kelola dan memecahkan masalah superintelijen penyelarasan.
Agar Superalignment memiliki efek, OpenAI perlu mengumpulkan tim peneliti dan insinyur pembelajaran mesin terbaik.
Perusahaan tampak sangat jujur tentang upayanya, menggambarkannya sebagai "tujuan yang sangat ambisius" sambil juga mengakuinya itu "tidak dijamin berhasil." Namun ia menambahkan bahwa “optimis bahwa upaya yang terfokus dan terpadu dapat menyelesaikan ini masalah."
Alat AI baru seperti ChatGPT OpenAI dan Bard Google, di antara banyak lainnya, sangat revolusioner sehingga para ahli yakin bahwa bahkan pada tingkat pra-intelijen ini, tempat kerja dan masyarakat luas menghadapi perubahan mendasar dalam waktu dekat ketentuan.
Itu sebabnya pemerintah di seluruh dunia berebut untuk mengejar ketinggalan, buru-buru bergerak untuk memberlakukan peraturan industri AI yang berkembang pesat dalam upaya untuk memastikan teknologi diterapkan dengan cara yang aman dan bertanggung jawab tata krama. Namun, kecuali satu badan dibentuk, setiap negara akan memiliki pandangannya sendiri tentang cara terbaik untuk menggunakan teknologi tersebut, yang berarti peraturan tersebut dapat sangat bervariasi dan menghasilkan hasil yang sangat berbeda. Dan pendekatan yang berbeda inilah yang akan membuat tujuan Superalignment semakin sulit untuk dicapai.
Rekomendasi Editor
- Google Bard sekarang dapat berbicara, tetapi bisakah itu menenggelamkan ChatGPT?
- Perusahaan AI baru Elon Musk bertujuan untuk 'memahami alam semesta'
- OpenAI mengungkapkan lokasi pos internasional pertamanya
- Pengacara NY didenda karena menggunakan kasus ChatGPT palsu dalam ringkasan hukum
- Browser web ini mengintegrasikan ChatGPT dengan cara baru yang menarik
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan, dan cuplikan unik.
