Apakah ChatGPT merupakan bencana keamanan siber? Kami bertanya pada ahlinya

ChatGPT terasa sangat tak terhindarkan saat ini, dengan cerita kagum dengan kemampuannya tampaknya di mana-mana Anda melihat. Kami telah melihat bagaimana itu dapat menulis musik, membuat animasi 3D, dan membuat musik. Jika Anda dapat memikirkannya, ChatGPT mungkin dapat mencobanya.

Dan itulah masalahnya. Ada segala macam kesulitan dalam komunitas teknologi saat ini, dengan komentator sering khawatir tentang AI untuk mengarah ke kiamat malware dengan bahkan peretas paling berjari hijau menyulap trojan dan ransomware yang tak terhentikan.

Tetapi apakah ini benar? Untuk mengetahuinya, saya berbicara dengan sejumlah pakar keamanan siber untuk melihat pendapat mereka tentang kemampuan malware ChatGPT, apakah mereka khawatir tentang potensi penyalahgunaannya, dan apa yang dapat Anda lakukan untuk melindungi diri Anda sendiri dalam hal baru yang baru terbit ini dunia.

Kemampuan yang dipertanyakan

Salah satu daya tarik utama ChatGPT adalah kemampuannya untuk melakukan tugas-tugas rumit hanya dengan beberapa perintah sederhana, terutama dalam dunia pemrograman. Ketakutannya adalah ini akan menurunkan hambatan masuk untuk membuat malware, berpotensi mempertaruhkan proliferasi penulis virus yang mengandalkan alat AI untuk melakukan pekerjaan berat bagi mereka.

Joshua Long, Kepala Analis Keamanan di firma keamanan Intego, mengilustrasikan hal ini. “Seperti alat apa pun di dunia fisik atau virtual, kode komputer dapat digunakan untuk kebaikan atau kejahatan,” jelasnya. “Jika Anda meminta kode yang dapat mengenkripsi file, misalnya, bot seperti ChatGPT tidak dapat mengetahui maksud Anda yang sebenarnya. Jika Anda mengklaim bahwa Anda memerlukan kode enkripsi untuk melindungi file Anda sendiri, bot akan mempercayai Anda — bahkan jika tujuan Anda yang sebenarnya adalah membuat ransomware.”

ChatGPT memiliki berbagai perlindungan untuk memerangi hal semacam ini, dan trik bagi pembuat virus adalah dengan melewati pagar pembatas tersebut. Terus terang meminta ChatGPT untuk membuat virus yang efektif dan itu hanya akan menolak, mengharuskan Anda untuk menjadi kreatif untuk mengecohnya dan membuatnya melakukan penawaran Anda terhadap penilaiannya yang lebih baik. Mempertimbangkan apa yang dapat dilakukan orang jailbreak di ChatGPT, kemungkinan membuat malware menggunakan AI terasa mungkin secara teori. Nyatanya, itu sudah didemonstrasikan, jadi kami tahu itu mungkin.

Tapi tidak semua orang panik. Martin Zugec, Technical Solutions Director di Bitdefender, menganggap risikonya masih cukup kecil. “Mayoritas penulis malware pemula kemungkinan besar tidak memiliki keterampilan yang diperlukan untuk melewati keamanan ini tindakan, dan oleh karena itu risiko yang ditimbulkan oleh malware yang dihasilkan chatbot tetap relatif rendah saat ini, ”dia kata.

“Malware yang dihasilkan oleh chatbot telah menjadi topik diskusi yang populer akhir-akhir ini,” lanjut Zugec, “namun saat ini ada tidak ada bukti yang menunjukkan bahwa itu menimbulkan ancaman yang signifikan dalam waktu dekat.” Dan ada alasan sederhana untuk itu. Menurut Zugec, “kualitas kode malware yang dihasilkan chatbots cenderung rendah, sehingga menjadi kurang pilihan menarik bagi penulis malware berpengalaman yang dapat menemukan contoh yang lebih baik dalam kode publik repositori.”

Jadi, meskipun memungkinkan ChatGPT untuk membuat kode berbahaya, siapa pun yang memang memiliki keterampilan tersebut dapat melakukannya diperlukan untuk memanipulasi chatbot AI kemungkinan besar tidak terkesan dengan kode buruk yang dibuatnya, Zugec percaya.

Tapi seperti yang Anda duga, AI generatif baru saja dimulai. Dan untuk Long, itu berarti risiko peretasan yang ditimbulkan oleh ChatGPT belum ditetapkan.

“Ada kemungkinan bahwa munculnya bot AI berbasis LLM dapat menyebabkan peningkatan malware baru yang kecil hingga sedang, atau peningkatan malware. kemampuan dan penghindaran antivirus,” kata Long, menggunakan akronim untuk model bahasa besar yang digunakan alat AI seperti ChatGPT untuk membuat pengetahuan. “Namun, pada titik ini, tidak jelas seberapa besar dampak langsung alat seperti ChatGPT yang dibuat, atau akan dibuat, pada ancaman malware di dunia nyata.”

Teman seorang phisherman

Jika keterampilan menulis kode ChatGPT belum sempurna, dapatkah ini menjadi ancaman dengan cara lain, seperti menulis kampanye phishing dan rekayasa sosial yang lebih efektif? Di sini, para analis setuju bahwa ada lebih banyak potensi penyalahgunaan.

Bagi banyak perusahaan, salah satu vektor serangan potensial adalah karyawan perusahaan, yang dapat diakali atau dimanipulasi untuk secara tidak sengaja memberikan akses di tempat yang tidak seharusnya. Peretas mengetahui hal ini, dan ada banyak serangan rekayasa sosial profil tinggi yang terbukti membawa malapetaka. Misalnya, Grup Lazarus Korea Utara diperkirakan memulainya Intrusi 2014 ke dalam sistem Sony — mengakibatkan bocornya film dan informasi pribadi yang belum dirilis — dengan menyamar sebagai perekrut pekerjaan dan membuat karyawan Sony membuka file yang terinfeksi.

Ini adalah salah satu area di mana ChatGPT dapat secara dramatis membantu peretas dan phisher meningkatkan pekerjaan mereka. Jika bahasa Inggris bukan bahasa asli pelaku ancaman, misalnya, mereka dapat menggunakan chatbot AI untuk menulis email phishing yang meyakinkan bagi mereka yang ditujukan untuk menargetkan penutur bahasa Inggris. Atau dapat digunakan untuk membuat pesan meyakinkan dalam jumlah besar dengan cepat dalam waktu yang jauh lebih singkat daripada yang dibutuhkan pelaku ancaman manusia untuk melakukan tugas yang sama.

Segalanya bisa menjadi lebih buruk ketika alat AI lainnya dimasukkan ke dalam campuran. Seperti yang telah didalilkan oleh Karen Renaud, Merrill Warkentin, dan George Westerman Tinjauan Manajemen Sloan MIT, penipu dapat membuat skrip menggunakan ChatGPT dan membacanya melalui telepon dengan suara deepfake yang menyamar sebagai CEO perusahaan. Bagi karyawan perusahaan yang menerima telepon, suara itu akan terdengar — dan bertindak — persis seperti bos mereka. Jika suara itu meminta karyawan untuk mentransfer sejumlah uang ke rekening bank baru, karyawan tersebut mungkin akan tertipu karena rasa hormat yang mereka bayarkan kepada atasan mereka.

Seperti yang dikatakan Long, “[aktor ancaman] tidak lagi harus mengandalkan keterampilan bahasa Inggris mereka sendiri (seringkali tidak sempurna) untuk menulis email penipuan yang meyakinkan. Mereka juga tidak boleh membuat kata-kata pintar mereka sendiri dan menjalankannya melalui Google Terjemahan. Sebaliknya, ChatGPT — sama sekali tidak menyadari potensi niat jahat di balik permintaan tersebut — akan dengan senang hati menulis seluruh teks email penipuan dalam bahasa apa pun yang diinginkan.”

Dan semua yang diperlukan agar ChatGPT benar-benar melakukan ini adalah beberapa petunjuk cerdas.

Bisakah ChatGPT meningkatkan keamanan siber Anda?

Namun, tidak semuanya buruk. Sifat yang sama yang membuat ChatGPT menjadi alat yang menarik bagi pelaku ancaman — kecepatannya, kemampuannya untuk menemukan kekurangan dalam kode — menjadikannya sumber daya yang bermanfaat bagi peneliti keamanan siber dan perusahaan antivirus.

Long menunjukkan bahwa para peneliti sudah menggunakan AI chatbots untuk menemukan yang belum ditemukan (“zero-day”) kerentanan dalam kode, cukup dengan mengunggah kode dan meminta ChatGPT untuk melihat apakah ada potensi kelemahan. Itu berarti metodologi yang sama yang dapat melemahkan pertahanan dapat digunakan untuk menopang mereka.

Dan meskipun daya tarik utama ChatGPT bagi pelaku ancaman mungkin terletak pada kemampuannya menulis pesan phishing yang masuk akal, bakat yang sama itu dapat membantu melatih perusahaan dan pengguna tentang apa yang harus diwaspadai untuk menghindari penipuan diri. Itu juga dapat digunakan untuk merekayasa balik malware, membantu peneliti dan perusahaan keamanan untuk mengembangkan tindakan pencegahan dengan cepat.

Pada akhirnya, ChatGPT sendiri pada dasarnya tidak baik atau buruk. Seperti yang ditunjukkan Zugec, “Argumen bahwa AI dapat memfasilitasi pengembangan malware dapat diterapkan ke yang lain kemajuan teknologi yang menguntungkan pengembang, seperti perangkat lunak sumber terbuka atau berbagi kode platform.”

Dengan kata lain, selama pengamanan terus ditingkatkan, ancaman yang ditimbulkan bahkan oleh bot obrolan AI terbaik mungkin tidak akan pernah menjadi berbahaya seperti yang diperkirakan baru-baru ini.

Bagaimana menjaga diri Anda tetap aman

Jika Anda khawatir tentang ancaman yang ditimbulkan oleh AI chatbots dan malware yang dapat disalahgunakan untuk membuatnya, ada beberapa langkah yang dapat Anda ambil untuk melindungi diri sendiri. Zugec mengatakan penting untuk mengadopsi "pendekatan pertahanan berlapis" yang mencakup "menerapkan solusi keamanan titik akhir, menjaga perangkat lunak dan sistem terkini, dan tetap waspada terhadap pesan atau permintaan yang mencurigakan.”

Long, sementara itu, merekomendasikan untuk menghindari file yang diminta untuk Anda instal secara otomatis saat mengunjungi situs web. Untuk memperbarui atau mengunduh aplikasi, dapatkan dari toko aplikasi resmi atau situs web vendor perangkat lunak. Dan berhati-hatilah saat mengeklik hasil penelusuran atau masuk ke situs web — peretas cukup membayar untuk menempatkan situs scam mereka di bagian atas hasil penelusuran dan mencuri info masuk Anda dengan situs web mirip yang dibuat dengan hati-hati.

ChatGPT tidak akan kemana-mana, begitu pula malware yang menyebabkan begitu banyak kerusakan di seluruh dunia. Sementara ancaman dari kemampuan pengkodean ChatGPT mungkin berlebihan untuk saat ini, kemahirannya dalam membuat email phishing dapat menyebabkan segala macam sakit kepala. Namun sangat mungkin untuk melindungi diri Anda dari ancaman yang ditimbulkannya dan memastikan Anda tidak menjadi korban. Saat ini, sangat berhati-hati — dan aplikasi antivirus yang solid — dapat membantu menjaga perangkat Anda tetap aman dan sehat.

Rekomendasi Editor

• Google Bard sekarang dapat berbicara, tetapi bisakah itu menenggelamkan ChatGPT?
• Lalu lintas situs web ChatGPT turun untuk pertama kalinya
• Saingan ChatGPT Apple dapat secara otomatis menulis kode untuk Anda
• Pengacara NY didenda karena menggunakan kasus ChatGPT palsu dalam ringkasan hukum
• Browser web ini mengintegrasikan ChatGPT dengan cara baru yang menarik