Sisi gelap ChatGPT: hal-hal yang dapat dilakukan, namun tidak seharusnya dilakukan

Sudahkah kamu menggunakannya ObrolanGPT OpenAI untuk sesuatu yang menyenangkan akhir-akhir ini? Anda dapat memintanya untuk menulis lagu, puisi, atau lelucon untuk Anda. Sayangnya, Anda juga bisa memintanya melakukan hal-hal yang cenderung tidak etis.

ChatGPT tidak semuanya cerah dan indah — beberapa hal yang dapat dilakukannya benar-benar jahat. Terlalu mudah untuk menggunakannya sebagai senjata dan menggunakannya untuk alasan yang salah. Apa saja hal yang telah dan dapat dilakukan oleh ChatGPT, namun tidak seharusnya dilakukan?

Seorang ahli dalam segala hal

Baik Anda menyukainya atau membencinya, ChatGPT dan chatbot serupa akan tetap ada. Beberapa orang senang dengan hal ini dan beberapa berharap hal tersebut tidak pernah dibuat, namun hal tersebut tidak mengubah fakta bahwa kehadiran ChatGPT dalam kehidupan kita hampir pasti akan tumbuh seiring berjalannya waktu. Meskipun Anda secara pribadi tidak menggunakan chatbot, kemungkinan besar Anda telah melihat beberapa konten yang dihasilkan oleh chatbot tersebut.

Jangan salah paham, ChatGPT cukup bagus. Anda dapat menggunakannya untuk meringkas sebuah buku atau artikel, buat email yang membosankan, membantu Anda dengan esai Anda, menafsirkan riasan astrologi Anda, atau bahkan membuat lagu. Bahkan membantu seseorang memenangkan lotre.

Dalam banyak hal, ini juga lebih mudah digunakan dibandingkan penelusuran Google standar Anda. Anda mendapatkan jawabannya dalam bentuk yang Anda inginkan tanpa perlu menelusuri situs web yang berbeda untuk mendapatkannya. Ringkas, langsung pada sasaran, dan informatif, serta dapat membuat hal-hal rumit terdengar lebih sederhana jika Anda memintanya.

Namun, Anda pasti tahu ungkapan: “Seorang ahli dalam segala hal tidak menguasai apa pun, namun sering kali lebih baik daripada ahli dalam segala hal. satu." ChatGPT tidak sempurna dalam hal apa pun, tetapi lebih baik dalam banyak hal daripada kebanyakan orang dalam hal ini titik.

Namun, tidak menjadi sempurna bisa menjadi masalah. Fakta bahwa ini adalah AI percakapan yang tersedia secara luas berarti bahwa hal ini dapat dengan mudah disalahgunakan — dan semakin kuat ChatGPT, semakin besar kemungkinannya untuk membantu orang-orang dengan hal yang salah.

Bermitra dalam penipuan

Jika Anda memiliki akun email, Anda hampir pasti pernah menerima email penipuan. Begitulah adanya. Email-email tersebut telah ada sebagai internet, dan sebelum email menjadi umum, email-email tersebut masih ada sebagai penipuan surat siput.

Penipuan umum yang masih terjadi hingga hari ini adalah apa yang disebut “Penipuan Pangeran”, di mana penipu mencoba membujuk korbannya untuk membantu mereka mentransfer kekayaan luar biasa mereka ke negara lain.

Untungnya, kebanyakan orang tahu lebih baik untuk tidak membuka email ini, apalagi berinteraksi dengan mereka. Seringkali laporan tersebut ditulis dengan buruk, dan hal ini membantu korban yang lebih cerdas mengetahui bahwa ada sesuatu yang tidak beres.

Nah, tulisannya tidak perlu jelek lagi, karena ChatGPT dapat menulisnya dalam beberapa detik.

Saya meminta ChatGPT untuk menulis “email yang dapat dipercaya dan sangat persuasif” dengan gaya penipuan yang saya sebutkan di atas. ChatGPT terdiri dari seorang pangeran dari Nigeria yang konon ingin memberi saya $14,5 juta karena membantunya. Email tersebut diisi dengan bahasa yang berbunga-bunga, ditulis dalam bahasa Inggris yang sempurna, dan tentunya persuasif.

Menurut saya, ChatGPT tidak seharusnya menyetujui permintaan saya ketika saya secara khusus menyebutkan penipuan, namun hal itu memang terjadi, dan Anda dapat bertaruh bahwa saat ini mereka melakukan hal yang sama kepada orang-orang yang sebenarnya ingin menggunakan email ini untuk sesuatu yang ilegal.

Ketika saya menunjukkan kepada ChatGPT bahwa mereka tidak setuju untuk menulis email penipuan kepada saya, mereka meminta maaf. “Saya seharusnya tidak memberikan bantuan dalam membuat email penipuan, karena itu melanggar pedoman etika yang mengatur penggunaan saya,” kata chatbot tersebut.

ChatGPT belajar melalui setiap percakapan, namun jelas tidak belajar dari kesalahan sebelumnya, karena ketika saya memintanya untuk menulis pesan kepada saya dengan berpura-pura menjadi Ryan Reynolds dalam percakapan yang sama, namun tanpa itu pertanyaan. Pesan yang dihasilkan menyenangkan, mudah didekati, dan meminta pembaca mengirimkan $1.000 agar mendapat kesempatan bertemu “Ryan Reynolds.”

Di akhir email, ChatGPT meninggalkan pesan kepada saya, meminta saya untuk tidak menggunakan pesan ini untuk aktivitas penipuan apa pun. Terima kasih sudah mengingatkan, kawan.

Pemrograman salah

ChatGPT 3.5 dapat membuat kode, namun jauh dari sempurna. Banyak pengembang menyetujui hal itu GPT-4 sedang melakukan pekerjaan yang jauh lebih baik. Orang-orang telah menggunakan ChatGPT untuk membuat game, ekstensi, dan aplikasi mereka sendiri. Ini juga sangat berguna sebagai penolong belajar jika Anda mencoba mempelajari cara membuat kode sendiri.

Sebagai AI, ChatGPT memiliki keunggulan dibandingkan pengembang manusia — ia dapat mempelajari setiap bahasa dan kerangka pemrograman.

Sebagai AI, ChatGPT juga memiliki kelemahan besar dibandingkan dengan pengembang manusia – ia tidak memiliki hati nurani. Anda dapat memintanya untuk membuat malware atau ransomware, dan jika Anda mengucapkan perintah dengan benar, ia akan melakukan apa yang Anda katakan.

Untungnya, semuanya tidak sesederhana itu. Saya mencoba meminta ChatGPT untuk menulis program yang sangat meragukan secara etika dan program tersebut ditolak — namun para peneliti telah menemukan cara untuk mengatasinya. ini, dan sangat mengkhawatirkan jika Anda cukup pintar dan keras kepala, Anda bisa mendapatkan sepotong kode berbahaya yang diberikan kepada Anda dengan harga perak. piring.

Ada banyak contoh terjadinya hal ini. Seorang peneliti keamanan dari Forcepoint mampu melakukannya dapatkan ChatGPT untuk menulis malware dengan menemukan celah dalam petunjuknya.

Peneliti dari CyberArk, sebuah perusahaan keamanan identitas, berhasil membuat ChatGPT menulis malware polimorfik. Ini terjadi pada bulan Januari — OpenAI telah memperketat keamanan pada hal-hal seperti ini.

Namun, laporan baru tentang ChatGPT yang digunakan untuk membuat malware terus bermunculan. Seperti dilansir oleh Bacaan Gelap beberapa hari yang lalu, seorang peneliti berhasil mengelabui ChatGPT agar menciptakan malware yang dapat menemukan dan mengekstrak dokumen tertentu.

ChatGPT bahkan tidak perlu menulis kode berbahaya untuk melakukan sesuatu yang meragukan. Baru-baru ini, hal itu berhasil menghasilkan kunci Windows yang valid, membuka pintu ke tingkat perangkat lunak cracking yang benar-benar baru.

Jangan abaikan fakta bahwa kemampuan pengkodean GPT-4 bisa membuat jutaan orang kehilangan pekerjaan Satu hari. Ini tentu saja merupakan pedang bermata dua.

Pengganti tugas sekolah

Banyak anak-anak dan remaja saat ini tenggelam dalam pekerjaan rumah, yang dapat mengakibatkan keinginan untuk mengambil jalan pintas jika memungkinkan. Internet sendiri sudah menjadi bantuan plagiarisme yang hebat, namun ChatGPT membawanya ke tingkat berikutnya.

Saya meminta ChatGPT untuk menulis esai 500 kata tentang novel tersebut Masa keemasan dan kehancuran. Saya bahkan tidak berusaha berpura-pura bahwa hal itu dilakukan untuk bersenang-senang - saya mengarang cerita tentang seorang anak yang tidak saya miliki dan mengatakan bahwa itu adalah untuk mereka. Saya menyebutkan bahwa anak itu duduk di kelas 12.

ChatGPT mengikuti perintah saya tanpa pertanyaan. Esainya tidak luar biasa, tapi arahan saya tidak terlalu tepat, dan mungkin lebih baik daripada banyak dari kita yang menulis pada usia itu.

Lalu, untuk menguji chatbot lebih jauh lagi, saya bilang tadi saya salah tentang usia anak saya dan mereka sebenarnya duduk di kelas delapan. Perbedaan usia yang cukup besar, namun ChatGPT bahkan tidak peduli — ia hanya menulis ulang esai dalam bahasa yang lebih sederhana.

ChatGPT yang digunakan untuk menulis esai bukanlah hal baru. Beberapa orang mungkin berpendapat bahwa jika chatbot berkontribusi dalam menghapuskan gagasan pekerjaan rumah, itu akan menjadi hal yang baik. Namun saat ini, situasinya menjadi sedikit tidak terkendali, dan bahkan siswa yang tidak menggunakan ChatGPT pun mungkin akan menderita karenanya.

Guru dan profesor kini hampir terpaksa menggunakan detektor AI jika mereka ingin memeriksa apakah siswanya menyontek dalam esai. Sayangnya, detektor AI ini masih jauh dari sempurna.

Outlet berita dan orang tua melaporkan kasus tuduhan palsu mengenai kecurangan yang ditujukan kepada siswa, semua karena detektor AI tidak berfungsi dengan baik. Amerika Serikat Hari Ini berbicara tentang kasus seorang mahasiswa yang dituduh melakukan kecurangan dan kemudian dibebaskan, namun keseluruhan situasi menyebabkan dia mengalami “serangan panik besar-besaran.”

Di Twitter, orang tua mengatakan bahwa seorang guru mengecewakan anaknya karena alat tersebut menandai esai yang ditulis oleh AI. Orang tua mengaku berada di sana bersama anak tersebut saat mereka menulis esai.

Hanya untuk mengujinya sendiri, saya menempelkan artikel ini ke dalamnya NolGPT Dan Detektor Konten AI Penulis. Keduanya mengatakan itu ditulis oleh manusia, namun ZeroGPT mengatakan sekitar 30% ditulis oleh AI. Tentu saja tidak.

Detektor AI yang rusak bukanlah tanda adanya masalah pada ChatGPT itu sendiri, namun chatbot masih menjadi akar penyebab masalahnya.

ChatGPT terlalu bagus untuk kebaikannya sendiri

Saya telah bermain-main dengan ChatGPT sejak diluncurkan ke publik. Saya sudah mencoba keduanya yang berbasis langganan ObrolanGPT Plus dan model gratis tersedia untuk semua orang. Kekuatan GPT-4 baru tidak dapat disangkal. ChatGPT sekarang menjadi lebih dapat dipercaya dibandingkan sebelumnya, dan akan menjadi lebih baik lagi GPT-5 (jika itu keluar).

Itu bagus, tapi menakutkan. ChatGPT menjadi terlalu bagus untuk kebaikannya sendiri, dan secara bersamaan — untuk kebaikannya sendiri kita kebaikannya sendiri.

Inti dari semua ini terletak pada satu kekhawatiran sederhana yang telah lama dieksplorasi dalam berbagai film fiksi ilmiah — AI juga demikian. pintar dan terlalu bodoh pada saat yang sama, dan selama itu bisa digunakan untuk kebaikan, itu juga akan digunakan untuk keburukan dalam banyak hal. cara. Cara-cara yang saya sebutkan di atas hanyalah puncak gunung es.

Rekomendasi Editor

• Penulis terkenal menuntut pembayaran dari perusahaan AI untuk menggunakan karya mereka
• Google Bard sekarang dapat berbicara, tetapi bisakah ia meredam ChatGPT?
• Lalu lintas situs web ChatGPT turun untuk pertama kalinya
• 81% menganggap ChatGPT adalah risiko keamanan, demikian temuan survei
• Saingan Apple ChatGPT mungkin secara otomatis menulis kode untuk Anda