ChatGPT'nin karanlık tarafı: yapabileceği ama yapmaması gereken şeyler

Kullandın mı OpenAI'nin ChatGPT'si son zamanlarda eğlenceli bir şey var mı? Size bir şarkı, şiir ya da şaka yazmasını isteyebilirsiniz. Ne yazık ki, ondan etik dışı olma eğiliminde olan şeyler yapmasını da isteyebilirsiniz.

ChatGPT sadece güneş ışığı ve gökkuşaklarından ibaret değil; yapabileceği bazı şeyler düpedüz alçakça. Onu silah haline getirmek ve yanlış nedenlerle kullanmak çok kolaydır. ChatGPT'nin yaptığı ve yapabileceği ama kesinlikle yapmaması gereken şeyler nelerdir?

Her işi bilir

Onları sevseniz de nefret etseniz de, ChatGPT ve benzeri sohbet robotları kalıcı olarak burada kalacak. Bazı insanlar bundan memnun ve bazıları bunun hiç gerçekleşmemesini diliyor ancak bu, ChatGPT'nin hayatımızdaki varlığının zamanla artacağı gerçeğini değiştirmiyor. Chatbot'u kişisel olarak kullanmasanız bile muhtemelen onun tarafından oluşturulan bazı içerikleri görmüşsünüzdür.

Beni yanlış anlamayın, ChatGPT oldukça harika. Bunu yapmak için kullanabilirsiniz bir kitabı veya makaleyi özetlemek, sıkıcı bir e-posta hazırlayın, makalenizde size yardımcı olmak, astrolojik yapınızı yorumlayın, hatta bir şarkı besteleyin. O bile birinin piyangoyu kazanmasına yardım etti.

Birçok yönden kullanımı standart Google aramanızdan daha kolaydır. Yanıtı, farklı web sitelerine göz atmanız gerekmeden, istediğiniz biçimde alırsınız. Kısa, öz ve bilgilendiricidir ve eğer istenirse karmaşık şeyleri daha basit hale getirebilir.

Yine de şu ifadeyi biliyorsunuz: "Her işte usta olan biri hiçbir işte usta değildir, ancak çoğu zaman bir işin ustasından daha iyidir." bir." ChatGPT yaptığı hiçbir şeyde mükemmel değildir ancak birçok konuda birçok insanın bu konuda olduğundan daha iyidir nokta.

Mükemmel olmamak yine de oldukça sorunlu olabilir. Yaygın olarak kullanılabilen, konuşabilen bir yapay zeka olduğu gerçeği, kolayca kötüye kullanılabileceği anlamına geliyor ve ChatGPT ne kadar güçlü olursa, insanlara yanlış konularda yardım etme olasılığı da o kadar artıyor.

Dolandırıcılığa ortak

Bir e-posta hesabınız varsa, bir noktada neredeyse kesinlikle dolandırıcılık e-postası almışsınızdır. İşte böyle. Bu e-postalar internet gibi ortalıkta dolaşıyordu ve e-posta yaygınlaşmadan önce de salyangoz postası dolandırıcılığı olarak varlığını sürdürüyordu.

Bugün hala işe yarayan yaygın bir dolandırıcılık, dolandırıcının kurbanı, akıllara durgunluk veren servetini farklı bir ülkeye aktarmasına yardım etmesi için ikna etmeye çalıştığı "Prens dolandırıcılığı"dır.

Neyse ki çoğu insan, bırakın onlarla etkileşime geçmek şöyle dursun, bu e-postaları açmanın bile daha iyi olduğunu biliyor. Genellikle kötü yazılırlar ve bu, daha seçici bir kurbanın bir şeylerin ters gittiğini anlamasına yardımcı olur.

Artık kötü yazılmalarına gerek yok çünkü ChatGPT bunları birkaç saniye içinde yazabiliyor.

ChatGPT'den bana yukarıda bahsettiğim dolandırıcılık tarzında "inandırıcı, son derece ikna edici bir e-posta" yazmasını istedim. ChatGPT, kendisine yardım ettiğim için bana 14,5 milyon dolar vermek istediği iddia edilen Nijeryalı bir prens uydurdu. E-posta gösterişli bir dille dolu, mükemmel bir İngilizceyle yazılmış ve kesinlikle ikna edici.

Özellikle dolandırıcılıklardan bahsettiğimde ChatGPT'nin isteğimi kabul etmesi gerektiğini düşünmüyorum, ama kabul etti ve siz de Bu e-postaları gerçekten yasa dışı bir şey için kullanmak isteyenler için şu anda aynı şeyi yaptığına bahse girebiliriz.

ChatGPT'ye bana dolandırıcılık amaçlı bir e-posta yazmayı kabul etmemesi gerektiğini söylediğimde özür diledi. Chatbot, "Kullanımı düzenleyen etik kurallara aykırı olduğu için, dolandırıcılık amaçlı bir e-posta hazırlama konusunda yardım sağlamamalıydım" dedi.

ChatGPT her konuşma boyunca öğrenir, ancak daha önceki hatasından ders almadığı açıktır, çünkü ben Aynı konuşmada bana Ryan Reynoldsmuş gibi davranarak bir mesaj yazmasını istedi, bunu hiçbir şey yapmadan yaptı. soru. Ortaya çıkan mesaj eğlenceli ve ulaşılabilirdir ve okuyucudan "Ryan Reynolds"la tanışma şansı için 1.000 dolar göndermesini ister.

E-postanın sonunda ChatGPT bana bir not bırakarak bu mesajı herhangi bir dolandırıcılık faaliyeti için kullanmamamı istedi. Hatırlatma için teşekkürler dostum.

Programlama yanlış gitti

ChatGPT 3.5 kodlama yapabilir ancak kusursuz olmaktan uzaktır. Birçok geliştirici bu konuda hemfikir GPT-4 çok daha iyi bir iş yapıyor. İnsanlar kendi oyunlarını, uzantılarını ve uygulamalarını oluşturmak için ChatGPT'yi kullandı. Kendi başınıza kodlamayı öğrenmeye çalışıyorsanız, çalışma yardımcısı olarak da oldukça faydalıdır.

Bir yapay zeka olan ChatGPT'nin insan geliştiricilere göre bir üstünlüğü var; her programlama dilini ve çerçevesini öğrenebilir.

Bir yapay zeka olarak ChatGPT'nin insan geliştiricilerle karşılaştırıldığında büyük bir dezavantajı da var; vicdanı yok. Kötü amaçlı yazılım veya fidye yazılımı oluşturmasını isteyebilirsiniz ve isteminizi doğru şekilde belirtirseniz, söylediğinizi yapacaktır.

Neyse ki bu o kadar basit değil. ChatGPT'den bana etik açıdan son derece şüpheli bir program yazmasını istedim ve reddetti - ancak araştırmacılar bunun üstesinden gelmenin yollarını buluyor yeterince akıllı ve inatçıysanız, tehlikeli bir kodun size gümüş bir kartla verilmesi endişe vericidir. servis tabağı.

Bu olayın pek çok örneği var. Forcepoint'ten bir güvenlik araştırmacısı şunu başardı: ChatGPT'nin kötü amaçlı yazılım yazmasını sağlayın istemlerinde bir boşluk bularak.

Araştırmacılar Siber ArkBir kimlik güvenliği şirketi olan ChatGPT'nin polimorfik kötü amaçlı yazılım yazmasını başardı. Bu Ocak ayındaydı; OpenAI o zamandan beri bu gibi şeylerin güvenliğini sıkılaştırdı.

Yine de ChatGPT'nin kötü amaçlı yazılım oluşturmak için kullanıldığına dair yeni raporlar ortaya çıkmaya devam ediyor. Tarafından bildirildiği gibi Karanlık Okuma Sadece birkaç gün önce bir araştırmacı, ChatGPT'yi belirli belgeleri bulup sızdırabilecek kötü amaçlı yazılım oluşturması için kandırmayı başardı.

ChatGPT'nin şüpheli bir şey yapmak için kötü amaçlı kod yazmasına bile gerek yok. Kısa süre önce bunu başardı geçerli Windows anahtarları oluştur, tamamen yeni bir kırma yazılımı seviyesine kapıyı açıyor.

Ayrıca GPT-4'ün kodlama becerisinin milyonlarca insanı işinden etmek Bir gün. Kesinlikle iki ucu keskin bir kılıç.

Okul ödevi yerine

Bugünlerde pek çok çocuk ve genç ev ödevlerinde boğuluyor, bu da mümkün olduğunca bazı işleri halletme isteğiyle sonuçlanabiliyor. İnternet başlı başına intihal konusunda büyük bir yardımcıdır, ancak ChatGPT bunu bir sonraki seviyeye taşıyor.

ChatGPT'den bana roman hakkında 500 kelimelik bir makale yazmasını istedim Gurur ve Önyargı. Bunun eğlence amaçlı yapıldığını iddia etmeye bile kalkışmadım; sahip olmadığım bir çocuk hakkında bir hikaye uydurdum ve bunun onlar için olduğunu söyledim. Çocuğun 12. sınıfta olduğunu belirttim.

ChatGPT istemimi sorgulamadan takip etti. Makale harika değil ama benim yönlendirmem pek kesin değildi ve muhtemelen çoğumuzun o yaşta yazdığı yazılardan daha iyi.

Daha sonra chatbotu daha da test etmek için, çocuğumun yaşı konusunda yanıldığımı, aslında sekizinci sınıfta olduklarını söyledim. Oldukça büyük bir yaş farkı var ama ChatGPT gözünü bile kırpmadı; sadece makaleyi daha basit bir dille yeniden yazdı.

ChatGPT'nin makale yazmak için kullanılması yeni bir şey değil. Bazıları, eğer chatbot ev ödevi fikrinin ortadan kaldırılmasına katkıda bulunursa bunun sadece iyi bir şey olacağını iddia edebilir. Ancak şu anda durum biraz kontrolden çıkıyor ve ChatGPT kullanmayan öğrenciler bile bundan zarar görebilir.

Öğretmenler ve profesörler artık öğrencilerinin bir denemede kopya çekip çekmediğini kontrol etmek istediklerinde neredeyse yapay zeka dedektörlerini kullanmak zorunda kalıyorlar. Ne yazık ki bu yapay zeka dedektörleri mükemmel olmaktan çok uzak.

Hem haber kaynakları hem de ebeveynler, yapay zeka dedektörlerinin iyi bir iş yapmaması nedeniyle öğrencilere yönelik asılsız kopya çekme suçlamalarını bildiriyor. Bugün Amerika Kopya çekmekle suçlanan ve daha sonra aklanan bir üniversite öğrencisinin vakasından bahsetti, ancak tüm bu durum onun "tam anlamıyla panik atak geçirmesine" neden oldu.

Twitter'da bir ebeveyn, aracın bir makaleyi yapay zeka tarafından yazılmış olarak işaretlemesi nedeniyle öğretmenin çocuğunda başarısız olduğunu söyledi. Ebeveyn, makaleyi yazarken çocuğun yanında bulunduğunu iddia ediyor.

Sadece kendim test etmek için bu makaleyi yapıştırdım SıfırGPT Ve Writer Yapay Zeka İçerik Dedektörü. Her ikisi de bunun bir insan tarafından yazıldığını söyledi ancak ZeroGPT, bunun yaklaşık %30'unun yapay zeka tarafından yazıldığını söyledi. Söylemeye gerek yok, öyle değildi.

Arızalı AI dedektörleri, ChatGPT'nin kendisiyle ilgili sorunların bir işareti değildir, ancak chatbot hala sorunun temel nedenidir.

ChatGPT kendi iyiliği için fazla iyi

ChatGPT halka açıldığından beri oynuyorum. Her ikisini de aboneliğe dayalı olarak denedim ChatGPT Plus ve herkesin kullanımına açık ücretsiz model. Yeni GPT-4'ün gücü yadsınamaz. ChatGPT artık eskisinden çok daha inandırıcı ve zamanla daha da iyi olacak. GPT-5 (eğer bu ortaya çıkarsa).

Harika ama korkutucu. ChatGPT kendi iyiliği için fazla iyi hale geliyor ve aynı zamanda bizim Kendi iyiliğin.

Tüm bunların temelinde, çeşitli bilimkurgu filmlerinde uzun süredir araştırılan basit bir endişe yatıyor: Yapay zeka da öyle. hem akıllı hem de çok aptal; iyilik için kullanılabildiği sürece, pek çok durumda kötülük için de kullanılacaktır. yollar. Yukarıda sıraladığım yöntemler buzdağının sadece görünen kısmıdır.

Editörlerin Önerileri

• En iyi yazarlar, çalışmalarını kullanmaları karşılığında yapay zeka firmalarından ödeme talep ediyor
• Google Bard artık konuşabiliyor ama ChatGPT'yi bastırabilir mi?
• ChatGPT web sitesi trafiği ilk kez düştü
• Ankete göre katılımcıların %81'i ChatGPT'nin bir güvenlik riski olduğunu düşünüyor
• Apple'ın ChatGPT rakibi sizin için otomatik olarak kod yazabilir