ChatGPT bir siber güvenlik felaketi midir? uzmanlara sorduk

ChatGPT şu anda hikayelerle oldukça kaçınılmaz geliyor yeteneklerine hayran görünüşe göre baktığın her yerde. Nasıl müzik yazabildiğini, 3D animasyonlar oluşturabildiğini ve müzik besteleyebildiğini gördük. Aklınıza gelebilecekse, ChatGPT muhtemelen bir şans verebilir.

Sorun da tam olarak bu. Şu anda teknoloji topluluğunda her türlü el sıkışma var ve yorumcular sıklıkla yapay zekanın en yeşil parmaklı bilgisayar korsanlarının bile durdurulamaz truva atları ve fidye yazılımları oluşturduğu bir kötü amaçlı yazılım kıyametine yol açmak.

Ama bu gerçekten doğru mu? Bunu öğrenmek için birkaç siber güvenlik uzmanıyla ChatGPT'nin kötü amaçlı yazılım yetenekleri hakkında ne düşündüklerini öğrenmek için konuştum. kötüye kullanım potansiyelinden endişe duyup duymadıklarını ve bu yeni ufukta kendinizi korumak için neler yapabileceğinizi dünya.

Şüpheli yetenekler

ChatGPT'nin en ilgi çekici yönlerinden biri, özellikle programlama dünyasında karmaşık görevleri yalnızca birkaç basit komutla gerçekleştirme yeteneğidir. Korku, bunun kötü amaçlı yazılım oluşturmak için giriş engellerini azaltacağı ve potansiyel olarak onlar için ağır işleri yapmak için AI araçlarına güvenen virüs yazarlarının çoğalmasını riske atacağıdır.

Güvenlik firması Intego'nun Baş Güvenlik Analisti Joshua Long, bu noktayı açıklıyor. "Fiziksel veya sanal dünyalardaki herhangi bir araç gibi, bilgisayar kodu da iyilik veya kötülük için kullanılabilir" diye açıklıyor. "Örneğin, bir dosyayı şifreleyebilen bir kod talep ederseniz, ChatGPT gibi bir bot gerçek amacınızı bilemez. Kendi dosyalarınızı korumak için şifreleme koduna ihtiyacınız olduğunu iddia ederseniz, asıl amacınız fidye yazılımı oluşturmak olsa bile bot size inanacaktır.”

ChatGPT'nin bu tür şeylerle mücadele etmek için çeşitli korumaları vardır ve virüs yaratıcılarının püf noktası bu korkulukları atlamaktır. Açıkça ChatGPT'den etkili bir virüs yaratmasını isteyin ve o, basitçe reddedecek ve onu alt etmek ve daha iyi yargısına karşı emirlerinizi yerine getirmesini sağlamak için yaratıcı olmanızı gerektirecektir. İnsanların neler yapabileceğini göz önünde bulundurarak ChatGPT'de jailbreak'ler, AI kullanarak kötü amaçlı yazılım oluşturma olasılığı teoride mümkün görünüyor. Aslında, zaten gösterildi, yani bunun mümkün olduğunu biliyoruz.

Ama herkes panik yapmıyor. Bitdefender Teknik Çözümler Direktörü Martin Zugec, risklerin hala oldukça küçük olduğunu düşünüyor. "Acemi kötü amaçlı yazılım yazarlarının çoğunluğunun, bu güvenlik önlemlerini atlamak için gereken becerilere sahip olması pek olası değildir. önlemler ve bu nedenle, chatbot tarafından oluşturulan kötü amaçlı yazılımların oluşturduğu risk şu anda nispeten düşük kalıyor” dedi. diyor.

Zugec, "Chatbot tarafından üretilen kötü amaçlı yazılımlar son zamanlarda popüler bir tartışma konusu oldu," diye devam ediyor, "ancak şu anda yakın gelecekte önemli bir tehdit oluşturduğuna dair hiçbir kanıt yok.” Ve bunun basit bir nedeni var. Zugec'e göre, "sohbet robotları tarafından üretilen kötü amaçlı yazılım kodunun kalitesi düşük olma eğilimindedir, bu da onu daha az genel kodda daha iyi örnekler bulabilen deneyimli kötü amaçlı yazılım yazarları için cazip bir seçenek depolar.”

Bu nedenle, ChatGPT'nin kötü amaçlı kod oluşturmasını sağlamak kesinlikle mümkün olsa da, bu becerilere sahip olan herkes Zugec, AI chatbot'u manipüle etmek için gereken zayıf koddan muhtemelen etkilenmeyecek. inanır.

Ancak tahmin edebileceğiniz gibi, üretici yapay zeka daha yeni başlıyor. Ve Long için bu, ChatGPT'nin ortaya koyduğu bilgisayar korsanlığı risklerinin henüz kesinleşmediği anlamına geliyor.

“LLM tabanlı AI botlarının yükselişinin, yeni kötü amaçlı yazılımlarda küçükten orta dereceye kadar bir artışa veya kötü amaçlı yazılımlarda bir iyileşmeye yol açması olasıdır. Long, ChatGPT gibi yapay zeka araçlarının kendi sistemlerini oluşturmak için kullandıkları büyük dil modellerinin kısaltmasını kullanarak, diyor. bilgi. "Ancak bu noktada, ChatGPT gibi araçların gerçek dünyadaki kötü amaçlı yazılım tehditleri üzerinde ne kadar doğrudan etkisi olduğu veya olacağı net değil."

Bir olta balıkçısının arkadaşı

ChatGPT'nin kod yazma becerileri henüz sıfır değilse, daha etkili kimlik avı ve sosyal mühendislik kampanyaları yazmak gibi başka şekillerde bir tehdit oluşturabilir mi? Burada analistler, kötüye kullanım için çok daha fazla potansiyel olduğu konusunda hemfikir.

Birçok şirket için, potansiyel bir saldırı vektörü, kandırılmamaları gereken yerlerde yanlışlıkla erişim sağlamaları için kandırılabilen veya manipüle edilebilen firma çalışanlarıdır. Bilgisayar korsanları bunu biliyor ve felaketle sonuçlanan çok sayıda yüksek profilli sosyal mühendislik saldırısı oldu. Örneğin, Kuzey Kore'nin Lazarus Group'un faaliyetlerine başladığı düşünülüyor. 2014'te Sony sistemlerine izinsiz giriş — bir işe alma görevlisinin kimliğine bürünerek ve bir Sony çalışanının virüslü bir dosyayı açmasını sağlayarak, yayınlanmamış filmlerin ve kişisel bilgilerin sızdırılmasıyla sonuçlanır.

Bu, ChatGPT'nin bilgisayar korsanlarının ve kimlik avcılarının işlerini geliştirmelerine önemli ölçüde yardımcı olabileceği bir alandır. Örneğin, İngilizce bir tehdit aktörünün ana dili değilse, İngilizce konuşanları hedeflemeyi amaçlayan ikna edici bir kimlik avı e-postası yazmak için bir AI sohbet robotu kullanabilirler. Veya insan tehdit aktörlerinin aynı görevi yapmasından çok daha kısa sürede çok sayıda ikna edici mesajı hızla oluşturmak için kullanılabilir.

Diğer AI araçları karışıma eklendiğinde işler daha da kötüleşebilir. Karen Renaud, Merrill Warkentin ve George Westerman'ın öne sürdüğü gibi MIT'nin Sloan Yönetim İncelemesi, bir dolandırıcı, ChatGPT kullanarak bir komut dosyası oluşturabilir ve bunu, bir şirketin CEO'sunu taklit eden derin sahte bir sesle telefonda okutabilir. Aramayı alan bir şirket çalışanına, ses tıpkı patronları gibi gelir ve hareket eder. Bu ses, çalışandan yeni bir banka hesabına bir miktar para transfer etmesini isterse, çalışan patronuna gösterdiği hürmet nedeniyle bu oyuna pekala kanabilir.

Long'un belirttiği gibi, “Artık [tehdit aktörleri] ikna edici bir dolandırıcılık e-postası yazmak için kendi (genellikle kusurlu) İngilizce becerilerine güvenmek zorunda değil. Hatta kendi zekice ifadelerini bulup Google Çeviri'de çalıştırmaları da gerekmez. Bunun yerine, talebin arkasındaki potansiyel kötü niyetten tamamen habersiz olan ChatGPT, dolandırıcılık e-postasının tüm metnini istenen herhangi bir dilde mutlu bir şekilde yazacaktır."

Ve ChatGPT'nin bunu gerçekten yapmasını sağlamak için gereken tek şey zekice bir yönlendirmedir.

ChatGPT siber güvenliğinizi artırabilir mi?

Yine de, o kadar da kötü değil. ChatGPT'yi tehdit aktörleri için çekici bir araç yapan aynı özellikler (hızı, koddaki kusurları bulma yeteneği), onu siber güvenlik araştırmacıları ve antivirüs firmaları için yararlı bir kaynak haline getiriyor.

Long, araştırmacıların henüz keşfedilmemiş (“sıfır gün”) bulmak için AI sohbet robotlarını kullandıklarına dikkat çekiyor. yalnızca kodu yükleyerek ve ChatGPT'den herhangi bir potansiyel tespit edip edemediğini sorarak koddaki güvenlik açıkları zayıflıklar. Bu, savunmaları zayıflatabilecek aynı metodolojinin onları güçlendirmek için kullanılabileceği anlamına gelir.

ChatGPT'nin tehdit aktörleri için ana cazibesi, makul kimlik avı mesajları yazabilmesinde yatıyor olsa da, Aynı yetenekler, şirketlerin ve kullanıcıların dolandırılmaktan kaçınmak için nelere dikkat etmeleri gerektiği konusunda eğitilmesine yardımcı olabilir. kendileri. Kötü amaçlı yazılımları tersine çevirmek için de kullanılabilir, araştırmacıların ve güvenlik şirketlerinin hızlı bir şekilde karşı önlemler geliştirmesine yardımcı olur.

Sonuç olarak, ChatGPT kendi başına doğası gereği iyi veya kötü değildir. Zugec'in işaret ettiği gibi, "Yapay zekanın kötü amaçlı yazılımların geliştirilmesini kolaylaştırabileceği argümanı, diğer tüm uygulamalar için geçerli olabilir. açık kaynaklı yazılım veya kod paylaşımı gibi geliştiricilere fayda sağlayan teknolojik ilerleme platformlar.”

Başka bir deyişle, güvenlik önlemleri gelişmeye devam ettiği sürece, en iyi yapay zeka sohbet botları yakın zamanda tahmin edildiği kadar tehlikeli olmayabilir.

Kendinizi nasıl güvende tutabilirsiniz?

Yapay zeka sohbet botlarının oluşturduğu tehditler ve oluşturmak için kötüye kullanabilecekleri kötü amaçlı yazılımlar konusunda endişeleriniz varsa, kendinizi korumak için atabileceğiniz bazı adımlar vardır. Zugec, "uç nokta güvenlik çözümlerini uygulama, yazılım ve sistemleri korumayı" içeren "çok katmanlı bir savunma yaklaşımı" benimsemenin önemli olduğunu söylüyor. güncelve şüpheli mesajlara veya taleplere karşı tetikte olmak.”

Long, bu arada, bir web sitesini ziyaret ettiğinizde otomatik olarak yüklemeniz istenen dosyaları temizlemenizi önerir. Bir uygulamayı güncellemek veya indirmek söz konusu olduğunda, onu resmi uygulama mağazasından veya yazılım satıcısının web sitesinden edinin. Arama sonuçlarını tıklarken veya bir web sitesinde oturum açarken dikkatli olun; bilgisayar korsanları, dolandırıcılık sitelerini arama sonuçlarının en üstüne yerleştirmek için ödeme yapabilir ve oturum açma bilgilerinizi çalabilir. özenle hazırlanmış benzer web siteleri.

Ne ChatGPT ne de tüm dünyada çok fazla hasara neden olan kötü amaçlı yazılım hiçbir yere gitmiyor. ChatGPT'nin kodlama yeteneğinden kaynaklanan tehdit şimdilik abartılı olsa da, kimlik avı e-postaları oluşturma konusundaki uzmanlığı her türlü baş ağrısına neden olabilir. Yine de kendinizi onun oluşturduğu tehdide karşı korumanız ve kurban olmamanızı sağlamanız çok mümkün. Şu anda, bol miktarda dikkat ve sağlam bir antivirüs uygulaması, cihazlarınızı güvenli ve sağlam tutmanıza yardımcı olabilir.

Editörlerin Önerileri

• Google Bard artık konuşabiliyor, ancak ChatGPT'yi bastırabilir mi?
• ChatGPT web sitesi trafiği ilk kez düştü
• Apple'ın ChatGPT rakibi sizin için otomatik olarak kod yazabilir
• NY avukatları, yasal özette sahte ChatGPT davaları kullandıkları için para cezasına çarptırıldı
• Bu web tarayıcısı, ChatGPT'yi büyüleyici ve yeni bir şekilde entegre eder