არის თუ არა ChatGPT კიბერუსაფრთხოების კატასტროფა? ვკითხეთ ექსპერტებს

ChatGPT თავს საკმაოდ შეუქცევად გრძნობს ახლა, ისტორიებით გაოცებულია მისი შესაძლებლობებით როგორც ჩანს, ყველგან, სადაც გაიხედავ. ჩვენ ვნახეთ, თუ როგორ შეუძლია მას მუსიკის დაწერა, 3D ანიმაციების გადაღება და მუსიკის შედგენა. თუ თქვენ შეგიძლიათ ამის ფიქრი, ChatGPT-ს, ალბათ, შეუძლია გადახედოს მას.

და ზუსტად ეს არის პრობლემა. ტექნოლოგიურ საზოგადოებაში ახლა ყველანაირი ხელის შეშლაა, კომენტატორები ხშირად წუხან, რომ ხელოვნური ინტელექტი ეხება გამოიწვიოს მავნე პროგრამების აპოკალიფსამდე, თუნდაც ყველაზე მწვანე თითების მქონე ჰაკერებმა მოიგონონ შეუჩერებელი ტროასები და გამოსასყიდი პროგრამები.

მაგრამ არის ეს სინამდვილეში? ამის გასარკვევად, მე ვესაუბრე კიბერუსაფრთხოების ექსპერტებს, რათა გამეგო, რას ქმნიდნენ ისინი ChatGPT-ის მავნე პროგრამების შესაძლებლობებს, შეშფოთებულნი იყვნენ თუ არა მისი ბოროტად გამოყენების პოტენციალით და რისი გაკეთება შეგიძლიათ, რომ დაიცვათ თავი ამ ახალი გამთენიისას მსოფლიო.

საეჭვო უნარები

ChatGPT-ის ერთ-ერთი მთავარი მიმზიდველობა არის მისი უნარი შეასრულოს რთული ამოცანები მხოლოდ რამდენიმე მარტივი მოთხოვნით, განსაკუთრებით პროგრამირების სამყაროში. შიში ის არის, რომ ეს შეამცირებს ბარიერებს მავნე პროგრამების შესაქმნელად, პოტენციურად საფრთხეს უქმნის ვირუსების დამწერების გამრავლებას, რომლებიც ეყრდნობიან AI ინსტრუმენტებს, რათა გააკეთონ მძიმე მათთვის.

ჯოშუა ლონგი, უსაფრთხოების ფირმა „ინტეგოს“ მთავარი ანალიტიკოსი, ასახავს ამ საკითხს. ”როგორც ნებისმიერი ინსტრუმენტი ფიზიკურ ან ვირტუალურ სამყაროში, კომპიუტერული კოდი შეიძლება გამოყენებულ იქნას სიკეთისთვის ან ბოროტებისთვის,” განმარტავს ის. „თუ თქვენ ითხოვთ კოდს, რომელსაც შეუძლია ფაილის დაშიფვრა, მაგალითად, ბოტი, როგორიცაა ChatGPT, არ შეუძლია იცოდეს თქვენი რეალური განზრახვა. თუ თქვენ აცხადებთ, რომ გჭირდებათ დაშიფვრის კოდი საკუთარი ფაილების დასაცავად, ბოტი დაგიჯერებთ - თუნდაც თქვენი რეალური მიზანი იყოს გამოსასყიდის პროგრამის შექმნა.

ChatGPT-ს აქვს სხვადასხვა დამცავი მექანიზმი ამგვარ საკითხთან საბრძოლველად და ვირუსის შემქმნელებისთვის ხრიკი არის ამ მცველების გვერდის ავლით. უხეშად სთხოვეთ ChatGPT-ს, შექმნას ეფექტური ვირუსი და ის უბრალოდ უარს იტყვის და მოგთხოვთ იყოთ კრეატიული, რათა აჯობოთ მას და აიძულოთ იგი შეასრულოს თქვენი მოთხოვნა მისი უკეთესი განსჯის საწინააღმდეგოდ. იმის გათვალისწინებით, თუ რა შეუძლია ხალხს ჯეილბრეიკები ChatGPT-ში, AI-ს გამოყენებით მავნე პროგრამის შექმნის შესაძლებლობა თეორიულად შესაძლებელია. Სინამდვილეში, უკვე ნაჩვენებიაასე რომ, ჩვენ ვიცით, რომ ეს შესაძლებელია.

მაგრამ ყველა არ არის პანიკაში. მარტინ ზუგეკი, Bitdefender-ის ტექნიკური გადაწყვეტილებების დირექტორი, ფიქრობს, რომ რისკები ჯერ კიდევ საკმაოდ მცირეა. „დამწყები მავნე პროგრამების დამწერების უმრავლესობა სავარაუდოდ არ ფლობს ამ უსაფრთხოების გვერდის ავლით საჭირო უნარებს ზომები და, შესაბამისად, ჩატბოტის მიერ გენერირებული მავნე პროგრამით გამოწვეული რისკი ამ დროისთვის შედარებით დაბალია. ” ამბობს.

„Chatbot-ის მიერ გენერირებული მავნე პროგრამა ბოლო დროს განხილვის პოპულარული თემაა“, განაგრძობს ზუგეკი, „მაგრამ ამჟამად არსებობს არ არსებობს არანაირი მტკიცებულება, რომელიც მიუთითებს იმაზე, რომ იგი წარმოადგენს მნიშვნელოვან საფრთხეს უახლოეს მომავალში. და ამის მარტივი მიზეზი არსებობს. Zugec-ის თქმით, „ჩატბოტების მიერ წარმოებული მავნე პროგრამის კოდის ხარისხი დაბალია, რაც მას ნაკლებს ხდის. მიმზიდველი ვარიანტი გამოცდილი მავნე მწერლებისთვის, რომლებსაც შეუძლიათ უკეთესი მაგალითების პოვნა საჯარო კოდში საცავები“.

ასე რომ, მიუხედავად იმისა, რომ ChatGPT-ს მავნე კოდის შემუშავება, რა თქმა უნდა, შესაძლებელია, ყველას, ვისაც აქვს ეს უნარები AI ჩეთბოტის მანიპულირებისთვის საჭირო, სავარაუდოდ, შთაბეჭდილება არ მოახდენს მის მიერ შექმნილი ცუდი კოდით, Zugec სჯერა.

მაგრამ როგორც თქვენ ალბათ მიხვდებით, გენერაციული AI მხოლოდ ახლა იწყება. და დიდი ხნის განმავლობაში, ეს ნიშნავს, რომ ChatGPT-ის მიერ გამოწვეული ჰაკერების რისკები ჯერ არ არის დადგენილი.

„შესაძლებელია, რომ LLM-ზე დაფუძნებული AI ბოტების ზრდამ შეიძლება გამოიწვიოს ახალი მავნე პროგრამების მცირე და ზომიერი ზრდა ან მავნე პროგრამების გაუმჯობესება. შესაძლებლობები და ანტივირუსისგან თავის არიდება,” ამბობს ლონგი, იყენებს აკრონიმს იმ დიდი ენობრივი მოდელებისთვის, რომლებსაც AI ინსტრუმენტები, როგორიცაა ChatGPT, იყენებს მათი შესაქმნელად. ცოდნა. „ამ ეტაპზე, თუმცა, არ არის ნათელი, თუ რამხელა ზეგავლენას ახდენს ან ექნება ინსტრუმენტები, როგორიცაა ChatGPT, რეალურ სამყაროში მავნე პროგრამების საფრთხეებზე.

მეთევზეს მეგობარი

თუ ChatGPT-ის კოდების დაწერის უნარები ჯერ არ არის დახვეწილი, შეიძლება ეს იყოს საფრთხე სხვა გზებით, მაგალითად, უფრო ეფექტური ფიშინგისა და სოციალური ინჟინერიის კამპანიების დაწერით? აქ ანალიტიკოსები თანხმდებიან, რომ ბოროტად გამოყენების გაცილებით მეტი პოტენციალი არსებობს.

მრავალი კომპანიისთვის, თავდასხმის ერთ-ერთი პოტენციური ვექტორი არის ფირმის თანამშრომლები, რომელთა მოტყუება ან მანიპულირება შესაძლებელია, რათა უნებლიედ უზრუნველყონ წვდომა იქ, სადაც არ უნდა. ჰაკერებმა ეს იციან და იყო უამრავი გახმაურებული სოციალური ინჟინერიის შეტევა, რომელიც დამღუპველი აღმოჩნდა. მაგალითად, ფიქრობენ, რომ ჩრდილოეთ კორეის ლაზარეს ჯგუფმა დაიწყო თავისი 2014 წლის შეჭრა Sony-ს სისტემებში - გამოუქვეყნებელი ფილმებისა და პირადი ინფორმაციის გაჟონვის შედეგად - სამუშაოს დამსაქმებლის იმიჯის გამოვლენით და სონის თანამშრომლის მიერ ინფიცირებული ფაილის გახსნის გზით.

ეს არის ერთ-ერთი სფერო, სადაც ChatGPT-ს შეუძლია მკვეთრად დაეხმაროს ჰაკერებსა და ფიშერებს მუშაობის გაუმჯობესებაში. თუ ინგლისური არ არის საფრთხის შემქმნელის მშობლიური ენა, მაგალითად, მათ შეუძლიათ გამოიყენონ AI ჩეთბოტი მათთვის დამაჯერებელი ფიშინგის ელ. ფოსტის დასაწერად, რომელიც გამიზნულია ინგლისურენოვანებზე. ან შეიძლება გამოყენებულ იქნას დიდი რაოდენობით დამაჯერებელი მესიჯების სწრაფად შესაქმნელად გაცილებით ნაკლებ დროში, ვიდრე დასჭირდება ადამიანური საფრთხის მოქმედ პირებს იგივე დავალების შესასრულებლად.

სიტუაცია შეიძლება კიდევ უფრო გაუარესდეს, როდესაც სხვა ხელოვნური ინტელექტის ინსტრუმენტები ჩართულია. როგორც კარენ რენომ, მერილ უორკენტინმა და ჯორჯ ვესტერმანმა განაცხადეს MIT-ის Sloan Management მიმოხილვა, თაღლითს შეუძლია შექმნას სკრიპტი ChatGPT-ის გამოყენებით და წაიკითხოს იგი ტელეფონით ღრმა ყალბი ხმით, რომელიც ასახავს კომპანიის აღმასრულებელ დირექტორს. კომპანიის თანამშრომელს, რომელიც ზარს იღებდა, ხმა ისმოდა - და მოქმედებდა - ისევე, როგორც მათი უფროსი. თუ ამ ხმამ თანამშრომელს სთხოვა თანხის ახალ საბანკო ანგარიშზე გადარიცხვა, თანამშრომელი შეიძლება ჭკუაზე გადაეგდო იმის გამო, რომ მათ უფროსს უხდიან.

როგორც ლონგი ამბობს, „[მუქარის შემსრულებლებს] აღარ სჭირდებათ დაეყრდნონ საკუთარ (ხშირად არასრულყოფილ) ინგლისურ უნარებს დამაჯერებელი თაღლითური ელფოსტის დასაწერად. არც კი უნდა მოიფიქრონ საკუთარი ჭკვიანური ფორმულირება და გაუშვან ის Google Translate-ით. ამის ნაცვლად, ChatGPT - სრულიად არ იცის მოთხოვნის უკან არსებული მავნე განზრახვის პოტენციალი - სიამოვნებით დაწერს თაღლითური ელფოსტის მთელ ტექსტს ნებისმიერ სასურველ ენაზე. ”

და ყველაფერი, რაც საჭიროა ChatGPT-ის მისაღებად, რომ ეს რეალურად გააკეთოს, არის რაღაც ჭკვიანური მოთხოვნა.

შეუძლია ChatGPT გაზარდოს თქვენი კიბერუსაფრთხოება?

თუმცა, ეს ყველაფერი ცუდი არ არის. იგივე თვისებები, რაც ChatGPT-ს მიმზიდველ ინსტრუმენტად აქცევს საფრთხის მოქმედი პირებისთვის - მისი სიჩქარე, კოდის ხარვეზების პოვნის უნარი - მას დამხმარე რესურსად აქცევს კიბერუსაფრთხოების მკვლევარებისთვის და ანტივირუსული ფირმებისთვის.

ლონგი აღნიშნავს, რომ მკვლევარები უკვე იყენებენ ხელოვნური ინტელექტის ჩატბოტებს, რათა იპოვონ ჯერ კიდევ შეუპოვარი („ნულოვანი დღე“) დაუცველობა კოდში, უბრალოდ კოდის ატვირთვით და ChatGPT-ის თხოვნით, რომ დაინახოს, შეუძლია თუ არა რაიმე პოტენციალის დადგენა სისუსტეები. ეს ნიშნავს, რომ იგივე მეთოდოლოგია, რომელიც შეიძლება შეასუსტოს თავდაცვა, შეიძლება გამოყენებულ იქნას მათ გასაძლიერებლად.

და მიუხედავად იმისა, რომ ChatGPT-ის მთავარი მიმზიდველობა საფრთხის შემქმნელებისთვის შეიძლება მდგომარეობდეს მის უნარში, დაწეროს სარწმუნო ფიშინგ შეტყობინებები, იმავე ნიჭს შეუძლია დაეხმაროს კომპანიებსა და მომხმარებლებს ასწავლოს, თუ რას უნდა მიხედონ, რათა თავიდან აიცილონ თაღლითობა საკუთარ თავს. ის ასევე შეიძლება გამოყენებულ იქნას მავნე პროგრამების ინჟინერიისთვის, რომელიც ეხმარება მკვლევარებსა და უსაფრთხოების ფირმებს სწრაფად შეიმუშაონ კონტრზომები.

საბოლოო ჯამში, ChatGPT თავისთავად არ არის არსებითად კარგი ან ცუდი. როგორც ზუგეკი აღნიშნავს, „არგუმენტი, რომ AI-ს შეუძლია ხელი შეუწყოს მავნე პროგრამის განვითარებას, შეიძლება ეხებოდეს ნებისმიერ სხვას ტექნოლოგიური წინსვლა, რომელიც სარგებელს მოუტანს დეველოპერებს, როგორიცაა ღია კოდის პროგრამული უზრუნველყოფა ან კოდის გაზიარება პლატფორმები.”

სხვა სიტყვებით რომ ვთქვათ, სანამ გარანტიები უმჯობესდება, საფრთხეც კი წარმოიქმნება საუკეთესო AI ჩეთბოტები შეიძლება არასოდეს გახდეს ისეთი საშიში, როგორც ამას ცოტა ხნის წინ იწინასწარმეტყველეს.

როგორ დავიცვათ თავი

თუ თქვენ გაწუხებთ ხელოვნური ინტელექტის ჩატბოტების მიერ მოწოდებული საფრთხეები და მავნე პროგრამული უზრუნველყოფა, რომლის შექმნა შესაძლებელია ბოროტად, არსებობს რამდენიმე ნაბიჯი, რომლის გადადგმაც შეგიძლიათ საკუთარი თავის დასაცავად. ზუგეკი ამბობს, რომ მნიშვნელოვანია „მრავალფენიანი თავდაცვის მიდგომის“ მიღება, რომელიც მოიცავს „უსაფრთხოების საბოლოო გადაწყვეტილებების განხორციელებას, პროგრამული უზრუნველყოფისა და სისტემების შენარჩუნებას. დღემდედა იყავით ფხიზლად საეჭვო შეტყობინებების ან მოთხოვნების მიმართ.”

ამავდროულად, ლონგი გირჩევთ თავიდან აიცილოთ ფაილები, რომლებიც ავტომატურად მოგთხოვთ დააინსტალიროთ ვებსაიტის მონახულებისას. როდესაც საქმე ეხება აპის განახლებას ან ჩამოტვირთვას, მიიღეთ ის ოფიციალური აპლიკაციების მაღაზიიდან ან პროგრამული უზრუნველყოფის გამყიდველის ვებსაიტიდან. და ფრთხილად იყავით ძიების შედეგებზე დაწკაპუნებისას ან ვებსაიტზე შესვლისას – ჰაკერებს შეუძლიათ უბრალოდ გადაიხადონ თავიანთი თაღლითური საიტების ძიების შედეგების ზედა ნაწილში განთავსება და თქვენი შესვლის ინფორმაცია მოიპარონ. საგულდაგულოდ შექმნილი მსგავსი ვებსაიტები.

ChatGPT არსად მიდის და არც მავნე პროგრამა, რომელიც ამდენ ზიანს აყენებს მთელ მსოფლიოში. მიუხედავად იმისა, რომ ChatGPT-ის კოდირების შესაძლებლობის საფრთხე შესაძლოა გადაჭარბებული იყოს, მისმა ცოდნამ ფიშინგის ელ.ფოსტის დამზადებაში შეიძლება გამოიწვიოს ყველანაირი თავის ტკივილი. თუმცა, ძალიან შესაძლებელია დაიცვათ თავი საფრთხისგან და უზრუნველყოთ, რომ მსხვერპლი არ გახდეთ. ამჟამად, სიფრთხილის სიმრავლე - და მყარი ანტივირუსული აპი - დაგეხმარებათ თქვენი მოწყობილობების უსაფრთხოდ შენარჩუნებაში.

რედაქტორების რეკომენდაციები

• Google Bard-ს ახლა შეუძლია ლაპარაკი, მაგრამ შეუძლია თუ არა მას ჩაახშოს ChatGPT?
• ChatGPT ვებსაიტის ტრაფიკი პირველად დაეცა
• Apple-ის ChatGPT კონკურენტმა შეიძლება ავტომატურად დაგიწეროთ კოდი
• ნიუ-იორკის იურისტები დაჯარიმდნენ ყალბი ChatGPT შემთხვევების იურიდიულ მოკლედ გამოყენების გამო
• ეს ვებ ბრაუზერი აერთიანებს ChatGPT-ს ახალი მომხიბლავი გზით