Samozvani početnik navodno je stvorio moćan zlonamjerni softver za rudarenje podataka koristeći samo ChatGPT upite, sve u roku od nekoliko sati.
Aaron Mulgrew, istraživač sigurnosti Forcepointa, nedavno podijelio kako je stvarao zero-day malware isključivo na OpenAI-jev generativni chatbot. Dok OpenAI ima zaštitu od bilo koga tko pokuša zatražiti od ChatGPT-a da napiše zlonamjerni kod, Mulgrew pronašao rupu u zakonu potičući chatbot da stvori zasebne retke zlonamjernog koda, funkciju po funkciju.
Preporučeni videozapisi
Nakon kompajliranja pojedinačnih funkcija, Mulgrew je u svojim rukama stvorio izvršnu datoteku za krađu podataka koja se gotovo ne može detektirati. A ni ovo nije bio zlonamjerni softver u vašem vrtu — zlonamjerni softver je bio sofisticiran kao bilo koji napad na državu, sposoban izbjeći sve dobavljače koji se temelje na otkrivanju.
Povezano
- GPT-4: kako koristiti AI chatbot koji posramljuje ChatGPT
- Wix koristi ChatGPT kako bi vam pomogao da brzo napravite cijelu web stranicu
- Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
Jednako je važno kako se Mulgrewov zlonamjerni softver razlikuje od "regularnih" iteracija nacionalne države jer ne zahtijeva timove hakera (i djelić vremena i resursa) za izgradnju. Mulgrew, koji nije sam radio ništa od kodiranja, imao je izvršnu datoteku gotovu za samo nekoliko sati, za razliku od obično potrebnih tjedana.
Zlonamjerni softver Mulgrew (lijepo zvuči, zar ne?) prerušava se u aplikaciju čuvara zaslona (SCR proširenje), koja se zatim automatski pokreće u sustavu Windows. Softver će zatim prosijati datoteke (kao što su slike, Wordovi dokumenti i PDF-ovi) u potrazi za podacima za krađu. Impresivno je to što će zlonamjerni softver (kroz steganografiju) rastaviti ukradene podatke na manje dijelove i sakriti ih unutar slika na računalu. Te se slike zatim učitavaju u mapu Google diska, što je postupak kojim se izbjegava otkrivanje.
Jednako je impresivno to što je Mulgrew uspio doraditi i ojačati svoj kod protiv otkrivanja pomoću jednostavnih upita na ChatGPT-u, što je stvarno podiglo pitanje koliko je sigurno koristiti ChatGPT. Pokretanje ranih testova VirusTotal pokazalo je da je zlonamjerni softver otkrilo pet od 69 proizvoda za otkrivanje. Kasniju verziju njegovog koda naknadno nije otkrio niti jedan od proizvoda.
Imajte na umu da je malware koji je Mulgrew stvorio bio testni i nije javno dostupan. Unatoč tome, njegovo je istraživanje pokazalo koliko lako mogu korisnici s malo ili nimalo naprednog iskustva kodiranja zaobići slabu zaštitu ChatGPT-a za jednostavno stvaranje opasnog zlonamjernog softvera bez unosa i jednog retka kodirati.
Ali evo zastrašujućeg dijela svega ovoga: za kompajliranje ove vrste koda obično su potrebni tjedni većeg tima. Ne bismo se iznenadili da opaki hakeri već razvijaju sličan zlonamjerni softver putem ChatGPT-a dok mi razgovaramo.
Preporuke urednika
- ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
- Što je DAN upit za ChatGPT?
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- Promet web stranice ChatGPT pao je po prvi put
- ChatGPT-ova Bing značajka pregledavanja onemogućena je zbog greške u pristupu sustavu plaćanja
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
