Samooklicani novinec naj bi ustvaril zmogljivo zlonamerno programsko opremo za rudarjenje podatkov z uporabo samo ChatGPT pozive, vse v razponu nekaj ur.
Aaron Mulgrew, varnostni raziskovalec Forcepoint, pred kratkim delil, kako je ustvarjal zero-day zlonamerna programska oprema izključno na OpenAI-jev generativni chatbot. Čeprav ima OpenAI zaščito pred vsemi, ki poskušajo od ChatGPT zahtevati pisanje zlonamerne kode, Mulgrew našel vrzel s pozivom chatbotu, da ustvari ločene vrstice zlonamerne kode, funkcijo za funkcijo.
Priporočeni videoposnetki
Po sestavljanju posameznih funkcij je Mulgrew ustvaril skoraj nezaznavno izvršljivo datoteko za krajo podatkov. In tudi to ni bila zlonamerna programska oprema za vaš vrt – zlonamerna programska oprema je bila tako sofisticirana kot kateri koli napad na nacionalno državo in se je lahko izognila vsem prodajalcem, ki temeljijo na zaznavanju.
Povezano
- GPT-4: kako uporabljati klepetalni robot AI, ki osramoti ChatGPT
- Wix uporablja ChatGPT, da vam pomaga hitro zgraditi celotno spletno mesto
- Izdelovalec ChatGPT OpenAI se sooča s preiskavo FTC zaradi zakonov o varstvu potrošnikov
Enako ključno je, kako se Mulgrewova zlonamerna programska oprema razlikuje od "običajnih" iteracij nacionalne države, saj za izdelavo ne potrebuje skupin hekerjev (ter delčka časa in sredstev). Mulgrew, ki sam ni opravil kodiranja, je imel izvršljivo datoteko pripravljeno v samo nekaj urah, v nasprotju s tedni, ki so običajno potrebni.
Zlonamerna programska oprema Mulgrew (dobro zveni, kajne?) se prikrije kot aplikacija za ohranjevalnik zaslona (razširitev SCR), ki se nato samodejno zažene v sistemu Windows. Programska oprema bo nato presejala datoteke (kot so slike, Wordovi dokumenti in PDF-ji) za krajo podatkov. Impresivno je, da bo zlonamerna programska oprema (s steganografijo) ukradene podatke razdelila na manjše koščke in jih skrila v slike v računalniku. Te slike se nato naložijo v mapo Google Drive, postopek, ki prepreči zaznavanje.
Enako impresivno je, da je Mulgrew lahko izboljšal in okrepil svojo kodo proti zaznavanju z uporabo preprostih pozivov na ChatGPT, kar je resnično dvignilo vprašanje, kako varna je uporaba ChatGPT. Pri izvajanju zgodnjih testov VirusTotal je zlonamerno programsko opremo odkrilo pet od 69 izdelkov za odkrivanje. Nobeden od izdelkov ni zaznal kasnejše različice njegove kode.
Upoštevajte, da je bila zlonamerna programska oprema, ki jo je ustvaril Mulgrew, testna in ni javno dostopna. Kljub temu je njegova raziskava pokazala, kako enostavno lahko uporabniki z malo ali nič naprednih izkušenj s kodiranjem zaobiti šibko zaščito ChatGPT in zlahka ustvariti nevarno zlonamerno programsko opremo, ne da bi vnesli eno samo vrstico Koda.
Toda tukaj je strašljiv del vsega tega: te vrste kode običajno potrebuje več tednov, da jih sestavi večja ekipa. Ne bi nas presenetilo, če zlobni hekerji že razvijajo podobno zlonamerno programsko opremo prek ChatGPT, medtem ko govorimo.
Priporočila urednikov
- ChatGPT: najnovejše novice, polemike in nasveti, ki jih morate vedeti
- Kaj je DAN poziv za ChatGPT?
- Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
- Obisk spletnega mesta ChatGPT je prvič upadel
- Funkcija brskanja Bing ChatGPT je onemogočena zaradi napake pri dostopu do plačljivega zidu
Nadgradite svoj življenjski slogDigitalni trendi pomagajo bralcem slediti hitremu svetu tehnologije z vsemi najnovejšimi novicami, zabavnimi ocenami izdelkov, pronicljivimi uvodniki in enkratnimi vpogledi v vsebine.
