Nova prijetnja pojavila se u ChatGPT saga, s kibernetičkim kriminalcima koji su razvili način za hakiranje AI chatbota i preplavljivanje ga zlonamjernim naredbama.
The istraživačka tvrtka Checkpoint je otkrio da su hakeri dizajnirali botove koji se mogu infiltrirati u OpenAI GPT-3 API i promijeniti njegov kod tako da može generirati zlonamjerni sadržaj, poput teksta koji se može koristiti za phishing e-poštu i zlonamjerni softver skripte.
Botovi rade putem aplikacije za razmjenu poruka Telegram. Loši glumci koriste botove za postavljanje mračne verzije ChatGPT-a bez ograničenja, prema Ars Technica.
Preporučeni videozapisi
ChatGPT ima gumbe za palac gore i palac dolje koji možete pritisnuti kao dio svog algoritma učenja ako generira sadržaj koji se može smatrati uvredljivim ili neprikladnim. Obično su unosi poput generiranja zlonamjernog koda ili phishing e-pošte zabranjeni, a ChatGPT odbija dati odgovor.
Ova podla alternativa chatbotu ima cijenu od 6 dolara za svakih 100 upita, a hakeri koji stoje iza nje također daju savjete i primjere lošeg sadržaja koji možete generirati ovom verzijom. Hakeri su također napravili skriptu dostupnom na GitHubu. Skripta temeljena na API-ju OpenAI ima mogućnost omogućiti korisnicima da lažiraju tvrtku ili osobu, uz generiranje phishing e-poruka putem naredbi za generiranje teksta. Botovi vam također mogu pomoći u idealnom položaju za phishing vezu u e-pošti, prema
PC igrač.Teško je znati koliku će prijetnju ovaj razvoj predstavljati AI generatorima teksta koji se kreću naprijed, posebno s velikim tvrtkama koje su već predane radu s ovim sve popularnijim tehnologija. Microsoft Bing će se uskoro dodati Podrška za ChatGPT svom pregledniku u nadolazećem ažuriranju kao dijelu svojeg stalnu suradnju s OpenAI-jem, na primjer.
Dok ChatGPT ostaje besplatan u doglednoj budućnosti, bez prioriteta Pretplata na ChatGPT Plus, ovo nije prvi put da je AI generator teksta na meti prevaranata. U siječnju su se pojavile vijesti da su tisuće ljudi prevarene nakon plaćanja za iOS i Android verzije mobilne aplikacije chatbota, koji je trenutno usluga temeljena na pregledniku.
Verzija Apple App Storea bila je posebno popularna, unatoč cijeni tjedne pretplate od 8 USD nakon trodnevnog probnog razdoblja. Korisnici su također imali opciju plaćanja mjesečne pretplate od 50 dolara, što je čak skuplje od tjedne cijene. Aplikacija je na kraju uklonjena iz Apple trgovine nakon što je privukla medijsku pažnju.
ChatGPT je svakako glavna meta za prevarante jer mu je porasla popularnost, ali ostaje za vidjeti hoće li loši glumci na kraju skočiti na jedan od mnogih ChatGPT alternative kružeći.
Preporuke urednika
- Evo zašto ljudi misle da bi GPT-4 s vremenom mogao postati gluplji
- ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
- Što je DAN upit za ChatGPT?
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- Proizvođač ChatGPT-a OpenAI suočava se s istragom FTC-a zbog zakona o zaštiti potrošača
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
