Je ChatGPT katastrofou kybernetické bezpečnosti? Zeptali jsme se odborníků

ChatGPT s příběhy je teď docela nevyhnutelné obdivovat jeho schopnosti zdánlivě všude, kam se podíváš. Viděli jsme, jak dokáže psát hudbu, vykreslovat 3D animace a skládat hudbu. Pokud si to dokážete představit, ChatGPT to pravděpodobně dokáže vystřelit.

A to je právě ten problém. V technické komunitě se v současnosti rýsuje všemožné ruční ždímání a komentátoři se často obávají, že AI je o vést k malwarové apokalypse, kdy i ti nejzelenější hackeři vyvolávají nezastavitelné trojské koně a ransomware.

Ale je to skutečně pravda? Abych to zjistil, mluvil jsem s řadou odborníků na kybernetickou bezpečnost, abych zjistil, co si myslí o malwarových schopnostech ChatGPT, zda měli obavy z jeho možného zneužití a co můžete udělat, abyste se ochránili v tomto novém úsvitu svět.

Pochybné schopnosti

Jednou z hlavních atrakcí ChatGPT je jeho schopnost provádět komplikované úkoly s několika jednoduchými výzvami, zejména ve světě programování. Obáváme se, že by to snížilo překážky vstupu pro vytváření malwaru, což by potenciálně ohrozilo šíření autorů virů, kteří spoléhají na nástroje umělé inteligence, aby za ně udělali těžkou práci.

Joshua Long, hlavní bezpečnostní analytik bezpečnostní firmy Intego, to ilustruje. „Jako každý nástroj ve fyzickém nebo virtuálním světě lze počítačový kód použít k dobru nebo ke zlu,“ vysvětluje. „Pokud požadujete kód, který dokáže zašifrovat soubor, například robot jako ChatGPT nemůže znát váš skutečný záměr. Pokud tvrdíte, že potřebujete šifrovací kód k ochraně svých vlastních souborů, robot vám uvěří – i když vaším skutečným cílem je vytvořit ransomware.“

ChatGPT má různá ochranná opatření pro boj s tímto druhem věcí a trik pro tvůrce virů je v obcházení těchto zábradlí. Klidně požádejte ChatGPT, aby vytvořil účinný virus, a ten jednoduše odmítne, což po vás bude vyžadovat kreativitu, abyste ho přelstili a přiměli ho, aby splnil vaše přání proti jeho lepšímu úsudku. S ohledem na to, s čím jsou lidé schopni útěky z vězení v ChatGPT, možnost vytvoření malwaru pomocí AI se teoreticky zdá možná. Ve skutečnosti, už se to prokázalo, takže víme, že je to možné.

Ne všichni ale propadají panice. Martin Zugec, ředitel technických řešení ve společnosti Bitdefender, si myslí, že rizika jsou stále poměrně malá. „Většina začínajících autorů malwaru pravděpodobně nebude mít dovednosti potřebné k obcházení tohoto zabezpečení opatření, a proto riziko, které představuje malware generovaný chatboty, zůstává v tuto chvíli relativně nízké,“ řekl říká.

„Malware generovaný chatboty je v poslední době oblíbeným tématem diskuzí,“ pokračuje Zugec, „ale v současnosti existuje žádné důkazy, které by naznačovaly, že v blízké budoucnosti představuje významnou hrozbu.“ A má to jednoduchý důvod. Podle Zugece „kvalita malwarového kódu produkovaného chatboty bývá nízká, takže je atraktivní možnost pro zkušené autory malwaru, kteří mohou najít lepší příklady ve veřejném kódu úložiště“.

Takže i když přimět ChatGPT k vytvoření škodlivého kódu je jistě možné, každý, kdo má dovednosti potřebný k manipulaci s AI chatbotem pravděpodobně nebude ohromen špatným kódem, který vytváří, Zugec věří.

Ale jak asi tušíte, generativní umělá inteligence je teprve na začátku. A pro Long to znamená, že hackerská rizika, která ChatGPT představuje, ještě nejsou pevně stanovena.

„Je možné, že vzestup robotů AI založených na LLM může vést k malému až střednímu nárůstu nového malwaru nebo ke zlepšení malwaru. schopnosti a antivirové úniky,“ říká Long a používá zkratku pro velké jazykové modely, které nástroje umělé inteligence jako ChatGPT používají k vytváření svých znalost. "V tuto chvíli však není jasné, jak velký přímý dopad nástroje jako ChatGPT mají nebo budou mít na hrozby malwaru v reálném světě."

Přítel phishermana

Pokud dovednosti ChatGPT v psaní kódu ještě nejsou na špičkové úrovni, mohlo by to být hrozbou jiným způsobem, například psaním účinnějších phishingových a sociálních kampaní? Zde se analytici shodují, že existuje mnohem větší potenciál pro zneužití.

Pro mnoho společností jsou jedním z potenciálních vektorů útoku zaměstnanci firmy, kteří mohou být oklamáni nebo zmanipulováni, aby neúmyslně poskytli přístup tam, kde by neměli. Hackeři to vědí a došlo k mnoha vysoce profilovaným útokům sociálního inženýrství, které se ukázaly jako katastrofální. Například se předpokládá, že severokorejská skupina Lazarus začala svou činnost 2014 průnik do systémů Sony — což má za následek únik nevydaných filmů a osobních informací — vydáváním se za náboráře a přimět zaměstnance Sony, aby otevřel infikovaný soubor.

Toto je jedna z oblastí, kde by ChatGPT mohl výrazně pomoci hackerům a phisherům zlepšit jejich práci. Pokud například angličtina není rodným jazykem aktérů hrozby, mohli by použít chatbota s umělou inteligencí k napsání přesvědčivého phishingového e-mailu, který je určen pro angličtináře. Nebo by to mohlo být použito k rychlému vytvoření velkého množství přesvědčivých zpráv za mnohem kratší dobu, než by ke stejnému úkolu vyžadovalo lidskou hrozbu.

Věci se mohou ještě zhoršit, když se do mixu zapojí další nástroje umělé inteligence. Jak předpokládali Karen Renaud, Merrill Warkentin a George Westerman MIT's Sloan Management Review, mohl podvodník vygenerovat skript pomocí ChatGPT a nechat jej přečíst po telefonu hluboce falešným hlasem, který se vydává za generálního ředitele společnosti. Pro zaměstnance společnosti přijímajícího hovor by hlas zněl – a jednal – stejně jako jejich šéf. Pokud tento hlas požádal zaměstnance, aby převedl částku peněz na nový bankovní účet, zaměstnanec se může snadno nechat chytit lstí kvůli úctě, kterou platí svému šéfovi.

Jak říká Long: „[herci hrozeb] se již nemusí spoléhat na své vlastní (často nedokonalé) znalosti angličtiny, aby napsali přesvědčivý podvodný e-mail. Nesmí ani přijít s vlastní chytrou formulací a spustit ji přes Google Translate. Místo toho ChatGPT – zcela nevědomý potenciálu nekalého úmyslu za požadavkem – s radostí napíše celý text podvodného e-mailu v libovolném jazyce.“

A vše, co je potřeba k tomu, aby to ChatGPT skutečně udělal, je nějaké chytré nabádání.

Může ChatGPT zvýšit vaši kybernetickou bezpečnost?

Přesto to není všechno špatné. Stejné vlastnosti, díky kterým je ChatGPT atraktivním nástrojem pro aktéry hrozeb – jeho rychlost, jeho schopnost najít chyby v kódu – z něj činí užitečný zdroj pro výzkumníky kybernetické bezpečnosti a antivirové firmy.

Long poukazuje na to, že výzkumníci již používají chatboty s umělou inteligencí k nalezení dosud neobjevených („zero-day“). zranitelnosti v kódu, jednoduše nahráním kódu a dotazem ChatGPT, aby zjistil, zda dokáže rozpoznat nějaký potenciál slabé stránky. To znamená, že stejnou metodologii, která by mohla oslabit obranu, lze použít k jejímu posílení.

A zatímco hlavní přitažlivost ChatGPT pro aktéry hrozeb může spočívat v jeho schopnosti psát věrohodné phishingové zprávy, ti samí talenti mohou pomoci školit společnosti a uživatele v tom, na co si dát pozor, aby nebyli podvedeni oni sami. Dalo by se také použít k reverznímu inženýrství malwaru, což by pomohlo výzkumníkům a bezpečnostním firmám rychle vyvinout protiopatření.

Nakonec ChatGPT sám o sobě není ve své podstatě dobrý nebo špatný. Jak zdůrazňuje Zugec: „Argument, že umělá inteligence může usnadnit vývoj malwaru, by se dal použít na jakýkoli jiný technologický pokrok, který přinesl užitek vývojářům, jako je open-source software nebo sdílení kódu platformy.”

Jinými slovy, dokud se budou záruky neustále zlepšovat, hrozí, že i nejlepší AI chatboti se nikdy nemusí stát tak nebezpečným, jak se nedávno předpovídalo.

Jak se zachovat v bezpečí

Pokud vás znepokojují hrozby, které představují chatboti AI a malware, k jehož vytvoření mohou být zneužiti, existuje několik kroků, které můžete podniknout, abyste se ochránili. Zugec říká, že je důležité přijmout „vícevrstvý obranný přístup“, který zahrnuje „implementaci řešení zabezpečení koncových bodů, zachování softwaru a systémů aktuálnía buďte ostražití vůči podezřelým zprávám nebo žádostem.“

Společnost Long mezitím doporučuje vyhýbat se souborům, k jejichž instalaci budete při návštěvě webové stránky automaticky vyzváni. Pokud jde o aktualizaci nebo stažení aplikace, stáhněte si ji z oficiálního obchodu s aplikacemi nebo z webu dodavatele softwaru. A buďte opatrní při klikání na výsledky vyhledávání nebo při přihlašování na webové stránky – hackeři mohou jednoduše zaplatit za umístění svých podvodných stránek na začátek výsledků vyhledávání a ukrást vaše přihlašovací údaje pomocí pečlivě vytvořené podobné webové stránky.

ChatGPT nikam nevede a ani malware, který způsobuje tolik škod po celém světě. Zatímco hrozba plynoucí ze schopnosti kódování ChatGPT může být prozatím přehnaná, její odbornost ve vytváření phishingových e-mailů by mohla způsobit nejrůznější bolesti hlavy. Přesto je velmi možné chránit se před hrozbou, kterou představuje, a zajistit, abyste se nestali obětí. Právě teď vám velká opatrnost – a solidní antivirová aplikace – může pomoci udržet vaše zařízení v bezpečí.

Doporučení redakce

• Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
• Návštěvnost webu ChatGPT poprvé klesla
• Konkurent společnosti Apple ChatGPT za vás může automaticky napsat kód
• Právníci z NY dostali pokutu za používání falešných případů ChatGPT v právní zkratce
• Tento webový prohlížeč integruje ChatGPT fascinujícím novým způsobem