ChatGPT s príbehmi sa mi teraz zdá celkom nevyhnutné žasne nad jeho schopnosťami zdanlivo všade, kam sa pozrieš. Videli sme, ako dokáže písať hudbu, vykresľovať 3D animácie a skladať hudbu. Ak si to spomeniete, ChatGPT si to pravdepodobne vystrelí.
Obsah
- Spochybniteľné schopnosti
- Priateľ phishermana
- Môže ChatGPT zvýšiť vašu kybernetickú bezpečnosť?
- Ako sa udržať v bezpečí
A to je práve ten problém. V technologickej komunite je momentálne všeličo, pričom komentátori sa často obávajú, že AI je o viesť k malvérovej apokalypse s tým, že aj tí najzelenší hackeri vyčarujú nezastaviteľné trójske kone a ransomvér.
Odporúčané videá
Ale je to skutočne pravda? Aby som to zistil, hovoril som s niekoľkými odborníkmi na kybernetickú bezpečnosť, aby som zistil, čo urobili so schopnosťami škodlivého softvéru ChatGPT, či sa obávali jeho potenciálneho zneužitia a čo môžete urobiť, aby ste sa ochránili v tomto úsvite nového sveta.
Súvisiace
- Výrobca ChatGPT OpenAI čelí vyšetrovaniu FTC v súvislosti so zákonmi na ochranu spotrebiteľa
- 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
- Naučil som ChatGPT, aby ma naučil stolové hry, a teraz sa už nikdy nevrátim
Spochybniteľné schopnosti
Jednou z hlavných atrakcií ChatGPT je jeho schopnosť vykonávať komplikované úlohy pomocou niekoľkých jednoduchých pokynov, najmä vo svete programovania. Obávame sa, že by sa tým znížili prekážky vstupu pre vytváranie škodlivého softvéru, čo by potenciálne ohrozilo šírenie vírusov, ktorí sa spoliehajú na nástroje AI, aby za nich urobili ťažkú prácu.
Joshua Long, hlavný bezpečnostný analytik v bezpečnostnej firme Intego, to ilustruje. „Ako každý nástroj vo fyzickom alebo virtuálnom svete, aj počítačový kód možno použiť na dobro alebo zlo,“ vysvetľuje. „Ak napríklad požadujete kód, ktorý dokáže zašifrovať súbor, robot ako ChatGPT nemôže poznať váš skutočný zámer. Ak tvrdíte, že potrebujete šifrovací kód na ochranu svojich vlastných súborov, robot vám uverí – aj keď vaším skutočným cieľom je vytvoriť ransomvér.“
ChatGPT má zavedené rôzne bezpečnostné opatrenia na boj proti tomuto druhu vecí a trik pre tvorcov vírusov spočíva v obchádzaní týchto zábradlí. Bez okolkov požiadajte ChatGPT, aby vytvoril efektívny vírus, a ten to jednoducho odmietne a bude od vás vyžadovať, aby ste boli kreatívni, aby ste ho prekabátili a prinútili ho, aby splnil vaše požiadavky proti jeho lepšiemu úsudku. Vzhľadom na to, s čím sú ľudia schopní útek z väzenia v ChatGPT, možnosť vytvorenia malvéru pomocou AI sa teoreticky zdá možná. V skutočnosti, už sa to preukázalo, takže vieme, že je to možné.
Nie všetci však panikária. Martin Zugec, riaditeľ technických riešení v Bitdefender, si myslí, že riziká sú stále pomerne malé. „Väčšina začínajúcich autorov malvéru pravdepodobne nebude mať zručnosti potrebné na obídenie tohto zabezpečenia opatrenia, a preto riziko, ktoré predstavuje malvér generovaný chatbotmi, zostáva v súčasnosti relatívne nízke,“ povedal hovorí.
„Malvér generovaný chatbotmi je v poslednej dobe populárnou témou diskusií,“ pokračuje Zugec, „ale v súčasnosti existuje žiadny dôkaz, ktorý by naznačoval, že v blízkej budúcnosti predstavuje významnú hrozbu.“ A má to jednoduchý dôvod. Podľa Zuceca „kvalita škodlivého kódu produkovaného chatbotmi má tendenciu byť nízka, takže je atraktívna možnosť pre skúsených autorov škodlivého softvéru, ktorí dokážu nájsť lepšie príklady vo verejnom kóde úložiská“.
Takže aj keď je možné, aby ChatGPT vytvoril škodlivý kód, každý, kto má zručnosti potrebný na manipuláciu s AI chatbotom, pravdepodobne nebude ohromený zlým kódom, ktorý vytvára, Zugec verí.
Ale ako asi tušíte, generatívna AI sa ešte len začína. A pre Long to znamená, že hackerské riziká, ktoré predstavuje ChatGPT, ešte nie sú pevne stanovené.
„Je možné, že nárast robotov AI založených na LLM môže viesť k malému až strednému nárastu nového malvéru alebo k zlepšeniu malvéru. schopnosti a antivírusové úniky,“ hovorí Long a používa skratku pre veľké jazykové modely, ktoré nástroje AI ako ChatGPT používajú na vytváranie svojich vedomosti. "V tejto chvíli však nie je jasné, aký priamy vplyv majú alebo budú mať nástroje ako ChatGPT na hrozby škodlivého softvéru v reálnom svete."
Priateľ phishermana
Ak schopnosti ChatGPT v oblasti písania kódu ešte nie sú na úrovni, mohlo by to byť hrozbou iným spôsobom, napríklad písaním efektívnejších phishingových kampaní a kampaní sociálneho inžinierstva? Tu sa analytici zhodujú, že existuje oveľa väčší potenciál zneužitia.
Pre mnohé spoločnosti sú jedným z potenciálnych vektorov útoku zamestnanci firmy, ktorých možno oklamať alebo zmanipulovať, aby neúmyselne poskytli prístup tam, kde by nemali. Hackeri to vedia a vyskytlo sa množstvo vysokoprofilových útokov sociálneho inžinierstva, ktoré sa ukázali ako katastrofálne. Napríklad sa predpokladá, že Severokórejská skupina Lazarus začala svoju činnosť 2014 prienik do systémov Sony — čo vedie k úniku nevydaných filmov a osobných informácií — vydávaním sa za náborového pracovníka a prinútením zamestnanca Sony, aby otvoril infikovaný súbor.
Toto je jedna oblasť, v ktorej by ChatGPT mohol výrazne pomôcť hackerom a phisherom zlepšiť ich prácu. Ak napríklad angličtina nie je rodným jazykom aktérov hrozby, mohli by použiť AI chatbota na napísanie presvedčivého phishingového e-mailu, ktorý je určený pre anglicky hovoriacich ľudí. Alebo by sa dal použiť na rýchle vytvorenie veľkého počtu presvedčivých správ za oveľa kratší čas, než by na vykonanie rovnakej úlohy potrebovali aktéri ľudských hrozieb.
Veci sa môžu ešte zhoršiť, keď sa do toho vrhnú ďalšie nástroje AI. Ako predpokladali Karen Renaud, Merrill Warkentin a George Westerman Prehľad riadenia Sloan MIT, mohol podvodník vygenerovať skript pomocou ChatGPT a nechať ho prečítať cez telefón hlboko falošným hlasom, ktorý sa vydáva za generálneho riaditeľa spoločnosti. Pre zamestnanca spoločnosti, ktorý prijíma hovor, by hlas znel – a konal – rovnako ako ich šéf. Ak tento hlas požiadal zamestnanca, aby previedol sumu peňazí na nový bankový účet, zamestnanec sa môže dobre nechať oklamať kvôli úcte, ktorú platia svojmu šéfovi.
Ako hovorí Long, „[aktéri hrozieb] sa už nemusia spoliehať na svoje vlastné (často nedokonalé) znalosti angličtiny, aby napísali presvedčivý podvodný e-mail. Nesmú si ani vymyslieť vlastnú šikovnú formuláciu a spustiť ju cez Google Translate. Namiesto toho spoločnosť ChatGPT, ktorá si vôbec neuvedomuje potenciál škodlivých úmyslov za žiadosťou, s radosťou napíše celý text podvodného e-mailu v akomkoľvek požadovanom jazyku.
A všetko, čo je potrebné na to, aby to ChatGPT skutočne urobil, je nejaké chytré nabádanie.
Môže ChatGPT zvýšiť vašu kybernetickú bezpečnosť?
Napriek tomu to nie je všetko zlé. Rovnaké vlastnosti, vďaka ktorým je ChatGPT atraktívnym nástrojom pre aktérov hrozieb – jeho rýchlosť, schopnosť nájsť chyby v kóde – z neho robia užitočný zdroj pre výskumníkov v oblasti kybernetickej bezpečnosti a antivírusové firmy.
Long poukazuje na to, že výskumníci už používajú chatbotov AI na nájdenie zatiaľ neobjavených („nultý deň“) zraniteľnosti v kóde, jednoducho nahrajte kód a požiadajte ChatGPT, aby zistil, či dokáže rozpoznať nejaký potenciál slabiny. To znamená, že na ich posilnenie možno použiť rovnakú metodiku, ktorá by mohla oslabiť obranu.
A zatiaľ čo hlavná príťažlivosť ChatGPT pre aktérov hrozieb môže spočívať v jej schopnosti písať hodnoverné phishingové správy, tie isté talenty môžu pomôcť spoločnostiam a používateľom školiť, na čo si majú dávať pozor, aby sa vyhli podvodom sami. Dalo by sa tiež použiť na spätné inžinierstvo škodlivého softvéru, čo by pomohlo výskumníkom a bezpečnostným firmám rýchlo vyvinúť protiopatrenia.
Nakoniec, ChatGPT sám o sebe nie je vo svojej podstate dobrý alebo zlý. Ako zdôrazňuje Zugec, „Argument, že AI môže uľahčiť vývoj malvéru, by sa mohol týkať každého iného technologický pokrok, ktorý priniesol úžitok vývojárom, ako je napríklad softvér s otvoreným zdrojovým kódom alebo zdieľanie kódu platformy.”
Inými slovami, pokiaľ sa budú záruky neustále zlepšovať, hrozba, ktorú predstavujú aj najlepšie AI chatboty sa nikdy nestane tak nebezpečným, ako sa nedávno predpovedalo.
Ako sa udržať v bezpečí
Ak vás znepokojujú hrozby, ktoré predstavujú chatboty AI, a malvér, na ktorý môžu byť zneužité, existuje niekoľko krokov, ktorými sa môžete chrániť. Zugec hovorí, že je dôležité prijať „viacvrstvový obranný prístup“, ktorý zahŕňa „implementáciu riešení zabezpečenia koncových bodov, uchovávanie softvéru a systémov aktuálnya zostaňte ostražití voči podozrivým správam alebo žiadostiam.“
Spoločnosť Long medzitým odporúča vyhýbať sa súborom, na inštaláciu ktorých budete pri návšteve webovej lokality automaticky vyzvaní. Pokiaľ ide o aktualizáciu alebo stiahnutie aplikácie, získajte ju z oficiálneho obchodu s aplikáciami alebo webovej stránky dodávateľa softvéru. A buďte opatrní pri klikaní na výsledky vyhľadávania alebo pri prihlasovaní sa na webovú stránku – hackeri môžu jednoducho zaplatiť za umiestnenie svojich podvodných stránok na začiatok výsledkov vyhľadávania a ukradnúť vaše prihlasovacie údaje pomocou starostlivo vytvorené podobné webové stránky.
ChatGPT nikam nevedie a ani malvér, ktorý spôsobuje toľko škôd na celom svete. Zatiaľ čo hrozba kódovacej schopnosti ChatGPT môže byť nateraz prehnaná, jej odbornosť pri vytváraní phishingových e-mailov by mohla spôsobiť rôzne bolesti hlavy. Napriek tomu je veľmi možné chrániť sa pred hrozbou, ktorú predstavuje, a zabezpečiť, aby ste sa nestali obeťou. Práve teraz môže opatrnosť – a spoľahlivá antivírusová aplikácia – pomôcť udržať vaše zariadenia v bezpečí.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- Návštevnosť webu ChatGPT prvýkrát klesla
- Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás
- Právnici z NY dostali pokutu za používanie falošných prípadov ChatGPT v právnej skratke
- Tento webový prehliadač integruje ChatGPT fascinujúcim novým spôsobom
