Onko ChatGPT kyberturvallisuuskatastrofi? Kysyimme asiantuntijoilta

ChatGPT tuntuu aika väistämättömältä juuri nyt tarinoiden kanssa ihmettelee kykyjään näennäisesti kaikkialla, missä katsot. Olemme nähneet, kuinka se voi kirjoittaa musiikkia, renderoida 3D-animaatioita ja säveltää musiikkia. Jos ajattelet sitä, ChatGPT voi luultavasti kokeilla sitä.

Ja se on juuri se ongelma. Tekniikkayhteisössä on tällä hetkellä kaikenlaista käsien vääntämistä, ja kommentoijat ovat usein huolissaan siitä, että tekoäly on johtaa haittaohjelmien apokalypsiin, jossa jopa vihreimmät hakkerit loihtivat esiin pysäyttämättömiä troijalaisia ​​ja kiristysohjelmia.

Mutta onko tämä todella totta? Selvittääkseni keskustelin useiden kyberturvallisuusasiantuntijoiden kanssa nähdäkseni, mitä he tekivät ChatGPT: n haittaohjelmien kyvyistä. olivatko he huolissaan sen mahdollisesta väärinkäytöstä ja mitä voit tehdä suojellaksesi itseäsi tässä valkeana uudessa tilanteessa maailman.

Kyseenalaisia ​​kykyjä

Yksi ChatGPT: n tärkeimmistä nähtävyyksistä on sen kyky suorittaa monimutkaisia ​​tehtäviä muutamalla yksinkertaisella kehotuksella, erityisesti ohjelmoinnin maailmassa. Pelätään, että tämä alentaisi haittaohjelmien luomisen esteitä, mikä saattaisi vaarantaa virusten kirjoittajien lisääntymisen, jotka luottavat tekoälytyökaluihin hoitaakseen raskaan työn puolestaan.

Joshua Long, turvallisuusalan pääanalyytikko Integosta, havainnollistaa tätä asiaa. "Kuten mitä tahansa työkalua fyysisessä tai virtuaalisessa maailmassa, tietokonekoodia voidaan käyttää hyvään tai pahaan", hän selittää. "Jos pyydät koodia, joka voi esimerkiksi salata tiedoston, ChatGPT: n kaltainen botti ei voi tietää todellista tarkoitustasi. Jos väität tarvitsevasi salauskoodia omien tiedostojesi suojaamiseen, botti uskoo sinua – vaikka todellinen tavoitteesi olisikin luoda kiristyshaittaohjelmia.

ChatGPT: llä on useita suojakeinoja tällaisten asioiden torjumiseksi, ja virustentekijöiden temppu on ohittaa nämä suojakaiteet. Pyydä suoraan ChatGPT: tä luomaan tehokas virus, ja se yksinkertaisesti kieltäytyy ja vaatii sinua olemaan luova, jotta voit ovelaa sen ja saada sen tekemään tarjouksiasi parempaa harkintaa vastaan. Ottaen huomioon, mitä ihmiset voivat tehdä jailbreakit ChatGPT: ssä, mahdollisuus luoda haittaohjelmia tekoälyn avulla tuntuu teoriassa mahdolliselta. Itse asiassa, se on jo osoitettu, joten tiedämme sen olevan mahdollista.

Mutta kaikki eivät ole paniikissa. Bitdefenderin teknisten ratkaisujen johtaja Martin Zugec uskoo, että riskit ovat edelleen melko pieniä. "Suurin osa aloittelevista haittaohjelmien kirjoittajista ei todennäköisesti omaa taitoja, joita tarvitaan näiden suojausten ohittamiseen toimenpiteitä, ja siksi chatbotin luomien haittaohjelmien aiheuttama riski on tällä hetkellä suhteellisen pieni", hän sanoo.

"Chatbotin luomat haittaohjelmat ovat olleet suosittu keskustelunaihe viime aikoina", Zugec jatkaa, "mutta tällä hetkellä ei ole näyttöä siitä, että se muodostaisi merkittävän uhan lähitulevaisuudessa." Ja siihen on yksinkertainen syy. Zugecin mukaan "chatbottien tuottaman haittaohjelmakoodin laatu on yleensä heikko, mikä tekee siitä vähemmän houkutteleva vaihtoehto kokeneille haittaohjelmien kirjoittajille, jotka voivat löytää parempia esimerkkejä julkisesta koodista arkistot."

Joten vaikka ChatGPT: n saaminen haitallisen koodin luomiseen on varmasti mahdollista, kenellä tahansa, jolla on taitoja AI-chatbotin manipulointiin tarvittava ei todennäköisesti ole vaikuttunut sen luomasta huonosta koodista, Zugec uskoo.

Mutta kuten arvata saattaa, generatiivinen tekoäly on vasta alussa. Ja Longille tämä tarkoittaa, että ChatGPT: n aiheuttamia hakkerointiriskejä ei ole vielä hakattu kiveen.

"On mahdollista, että LLM-pohjaisten AI-bottien nousu voi johtaa uusien haittaohjelmien pieneen tai kohtalaiseen lisääntymiseen tai haittaohjelmien paranemiseen. ominaisuudet ja virustentorjunta", Long sanoo ja käyttää lyhennettä suurista kielimalleista, joita tekoälytyökalut, kuten ChatGPT, käyttävät rakentaessaan tietoa. "Tässä vaiheessa ei kuitenkaan ole selvää, kuinka paljon suoraa vaikutusta ChatGPT: n kaltaisilla työkaluilla on tai tulee olemaan todellisen maailman haittaohjelmauhkiin."

Kalastajan ystävä

Jos ChatGPT: n koodinkirjoitustaidot eivät vielä ole kunnossa, voiko se olla uhka muilla tavoilla, kuten kirjoittamalla tehokkaampia tietojenkalastelu- ja manipulointikampanjoita? Tässä analyytikot ovat yhtä mieltä siitä, että väärinkäytön mahdollisuus on paljon suurempi.

Monille yrityksille yksi mahdollinen hyökkäysvektori on yrityksen työntekijät, joita voidaan huijata tai manipuloida tarjoamaan vahingossa pääsy sinne, missä heidän ei pitäisi. Hakkerit tietävät tämän, ja on ollut paljon korkean profiilin sosiaalisen manipuloinnin hyökkäyksiä, jotka ovat osoittautuneet tuhoisiksi. Esimerkiksi Pohjois-Korean Lazarus Groupin uskotaan aloittaneen toimintansa 2014 tunkeutuminen Sonyn järjestelmiin — tuloksena on julkaisemattomien elokuvien ja henkilökohtaisten tietojen vuotaminen — esiintymällä työnhakijaksi ja saamalla Sonyn työntekijä avaamaan tartunnan saaneen tiedoston.

Tämä on yksi alue, jolla ChatGPT voi dramaattisesti auttaa hakkereita ja tietojenkalasteluja parantamaan työtään. Jos esimerkiksi englanti ei ole uhkatoimijan äidinkieli, he voivat kirjoittaa tekoäly-chatbotin avulla heille vakuuttavan phishing-sähköpostin, joka on tarkoitettu englanninkielisille. Tai sitä voitaisiin käyttää luomaan nopeasti suuri määrä vakuuttavia viestejä paljon lyhyemmässä ajassa kuin inhimillisiltä uhkatekijöiltä tarvittaisiin saman tehtävän suorittamiseen.

Asiat voivat pahentua entisestään, kun muita tekoälytyökaluja heitetään sekaan. Kuten Karen Renaud, Merrill Warkentin ja George Westerman ovat olettaneet MIT: n Sloan Management Review, huijari voi luoda käsikirjoituksen ChatGPT: n avulla ja saada sen luetuksi puhelimitse syvällä fake-äänellä, joka esiintyy yrityksen toimitusjohtajana. Yrityksen työntekijälle, joka vastaanottaa puhelun, ääni kuulostaisi - ja toimisi - aivan kuten heidän pomonsa. Jos tämä ääni pyysi työntekijää siirtämään rahasumman uudelle pankkitilille, työntekijä voi hyvinkin langeta juoniin pomolleen maksamansa kunnioituksen vuoksi.

Kuten Long sanoo, "[uhkanäyttelijöiden] ei enää tarvitse luottaa omiin (usein epätäydellisiin) englannin taitoihinsa kirjoittaakseen vakuuttavan huijaussähköpostin. He eivät myöskään saa edes keksiä omia älykkäitä sanamuotojaan ja ajaa sitä Google-kääntäjän kautta. Sen sijaan ChatGPT – täysin tietämätön pyynnön taustalla olevista haitallisista aikeista – kirjoittaa mielellään huijaussähköpostin koko tekstin millä tahansa halutulla kielellä.

Ja ChatGPT: n saaminen todella tekemään tämän tarvitsee vain fiksua kehotusta.

Voiko ChatGPT parantaa kyberturvallisuuttasi?

Silti kaikki ei ole huonoa. Samat ominaisuudet, jotka tekevät ChatGPT: stä houkuttelevan työkalun uhkien toimijoille – sen nopeus, kyky löytää virheitä koodista – tekevät siitä hyödyllisen resurssin kyberturvallisuuden tutkijoille ja virustorjuntayrityksille.

Long huomauttaa, että tutkijat käyttävät jo tekoäly-chatbotteja löytääkseen vielä löytämättömiä ("nollapäivä") koodin haavoittuvuuksia yksinkertaisesti lataamalla koodi ja pyytämällä ChatGPT: tä katsomaan, voiko se havaita mahdollisia heikkouksia. Tämä tarkoittaa, että samaa menetelmää, joka voi heikentää puolustusta, voidaan käyttää niiden tukemiseen.

Ja vaikka ChatGPT: n tärkein vetovoima uhkatekijöitä kohtaan saattaa piilee sen kyvyssä kirjoittaa uskottavia tietojenkalasteluviestejä, samat kyvyt voivat auttaa kouluttamaan yrityksiä ja käyttäjiä siihen, mitä pitää ottaa huomioon, jotta vältytään huijauksilta itse. Sitä voitaisiin käyttää myös haittaohjelmien käänteessä, mikä auttaa tutkijoita ja tietoturvayrityksiä kehittämään nopeasti vastatoimia.

Lopulta ChatGPT itsessään ei ole luonnostaan ​​hyvä tai huono. Kuten Zugec huomauttaa, "Argumentti siitä, että tekoäly voi helpottaa haittaohjelmien kehitystä, voisi koskea kaikkia muita teknologinen kehitys, joka on hyödyttänyt kehittäjiä, kuten avoimen lähdekoodin ohjelmistot tai koodinjako alustat.”

Toisin sanoen, niin kauan kuin suojatoimet paranevat, uhka jopa parhaat AI-chatbotit ei ehkä koskaan tule niin vaaralliseksi kuin äskettäin on ennustettu.

Kuinka pitää itsesi turvassa

Jos olet huolissasi tekoäly-chatbottien aiheuttamista uhista ja haittaohjelmista, joita niitä voidaan käyttää väärin luomaan, voit suojata itsesi muutamalla toimenpiteellä. Zugecin mukaan on tärkeää omaksua "monikerroksinen puolustus lähestymistapa", joka sisältää "päätepisteiden tietoturvaratkaisujen toteuttamisen, ohjelmistojen ja järjestelmien säilyttämisen ajantasallaja pysyä valppaana epäilyttäviä viestejä tai pyyntöjä vastaan."

Long suosittelee, että vältät tiedostot, jotka sinua kehotetaan automaattisesti asentamaan vieraillessasi verkkosivustolla. Kun kyse on sovelluksen päivittämisestä tai lataamisesta, hanki se virallisesta sovelluskaupasta tai ohjelmistotoimittajan verkkosivustolta. Ja ole varovainen, kun napsautat hakutuloksia tai kirjaudut sisään verkkosivustolle – hakkerit voivat yksinkertaisesti maksaa huijaussivustonsa sijoittamisesta hakutulosten yläosaan ja varastaakseen kirjautumistietosi huolella laaditut samankaltaiset sivustot.

ChatGPT ei katoa mihinkään, eivätkä haittaohjelmat, jotka aiheuttavat niin paljon vahinkoa kaikkialla maailmassa. Vaikka ChatGPT: n koodauskyvyn aiheuttama uhka voi olla toistaiseksi ylivoimainen, sen taito tietojenkalasteluviestien luomisessa voi aiheuttaa kaikenlaista päänsärkyä. Silti on hyvin mahdollista suojautua sen aiheuttamalta uhalta ja varmistaa, ettet joudu uhriksi. Tällä hetkellä runsas varovaisuus – ja vankka virustentorjuntasovellus – voivat auttaa pitämään laitteesi turvassa.

Toimittajien suositukset

• Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
• ChatGPT-verkkosivustojen liikenne on laskenut ensimmäistä kertaa
• Applen ChatGPT-kilpailija voi kirjoittaa koodin automaattisesti puolestasi
• New Yorkin lakimiehille sakkoja väärennettyjen ChatGPT-tapausten käyttämisestä oikeudessa
• Tämä verkkoselain integroi ChatGPT: n kiehtovalla uudella tavalla