Ar „ChatGPT“ yra kibernetinio saugumo nelaimė? Paklausėme ekspertų

ChatGPT šiuo metu jaučiasi gana neišvengiama su istorijomis stebisi savo sugebėjimais atrodo, visur, kur pažvelgsi. Matėme, kaip jis gali rašyti muziką, pateikti 3D animaciją ir kurti muziką. Jei gerai pagalvojate, „ChatGPT“ tikriausiai gali tai padaryti.

Ir būtent tai yra problema. Šiuo metu technologijų bendruomenėje vyksta įvairiausių rankų laužymas, o komentatoriai dažnai nerimauja, kad dirbtinis intelektas yra sukelti kenkėjiškų programų apokalipsę, kai net patys žaliapirščiai įsilaužėliai užburia nesustabdomus Trojos arklius ir išpirkos programas.

Bet ar tai iš tikrųjų tiesa? Norėdamas tai išsiaiškinti, kalbėjausi su keletu kibernetinio saugumo ekspertų, norėdamas sužinoti, ką jie padarė iš ChatGPT kenkėjiškų programų, ar jie buvo susirūpinę dėl galimo netinkamo jo naudojimo ir ką galite padaryti, kad apsisaugotumėte šioje auštančioje naujovėje pasaulis.

Abejotini gebėjimai

Vienas iš pagrindinių „ChatGPT“ privalumų yra jo gebėjimas atlikti sudėtingas užduotis vos keliais paprastais raginimais, ypač programavimo pasaulyje. Baiminamasi, kad tai sumažins kliūtis patekti į rinką kuriant kenkėjiškas programas, o tai gali sukelti pavojų virusų kūrėjų, kurie pasikliauja dirbtinio intelekto įrankiais, kad jie atliktų sunkų darbą, daugės.

Saugumo įmonės „Intego“ vyriausiasis saugumo analitikas Joshua Longas iliustruoja tai. „Kaip ir bet kuris įrankis fiziniame ar virtualiame pasaulyje, kompiuterio kodas gali būti naudojamas gėriui arba blogiui“, – aiškina jis. „Jei prašote kodo, kuris gali užšifruoti failą, pavyzdžiui, toks robotas kaip ChatGPT negali žinoti jūsų tikrojo ketinimo. Jei teigiate, kad jums reikia šifravimo kodo, kad apsaugotumėte savo failus, robotas jumis patikės, net jei jūsų tikrasis tikslas yra sukurti išpirkos reikalaujančią programinę įrangą.

„ChatGPT“ turi įvairių apsaugos priemonių, skirtų kovai su tokiais dalykais, o virusų kūrėjų gudrybė yra apeiti šiuos apsauginius turėklus. Tiesiai paprašykite „ChatGPT“ sukurti veiksmingą virusą ir jis paprasčiausiai atsisakys, o jums reikės kūrybiškumo, kad jį apgautumėte ir priverstumėte jį įvykdyti jūsų norą, priešingai savo sprendimui. Atsižvelgiant į tai, ką žmonės gali padaryti „ChatGPT“ pertraukos, galimybė sukurti kenkėjiškas programas naudojant AI teoriškai yra įmanoma. Faktiškai, tai jau įrodyta, todėl žinome, kad tai įmanoma.

Tačiau ne visi panikuoja. Martinas Zugecas, „Bitdefender“ techninių sprendimų direktorius, mano, kad rizika vis dar yra gana maža. „Dauguma pradedančiųjų kenkėjiškų programų kūrėjų greičiausiai neturės įgūdžių, reikalingų norint apeiti šį saugumą priemonių, todėl rizika, kurią kelia pokalbių robotų generuojamos kenkėjiškos programos, šiuo metu išlieka palyginti maža“, – jis sako.

„Pastaruoju metu pokalbių roboto sukurta kenkėjiška programa buvo populiari diskusijų tema“, – tęsia Zugecas, – tačiau šiuo metu nėra įrodymų, leidžiančių manyti, kad artimiausioje ateityje tai kelia didelę grėsmę. Ir tam yra paprasta priežastis. Pasak Zugeco, „pokalbių robotų sukurto kenkėjiškų programų kodo kokybė paprastai būna žema, todėl patraukli galimybė patyrusiems kenkėjiškų programų kūrėjams, kurie gali rasti geresnių pavyzdžių viešajame kode saugyklos“.

Taigi, nors ChatGPT sukurti kenkėjišką kodą tikrai įmanoma, bet kas turi įgūdžių Tikėtina, kad AI pokalbių robotu manipuliuoti reikalingas prastas kodas, kurį jis sukuria, nesužavės, Zugec tiki.

Tačiau, kaip jau galima spėti, generatyvus AI dar tik prasideda. „Long“ atveju tai reiškia, kad „ChatGPT“ keliama įsilaužimo rizika dar nėra iškalta akmenyje.

„Gali būti, kad dėl LLM pagrįstų AI botų atsiradimo gali šiek tiek padaugėti naujų kenkėjiškų programų arba pagerėti kenkėjiškų programų skaičius. galimybes ir antivirusinį vengimą“, – sako Longas, vartodamas didelių kalbų modelių, kuriuos AI įrankiai, pvz., „ChatGPT“ naudoja kurdami savo, akronimą. žinių. „Tačiau šiuo metu neaišku, kokį tiesioginį poveikį tokios priemonės kaip „ChatGPT“ daro ar darys realaus pasaulio kenkėjiškų programų grėsmėms.

Žvejo draugas

Jei „ChatGPT“ kodų rašymo įgūdžiai dar nepasiekę nulio, ar tai gali kelti grėsmę kitais būdais, pavyzdžiui, rengiant efektyvesnes sukčiavimo ir socialinės inžinerijos kampanijas? Čia analitikai sutinka, kad yra daug daugiau netinkamo naudojimo galimybių.

Daugeliui įmonių vienas iš galimų atakų vektorių yra įmonės darbuotojai, kurie gali būti apgauti arba manipuliuojami, kad netyčia suteiktų prieigą ten, kur neturėtų. Piratai tai žino, ir buvo daugybė aukšto lygio socialinės inžinerijos atakų, kurios pasirodė pražūtingos. Pavyzdžiui, manoma, kad Šiaurės Korėjos „Lazarus Group“ pradėjo savo veiklą 2014 m. įsiveržimas į „Sony“ sistemas – dėl to buvo nutekėję neišleistų filmų ir asmeninės informacijos – apsimetant įdarbintoju ir „Sony“ darbuotojui verčiant atidaryti užkrėstą failą.

Tai yra viena sritis, kurioje „ChatGPT“ gali labai padėti įsilaužėliams ir sukčiuotojams pagerinti savo darbą. Pavyzdžiui, jei anglų kalba nėra grėsmės aktoriaus gimtoji kalba, jie gali naudoti AI pokalbių robotą, kad parašytų jiems įtikinamą sukčiavimo el. laišką, skirtą anglakalbiams. Arba jį būtų galima panaudoti norint greitai sukurti daug įtikinamų pranešimų per daug trumpesnį laiką, nei prireiktų žmonėms, keliantiems grėsmę tokiai pačiai užduočiai atlikti.

Reikalai gali pablogėti, kai į mišinį bus įtrauktos kitos AI priemonės. Kaip postulavo Karen Renaud, Merrill Warkentin ir George Westerman MIT „Sloan Management Review“., sukčius gali sukurti scenarijų naudodamas „ChatGPT“ ir paprašyti jį perskaityti telefonu netikru balsu, kuris apsimetinėja įmonės vadovu. Įmonės darbuotojui, gaunančiam skambutį, balsas skambėtų ir elgtųsi taip, kaip jų viršininkas. Jei šis balsas paprašytų darbuotojo pervesti pinigų sumą į naują banko sąskaitą, darbuotojas gali apsigauti dėl pagarbos, kurią moka savo viršininkui.

Kaip sako Longas, „[grėsmės aktoriai] nebeturi pasikliauti savo (dažnai netobulais) anglų kalbos įgūdžiais, kad parašytų įtikinamą sukčių el. laišką. Taip pat jie net neturi sugalvoti savo protingos formuluotės ir paleisti ją per „Google“ vertėją. Vietoj to, „ChatGPT“ – visiškai nežinodama, kad užklausa gali būti piktavališka – mielai parašys visą sukčių el. laiško tekstą bet kokia norima kalba.

Ir viskas, ko reikia, kad „ChatGPT“ iš tikrųjų tai padarytų, yra protingas raginimas.

Ar „ChatGPT“ gali padidinti jūsų kibernetinį saugumą?

Vis dėlto ne viskas blogai. Dėl tų pačių savybių, dėl kurių „ChatGPT“ yra patrauklus įrankis grėsmės veikėjams, – greitis, gebėjimas rasti kodo trūkumus – tai yra naudingas šaltinis kibernetinio saugumo tyrinėtojams ir antivirusinėms įmonėms.

Longas pabrėžia, kad mokslininkai jau naudoja AI pokalbių robotus, kad surastų dar neatrastus („nulinės dienos“) kodo pažeidžiamumų, tiesiog įkeliant kodą ir paprašius ChatGPT išsiaiškinti, ar jis gali pastebėti trūkumai. Tai reiškia, kad ta pati metodika, kuri gali susilpninti gynybą, gali būti naudojama joms sustiprinti.

Ir nors pagrindinis „ChatGPT“ potraukis grėsmės veikėjams gali slypėti gebėjimu rašyti tikėtinus sukčiavimo pranešimus, tie patys talentai gali padėti įmones ir vartotojus išmokyti, į ką reikėtų atkreipti dėmesį, kad nebūtų apgauti patys. Jis taip pat galėtų būti naudojamas kenkėjiškų programų apgręžimui, padedant tyrėjams ir saugos įmonėms greitai sukurti atsakomąsias priemones.

Galiausiai „ChatGPT“ savaime nėra geras ar blogas. Kaip pažymi Zugec, „Argumentas, kad AI gali palengvinti kenkėjiškų programų kūrimą, gali būti taikomas bet kuriam kitam technologinė pažanga, kuri buvo naudinga kūrėjams, pvz., atvirojo kodo programinė įranga arba kodų dalijimasis platformos“.

Kitaip tariant, tol, kol apsaugos priemonės tobulėja, grėsmė kyla net geriausi AI pokalbių robotai niekada netaps toks pavojingas, kaip neseniai buvo prognozuota.

Kaip apsaugoti save

Jei nerimaujate dėl AI pokalbių robotų keliamų grėsmių ir kenkėjiškų programų, kuriomis jais galima piktnaudžiauti, yra keletas veiksmų, kurių galite imtis norėdami apsisaugoti. Zugec teigia, kad svarbu laikytis „daugiasluoksnio gynybos požiūrio“, kuris apima „galinio taško saugumo sprendimų įgyvendinimą, programinės įrangos ir sistemų išsaugojimą“. iki šiolir išlikti budrus prieš įtartinus pranešimus ar prašymus.

Tuo tarpu Long rekomenduoja vengti failų, kuriuos automatiškai raginama įdiegti, kai lankotės svetainėje. Kai reikia atnaujinti arba atsisiųsti programą, įsigykite ją iš oficialios programų parduotuvės arba programinės įrangos pardavėjo svetainės. Ir būkite atsargūs spustelėdami paieškos rezultatus arba prisijungdami prie svetainės – įsilaužėliai gali tiesiog sumokėti už tai, kad savo sukčių svetaines patalpintų paieškos rezultatų viršuje ir pavogtų jūsų prisijungimo informaciją naudodami kruopščiai sukurtos panašios svetainės.

„ChatGPT“ niekur nedingsta, taip pat nedingsta kenkėjiška programa, kuri daro tiek daug žalos visame pasaulyje. Nors „ChatGPT“ kodavimo galimybių grėsmė kol kas gali būti per didelė, jos įgūdžiai kurti sukčiavimo el. laiškus gali sukelti visokį galvos skausmą. Tačiau labai įmanoma apsisaugoti nuo jos keliamos grėsmės ir užtikrinti, kad netaptumėte auka. Šiuo metu daugybė atsargumo priemonių ir patikima antivirusinė programa gali padėti apsaugoti jūsų įrenginius.

Redaktorių rekomendacijos

• „Google Bard“ dabar gali kalbėti, bet ar gali užgožti „ChatGPT“?
• ChatGPT svetainės srautas sumažėjo pirmą kartą
• „Apple“ „ChatGPT“ konkurentas gali automatiškai parašyti kodą už jus
• Niujorko teisininkai nubausti bauda už netikrų „ChatGPT“ bylų naudojimą teisinėje trumpoje padėtyje
• Ši žiniatinklio naršyklė integruoja ChatGPT įdomiu nauju būdu