Да ли је ЦхатГПТ катастрофа за сајбер безбедност? Питали смо стручњаке

ЦхатГПТ тренутно се осећа прилично неизбежно, са причама дивећи се њеним способностима наизглед свуда где погледате. Видели смо како може да пише музику, рендерује 3Д анимације и компонује музику. Ако можете да се сетите тога, ЦхатГПТ вероватно може да покуша.

И управо то је проблем. Тренутно постоје разне врсте руковања у технолошкој заједници, а коментатори се често брину да је вештачка интелигенција да доведе до апокалипсе злонамерног софтвера са чак и најзеленијим хакерима који призивају незаустављиве тројанце и рансомваре.

Али да ли је ово заиста истина? Да бих сазнао, разговарао сам са бројним стручњацима за сајбер безбедност да видим шта су направили од способности малвера ЦхатГПТ-а, да ли су били забринути због могућности његове злоупотребе и шта можете да урадите да бисте се заштитили у овој новој новости свет.

Упитне способности

Једна од главних атракција ЦхатГПТ-а је његова способност да обавља компликоване задатке са само неколико једноставних упутстава, посебно у свету програмирања. Страх је да би то смањило баријере уласку за стварање злонамерног софтвера, потенцијално ризикујући пролиферацију писаца вируса који се ослањају на АИ алате да ураде тежак посао уместо њих.

Џошуа Лонг, главни безбедносни аналитичар у безбедносној фирми Интего, илуструје ову тачку. „Као и сваки алат у физичком или виртуелном свету, компјутерски код се може користити за добро или за зло“, објашњава он. „Ако затражите код који може да шифрује датотеку, на пример, бот као што је ЦхатГПТ не може знати вашу стварну намеру. Ако тврдите да вам је потребан код за шифровање да бисте заштитили сопствене датотеке, бот ће вам поверовати — чак и ако је ваш прави циљ да направите рансомваре.“

ЦхатГПТ има различите заштитне мере за борбу против оваквих ствари, а трик за креаторе вируса је у заобилажењу тих заштитних ограда. Отворено замолите ЦхатГПТ да створи ефикасан вирус и он ће једноставно одбити, захтевајући од вас да будете креативни како бисте га надмудрили и натерали га да ради ваше понуде противно својој бољој процени. Узимајући у обзир шта су људи у стању да ураде јаилбреакс у ЦхатГПТ, могућност стварања малвера помоћу вештачке интелигенције се у теорији чини могућом. Заправо, већ је показано, тако да знамо да је то могуће.

Али нису сви у паници. Мартин Зугец, директор техничких решења у Битдефендер-у, сматра да су ризици и даље прилично мали. „Већина почетника писаца злонамерног софтвера вероватно неће поседовати вештине потребне да заобиђу ову безбедност мере, и стога ризик који представља малвер који генерише цхатбот остаје релативно низак у овом тренутку“, он каже.

„Злонамерни софтвер генерисан за ћаскање био је популарна тема разговора у последње време“, наставља Зугец, „али тренутно постоји нема доказа који би указивали на то да представља значајну претњу у блиској будућности.” И за то постоји једноставан разлог. Према Зугецу, „квалитет кода малвера који производе чет-ботови обично је низак, што га чини мање атрактивна опција за искусне писце малвера који могу пронаћи боље примере у јавном коду спремишта.”

Дакле, иако је натерати ЦхатГПТ да креира злонамерни код је свакако могуће, свако ко има вештине Неопходан за манипулисање АИ цхатботом вероватно неће бити импресиониран лошим кодом који креира, Зугец верује.

Али као што можете претпоставити, генеративна АИ тек почиње. А за дуго, то значи да ризици од хаковања које представља ЦхатГПТ још нису укочени.

„Могуће је да пораст АИ ботова заснованих на ЛЛМ-у може довести до малог до умереног повећања новог малвера или побољшања малвера могућности и избегавање антивирусних програма“, каже Лонг, користећи акроним за велике језичке моделе које АИ алати као што је ЦхатГПТ користе за изградњу својих знања. „У овом тренутку, међутим, није јасно колики директан утицај алати као што је ЦхатГПТ имају или ће имати на претње малвера у стварном свету.

Пријатељ рибара

Ако ЦхатГПТ вештине писања кода још увек нису на нивоу, може ли то бити претња на друге начине, као што је писање ефикаснијих кампања за крађу идентитета и друштвеног инжењеринга? Овде се аналитичари слажу да постоји много више потенцијала за злоупотребу.

За многе компаније, један потенцијални вектор напада су запослени у фирми, који могу бити преварени или изманипулисани да ненамерно обезбеде приступ тамо где не би требало. Хакери то знају, а било је доста напада друштвеног инжењеринга високог профила који су се показали катастрофалним. На пример, сматра се да је Севернокорејска Лазарус група започела свој рад 2014. упад у Сонијеве системе — што резултира цурењем необјављених филмова и личних података — лажно представљањем регрутатора и навођењем запосленог компаније Сони да отвори заражену датотеку.

Ово је једна област у којој би ЦхатГПТ могао драматично помоћи хакерима и пхисхерс да побољшају свој рад. Ако енглески није матерњи језик актера претње, на пример, они би могли да користе АИ цхатбот да за њих напишу убедљиву е-поруку за крађу идентитета која је намењена говорницима енглеског. Или би се могао користити за брзо креирање великог броја убедљивих порука за много краће време него што би било потребно људским претњама да ураде исти задатак.

Ствари би могле постати још горе када се у мешавину убаце и други алати АИ. Као што су Карен Ренауд, Меррилл Варкентин и Георге Вестерман постулирали у МИТ-ов преглед управљања Слоан, преварант би могао да генерише скрипту користећи ЦхатГПТ и да је прочита преко телефона дубоким лажним гласом који опонаша генералног директора компаније. Запосленом компаније који је примио позив, глас би звучао - и деловао - баш као њихов шеф. Ако је тај глас тражио од запосленог да пребаци суму новца на нови банковни рачун, запослени би могао да падне на превару због поштовања које плаћа свом шефу.

Као што Лонг каже, „више [глумци претњи] не морају да се ослањају на своје (често несавршено) знање енглеског да би написали убедљиву е-пошту за превару. Нити не смеју да смисле сопствену паметну формулацију и да је покрену преко Гоогле преводиоца. Уместо тога, ЦхатГПТ — потпуно несвестан потенцијала злонамерне намере иза захтева — ће са задовољством написати цео текст е-поруке за превару на било ком жељеном језику.“

А све што је потребно да би ЦхатГПТ то заиста урадио је неки паметан подстицај.

Може ли ЦхатГПТ побољшати вашу сајбер безбедност?

Ипак, није све лоше. Исте особине које чине ЦхатГПТ привлачним алатом за актере претњи – његова брзина, његова способност да пронађе недостатке у коду – чине га корисним ресурсом за истраживаче сајбер безбедности и антивирусне фирме.

Лонг истиче да истраживачи већ користе АИ цхат ботове да пронађу још неоткривене („нулти дан“) рањивости у коду, једноставним отпремањем кода и тражењем од ЦхатГПТ-а да види да ли може да уочи било какав потенцијал слабости. То значи да се иста методологија која би могла ослабити одбрану може користити за њихово јачање.

И док главна атракција ЦхатГПТ-а за актере претњи можда лежи у његовој способности да напише веродостојне пхисхинг поруке, ти исти таленти могу помоћи у обуци компанија и корисника о томе на шта да пазе како би избегли превару себе. Такође би се могао користити за преокренути инжењеринг малвера, помажући истраживачима и безбедносним фирмама да брзо развију противмере.

На крају крајева, ЦхатГПТ сам по себи није ни добар ни лош. Како Зугец истиче, „Аргумент да АИ може олакшати развој малвера могао би се применити на било који други технолошки напредак који је користио програмерима, као што је софтвер отвореног кода или дељење кода платформе.”

Другим речима, све док се заштитне мере побољшавају, претња представља чак и најбољи АИ цхат ботови можда никада неће постати тако опасан као што се недавно предвиђало.

Како да се заштитите

Ако сте забринути због претњи које представљају АИ цхатботови и злонамерног софтвера који се може злоупотребити да би се створио, постоје неки кораци које можете предузети да бисте се заштитили. Зугец каже да је важно усвојити „вишеслојни приступ одбране“ који укључује „примену безбедносних решења крајњих тачака, чување софтвера и система савремен, и остати на опрезу против сумњивих порука или захтева.”

Лонг, у међувремену, препоручује избегавање датотека за које се аутоматски тражи да инсталирате када посећујете веб локацију. Када је у питању ажурирање или преузимање апликације, набавите је из званичне продавнице апликација или веб-сајта продавца софтвера. И будите опрезни када кликнете на резултате претраге или се пријављујете на веб локацију – хакери могу једноставно да плате да своје сајтове за превару поставе на врх резултата претраге и украду ваше податке за пријаву са пажљиво направљене веб-сајтове сличног типа.

ЦхатГПТ не иде никуда, као ни малвер који наноси толику штету широм света. Иако је претња од способности кодирања ЦхатГПТ-а за сада можда преувеличана, његова вештина у креирању пхисхинг порука е-поште може изазвати разне главобоље. Ипак, врло је могуће да се заштитите од претње коју она представља и да не постанете жртва. Управо сада, обиље опреза — и солидна антивирусна апликација — могу помоћи да ваши уређаји буду безбедни и здрави.

Препоруке уредника

• Гоогле Бард сада може да говори, али може ли да пригуши ЦхатГПТ?
• Саобраћај на ЦхатГПТ веб локацији је по први пут опао
• Апплеов ЦхатГПТ ривал може аутоматски написати код за вас
• Адвокати из Њујорка кажњени због коришћења лажних ЦхатГПТ случајева у правном сажетку
• Овај веб претраживач интегрише ЦхатГПТ на фасцинантан нови начин