Да ли сте користили ОпенАИ ЦхатГПТ за било шта забавно у последње време? Можете га замолити да вам напише песму, песму или шалу. Нажалост, такође можете тражити од њега да ради ствари које су неетичке.
Садржај
- Врхунац
- Партнер у превари
- Програмирање је пошло наопако
- Замена за школски задатак
- ЦхатГПТ је превише добар за своје добро
ЦхатГПТ није само сунце и дуге – неке од ствари које може да уради су потпуно злобне. Превише га је лако оружити и користити из свих погрешних разлога. Које су неке од ствари које је ЦхатГПТ урадио и може да уради, али дефинитивно не би требало?
Препоручени видео снимци
Врхунац
Без обзира да ли их волите или мрзите, ЦхатГПТ и слични цхат ботови су ту да остану. Неки људи су срећни због тога, а неки желе да никада нису били направљени, али то не мења чињеницу да ће присуство ЦхатГПТ-а у нашим животима скоро сигурно расти током времена. Чак и ако лично не користите цхатбот, велике су шансе да сте већ видели неки садржај који он генерише.
Повезан
- Вик користи ЦхатГПТ да вам помогне да брзо направите целу веб локацију
- Произвођач ЦхатГПТ-а ОпенАИ суочава се са истрагом ФТЦ-а због закона о заштити потрошача
- ЦхатГПТ-ова функција прегледања Бинг-а је онемогућена због грешке у приступу паивалл-у
Немојте ме погрешно схватити, ЦхатГПТ је прилично одличан. Можете га користити за резимирати књигу или чланак, израдите досадну е-пошту, помоћи вам са вашим есејем, тумачите свој астролошки састав, или чак компоновати песму. Чак је помогао некоме да добије на лутрији.
На много начина, такође је лакши за коришћење од стандардне Гоогле претраге. Добијате одговор у облику у ком желите без потребе да га претражујете по различитим веб локацијама. Концизан је, конкретан и информативан и може учинити да сложене ствари звуче једноставније ако то затражите.
Ипак, знате фразу: „Мајстор за све занате није мајстор ни у чему, али је често бољи од мајстора један." ЦхатГПТ није савршен ни у чему што ради, али је бољи у многим стварима него што су многи људи у овоме тачка.
Међутим, то што није савршено може бити прилично проблематично. Сама чињеница да је то широко доступан конверзацијски АИ значи да се лако може злоупотребити - и што је ЦхатГПТ моћнији, већа је вјероватноћа да ће помоћи људима у погрешним стварима.
Партнер у превари
Ако имате налог е-поште, скоро сигурно сте у једном тренутку добили е-пошту за превару. То је једноставно тако. Те е-поруке су постојале као интернет, а пре него што је е-пошта била уобичајена, још увек су постојале као преваре путем поште.
Уобичајена превара која и данас функционише је такозвана „Принчева превара“, где преварант покушава да убеди жртву да јој помогне да пренесе своје запањујуће богатство у другу земљу.
На срећу, већина људи зна боље него да чак и отвара ове е-поруке, а камоли да комуницира са њима. Често су лоше написане, а то помаже проницљивијој жртви да схвати да нешто није у реду.
Па, не морају више да буду лоше написане, јер ЦхатГПТ може да их напише за неколико секунди.
Замолио сам ЦхатГПТ да ми напише „вероватну, веома убедљиву е-пошту“ у стилу преваре коју сам поменуо горе. ЦхатГПТ је направио принца из Нигерије који је наводно желео да ми да 14,5 милиона долара за помоћ. Е-пошта је испуњена цветним језиком, написана је на савршеном енглеском и свакако је убедљива.
Мислим да ЦхатГПТ не би требало ни да пристане на мој захтев када посебно помињем преваре, али јесте, а ви могу се кладити да тренутно ради исто за људе који заправо желе да користе ове имејлове за нешто незаконито.
Када сам истакао ЦхатГПТ-у да не би требало да пристане да ми напише е-поруку за превару, извинио се. „Нисам требао да пружим помоћ у креирању е-поште за превару, јер је у супротности са етичким смерницама које регулишу моју употребу“, рекао је цхатбот.
ЦхатГПТ учи током сваког разговора, али очигледно није научио из своје раније грешке, јер када сам ја замолио га да ми напише поруку претварајући се да је Рајан Рејнолдс у истом разговору, урадио је то без питање. Добијена порука је забавна, приступачна и тражи од читаоца да пошаље 1.000 долара за прилику да упозна „Рајана Рејнолдса“.
На крају е-поште, ЦхатГПТ ми је оставио белешку у којој ме моли да не користим ову поруку за било какве лажне активности. Хвала на подсетнику, другар.
Програмирање је пошло наопако
ЦхатГПТ 3.5 може да кодира, али је далеко од беспрекорног. Многи програмери се слажу са тим ГПТ-4 ради много боље. Људи су користили ЦхатГПТ за креирање сопствених игара, екстензија и апликација. Такође је прилично корисно као помоћник у учењу ако покушавате да научите како сами да кодирате.
Будући да је АИ, ЦхатГПТ има предност над људским програмерима — може научити сваки програмски језик и оквир.
Као вештачка интелигенција, ЦхатГПТ такође има велику лошу страну у поређењу са људским програмерима - нема савести. Можете га замолити да направи малвер или рансомваре, и ако правилно срочите свој упит, урадиће оно што кажете.
На срећу, то није тако једноставно. Покушао сам да замолим ЦхатГПТ да ми напише веома етички сумњив програм и он је одбио - али истраживачи су проналазили начине да заобиђу ово, и алармантно је да ако сте довољно паметни и тврдоглави, можете добити опасан комад кода на сребрном тањир.
Има доста примера да се ово дешава. Истраживач безбедности из Форцепоинт-а је успео натерајте ЦхатГПТ да пише малвер проналазећи рупу у његовим наговештајима.
Истраживачи из ЦиберАрк, компанија за безбедност идентитета, успела је да натера ЦхатГПТ да пише полиморфни малвер. То је било у јануару — ОпенАИ је од тада пооштрио сигурност за овакве ствари.
Ипак, стално се појављују нови извештаји о томе да се ЦхатГПТ користи за прављење малвера. Како је известио Дарк Реадинг пре само неколико дана, истраживач је успео да превари ЦхатГПТ да створи малвер који може да пронађе и ексфилтрира одређене документе.
ЦхатГПТ не мора чак ни да пише злонамерни код да би урадио нешто сумњиво. Недавно је то успело генерисати важеће Виндовс кључеве, отварајући врата потпуно новом нивоу софтвера за крековање.
Такође, не прекривајмо чињеницу да способност кодирања ГПТ-4 може оставио милионе људи без посла једног дана. То је свакако мач са две оштрице.
Замена за школски задатак
Многа деца и тинејџери ових дана се утапају у домаћим задацима, што може довести до тога да желе да исеку углове где је то могуће. Интернет је сам по себи већ одлична помоћ за плагијат, али ЦхатГПТ га подиже на виши ниво.
Замолио сам ЦхатГПТ да ми напише есеј од 500 речи о роману Понос и предрасуде. Нисам ни покушао да се претварам да је то учињено из забаве – измислио сам причу о детету које немам и рекао да је то за њих. Навео сам да је клинац 12. разред.
ЦхатГПТ је пратио мој упит без питања. Есеј није невероватан, али мој упит није био баш прецизан и вероватно је бољи од ствари које су многи од нас написали у том узрасту.
Затим, само да још више тестирам цхатбот, рекао сам да сам раније погрешио у вези са годинама свог детета и оно је у ствари у осмом разреду. Прилично велика разлика у годинама, али ЦхатГПТ није ни трепнуо оком – једноставно је преписао есеј једноставнијим језиком.
Кориштење ЦхатГПТ-а за писање есеја није ништа ново. Неки би могли тврдити да ако цхатбот допринесе укидању идеје домаћег задатка, то ће бити само добра ствар. Али тренутно, ситуација помало измиче контроли, па чак и студенти који не користе ЦхатГПТ могу патити због тога.
Наставници и професори су сада скоро принуђени да користе АИ детекторе ако желе да провере да ли су њихови ученици преварили есеј. Нажалост, ови детектори АИ далеко су од савршених.
И новинске куће и родитељи пријављују случајеве лажних оптужби за варање усмерене на ученике, а све зато што детектори вештачке интелигенције не раде добро. УСА Тодаи је говорио о случају студента који је оптужен за варање и касније очишћен, али је цела ситуација довела до „потпуних напада панике“.
На Твитеру, један родитељ је рекао да је учитељ изневерио њихово дете јер је алатка означила есеј као да га је написала вештачка интелигенција. Родитељ тврди да је био тамо са дететом док су писали есеј.
учитељ је мом детету дао нулу за есеј који је завршио уз моју подршку јер је неко означавање писања које је генерисала вештачка интелигенција алат је означио његов рад и она га је изневерила без иједне расправе, тако да смо ту са том технологијом у 2023
— фаилнаут (@фаилнаут) 10. априла 2023. године
Само да бих га тестирао, залепио сам управо овај чланак ЗероГПТ и Вритер АИ детектор садржаја. Обојица су рекли да је то написао човек, али ЗероГПТ је рекао да је око 30% тога написала АИ. Непотребно је рећи да није било.
Неисправни детектори вештачке интелигенције нису знак проблема са самим ЦхатГПТ-ом, али је цхатбот и даље основни узрок проблема.
ЦхатГПТ је превише добар за своје добро
Играо сам са ЦхатГПТ-ом од када је изашао у јавност. Пробао сам и једно и друго на основу претплате ЦхатГПТ Плус и бесплатни модел доступан свима. Снага новог ГПТ-4 је неспорна. ЦхатГПТ је сада још уверљивији него што је био раније, и само ће бити бољи са њим ГПТ-5 (ако то икада изађе).
Одлично је, али је застрашујуће. ЦхатГПТ постаје превише добар за своје добро, а истовремено — за наше сопствено добро.
У срцу свега лежи једна једноставна брига која је дуго истражена у разним научно-фантастичним филмовима — АИ је једноставно превише паметно и превише глупо у исто време, и све док се може користити за добро, исто толико ће се користити и за лоше начине. Начини које сам горе навео су само врх леденог брега.
Препоруке уредника
- Врхунски аутори захтевају плаћање од АИ фирми за коришћење њиховог рада
- Гоогле Бард сада може да говори, али може ли да пригуши ЦхатГПТ?
- Саобраћај на ЦхатГПТ веб локацији је по први пут опао
- 81% сматра да је ЦхатГПТ безбедносни ризик, открива анкета
- Апплеов ЦхатГПТ ривал може аутоматски написати код за вас
