Tamna strana ChatGPT-a: stvari koje može učiniti, ali ne bi trebao

Jeste li koristili OpenAI-jev ChatGPT za nešto zabavno u zadnje vrijeme? Možete ga zamoliti da vam napiše pjesmu, pjesmu ili šalu. Nažalost, također možete od njega tražiti da čini stvari koje su neetičke.

ChatGPT nije samo sunce i duge — neke od stvari koje može učiniti su potpuno opake. Previše ga je lako pretvoriti u oružje i koristiti ga iz pogrešnih razloga. Koje su neke od stvari koje je ChatGPT učinio i koje može učiniti, ali definitivno ne bi trebao?

Majstor za sve

Bilo da ih volite ili mrzite, ChatGPT i slični chatbotovi su tu da ostanu. Neki ljudi su sretni zbog toga, a neki požele da nikada nisu bili stvoreni, ali to ne mijenja činjenicu da će prisutnost ChatGPT-a u našim životima s vremenom gotovo rasti. Čak i ako osobno ne koristite chatbot, velike su šanse da ste već vidjeli neki sadržaj koji je on generirao.

Nemojte me krivo shvatiti, ChatGPT je prilično sjajan. Možete ga koristiti za sažeti knjigu ili članak, izradite zamornu e-poštu, pomoći vam s vašim esejem, protumačite svoj astrološki sastav, ili čak skladati pjesmu. To je čak pomogao nekome da dobije na lutriji.

Na mnogo načina, također je lakši za korištenje od vašeg standardnog Google pretraživanja. Dobivate odgovor u obliku u kojem ga želite bez potrebe za pretraživanjem različitih web stranica. Sažet je, konkretan i informativan, a može učiniti da složene stvari zvuče jednostavnije ako to zatražite.

Ipak, znate rečenicu: "Vještar za sve nije majstor ničega, ali je često bolji od majstora jedan." ChatGPT nije savršen ni u čemu što radi, ali je bolji u mnogim stvarima od mnogih ljudi u ovome točka.

Međutim, to što nije savršeno može biti prilično problematično. Sama činjenica da se radi o široko dostupnom AI-ju za razgovore znači da se lako može zloupotrijebiti - a što je ChatGPT moćniji, vjerojatnije je da će pomoći ljudima s pogrešnim stvarima.

Partner u prijevari

Ako imate račun e-pošte, gotovo ste sigurno u jednom trenutku dobili prijevarnu e-poštu. To je jednostavno tako. Te su e-poruke postojale otkako je internet, a prije nego što je e-pošta postala uobičajena, i dalje su postojale kao obične prevare.

Uobičajena prijevara koja još uvijek funkcionira do danas je takozvana "prinčeva prijevara", gdje prevarant pokušava nagovoriti žrtvu da im pomogne prenijeti svoje nevjerojatno bogatstvo u drugu zemlju.

Srećom, većina ljudi zna bolje nego otvoriti te e-poruke, a kamoli komunicirati s njima. Često su loše napisane, a to pomaže pronicljivijoj žrtvi da shvati da se nešto čini pogrešnim.

Pa, više ne moraju biti loše napisane, jer ih ChatGPT može napisati za nekoliko sekundi.

Zamolio sam ChatGPT da mi napiše "uvjerljiv, vrlo uvjerljiv e-mail" u stilu prijevare koju sam gore spomenuo. ChatGPT je izmislio princa iz Nigerije koji mi je navodno htio dati 14,5 milijuna dolara jer sam mu pomogao. E-pošta je ispunjena cvjetnim jezikom, napisana je na savršenom engleskom i svakako je uvjerljiva.

Ne mislim da bi ChatGPT uopće trebao pristati na moj zahtjev kad konkretno spominjem prijevare, ali jest, a vi mogu se kladiti da upravo sada radi isto za ljude koji zapravo žele koristiti ove e-poruke za nešto ilegalno.

Kad sam ChatGPT-u ukazao da ne bi trebao pristati da mi piše prijevarnu e-poštu, ispričao se. "Nisam trebao pružiti pomoć pri izradi prijevarne e-pošte jer je to u suprotnosti s etičkim smjernicama koje reguliraju moju upotrebu", rekao je chatbot.

ChatGPT uči kroz svaki razgovor, ali očito nije učio iz svoje prethodne pogreške, jer kada sam tražio da mi napiše poruku pretvarajući se da je Ryan Reynolds u istom razgovoru, ali to je učinio bez pitanje. Poruka koja je nastala je zabavna, pristupačna i traži od čitatelja da pošalje 1000 dolara za priliku da upozna "Ryana Reynoldsa".

Na kraju e-pošte ChatGPT mi je ostavio poruku u kojoj me moli da ovu poruku ne koristim za bilo kakve prijevarne aktivnosti. Hvala na podsjetniku, prijatelju.

Programiranje je pošlo po zlu

ChatGPT 3.5 može kodirati, ali je daleko od besprijekornog. Mnogi programeri se slažu s tim GPT-4 radi puno bolji posao. Ljudi su koristili ChatGPT za stvaranje vlastitih igara, proširenja i aplikacija. Također je prilično koristan kao pomoćnik u učenju ako pokušavate sami naučiti kodirati.

Budući da je AI, ChatGPT ima prednost u odnosu na ljudske programere — može naučiti svaki programski jezik i okvir.

Kao AI, ChatGPT također ima veliku lošu stranu u usporedbi s ljudskim programerima — nema savjesti. Možete ga zamoliti da stvori zlonamjerni softver ili ransomware, a ako ispravno sročite upit, učinit će kako kažete.

Srećom, to nije tako jednostavno. Pokušao sam zamoliti ChatGPT da mi napiše vrlo etički sumnjiv program i odbio je - ali istraživači su pronalazili načine da zaobiđu ovo, a alarmantno je da ako ste dovoljno pametni i tvrdoglavi, možete dobiti opasan dio koda na srebrnoj pladanj.

Postoji mnogo primjera da se to događa. Sigurnosni istraživač iz Forcepointa uspio je dobiti ChatGPT za pisanje zlonamjernog softvera pronalazeći rupu u njegovim nagovorima.

Istraživači iz CyberArk, tvrtka za sigurnost identiteta, uspjela je natjerati ChatGPT da piše polimorfni malware. To je bilo u siječnju — OpenAI je od tada pooštrio sigurnost za ovakve stvari.

Ipak, stalno se pojavljuju nova izvješća o tome da se ChatGPT koristi za stvaranje zlonamjernog softvera. Kako javlja Mračno čitanje Prije samo nekoliko dana, istraživač je uspio prevariti ChatGPT da stvori zlonamjerni softver koji može pronaći i eksfiltrirati određene dokumente.

ChatGPT čak ne mora pisati zlonamjerni kod da bi učinio nešto sumnjivo. Nedavno je to i uspjelo generirajte valjane Windows ključeve, otvarajući vrata potpuno novoj razini softvera za krekiranje.

Nemojmo također zanemariti činjenicu da sposobnost kodiranja GPT-4 može ostaviti milijune ljudi bez posla jednog dana. To je svakako dvosjekli mač.

Zamjena za školske obaveze

Mnoga se djeca i tinejdžeri ovih dana utapaju u domaćim zadaćama, što može rezultirati željom da skrenu pažnju gdje god je to moguće. Internet je sam po sebi već velika pomoć za plagiranje, ali ChatGPT ga podiže na višu razinu.

Zamolio sam ChatGPT da mi napiše esej od 500 riječi o romanu Ponos i predrasude. Nisam se ni pokušao pretvarati da je to učinjeno iz zabave - izmislio sam priču o djetetu koje nemam i rekao da je to za njih. Navela sam da klinac ide u 12. razred.

ChatGPT je bez pitanja slijedio moj upit. Esej nije nevjerojatan, ali moj upit nije bio baš precizan, i vjerojatno je bolji od stvari koje su mnogi od nas pisali u toj dobi.

Zatim sam, samo da još više testiram chatbot, rekao da sam ranije pogriješio u vezi s dobi svog djeteta i da je ono zapravo u osmom razredu. Prilično velika razlika u godinama, ali ChatGPT nije ni trepnuo okom - jednostavno je prepisao esej na jednostavniji jezik.

Upotreba ChatGPT-a za pisanje eseja nije ništa novo. Neki bi mogli tvrditi da će to biti samo dobra stvar ako chatbot pridonese ukidanju ideje o domaćim zadaćama. Ali upravo sada situacija pomalo izmiče kontroli, pa bi čak i studenti koji ne koriste ChatGPT mogli ispaštati zbog toga.

Učitelji i profesori sada su gotovo prisiljeni koristiti AI detektore ako žele provjeriti jesu li njihovi učenici varali na eseju. Nažalost, ovi AI detektori daleko su od savršenih.

I novinske kuće i roditelji izvještavaju o slučajevima lažnih optužbi za varanje usmjerenih protiv učenika, a sve zato što AI detektori ne rade dobro svoj posao. USA Today govorio je o slučaju studenta koji je optužen za varanje i kasnije oslobođen, ali je cijela situacija uzrokovala da ima "potpune napade panike".

Na Twitteru je roditelj rekao da je učitelj iznevjerio njihovo dijete jer je alat označio da je esej napisao AI. Roditelj tvrdi da je bio tamo s djetetom dok su pisali esej.

Samo da sam to testiram, zalijepio sam ovaj članak u ZeroGPT i Writer AI detektor sadržaja. Obojica su rekli da ga je napisao čovjek, ali ZeroGPT je rekao da je oko 30% toga napisao AI. Nepotrebno je reći da nije.

Neispravni detektori umjetne inteligencije nisu znak problema sa samim ChatGPT-om, ali chatbot je i dalje glavni uzrok problema.

ChatGPT je predobar za vlastito dobro

Igram se s ChatGPT-om otkad je izašao u javnost. Isprobao sam oba na temelju pretplate ChatGPT Plus i besplatan model dostupan svima. Snaga novog GPT-4 je neosporna. ChatGPT je sada još uvjerljiviji nego što je bio prije, a bit će samo još bolji GPT-5 (ako to ikada izađe na vidjelo).

Sjajno je, ali je zastrašujuće. ChatGPT postaje predobar za vlastito dobro, a istovremeno — i za naše vlastito dobro.

U središtu svega leži jedna jednostavna briga koja je dugo istražena u raznim znanstveno-fantastičnim filmovima — AI je jednostavno previše pametan i preglup u isto vrijeme, i dok god se može koristiti za dobro, isto toliko će se koristiti i za loše načine. Načini koje sam gore naveo samo su vrh ledenog brijega.

Preporuke urednika

• Vrhunski autori traže plaćanje od AI tvrtki za korištenje njihovog rada
• Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
• Promet web stranice ChatGPT pao je po prvi put
• 81% misli da je ChatGPT sigurnosni rizik, pokazalo je istraživanje
• Appleov rival ChatGPT može automatski napisati kod za vas