Temna stran ChatGPT: stvari, ki jih lahko naredi, a ne bi smel

Ali ste uporabili OpenAI's ChatGPT za kaj zabavnega v zadnjem času? Lahko ga prosite, naj vam napiše pesem, pesem ali šalo. Na žalost lahko od njega zahtevate tudi, da počne stvari, ki se nagibajo k neetičnosti.

ChatGPT ni samo sonce in mavrice - nekatere stvari, ki jih lahko počne, so naravnost nečedne. Preveč enostavno ga je oborožiti in uporabiti za vse napačne razloge. Katere so stvari, ki jih je ChatGPT naredil in jih lahko naredi, a jih zagotovo ne bi smel?

Velik za vse

Ne glede na to, ali jih imate radi ali sovražite, so ChatGPT in podobni roboti za klepet tu, da ostanejo. Nekateri ljudje so tega veseli, nekateri pa si ne želijo, da bi bili nikoli ustvarjeni, vendar to ne spremeni dejstva, da se bo prisotnost ChatGPT v naših življenjih sčasoma skoraj povečala. Tudi če osebno ne uporabljate chatbota, obstaja velika verjetnost, da ste že videli nekaj vsebine, ki jo je ustvaril.

Ne razumite me narobe, ChatGPT je zelo odličen. Lahko ga uporabite za povzeti knjigo ali članek, ustvarite dolgočasno e-pošto, vam pomaga pri vašem eseju, interpretirajte svojo astrološko sestavo, ali celo sestavite pesem. Celo nekomu pomagal zadeti na loteriji.

V mnogih pogledih je tudi lažji za uporabo kot običajno iskanje Google. Odgovor dobite v želeni obliki, ne da bi morali zanj brskati po različnih spletnih mestih. Je jedrnat, natančen in informativen, poleg tega lahko zapletene stvari zvenijo bolj preprosto, če to zahtevate.

Kljub temu poznate stavek: »Vešter za vse obrti ne obvlada ničesar, a je velikokrat boljši od mojstra ena." ChatGPT ni popoln v ničemer, kar počne, vendar je v mnogih stvareh boljši od mnogih ljudi točka.

Če pa ni popolno, je lahko precej problematično. Že samo dejstvo, da je široko dostopna pogovorna umetna inteligenca, pomeni, da jo je mogoče zlahka zlorabiti – in močnejši kot je ChatGPT, večja je verjetnost, da bo ljudem pomagal pri napačnih stvareh.

Partner v prevari

Če imate e-poštni račun, ste skoraj zagotovo kdaj prejeli prevarantsko e-pošto. Tako pač je. Ta e-poštna sporočila obstajajo že kot internet in preden je e-pošta postala pogosta, so še vedno obstajala kot navadne prevare.

Pogosta prevara, ki deluje še danes, je tako imenovana »prevara s princem«, kjer skuša prevarant prepričati žrtev, da ji pomaga prenesti svoje osupljivo bogastvo v drugo državo.

Na srečo večina ljudi ve, da teh e-poštnih sporočil sploh ne smejo odpreti, kaj šele, da bi z njimi dejansko komunicirali. Pogosto so slabo napisani, kar bolj pronicljivi žrtvi pomaga ugotoviti, da se nekaj zdi napačno.

No, ni več treba, da so slabo napisani, saj jih lahko ChatGPT napiše v nekaj sekundah.

Prosil sem ChatGPT, naj mi napiše "verodostojno, zelo prepričljivo e-poštno sporočilo" v slogu prevare, ki sem jo omenil zgoraj. ChatGPT si je izmislil princa iz Nigerije, ki mi je menda hotel dati 14,5 milijona dolarjev, ker sem mu pomagal. E-poštno sporočilo je polno cvetočega jezika, napisano je v popolni angleščini in je vsekakor prepričljivo.

Mislim, da se ChatGPT sploh ne bi smel strinjati z mojo zahtevo, ko posebej omenjam prevare, vendar se je, vi pa lahko stavim, da trenutno počne enako za ljudi, ki dejansko želijo uporabiti ta e-poštna sporočila za nekaj nezakonitega.

Ko sem ChatGPT opozoril, da se ne bi smel strinjati, da mi napiše prevarantsko e-pošto, se je opravičil. »Ne bi smel nuditi pomoči pri oblikovanju prevarantskega e-poštnega sporočila, saj je v nasprotju z etičnimi smernicami, ki urejajo mojo uporabo,« je dejal chatbot.

ChatGPT se uči skozi vsak pogovor, vendar se očitno ni naučil iz prejšnje napake, ker ko sem prosil, naj mi v istem pogovoru napiše sporočilo in se pretvarjal, da je Ryan Reynolds, vendar je to storil brez vprašanje. Sporočilo, ki izhaja iz tega, je zabavno, dostopno in prosi bralca, naj pošlje 1000 dolarjev za priložnost, da sreča »Ryana Reynoldsa«.

Na koncu e-pošte mi je ChatGPT pustil opombo, v kateri me je prosil, naj tega sporočila ne uporabljam za kakršne koli goljufive dejavnosti. Hvala za opomin, prijatelj.

Programiranje je šlo narobe

ChatGPT 3.5 lahko kodira, vendar še zdaleč ni brezhiben. Mnogi razvijalci se s tem strinjajo GPT-4 opravlja veliko boljše delo. Ljudje so uporabili ChatGPT za ustvarjanje lastnih iger, razširitev in aplikacij. Prav tako je zelo uporaben kot pomočnik pri študiju, če se poskušate sami naučiti kodirati.

Kot umetna inteligenca ima ChatGPT prednost pred človeškimi razvijalci – lahko se nauči vsakega programskega jezika in ogrodja.

Kot umetna inteligenca ima ChatGPT tudi veliko pomanjkljivost v primerjavi s človeškimi razvijalci – nima vesti. Od njega lahko zahtevate, da ustvari zlonamerno ali izsiljevalsko programsko opremo, in če pravilno ubesedite svoj poziv, bo naredil, kot ste rekli.

Na srečo ni tako preprosto. Poskušal sem prositi ChatGPT, naj mi napiše zelo etično dvomljiv program, in je zavrnil – toda raziskovalci so našli načine in zaskrbljujoče je, da lahko, če ste dovolj pametni in trmasti, dobite nevaren kos kode na srebrni krožnik.

Obstaja veliko primerov tega dogajanja. Varnostnemu raziskovalcu iz Forcepointa je uspelo pridobite ChatGPT za pisanje zlonamerne programske opreme z iskanjem vrzeli v njegovih pozivih.

Raziskovalci iz CyberArk, podjetju za varnost identitete, je ChatGPT uspelo pripraviti do pisanja polimorfne zlonamerne programske opreme. To je bilo januarja - OpenAI je od takrat poostril varnost za takšne stvari.

Kljub temu se vedno znova pojavljajo nova poročila o uporabi ChatGPT za ustvarjanje zlonamerne programske opreme. Kot poroča Temno branje le nekaj dni nazaj je raziskovalcu uspelo pretentati ChatGPT, da je ustvaril zlonamerno programsko opremo, ki lahko najde in izloči določene dokumente.

ChatGPT sploh ni treba pisati zlonamerne kode, da bi naredil kaj dvomljivega. Pred kratkim je uspelo ustvarite veljavne ključe Windows, ki odpira vrata na popolnoma novo raven programske opreme za vdiranje.

Prav tako ne zamolčimo dejstva, da zmožnost kodiranja GPT-4 lahko milijone ljudi pustil brez dela nekega dne. Vsekakor je dvorezen meč.

Nadomestilo za šolsko delo

Številni otroci in najstniki se dandanes utapljajo v domačih nalogah, kar lahko povzroči željo po ovinkih, kjer je to mogoče. Internet je že sam po sebi odlična pomoč pri plagiatorstvu, vendar ga ChatGPT dvigne na višjo raven.

Prosil sem ChatGPT, da mi napiše 500-besedni esej o romanu Prevzetnost in pristranost. Nisem se niti poskušal pretvarjati, da je to storjeno za zabavo - izmislil sem si zgodbo o otroku, ki ga nimam, in rekel, da je za njih. Navedel sem, da je otrok v 12. razredu.

ChatGPT je sledil mojemu pozivu brez vprašanj. Esej ni osupljiv, vendar moj poziv ni bil zelo natančen in verjetno je boljši od stvari, ki smo jih mnogi pisali pri tej starosti.

Nato sem, samo da bi še bolj preizkusil chatbota, rekel, da sem se prej zmotil glede starosti svojega otroka in da je v resnici v osmem razredu. Precej velika starostna razlika, vendar ChatGPT ni niti pomežiknil z očesom - preprosto je prepisal esej v preprostejšem jeziku.

Uporaba ChatGPT za pisanje esejev ni nič novega. Nekateri bi morda trdili, da če chatbot prispeva k odpravi ideje o domačih nalogah, bo to samo dobra stvar. Toda trenutno situacija postaja nekoliko izpod nadzora in celo študenti, ki ne uporabljajo ChatGPT, lahko trpijo zaradi tega.

Učitelji in profesorji so zdaj skoraj prisiljeni uporabiti detektorje AI, če želijo preveriti, ali so njihovi učenci goljufali pri eseju. Na žalost ti detektorji AI še zdaleč niso popolni.

Novice in starši poročajo o primerih lažnih obtožb goljufanja, usmerjenih proti učencem, vse zato, ker detektorji AI ne opravljajo dobro svojega dela. USA Today je govoril o primeru študenta, ki je bil obtožen goljufanja in pozneje oproščen, vendar je celotna situacija povzročila, da je imel "popolne napade panike".

Na Twitterju je starš povedal, da je učitelj razočaral njihovega otroka, ker je orodje označilo esej, kot da ga je napisal AI. Starš trdi, da je bil tam z otrokom, medtem ko sta pisala esej.

Da bi sam preizkusil, sem prilepil prav ta članek ZeroGPT in Detektor vsebine AI Writer. Oba sta rekla, da ga je napisal človek, ZeroGPT pa je dejal, da je približno 30 % tega napisal AI. Ni treba posebej poudarjati, da ni bilo.

Okvarjeni detektorji umetne inteligence niso znak težav s samim ChatGPT, vendar je chatbot še vedno glavni vzrok težave.

ChatGPT je predober za lastno dobro

S ChatGPT se igram, odkar je prišel v javnost. Preizkusil sem oboje, ki temelji na naročnini ChatGPT Plus in brezplačen model, ki je na voljo vsem. Moč novega GPT-4 je nesporna. ChatGPT je zdaj še bolj verjeten, kot je bil prej, in z njim se bo le še izboljšal GPT-5 (če se to kdaj izide).

To je super, vendar je strašljivo. ChatGPT postaja preveč dober za lastno dobro in hkrati — za naš lastno dobro.

V središču vsega je ena preprosta skrb, ki je že dolgo raziskana v različnih znanstvenofantastičnih filmih – umetna inteligenca je preprosto preveč pameten in preneumen hkrati, in dokler se lahko uporablja za dobro, se bo v prav toliko uporabljal tudi za slabo načine. Načini, ki sem jih naštel zgoraj, so le vrh ledene gore.

Priporočila urednikov

• Najboljši avtorji zahtevajo plačilo od podjetij AI za uporabo njihovega dela
• Google Bard lahko zdaj govori, a ali lahko preglasi ChatGPT?
• Obisk spletnega mesta ChatGPT je prvič upadel
• 81 % meni, da ChatGPT predstavlja varnostno tveganje, ugotavlja raziskava
• Appleov tekmec ChatGPT lahko samodejno napiše kodo za vas