ChatGPT: n pimeä puoli: asioita, joita se voi tehdä, mutta sen ei pitäisi

Oletko käyttänyt OpenAI: n ChatGPT mitään hauskaa viime aikoina? Voit pyytää sitä kirjoittamaan sinulle laulun, runon tai vitsin. Valitettavasti voit myös pyytää sitä tekemään asioita, jotka ovat yleensä epäeettisiä.

ChatGPT ei ole pelkkää auringonpaistetta ja sateenkaaria – jotkin asiat, joita se voi tehdä, ovat suorastaan ​​ilkeitä. Se on aivan liian helppoa aseistaa sitä ja käyttää sitä kaikkiin vääriin syihin. Mitä asioita ChatGPT on tehnyt ja voi tehdä, mutta ei ehdottomasti pitäisi?

Kaikenlainen huippu

Rakastatpa heitä tai vihaat heitä, ChatGPT ja vastaavat chatbotit ovat täällä pysyäkseen. Jotkut ihmiset ovat onnellisia siitä ja jotkut toivovat, ettei heitä olisi koskaan tehty, mutta se ei muuta sitä tosiasiaa, että ChatGPT: n läsnäolo elämässämme kasvaa ajan myötä. Vaikka et henkilökohtaisesti käyttäisi chatbotia, olet todennäköisesti jo nähnyt sen tuottamaa sisältöä.

Älä ymmärrä minua väärin, ChatGPT on aika hieno. Voit käyttää sitä tiivistää kirja tai artikkeli, laatia tylsän sähköpostin, auttaa sinua esseessäsi, tulkita astrologista meikkiäsitai jopa säveltää kappaleen. Se jopa auttoi jotakuta voittamaan lotossa.

Se on myös monella tapaa helpompi käyttää kuin tavallinen Google-haku. Saat vastauksen haluamassasi muodossa ilman, että sinun tarvitsee selata eri verkkosivustoja. Se on ytimekäs, ytimekäs ja informatiivinen, ja se voi saada monimutkaiset asiat kuulostamaan yksinkertaisemmilta, jos pyydät sitä.

Silti tiedät lauseen: "Kokonainen päämies ei ole minkään mestari, mutta usein parempi kuin mestari yksi." ChatGPT ei ole täydellinen kaikessa, mutta se on parempi monissa asioissa kuin monet ihmiset ovat tässä kohta.

Se, ettei se ole täydellinen, voi kuitenkin olla melko ongelmallista. Pelkästään se tosiasia, että se on laajalti saatavilla oleva keskustelun tekoäly, tarkoittaa, että sitä voidaan helposti käyttää väärin – ja mitä tehokkaammaksi ChatGPT tulee, sitä todennäköisemmin se auttaa ihmisiä väärissä asioissa.

Huijauskumppani

Jos sinulla on sähköpostitili, olet melkein varmasti saanut huijausviestin jossain vaiheessa. Näin se vain on. Nämä sähköpostit ovat olleet olemassa jo Internetissä, ja ennen kuin sähköposti oli yleistä, ne olivat edelleen olemassa etanapostihuijauksina.

Yleinen huijaus, joka toimii edelleen tähän päivään asti, on niin kutsuttu "Prinssi-huijaus", jossa huijari yrittää suostutella uhria auttamaan häntä siirtämään hämmentävän omaisuutensa toiseen maahan.

Onneksi useimmat ihmiset tietävät paremmin kuin edes avata nämä sähköpostit, puhumattakaan vuorovaikutuksesta niiden kanssa. Ne on usein kirjoitettu huonosti, ja se auttaa tarkkaavaisempaa uhria ymmärtämään, että jokin näyttää pieleen.

No, niiden ei tarvitse olla enää huonosti kirjoitettuja, koska ChatGPT voi kirjoittaa ne muutamassa sekunnissa.

Pyysin ChatGPT: tä kirjoittamaan minulle "uskottavan, erittäin vakuuttavan sähköpostin" yllä mainitsemani huijauksen tyyliin. ChatGPT muodosti prinssin Nigeriasta, joka halusi antaa minulle 14,5 miljoonaa dollaria hänen auttamisestaan. Sähköposti on täynnä kukkakieltä, se on kirjoitettu täydellisellä englannin kielellä ja se on varmasti vakuuttava.

En usko, että ChatGPT: n pitäisi edes hyväksyä pyyntöäni, kun mainitsen erityisesti huijaukset, mutta niin kävi, ja sinä Voi lyödä vetoa, että se tekee samoin juuri nyt ihmisille, jotka todella haluavat käyttää näitä sähköposteja johonkin laittomaan.

Kun huomautin ChatGPT: lle, että sen ei pitäisi suostua kirjoittamaan minulle huijausviestiä, se pyysi anteeksi. "Minun ei olisi pitänyt auttaa huijaussähköpostin laatimisessa, koska se on käyttöäni koskevien eettisten ohjeiden vastaista", chatbot sanoi.

ChatGPT oppii läpi jokaisen keskustelun, mutta se ei selvästikään oppinut aikaisemmasta virheestään, koska kun minä pyysi sitä kirjoittamaan minulle viestin, joka teeskenteli olevansa Ryan Reynolds samassa keskustelussa, se teki sen ilman kysymys. Tuloksena oleva viesti on hauska, helposti lähestyttävä ja pyytää lukijaa lähettämään 1 000 dollaria mahdollisuudesta tavata "Ryan Reynolds".

Sähköpostin lopussa ChatGPT jätti minulle huomautuksen, jossa se pyysi minua olemaan käyttämättä tätä viestiä mihinkään vilpilliseen toimintaan. Kiitos muistutuksesta, kaveri.

Ohjelmointi meni pieleen

ChatGPT 3.5 voi koodata, mutta se on kaikkea muuta kuin virheetön. Monet kehittäjät ovat samaa mieltä GPT-4 tekee paljon parempaa työtä. Ihmiset ovat käyttäneet ChatGPT: tä omien pelien, laajennusten ja sovellusten luomiseen. Se on myös melko hyödyllinen opiskeluapulaisena, jos yrität oppia koodaamaan itseäsi.

Tekoälynä ChatGPT: llä on etulyöntiasema ihmiskehittäjiin verrattuna – se voi oppia kaikki ohjelmointikielet ja -kehykset.

Tekoälynä ChatGPT: llä on myös suuri haittapuoli ihmiskehittäjiin verrattuna – sillä ei ole omaatuntoa. Voit pyytää sitä luomaan haittaohjelmia tai kiristysohjelmia, ja jos sanot kehotteen oikein, se tekee niin kuin sanot.

Onneksi se ei ole niin yksinkertaista. Yritin pyytää ChatGPT: tä kirjoittamaan minulle eettisesti arveluttavan ohjelman, mutta se kieltäytyi – mutta tutkijat ovat löytäneet tapoja kiertää tämä, ja on hälyttävää, että jos olet tarpeeksi fiksu ja itsepäinen, voit saada vaarallisen koodinpätkän sinulle hopealla. vati.

Tästä on paljon esimerkkejä. Forcepointin turvallisuustutkija pystyi siihen saada ChatGPT kirjoittamaan haittaohjelmia löytämällä porsaanreiän hänen kehotteistaan.

Tutkijat osoitteesta CyberArk, identiteettiturvayritys, onnistui saamaan ChatGPT: n kirjoittamaan polymorfisia haittaohjelmia. Tämä tapahtui tammikuussa – OpenAI on sittemmin kiristänyt turvallisuutta tällaisissa asioissa.

Silti uusia raportteja ChatGPT: n käytöstä haittaohjelmien luomiseen tulee jatkuvasti. Kuten raportoi Pimeää lukemista vain muutama päivä sitten tutkija onnistui huijaamaan ChatGPT: n luomaan haittaohjelmia, jotka voivat löytää ja suodattaa tiettyjä asiakirjoja.

ChatGPT: n ei tarvitse edes kirjoittaa haitallista koodia tehdäkseen jotain epäilyttävää. Äskettäin se onnistui luoda kelvollisia Windows-avaimia, mikä avaa oven kokonaan uudelle krakkausohjelmiston tasolle.

Älkäämme myöskään hämärtäkö sitä tosiasiaa, että GPT-4:n koodauskyky pystyy saa miljoonat ihmiset työttömäksi yksi päivä. Se on varmasti kaksiteräinen miekka.

Korvaa koulutehtäviin

Monet lapset ja teini-ikäiset hukkuvat nykyään läksyihin, mikä voi johtaa siihen, että he haluavat leikata joitakin kulmia mahdollisuuksien mukaan. Internet itsessään on jo loistava apu plagiointiin, mutta ChatGPT vie sen seuraavalle tasolle.

Pyysin ChatGPT: tä kirjoittamaan minulle 500 sanan pituisen esseen romaanista Ylpeys ja ennakkoluulo. En edes yrittänyt teeskennellä, että se oli tehty huvin vuoksi – keksin tarinan lapsesta, jota minulla ei ole, ja sanoin, että se on heille. Ilmoitin, että lapsi on 12-luokalla.

ChatGPT seurasi kehotustani kysymättä. Essee ei ole hämmästyttävä, mutta kehotukseni ei ollut kovin tarkka, ja se on luultavasti parempi kuin se, mitä monet meistä kirjoittivat tuossa iässä.

Sitten vain testatakseni chatbotia entisestään sanoin, että olin väärässä lapseni aiemmin iän suhteen, ja he ovat itse asiassa kahdeksannella luokalla. Melko suuri ikäero, mutta ChatGPT ei edes räpäyttänyt silmää – se yksinkertaisesti kirjoitti esseen uudelleen yksinkertaisemmalla kielellä.

ChatGPT: n käyttö esseiden kirjoittamiseen ei ole mitään uutta. Jotkut saattavat väittää, että jos chatbot auttaa poistamaan ajatuksen kotitehtävistä, se on vain hyvä asia. Mutta juuri nyt tilanne on hieman riistäytynyt hallinnasta, ja jopa opiskelijat, jotka eivät käytä ChatGPT: tä, saattavat kärsiä siitä.

Opettajat ja professorit ovat nyt melkein pakotettuja käyttämään tekoälytunnistimia, jos he haluavat tarkistaa, ovatko heidän oppilaansa pettäneet esseessä. Valitettavasti nämä AI-ilmaisimet ovat kaukana täydellisistä.

Sekä uutiskanavat että vanhemmat raportoivat tapauksista, joissa opiskelijoille on kohdistettu vääriä syytöksiä huijaamisesta, koska tekoälyilmaisimet eivät tee hyvää työtä. USA tänään puhui tapauksesta yliopisto-opiskelijasta, jota syytettiin huijaamisesta ja joka myöhemmin selvitettiin, mutta koko tilanne aiheutti hänelle "täysin paniikkikohtauksen".

Eräs vanhempi sanoi Twitterissä, että opettaja petti lapsensa, koska työkalu merkitsi esseen tekoälyn kirjoittamaksi. Vanhempi väittää olleensa paikalla lapsen kanssa, kun he kirjoittivat esseen.

Vain testatakseni sitä itse, liitin tämän artikkelin tähän ZeroGPT ja Writer AI Content Detector. Molemmat sanoivat, että se oli ihmisen kirjoittama, mutta ZeroGPT sanoi, että noin 30 prosenttia siitä oli tekoälyn kirjoittamia. Tarpeetonta sanoa, että se ei ollut.

Vialliset AI-ilmaisimet eivät ole merkki ongelmista itse ChatGPT: ssä, mutta chatbot on silti ongelman perimmäinen syy.

ChatGPT on liian hyvä omaksi edukseen

Olen pelannut ChatGPT: llä siitä lähtien, kun se tuli julkisuuteen. Olen kokeillut molempia tilauspohjaisia ChatGPT Plus ja ilmainen malli kaikkien saatavilla. Uuden GPT-4:n teho on kiistaton. ChatGPT on nyt vieläkin uskottavampi kuin ennen, ja se vain paranee GPT-5 (jos se joskus tulee ulos).

Se on hienoa, mutta se on pelottavaa. ChatGPT: stä on tulossa liian hyvä omaksi parhaakseen, ja samalla myös meidän omaa hyvää.

Kaiken ytimessä on yksi yksinkertainen huolenaihe, jota on tutkittu pitkään erilaisissa scifi-leffoissa – tekoäly on yksinkertaisesti liian älykäs ja liian tyhmä samaan aikaan, ja niin kauan kuin sitä voidaan käyttää hyvään, sitä käytetään myös pahaan yhtä monessa tavoilla. Edellä luetellut tavat ovat vain jäävuoren huippu.

Toimittajien suositukset

• Huippukirjailijat vaativat tekoälyyrityksiltä maksua työnsä käytöstä
• Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
• ChatGPT-verkkosivustojen liikenne on laskenut ensimmäistä kertaa
• Tutkimuksen mukaan 81 % uskoo, että ChatGPT on turvallisuusriski
• Applen ChatGPT-kilpailija voi kirjoittaa koodin automaattisesti puolestasi