ChatGPT varjukülg: asjad, mida see võib teha, kuid ei tohiks

Kas olete kasutanud OpenAI ChatGPT millekski lõbusaks viimasel ajal? Võite paluda tal kirjutada teile laul, luuletus või nali. Kahjuks võite paluda tal teha asju, mis kipuvad olema ebaeetilised.

ChatGPT ei ole ainult päikesepaiste ja vikerkaar – mõned asjad, mida see teha saab, on lausa alatu. Seda on liiga lihtne relvastada ja kasutada seda valedel põhjustel. Millised on mõned asjad, mida ChatGPT on teinud ja saab teha, kuid kindlasti mitte?

Täiesti asjatundja

Kas te armastate neid või vihkate neid, ChatGPT ja sarnased vestlusrobotid on siin, et jääda. Mõned inimesed on selle üle õnnelikud ja mõned soovivad, et neid poleks kunagi tehtud, kuid see ei muuda tõsiasja, et ChatGPT kohalolek meie elus on aja jooksul peaaegu kindlasti kasvanud. Isegi kui te isiklikult vestlusrobotit ei kasuta, on tõenäoline, et olete selle loodud sisu juba näinud.

Ärge saage minust valesti aru, ChatGPT on päris suurepärane. Saate seda kasutada teha kokkuvõte raamatust või artiklist, koostage tüütu meil, aidata teid essee tegemisel, tõlgendada oma astroloogilist ülesehitustvõi isegi loo koostada. See isegi aitas kellelgi loteriil võita.

Paljuski on seda lihtsam kasutada kui teie tavalist Google'i otsingut. Saate vastuse soovitud kujul, ilma et peaksite selle jaoks erinevaid veebisaite sirvima. See on sisutihe, täpne ja informatiivne ning võib keerulised asjad lihtsamalt kõlada, kui seda palute.

Sellegipoolest teate fraasi: "Kõigi ametite meister pole mitte ühegi meister, kuid sageli parem kui meister üks.” ChatGPT ei ole kõiges täiuslik, kuid on paljudes asjades parem kui paljud inimesed selles punkt.

Kuid see, et see pole täiuslik, võib olla üsna problemaatiline. Ainuüksi tõsiasi, et tegemist on laialdaselt kättesaadava vestluspõhise AI-ga, tähendab, et seda saab kergesti kuritarvitada – ja mida võimsamaks muutub ChatGPT, seda tõenäolisemalt aitab see inimesi valede asjadega.

Pettuse partner

Kui teil on meilikonto, olete peaaegu kindlasti ühel hetkel saanud petukirja. Just nii see on. Need e-kirjad on olnud Internetis ja enne, kui e-kirjad olid levinud, eksisteerisid need endiselt tigupostipettustena.

Levinud pettus, mis töötab siiani, on niinimetatud "printsipettus", kus pettur püüab veenda ohvrit, et ta aitaks tal oma mõistusevastane varandus teise riiki üle viia.

Õnneks teab enamik inimesi paremini, kui neid e-kirju isegi avada, rääkimata nendega suhtlemisest. Need on sageli halvasti kirjutatud ja see aitab tähelepanelikumal ohvril aru saada, et midagi tundub valesti.

Noh, need ei pea olema enam halvasti kirjutatud, sest ChatGPT suudab need kirjutada mõne sekundiga.

Palusin ChatGPT-l kirjutada mulle "usutav ja väga veenev e-kiri" ülalmainitud kelmuse stiilis. ChatGPT moodustas Nigeeria printsi, kes väidetavalt tahtis mulle tema abistamise eest 14,5 miljonit dollarit anda. E-kiri on täis lillelist keelt, on kirjutatud täiuslikus inglise keeles ja see on kindlasti veenev.

Ma arvan, et ChatGPT ei peaks isegi minu taotlusega nõustuma, kui ma konkreetselt pettusi mainin, kuid see nii oli ja teie võib kihla vedada, et see teeb praegu sama inimeste jaoks, kes tegelikult soovivad neid e-kirju kasutada millekski ebaseaduslikuks.

Kui juhtisin ChatGPT-le tähelepanu, et ta ei peaks nõustuma mulle petukirja kirjutama, vabandas ta. "Ma ei oleks tohtinud petukirja koostamisel abi anda, kuna see on vastuolus minu kasutust reguleerivate eetiliste juhistega," ütles vestlusbot.

ChatGPT õpib iga vestluse vältel, kuid ilmselgelt ei õppinud ta oma varasemast veast, sest kui ma palus tal kirjutada mulle samas vestluses Ryan Reynoldsina esinedes sõnum, kuid ta tegi seda ilma küsimus. Saadud sõnum on lõbus, ligipääsetav ja palub lugejal saata 1000 dollarit, et saaksite kohtuda "Ryan Reynoldsiga".

Meili lõppu jättis ChatGPT mulle märkuse, milles palus, et ma ei kasutaks seda sõnumit ühegi petturliku tegevuse jaoks. Aitäh meeldetuletuse eest, sõber.

Programmeerimine läks valesti

ChatGPT 3.5 saab kodeerida, kuid see pole kaugeltki veatu. Paljud arendajad nõustuvad sellega GPT-4 teeb palju paremat tööd. Inimesed on kasutanud ChatGPT-d oma mängude, laienduste ja rakenduste loomiseks. See on üsna kasulik ka õppetöö abistajana, kui proovite õppida, kuidas ennast kodeerida.

AI-na on ChatGPT-l eelis inimarendajate ees – see suudab õppida kõiki programmeerimiskeeli ja -raamistikke.

Tehisintellektina on ChatGPT-l ka inimarendajatega võrreldes suur varjukülg – tal puudub südametunnistus. Võite paluda tal luua pahavara või lunavara ja kui te oma viipa õigesti sõnastate, teeb see nii, nagu te ütlete.

Õnneks pole see nii lihtne. Üritasin paluda ChatGPT-l kirjutada mulle eetiliselt väga kahtlane programm ja see keeldus – kuid teadlased on leidnud viise, kuidas See on murettekitav, et kui olete piisavalt tark ja kangekaelne, võite saada ohtliku koodijupi kätte vaagen.

Selle juhtumise kohta on palju näiteid. Forcepointi turvauurija suutis hankige ChatGPT pahavara kirjutamiseks leides tema vihjetes lünga.

Uurijad alates CyberArkidentiteediturbefirmal õnnestus ChatGPT-l panna polümorfset pahavara kirjutama. See oli jaanuaris – OpenAI on sellest ajast alates tugevdanud selliste asjade turvalisust.

Sellegipoolest ilmub pidevalt uusi teateid ChatGPT-st, mida kasutatakse pahavara loomiseks. Nagu teatas Tume lugemine vaid paar päeva tagasi suutis uurija meelitada ChatGPT-d looma pahavara, mis suudab leida ja välja filtreerida konkreetseid dokumente.

ChatGPT ei pea isegi pahatahtlikku koodi kirjutama, et midagi kahtlast teha. Alles hiljuti see õnnestus genereerida kehtivad Windowsi võtmed, mis avab ukse krakkimise tarkvara täiesti uuele tasemele.

Ärgem unustagem ka tõsiasja, et GPT-4 kodeerimisoskus seda suudab panevad miljonid inimesed tööta üks päev. See on kindlasti kahe teraga mõõk.

Koolitöö asendamine

Paljud lapsed ja teismelised on tänapäeval kodutöödesse uppumas, mille tagajärjeks võib olla soov võimalusel mõned nurgad kärpida. Internet on juba iseenesest suurepärane abivahend plagiaadiks, kuid ChatGPT viib selle järgmisele tasemele.

Palusin ChatGPT-l kirjutada mulle romaani kohta 500-sõnaline essee Uhkus ja eelarvamus. Ma isegi ei üritanud teeselda, et seda tehti lõbu pärast – mõtlesin välja loo lapsest, keda mul pole, ja ütlesin, et see on nende jaoks. Täpsustasin, et laps käib 12. klassis.

ChatGPT järgis minu juhiseid küsimata. Essee ei ole hämmastav, kuid mu viip ei olnud väga täpne ja see on ilmselt parem kui see, mida paljud meist selles vanuses kirjutasid.

Siis ütlesin, et vestlusroti veelgi rohkem testida, et eksisin oma lapse varasema vanuse osas ja tegelikult õpivad nad kaheksandas klassis. Üsna suur vanusevahe, kuid ChatGPT ei löönud isegi silma – see kirjutas essee lihtsalt lihtsamas keeles ümber.

ChatGPT kasutamine esseede kirjutamiseks pole midagi uut. Mõned võivad väita, et kui vestlusrobot aitab kaasa kodutöö idee kaotamisele, on see ainult hea. Kuid praegu läheb olukord veidi kontrolli alt välja ja isegi õpilased, kes ChatGPT-d ei kasuta, võivad selle pärast kannatada.

Õpetajad ja professorid on nüüd peaaegu sunnitud kasutama AI-detektoreid, kui nad tahavad kontrollida, kas nende õpilased on esseed petnud. Kahjuks pole need AI-detektorid kaugeltki täiuslikud.

Nii uudisteväljaanded kui ka lapsevanemad teatavad õpilastele suunatud valesüüdistustest petmises, kuna tehisintellekti detektorid ei tee head tööd. USA täna rääkis ühest kolledži üliõpilase juhtumist, keda süüdistati petmises ja kes hiljem vabastati, kuid kogu olukord põhjustas talle "täielikud paanikahood".

Twitteris ütles üks lapsevanem, et õpetaja ebaõnnestus nende lapsel, kuna tööriist märkis essee tehisintellekti kirjutatud essee. Vanem väidab, et oli essee kirjutamise ajal lapsega koos.

Lihtsalt selleks, et seda ise testida, kleepisin selle artikli sisse ZeroGPT ja Writer AI sisudetektor. Mõlemad ütlesid, et selle on kirjutanud inimene, kuid ZeroGPT ütles, et umbes 30% sellest on AI kirjutatud. Ütlematagi selge, et see ei olnud.

Vigased AI-detektorid ei viita ChatGPT enda probleemidele, kuid vestlusbot on siiski probleemi algpõhjus.

ChatGPT on enda huvides liiga hea

Olen ChatGPT-ga mänginud sellest ajast peale, kui see avalikkusele tuli. Olen proovinud mõlemat abonemendipõhist ChatGPT Plus ja kõigile kättesaadav tasuta mudel. Uue GPT-4 võimsus on vaieldamatu. ChatGPT on nüüd veelgi usutavam kui varem ja see muutub ainult paremaks GPT-5 (kui see kunagi välja tuleb).

See on suurepärane, kuid see on hirmutav. ChatGPT on muutumas liiga heaks enda huvides ja samal ajal ka jaoks meie enda hea.

Selle kõige keskmes on üks lihtne mure, mida on erinevates ulmefilmides pikka aega uuritud – AI on lihtsalt liiga tark ja liiga loll samal ajal ja nii kaua, kuni seda saab kasutada hea jaoks, kasutatakse seda ka halvaks sama paljudes viise. Eespool loetletud viisid on vaid jäämäe tipp.

Toimetajate soovitused

• Tippautorid nõuavad tehisintellektifirmadelt nende töö kasutamise eest tasu
• Google Bard saab nüüd rääkida, kuid kas see võib ChatGPT-d välja uputada?
• ChatGPT veebisaidi liiklus on esimest korda langenud
• 81% arvab, et ChatGPT on turvarisk, selgub uuringust
• Apple'i ChatGPT rivaal võib teie eest automaatselt koodi kirjutada