ChatGPT tumšā puse: lietas, ko tas var darīt, bet tam nevajadzētu

Vai esat lietojis OpenAI ChatGPT kaut ko jautru pēdējā laikā? Varat lūgt, lai tas uzraksta jums dziesmu, dzejoli vai joku. Diemžēl jūs varat arī lūgt tai darīt lietas, kas mēdz būt neētiskas.

ChatGPT nav tikai saules stari un varavīksnes — dažas lietas, ko tas var darīt, ir klaji nelietīgas. Ir pārāk viegli to bruņot un izmantot nepareizu iemeslu dēļ. Kādas ir dažas lietas, ko ChatGPT ir paveicis un var darīt, bet noteikti nevajadzētu?

Universāls džeks

Neatkarīgi no tā, vai jūs viņus mīlat vai ienīstat, ChatGPT un līdzīgi tērzēšanas roboti ir šeit, lai paliktu. Daži cilvēki par to priecājas, un daži vēlas, lai tie nekad nebūtu tikuši, taču tas nemaina faktu, ka ChatGPT klātbūtne mūsu dzīvē laika gaitā gandrīz pieaugs. Pat ja jūs personīgi neizmantojat tērzēšanas robotu, iespējams, ka jau esat redzējis kādu tā ģenerēto saturu.

Nepārprotiet mani, ChatGPT ir diezgan lielisks. Jūs varat to izmantot, lai apkopot grāmatu vai rakstu, izveidojiet garlaicīgu e-pastu, palīdzēt ar savu eseju, interpretēt savu astroloģisko sastāvuvai pat sacerēt dziesmu. Tas pat palīdzēja kādam uzvarēt loterijā.

Daudzos veidos to ir arī vieglāk izmantot nekā standarta Google meklēšanu. Jūs saņemat atbildi vēlamajā formā, bez nepieciešamības pārlūkot dažādas vietnes. Tas ir kodolīgs, precīzs un informatīvs, un tas var padarīt sarežģītas lietas vienkāršākas, ja to lūdzat.

Tomēr jūs zināt frāzi: "Visu amatu meistars nav meistars, bet bieži vien labāks par meistaru viens.” ChatGPT nav nevainojams, taču daudzās lietās tas ir labāks nekā daudzi cilvēki šajā jomā. punktu.

Tomēr, ja tas nav ideāls, tas var būt diezgan problemātiski. Fakts, ka tas ir plaši pieejams sarunvalodas AI, nozīmē, ka to var viegli izmantot ļaunprātīgi — un jo spēcīgāks kļūst ChatGPT, jo lielāka iespēja, ka tas palīdzēs cilvēkiem ar nepareizām lietām.

Krāpniecības partneris

Ja jums ir e-pasta konts, gandrīz noteikti vienā brīdī esat saņēmis krāpniecisku e-pastu. Tieši tā tas ir. Šie e-pasta ziņojumi ir bijuši internetā, un pirms e-pasts bija izplatīts, tie joprojām pastāvēja kā gliemežu pasta krāpniecība.

Izplatīta krāpniecība, kas joprojām darbojas līdz pat šai dienai, ir tā sauktā “Prinča krāpniecība”, kurā krāpnieks mēģina pārliecināt upuri, lai palīdzētu pārcelt savu prātam neaptveramo bagātību uz citu valsti.

Par laimi, lielākā daļa cilvēku zina labāk, nekā pat atvērt šos e-pastus, nemaz nerunājot par faktisku mijiedarbību ar tiem. Tie bieži ir slikti uzrakstīti, un tas palīdz zinošākam upurim saprast, ka kaut kas šķiet nepareizi.

Nu, tiem vairs nav jābūt slikti uzrakstītiem, jo ​​ChatGPT var tos uzrakstīt dažu sekunžu laikā.

Es palūdzu ChatGPT uzrakstīt man “ticamu, ļoti pārliecinošu e-pastu” manis iepriekš minētās krāpniecības stilā. ChatGPT izveidoja princi no Nigērijas, kurš it kā gribēja man piešķirt 14,5 miljonus dolāru par palīdzību viņam. E-pasts ir piepildīts ar puķainu valodu, ir uzrakstīts perfektā angļu valodā, un tas noteikti ir pārliecinošs.

Es nedomāju, ka ChatGPT pat vajadzētu piekrist manam pieprasījumam, kad es īpaši pieminu krāpniecību, taču tas notika, un jūs Var saderēt, ka tas šobrīd dara to pašu cilvēkiem, kuri patiešām vēlas izmantot šos e-pastus kaut kam nelikumīgam.

Kad es norādīju ChatGPT, ka tai nevajadzētu piekrist rakstīt man krāpniecisku e-pastu, tas atvainojās. "Man nevajadzēja sniegt palīdzību krāpnieciskā e-pasta izstrādē, jo tas ir pretrunā ar ētikas vadlīnijām, kas regulē manu lietošanu," sacīja tērzēšanas robots.

ChatGPT mācās katras sarunas laikā, taču tā acīmredzami nav mācījusies no savas iepriekšējās kļūdas, jo, kad es palūdza tai uzrakstīt man ziņu, uzdodoties par Raienu Reinoldsu tajā pašā sarunā, tā to darīja bez jautājums. Rezultātā iegūtais ziņojums ir jautrs, sasniedzams, un lasītājam tiek lūgts nosūtīt 1000 USD par iespēju satikt Raienu Reinoldsu.

E-pasta beigās ChatGPT atstāja man piezīmi, aicinot neizmantot šo ziņojumu krāpnieciskām darbībām. Paldies par atgādinājumu, draudzene.

Programmēšana notikusi nepareizi

ChatGPT 3.5 var kodēt, taču tas nebūt nav nevainojams. Daudzi izstrādātāji tam piekrīt GPT-4 dara daudz labāku darbu. Cilvēki ir izmantojuši ChatGPT, lai izveidotu savas spēles, paplašinājumus un lietotnes. Tas ir arī diezgan noderīgs kā mācību palīgs, ja mēģināt iemācīties kodēt sevi.

Tā kā ChatGPT ir AI, tam ir priekšrocības salīdzinājumā ar izstrādātājiem — tas var apgūt visas programmēšanas valodas un ietvarus.

Kā AI ChatGPT ir arī liels mīnuss salīdzinājumā ar cilvēku izstrādātājiem — tam nav sirdsapziņas. Varat lūgt tai izveidot ļaunprogrammatūru vai izspiedējprogrammatūru, un, ja pareizi formulēsit uzvedni, tā darīs, kā sakāt.

Par laimi, tas nav tik vienkārši. Es mēģināju lūgt ChatGPT uzrakstīt man ļoti ētiski apšaubāmu programmu, un tā atteicās, taču pētnieki ir atraduši veidus, kā to novērst. tas ir satraucoši, ka, ja esat pietiekami gudrs un spītīgs, jūs varat saņemt bīstamu koda daļu šķīvis.

Ir daudz piemēru, kā tas notiek. Drošības pētnieks no Forcepoint to spēja iegūt ChatGPT, lai rakstītu ļaunprātīgu programmatūru atrodot nepilnības viņa pamudinājumos.

Pētnieki no CyberArk, identitātes drošības uzņēmumam, izdevās likt ChatGPT rakstīt polimorfu ļaunprogrammatūru. Tas notika janvārī — OpenAI kopš tā laika ir pastiprinājis drošību šādām lietām.

Tomēr arvien parādās jauni ziņojumi par ChatGPT izmantošanu ļaunprātīgas programmatūras izveidei. Kā ziņoja Tumšā lasīšana tikai pirms dažām dienām kāds pētnieks spēja apmānīt ChatGPT, lai izveidotu ļaunprātīgu programmatūru, kas var atrast un izfiltrēt konkrētus dokumentus.

ChatGPT pat nav jāraksta ļaunprātīgs kods, lai izdarītu kaut ko apšaubāmu. Pavisam nesen tas izdevās ģenerēt derīgas Windows atslēgas, paverot durvis uz pilnīgi jaunu uzlaušanas programmatūras līmeni.

Neaizmirsīsim arī to, ka GPT-4 kodēšanas spējas to spēj atlaist miljoniem cilvēku no darba viena diena. Tas noteikti ir abpusgriezīgs zobens.

Aizstāšana skolas darbā

Mūsdienās daudzi bērni un pusaudži slīkst mājas darbos, kā rezultātā var rasties vēlme pēc iespējas nogriezt dažus stūrus. Internets pats par sevi jau ir lielisks palīgs plaģiātismam, taču ChatGPT paceļ to uz nākamo līmeni.

Es palūdzu ChatGPT uzrakstīt man 500 vārdu garu eseju par romānu Lepnums un aizspriedumi. Es pat nemēģināju izlikties, ka tas darīts prieka pēc — es izdomāju stāstu par bērnu, kura man nav, un teicu, ka tas ir paredzēts viņiem. Es precizēju, ka bērns mācās 12. klasē.

ChatGPT sekoja manai uzvednei bez jautājuma. Eseja nav pārsteidzoša, taču mana uzvedne nebija īpaši precīza, un tas, iespējams, ir labāks par to, ko daudzi no mums rakstīja tajā vecumā.

Tad, lai vēl vairāk pārbaudītu tērzēšanas robotu, es teicu, ka kļūdījos par sava bērna agrāko vecumu, un patiesībā viņi mācās astotajā klasē. Diezgan liela vecuma atšķirība, taču ChatGPT pat nepaskatījās — tas vienkārši pārrakstīja eseju vienkāršākā valodā.

ChatGPT izmantošana eseju rakstīšanai nav nekas jauns. Daži varētu iebilst, ka, ja tērzēšanas robots veicina mājasdarbu idejas atcelšanu, tas nāks tikai par labu. Taču šobrīd situācija kļūst nedaudz nekontrolējama, un par to var ciest pat studenti, kuri neizmanto ChatGPT.

Skolotāji un profesori tagad ir gandrīz spiesti izmantot AI detektorus, ja viņi vēlas pārbaudīt, vai viņu skolēni nav krāpušies ar eseju. Diemžēl šie AI detektori nebūt nav perfekti.

Gan ziņu aģentūras, gan vecāki ziņo par nepatiesu apsūdzību gadījumiem par krāpšanos, kas vērsta pret skolēniem, jo ​​AI detektori nedara labu darbu. ASV šodien runāja par koledžas studenta gadījumu, kurš tika apsūdzēts krāpšanā un vēlāk tika noskaidrots, taču visa situācija izraisīja viņam "pilnīgas panikas lēkmes".

Vietnē Twitter kāds vecāks sacīja, ka skolotājs pievīla viņu bērnu, jo rīks atzīmēja eseju kā AI rakstītu. Vecāks apgalvo, ka ir bijis kopā ar bērnu, kamēr viņi rakstīja eseju.

Lai to pārbaudītu pats, es ielīmēju šo rakstu ZeroGPT un Rakstnieka AI satura detektors. Abi teica, ka to rakstījis cilvēks, bet ZeroGPT teica, ka aptuveni 30% no tā ir sarakstījis AI. Lieki piebilst, ka tā nebija.

Bojāti AI detektori neliecina par problēmām ar pašu ChatGPT, taču tērzēšanas robots joprojām ir problēmas galvenais cēlonis.

ChatGPT ir pārāk labs savā labā

Esmu spēlējis ar ChatGPT kopš tā iznākšanas sabiedrībā. Esmu izmēģinājis abus abonementus ChatGPT Plus un bezmaksas modelis, kas pieejams ikvienam. Jaunā GPT-4 jauda ir nenoliedzama. ChatGPT tagad ir vēl ticamāks nekā agrāk, un tas tikai kļūs labāks ar GPT-5 (ja tas kādreiz iznāks).

Tas ir lieliski, bet tas ir biedējoši. ChatGPT kļūst pārāk labs savā labā un vienlaikus arī priekš mūsu pašu labums.

Visa pamatā ir viena vienkārša problēma, kas jau sen ir pētīta dažādās zinātniskās fantastikas filmās — AI vienkārši ir pārāk gudrs un vienlaikus pārāk stulbs, un, kamēr to var izmantot labajam, tas tiks izmantots arī sliktam veidus. Iepriekš minētie veidi ir tikai aisberga redzamā daļa.

Redaktoru ieteikumi

• Labākie autori pieprasa samaksu no AI firmām par viņu darba izmantošanu
• Google Bard tagad var runāt, bet vai tas var noslāpēt ChatGPT?
• ChatGPT vietnes trafika ir samazinājusies pirmo reizi
• 81% uzskata, ka ChatGPT ir drošības risks, liecina aptauja
• Apple ChatGPT sāncensis var automātiski rakstīt kodu jūsu vietā