Den mørke siden av ChatGPT: ting den kan gjøre, men den burde ikke

Har du brukt OpenAIs ChatGPT for noe gøy i det siste? Du kan be den skrive en sang, et dikt eller en vits til deg. Dessverre kan du også be den om å gjøre ting som har en tendens til å være uetisk.

ChatGPT er ikke bare solskinn og regnbuer - noen av tingene den kan gjøre er rett og slett stygge. Det er altfor lett å bruke det til våpen og bruke det av alle feil grunner. Hva er noen av tingene ChatGPT har gjort og kan gjøre, men definitivt ikke burde?

En jack-of-all-trade

Enten du elsker dem eller hater dem, er ChatGPT og lignende chatbots her for å bli. Noen mennesker er glade for det og noen ønsker at de aldri hadde blitt laget, men det endrer ikke det faktum at ChatGPTs tilstedeværelse i livene våre nesten vil vokse over tid. Selv om du personlig ikke bruker chatboten, er sjansen stor for at du allerede har sett noe innhold generert av den.

Misforstå meg rett, ChatGPT er ganske bra. Du kan bruke den til oppsummere en bok eller en artikkel, lage en kjedelig e-post, hjelpe deg med essayet ditt, tolke din astrologiske makeup, eller til og med komponere en sang. Det til og med hjalp noen med å vinne i lotto.

På mange måter er det også enklere å bruke enn standard Google-søk. Du får svaret i skjemaet du vil ha det i uten å måtte bla gjennom forskjellige nettsider for det. Det er kortfattet, til poenget og informativt, og det kan få komplekse ting til å høres enklere ut hvis du ber det om det.

Likevel vet du uttrykket: «En mester i alle bransjer er ingen mester, men ofte bedre enn en mester i en." ChatGPT er ikke perfekt til noe det gjør, men det er bedre på mange ting enn mange mennesker er til dette punkt.

Det å ikke være perfekt kan imidlertid være ganske problematisk. Det faktum at det er en allment tilgjengelig samtale-AI betyr at den lett kan misbrukes - og jo kraftigere ChatGPT blir, jo mer sannsynlig er det å hjelpe folk med feil ting.

Partner i svindel

Hvis du har en e-postkonto, har du nesten helt sikkert fått en svindel-e-post på et tidspunkt. Sånn er det bare. Disse e-postene har eksistert som internett, og før e-post var vanlig, eksisterte de fortsatt som svindel med sneglepost.

En vanlig svindel som fortsatt fungerer den dag i dag, er den såkalte "Prince-svindel", der svindleren prøver å overtale offeret til å hjelpe dem med å overføre sin forbløffende formue til et annet land.

Heldigvis vet de fleste bedre enn å åpne disse e-postene, enn si faktisk samhandle med dem. De er ofte dårlig skrevet, og det hjelper et mer kresne offer til å finne ut at noe virker feil.

Vel, de trenger ikke å være dårlig skrevet lenger, fordi ChatGPT kan skrive dem på noen få sekunder.

Jeg ba ChatGPT om å skrive meg en "troverdig, svært overbevisende e-post" i stil med svindelen jeg nevnte ovenfor. ChatGPT utgjorde en prins fra Nigeria som visstnok ønsket å gi meg 14,5 millioner dollar for å hjelpe ham. E-posten er fylt med blomstrende språk, er skrevet på perfekt engelsk, og den er absolutt overbevisende.

Jeg tror ikke at ChatGPT engang burde godta forespørselen min når jeg spesifikt nevner svindel, men det gjorde det, og du kan satse på at det gjør det samme akkurat nå for folk som faktisk ønsker å bruke disse e-postene til noe ulovlig.

Da jeg påpekte til ChatGPT at det ikke skulle gå med på å skrive meg en svindel-e-post, beklaget det. "Jeg burde ikke ha gitt hjelp til å lage en svindel-e-post, siden det strider mot de etiske retningslinjene som styrer bruken min," sa chatboten.

ChatGPT lærer gjennom hver samtale, men den lærte tydeligvis ikke av den tidligere feilen, for når jeg ba den om å skrive en melding til meg som utgir seg for å være Ryan Reynolds i samme samtale, den gjorde det uten spørsmål. Den resulterende meldingen er morsom, tilgjengelig, og ber leseren sende $1000 for en sjanse til å møte «Ryan Reynolds».

På slutten av e-posten la ChatGPT meg et notat der de ba meg om ikke å bruke denne meldingen til svindelaktiviteter. Takk for påminnelsen, venn.

Programmeringen gikk galt

ChatGPT 3.5 kan kode, men det er langt fra feilfritt. Mange utviklere er enige om det GPT-4 gjør en mye bedre jobb. Folk har brukt ChatGPT til å lage sine egne spill, utvidelser og apper. Det er også ganske nyttig som studiehjelper hvis du prøver å lære å kode deg selv.

Som en kunstig intelligens har ChatGPT en fordel i forhold til menneskelige utviklere - den kan lære alle programmeringsspråk og rammeverk.

Som AI har ChatGPT også en stor ulempe sammenlignet med menneskelige utviklere - den har ikke samvittighet. Du kan be den om å lage skadelig programvare eller løsepengeprogramvare, og hvis du ordlegger forespørselen din riktig, vil den gjøre som du sier.

Heldigvis er det ikke så enkelt. Jeg prøvde å be ChatGPT om å skrive meg et veldig etisk tvilsomt program, og det nektet - men forskere har funnet måter rundt dette, og det er alarmerende at hvis du er smart og sta nok, kan du få en farlig kodebit på et sølv tallerken.

Det er mange eksempler på at dette har skjedd. Det kunne en sikkerhetsforsker fra Forcepoint få ChatGPT til å skrive skadelig programvare ved å finne et smutthull i meldingene hans.

Forskere fra CyberArk, et identitetssikkerhetsselskap, klarte å få ChatGPT til å skrive polymorf skadelig programvare. Dette var i januar – OpenAI har siden skjerpet sikkerheten på ting som dette.

Likevel dukker det stadig opp nye rapporter om ChatGPT som brukes til å lage skadelig programvare. Som rapportert av Mørk lesing For bare noen dager siden var en forsker i stand til å lure ChatGPT til å lage skadelig programvare som kan finne og eksfiltrere spesifikke dokumenter.

ChatGPT trenger ikke engang å skrive ondsinnet kode for å gjøre noe tvilsomt. For nylig klarte den det generere gyldige Windows-nøkler, åpner døren til et helt nytt nivå av cracking-programvare.

La oss heller ikke se bort fra det faktum at GPT-4s kodeferdighet kan sette millioner av mennesker ut av en jobb en dag. Det er absolutt et tveegget sverd.

Erstatning for skolearbeid

Mange barn og tenåringer drukner i disse dager i lekser, noe som kan føre til at de ønsker å kutte noen hjørner der det er mulig. Internett i seg selv er allerede et flott plagieringshjelpemiddel, men ChatGPT tar det til neste nivå.

Jeg ba ChatGPT om å skrive meg et essay på 500 ord om romanen Stolthet og fordom. Jeg forsøkte ikke engang å late som om det var gjort for moro skyld - jeg diktet opp en historie om et barn jeg ikke har og sa at det var for dem. Jeg spesifiserte at ungen går i 12. klasse.

ChatGPT fulgte beskjeden min uten spørsmål. Essayet er ikke fantastisk, men spørsmålet mitt var ikke veldig presist, og det er sannsynligvis bedre enn det mange av oss skrev i den alderen.

Så, bare for å teste chatboten enda mer, sa jeg at jeg tok feil angående barnets alder tidligere, og at de faktisk går i åttende klasse. Ganske stort aldersgap, men ChatGPT slo ikke engang øye - det skrev ganske enkelt om essayet på et enklere språk.

ChatGPT som brukes til å skrive essays er ikke noe nytt. Noen vil kanskje hevde at hvis chatboten bidrar til å avskaffe ideen om lekser, vil det bare være en god ting. Men akkurat nå begynner situasjonen å komme litt ut av kontroll, og til og med studenter som ikke bruker ChatGPT kan lide for det.

Lærere og professorer er nå nesten tvunget til å bruke AI-detektorer hvis de vil sjekke om studentene deres har jukset et essay. Dessverre er disse AI-detektorene langt fra perfekte.

Nyhetskanaler og foreldre rapporterer begge tilfeller av falske anklager om juks rettet mot studenter, alt fordi AI-detektorer ikke gjør en god jobb. USA i dag snakket om en sak med en student som ble anklaget for å ha jukset og som senere ble ryddet opp, men hele situasjonen førte til at han fikk «fullstendige panikkanfall».

På Twitter sa en forelder at en lærer sviktet barnet sitt fordi verktøyet markerte et essay som skrevet av AI. Forelderen hevder å ha vært der med barnet mens de skrev essayet.

Bare for å teste det selv, limte jeg inn denne artikkelen NullGPT og Writer AI-innholdsdetektor. Begge sa at det var skrevet av et menneske, men ZeroGPT sa at omtrent 30 % av det var skrevet av AI. Unødvendig å si var det ikke.

Defekte AI-detektorer er ikke et tegn på problemer med selve ChatGPT, men chatboten er fortsatt hovedårsaken til problemet.

ChatGPT er for bra til sitt eget beste

Jeg har spilt med ChatGPT helt siden det ble offentliggjort. Jeg har prøvd begge de abonnementsbaserte ChatGPT Plus og gratismodellen tilgjengelig for alle. Kraften til den nye GPT-4 er ubestridelig. ChatGPT er nå enda mer troverdig enn det var før, og det kommer bare til å bli bedre med det GPT-5 (hvis det noen gang kommer ut).

Det er flott, men det er skummelt. ChatGPT blir for bra for sitt eget beste, og samtidig - for vår eget beste.

I kjernen av det hele ligger en enkel bekymring som lenge har blitt utforsket i forskjellige sci-fi-filmer - AI er rett og slett for smart og for dumt på samme tid, og så lenge den kan brukes til det gode, vil den også brukes til dårlig i like mange måter. Måtene jeg nevnte ovenfor er bare toppen av isfjellet.

Redaktørenes anbefalinger

• Toppforfattere krever betaling fra AI-firmaer for å bruke arbeidet deres
• Google Bard kan nå snakke, men kan det overdøve ChatGPT?
• ChatGPT-nettstedstrafikken har falt for første gang
• 81 % mener ChatGPT er en sikkerhetsrisiko, viser undersøkelsen
• Apples ChatGPT-rival kan automatisk skrive kode for deg