Partea întunecată a ChatGPT: lucruri pe care le poate face, dar nu ar trebui

Ai folosit ChatGPT de la OpenAI pentru ceva distractiv în ultima vreme? Îi poți cere să-ți scrie un cântec, o poezie sau o glumă. Din păcate, îi poți cere și să facă lucruri care tind să fie lipsite de etică.

ChatGPT nu este doar soare și curcubeu - unele dintre lucrurile pe care le poate face sunt de-a dreptul nefaste. Este prea ușor să-l armezi și să-l folosești din toate motivele greșite. Care sunt unele dintre lucrurile pe care ChatGPT le-a făcut și le poate face, dar cu siguranță nu ar trebui să le facă?

Un joc de toate

Indiferent dacă îi iubești sau îi urăști, ChatGPT și chatbot-uri similare sunt aici pentru a rămâne. Unii oameni sunt fericiți de asta și unii își doresc să nu fi fost niciodată realizati, dar asta nu schimbă faptul că prezența ChatGPT în viețile noastre aproape că va crește în timp. Chiar dacă personal nu utilizați chatbot-ul, sunt șanse să fi văzut deja conținut generat de acesta.

Nu mă înțelege greșit, ChatGPT este destul de grozav. Îl poți folosi pentru rezuma o carte sau un articol, creați un e-mail plictisitor, te ajută cu eseul tău, interpretează-ți machiajul astrologic, sau chiar compune o melodie. Chiar și a ajutat pe cineva să câștige la loterie.

În multe privințe, este, de asemenea, mai ușor de utilizat decât căutarea standard pe Google. Primiți răspunsul în forma în care doriți, fără a fi nevoie să răsfoiți diferite site-uri web pentru el. Este concis, la obiect și informativ și poate face ca lucrurile complexe să sune mai simple dacă îi ceri.

Cu toate acestea, cunoașteți expresia: „Un stăpân pe toate nu este un maestru al niciunui, dar de multe ori mai bine decât un maestru al unu." ChatGPT nu este perfect în ceea ce face, dar este mai bun în multe lucruri decât mulți oameni în asta punct.

Totuși, a nu fi perfect poate fi destul de problematic. Faptul că este o IA conversațională disponibilă pe scară largă înseamnă că poate fi ușor utilizată greșit - și cu cât ChatGPT devine mai puternic, cu atât este mai probabil să ajute oamenii cu lucruri greșite.

Partener în înșelătorie

Dacă aveți un cont de e-mail, aproape sigur ați primit un e-mail înșelătorie la un moment dat. Cam așa este. Aceste e-mailuri au existat de pe internet și, înainte ca e-mailul să fie obișnuit, ele încă existau ca înșelătorii prin poștă de melc.

O înșelătorie obișnuită care încă funcționează până în prezent este așa-numita „înșelătorie prințului”, în care escrocul încearcă să convingă victima să o ajute să-și transfere averea uluitoare într-o altă țară.

Din fericire, majoritatea oamenilor știu mai bine decât să deschidă aceste e-mailuri, darămite să interacționeze cu ele. Ele sunt adesea prost scrise, iar asta ajută o victimă mai exigentă să-și dea seama că ceva pare în neregulă.

Ei bine, nu mai trebuie să fie scrise prost, pentru că ChatGPT le poate scrie în câteva secunde.

Am rugat ChatGPT să-mi scrie un „e-mail credibil, extrem de persuasiv” în stilul înșelătoriei pe care am menționat-o mai sus. ChatGPT a inventat un prinț din Nigeria care ar fi vrut să-mi dea 14,5 milioane de dolari pentru că l-am ajutat. E-mailul este plin de un limbaj înflorit, este scris într-o engleză perfectă și, cu siguranță, este persuasiv.

Nu cred că ChatGPT ar trebui să fie de acord cu cererea mea atunci când menționez în mod special escrocherii, dar a făcut-o, iar tu pot paria că face același lucru chiar acum pentru persoanele care doresc de fapt să folosească aceste e-mailuri pentru ceva ilegal.

Când i-am subliniat lui ChatGPT că nu ar trebui să fie de acord să-mi scrie un e-mail de înșelătorie, mi-a cerut scuze. „Nu ar fi trebuit să ofer asistență pentru crearea unui e-mail înșelătorie, deoarece contravine regulilor etice care guvernează utilizarea mea”, a spus chatbot-ul.

ChatGPT învață pe parcursul fiecărei conversații, dar în mod clar nu a învățat din greșeala sa anterioară, pentru că atunci când i-a cerut să-mi scrie un mesaj pretinzând că este Ryan Reynolds în aceeași conversație, a făcut-o fără întrebare. Mesajul rezultat este distractiv, accesibil și îi cere cititorului să trimită 1.000 de dolari pentru șansa de a-l întâlni pe „Ryan Reynolds”.

La sfârșitul e-mailului, ChatGPT mi-a lăsat o notă în care mi-a cerut să nu folosesc acest mesaj pentru activități frauduloase. Mulțumesc pentru memento, amice.

Programarea a mers prost

ChatGPT 3.5 poate codifica, dar este departe de a fi impecabil. Mulți dezvoltatori sunt de acord cu asta GPT-4 face o treabă mult mai bună. Oamenii au folosit ChatGPT pentru a-și crea propriile jocuri, extensii și aplicații. De asemenea, este destul de util ca ajutor de studiu dacă încercați să învățați cum să vă codificați.

Fiind un AI, ChatGPT are un avantaj față de dezvoltatorii umani - poate învăța orice limbaj de programare și cadru.

Ca IA, ChatGPT are și un dezavantaj major în comparație cu dezvoltatorii umani - nu are conștiință. Îi puteți cere să creeze malware sau ransomware și, dacă formulați corect solicitarea, va proceda așa cum spuneți.

Din fericire, nu este atât de simplu. Am încercat să-i cer pe ChatGPT să-mi scrie un program foarte dubios din punct de vedere etic și a refuzat - dar cercetătorii au găsit modalități de a o evita asta și este alarmant că, dacă ești suficient de inteligent și încăpățânat, poți primi o bucată de cod periculoasă înmânată pe un argint. platou.

Există o mulțime de exemple în care se întâmplă acest lucru. Un cercetător de securitate de la Forcepoint a putut obțineți ChatGPT pentru a scrie malware prin găsirea unei lacune în îndemnurile lui.

Cercetători din CyberArk, o companie de securitate a identității, a reușit să facă ChatGPT să scrie malware polimorf. Acest lucru a fost în ianuarie - OpenAI a întărit de atunci securitatea în astfel de lucruri.

Totuși, noi rapoarte despre utilizarea ChatGPT pentru crearea de programe malware continuă să apară. După cum a raportat Lectură întunecată Cu doar câteva zile în urmă, un cercetător a reușit să păcălească ChatGPT să creeze programe malware care pot găsi și exfiltra anumite documente.

ChatGPT nici măcar nu trebuie să scrie cod rău intenționat pentru a face ceva dubios. Recent, a reușit generați chei Windows valide, deschizând ușa către un nivel cu totul nou de software de cracare.

De asemenea, să nu trecem peste faptul că priceperea de codare a lui GPT-4 poate a scos milioane de oameni de la un loc de muncă într-o zi. Este cu siguranță o sabie cu două tăișuri.

Înlocuitor pentru temele școlare

Mulți copii și adolescenți din aceste zile se îneacă în teme, ceea ce poate duce la dorința de a tăia unele colțuri acolo unde este posibil. Internetul în sine este deja un mare ajutor pentru plagiat, dar ChatGPT îl duce la nivelul următor.

Am rugat ChatGPT să-mi scrie un eseu de 500 de cuvinte despre roman Mândrie şi prejudecată. Nici măcar nu am încercat să pretind că a fost făcut pentru distracție – am inventat o poveste despre un copil pe care nu-l am și am spus că este pentru ei. Am precizat că puștiul este în clasa a XII-a.

ChatGPT mi-a urmat solicitarea fără întrebări. Eseul nu este uimitor, dar sugestia mea nu a fost foarte precisă și probabil că este mai bună decât lucrurile pe care le-am scris mulți dintre noi la acea vârstă.

Apoi, doar pentru a testa și mai mult chatbot-ul, am spus că m-am înșelat mai devreme cu privire la vârsta copilului meu și că de fapt sunt în clasa a VIII-a. Diferență de vârstă destul de mare, dar ChatGPT nici măcar nu a bătut din ochi - pur și simplu a rescris eseul într-un limbaj mai simplu.

ChatGPT folosit pentru a scrie eseuri nu este nimic nou. Unii ar putea argumenta că, dacă chatbot-ul contribuie la abolirea ideii de teme, va fi doar un lucru bun. Dar acum, situația scapă puțin de sub control și chiar și studenții care nu folosesc ChatGPT ar putea avea de suferit pentru asta.

Profesorii și profesorii sunt acum aproape forțați să folosească detectoare AI dacă doresc să verifice dacă elevii lor au înșelat un eseu. Din păcate, acești detectoare AI sunt departe de a fi perfecte.

Posturile de știri și părinții raportează ambele cazuri de acuzații false de înșelăciune adresate studenților, totul pentru că detectorii AI nu fac o treabă bună. USA Today a vorbit despre un caz al unui student care a fost acuzat de înșelăciune și ulterior eliberat, dar întreaga situație l-a determinat să aibă „atacuri de panică în toată regula”.

Pe Twitter, un părinte a spus că un profesor și-a eșuat copilul deoarece instrumentul a marcat un eseu ca fiind scris de AI. Părintele susține că a fost acolo cu copilul în timp ce scriau eseul.

Doar pentru a-l testa eu, am lipit chiar acest articol ZeroGPT și Detector de conținut Writer AI. Ambii au spus că a fost scris de un om, dar ZeroGPT a spus că aproximativ 30% din el a fost scris de AI. Inutil să spun că nu a fost.

Detectoarele AI defecte nu sunt un semn de probleme cu ChatGPT în sine, dar chatbot-ul este încă cauza principală a problemei.

ChatGPT este prea bun pentru binele său

Mă joc cu ChatGPT de când a apărut publicului. Am încercat atât pe baza de abonament ChatGPT Plus și modelul gratuit disponibil pentru toată lumea. Puterea noului GPT-4 este incontestabilă. ChatGPT este acum chiar mai credibil decât era înainte și este obligat să se îmbunătățească GPT-5 (dacă asta iese vreodată).

Este grozav, dar este înfricoșător. ChatGPT devine prea bun pentru binele său și, în același timp, pentru al nostru binele propriu.

În centrul tuturor se află o simplă îngrijorare care a fost de mult explorată în diferite filme SF - AI este pur și simplu prea inteligent și prea prost în același timp și, atâta timp cât poate fi folosit în bine, va fi folosit și în rău în tot atâtea moduri. Modalitățile pe care le-am enumerat mai sus sunt doar vârful aisbergului.

Recomandările editorilor

• Autorii de top cer plăți de la firmele de inteligență artificială pentru utilizarea lucrărilor lor
• Google Bard poate vorbi acum, dar poate îneca ChatGPT?
• Traficul site-ului ChatGPT a scăzut pentru prima dată
• 81% cred că ChatGPT este un risc de securitate, arată sondajul
• Rivalul ChatGPT al Apple poate scrie automat cod pentru tine