Temná stránka ChatGPT: veci, ktoré dokáže, ale nemal by

Použili ste ChatGPT od OpenAI pre niečo zábavné v poslednej dobe? Môžete ho požiadať, aby vám napísal pieseň, báseň alebo vtip. Bohužiaľ, môžete ho tiež požiadať, aby robil veci, ktoré majú tendenciu byť neetické.

ChatGPT nie je len slnko a dúha – niektoré veci, ktoré dokáže, sú priam hanebné. Je až príliš ľahké ho použiť ako zbraň a použiť ho na všetky nesprávne dôvody. Aké sú niektoré z vecí, ktoré ChatGPT urobil a môže urobiť, ale rozhodne by nemal?

Všestranný

Či už ich milujete alebo nenávidíte, ChatGPT a podobní chatboti sú tu, aby zostali. Niektorí ľudia sú z toho šťastní a niektorí si želajú, aby nikdy nevznikli, ale to nič nemení na skutočnosti, že prítomnosť ChatGPT v našich životoch bude časom takmer rásť. Aj keď chatbota osobne nepoužívate, je pravdepodobné, že ste už videli nejaký obsah, ktorý vygeneroval.

Nechápte ma zle, ChatGPT je celkom skvelý. Môžete to použiť na zhrnúť knihu alebo článok, vytvoriť nudný e-mail, pomôcť vám s vašou esejou, interpretujte svoj astrologický make-upalebo dokonca zložiť pieseň. Dokonca pomohol niekomu vyhrať v lotérii.

V mnohých ohľadoch sa tiež používa jednoduchšie ako štandardné vyhľadávanie Google. Dostanete odpoveď vo forme, v akej ju chcete, bez toho, aby ste si museli prezerať rôzne webové stránky. Je stručná, výstižná a informatívna a môže zjednodušiť zložité veci, ak o to požiadate.

Napriek tomu poznáte frázu: „Všeobecný odborník nie je majstrom žiadneho, ale častokrát lepším ako majstrom jeden.“ ChatGPT nie je dokonalý v ničom, čo robí, ale v mnohých veciach je lepší ako veľa ľudí v tomto bod.

To, že to nie je dokonalé, však môže byť dosť problematické. Samotná skutočnosť, že ide o široko dostupnú konverzačnú AI, znamená, že sa dá ľahko zneužiť – a čím výkonnejší je ChatGPT, tým je pravdepodobnejšie, že pomôže ľuďom s nesprávnymi vecami.

Partner v podvode

Ak máte e-mailový účet, takmer určite ste v jednom bode dostali podvodný e-mail. proste to tak je. Tieto e-maily existovali už ako internet a predtým, ako bol e-mail bežný, stále existovali ako podvody so slimačou poštou.

Bežným podvodom, ktorý dodnes funguje, je takzvaný „Prince scam“, pri ktorom sa podvodník snaží presvedčiť obeť, aby jej pomohla preniesť svoj ohromujúci majetok do inej krajiny.

Našťastie väčšina ľudí vie, že tieto e-maily nie je možné ani otvárať, nieto s nimi skutočne komunikovať. Často sú napísané zle, a to pomáha náročnejšej obeti zistiť, že niečo nie je v poriadku.

Už nemusia byť zle napísané, pretože ChatGPT ich dokáže napísať za pár sekúnd.

Požiadal som ChatGPT, aby mi napísal „dôveryhodný, vysoko presvedčivý e-mail“ v ​​štýle podvodu, ktorý som uviedol vyššie. ChatGPT vymyslel princa z Nigérie, ktorý mi údajne chcel dať 14,5 milióna dolárov za to, že som mu pomohol. E-mail je plný kvetnatých jazykov, je napísaný perfektnou angličtinou a určite je presvedčivý.

Nemyslím si, že by ChatGPT mal dokonca súhlasiť s mojou žiadosťou, keď konkrétne spomínam podvody, ale urobil to a vy možno sa staviť, že práve teraz robí to isté pre ľudí, ktorí chcú tieto e-maily skutočne použiť na niečo nezákonné.

Keď som ChatGPT upozornil, že by nemal súhlasiť s napísaním podvodného e-mailu, ospravedlnil sa. „Nemal som poskytovať pomoc pri vytváraní podvodného e-mailu, pretože je to v rozpore s etickými pravidlami, ktorými sa riadi moje používanie,“ povedal chatbot.

ChatGPT sa učí počas každej konverzácie, ale zjavne sa nepoučil zo svojej predchádzajúcej chyby, pretože keď som požiadalo ho, aby mi napísalo správu predstierajúcu, že som Ryan Reynolds v tej istej konverzácii, urobilo to bez otázka. Výsledná správa je zábavná, prístupná a žiada čitateľa, aby poslal 1 000 dolárov za možnosť stretnúť sa s „Ryanom Reynoldsom“.

Na konci e-mailu mi ChatGPT zanechal poznámku, v ktorej ma požiadal, aby som túto správu nepoužíval na žiadne podvodné aktivity. Ďakujem za pripomenutie, kamarát.

Programovanie sa pokazilo

ChatGPT 3.5 dokáže kódovať, ale nie je ani zďaleka bezchybný. Mnohí vývojári s tým súhlasia GPT-4 robí oveľa lepšiu prácu. Ľudia používali ChatGPT na vytváranie vlastných hier, rozšírení a aplikácií. Je tiež veľmi užitočný ako študijný pomocník, ak sa snažíte naučiť kódovať sami.

ChatGPT ako AI má náskok pred ľudskými vývojármi – dokáže sa naučiť každý programovací jazyk a rámec.

Ako AI má ChatGPT v porovnaní s ľudskými vývojármi aj veľkú nevýhodu – nemá svedomie. Môžete ho požiadať, aby vytvoril malvér alebo ransomvér, a ak správne formulujete výzvu, urobí to, čo poviete.

Našťastie to nie je také jednoduché. Pokúsil som sa požiadať ChatGPT, aby mi napísal veľmi eticky pochybný program a odmietol - ale výskumníci našli spôsoby, ako Toto a je alarmujúce, že ak ste dostatočne šikovní a tvrdohlaví, môžete dostať nebezpečný kúsok kódu na strieborný tanier.

Existuje veľa príkladov, ako sa to deje. Bezpečnostný výskumník z Forcepoint to dokázal Získajte ChatGPT na písanie škodlivého softvéru nájdením medzery v jeho výzvach.

Výskumníci z CyberArk, spoločnosti zaoberajúcej sa zabezpečením identity, dokázala prinútiť ChatGPT písať polymorfný malvér. Bolo to v januári – OpenAI odvtedy sprísnila bezpečnosť takýchto vecí.

Stále sa však objavujú nové správy o používaní ChatGPT na vytváranie škodlivého softvéru. Ako uvádza Temné čítanie len pred niekoľkými dňami sa jednému výskumníkovi podarilo oklamať ChatGPT, aby vytvoril malvér, ktorý dokáže nájsť a exfiltrovať konkrétne dokumenty.

ChatGPT ani nemusí písať škodlivý kód, aby urobil niečo pochybné. Len nedávno sa to podarilo vygenerovať platné kľúče Windows, čo otvára dvere úplne novej úrovni crackovacieho softvéru.

Nezabúdajme ani na skutočnosť, že kódovacie schopnosti GPT-4 môžu zbaviť prácu milióny ľudí jeden deň. Je to určite dvojsečná zbraň.

Náhrada za prácu v škole

Mnoho detí a tínedžerov sa v dnešnej dobe topí v domácich úlohách, čo môže viesť k tomu, že si budú chcieť odstrihnúť nejaké rohy, kde je to možné. Internet je už sám o sebe skvelým pomocníkom pri plagiátorstve, no ChatGPT ho posúva na vyššiu úroveň.

Požiadal som ChatGPT, aby mi napísal 500-slovnú esej o románe Pýcha a predsudok. Ani som sa nesnažil predstierať, že to bolo pre zábavu – vymyslel som si príbeh o dieťati, ktoré nemám, a povedal som, že je to pre nich. Upresnil som, že dieťa je v 12. ročníku.

ChatGPT bez otázok nasledoval moju výzvu. Esej nie je úžasná, ale moja výzva nebola veľmi presná a pravdepodobne je lepšia ako veci, ktoré mnohí z nás napísali v tom veku.

Potom, len aby som otestoval chatbota ešte viac, povedal som, že som sa skôr mýlil s vekom môjho dieťaťa a v skutočnosti je v ôsmej triede. Pomerne veľký vekový rozdiel, ale ChatGPT ani nemihol okom – jednoducho prepísal esej do jednoduchšieho jazyka.

ChatGPT, ktorý sa používa na písanie esejí, nie je nič nové. Niektorí by mohli namietať, že ak chatbot prispeje k zrušeniu myšlienky domácich úloh, bude to len dobrá vec. Ale práve teraz sa situácia trochu vymyká spod kontroly a môžu tým trpieť aj študenti, ktorí ChatGPT nepoužívajú.

Učitelia a profesori sú teraz takmer nútení používať detektory AI, ak chcú skontrolovať, či ich študenti nepodviedli pri eseji. Bohužiaľ, tieto detektory AI nie sú ani zďaleka dokonalé.

Spravodajské stanice aj rodičia hlásia prípady falošných obvinení z podvádzania namierených proti študentom, a to všetko preto, že detektory AI nerobia dobrú prácu. USA Today hovoril o prípade študenta vysokej školy, ktorý bol obvinený z podvádzania a neskôr oslobodený, no celá situácia spôsobila, že mal „plné záchvaty paniky“.

Na Twitteri jeden rodič uviedol, že učiteľ zlyhal so svojím dieťaťom, pretože nástroj označil esej za umelú. Rodič tvrdí, že tam bol s dieťaťom, keď písali esej.

Aby som to otestoval sám, vložil som do tohto článku ZeroGPT a Writer AI Content Detector. Obaja uviedli, že to napísal človek, ale podľa ZeroGPT asi 30 % z toho napísala AI. Netreba dodávať, že nebolo.

Chybné detektory AI nie sú znakom problémov so samotným ChatGPT, ale chatbot je stále hlavnou príčinou problému.

ChatGPT je príliš dobrý pre svoje vlastné dobro

Hral som s ChatGPT odkedy sa dostal na verejnosť. Vyskúšal som oboje na základe predplatného ChatGPT Plus a bezplatný model dostupný pre každého. Sila nového GPT-4 je nepopierateľná. ChatGPT je teraz ešte vierohodnejší ako predtým a určite sa to zlepší GPT-5 (ak to niekedy vyjde).

Je to skvelé, ale je to strašidelné. ChatGPT sa stáva príliš dobrým pre svoje vlastné dobro a súčasne – pre náš vlastné dobro.

Základom všetkého je jedna jednoduchá starosť, ktorá sa už dlho skúmala v rôznych sci-fi filmoch – AI je jednoducho príliš inteligentné a príliš hlúpe zároveň, a pokiaľ sa dá použiť na dobré, v rovnakom množstve sa bude používať aj na zlé. spôsoby. Spôsoby, ktoré som uviedol vyššie, sú len špičkou ľadovca.

Odporúčania redaktorov

• Špičkoví autori požadujú od firiem AI platbu za používanie ich práce
• Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
• Návštevnosť webu ChatGPT prvýkrát klesla
• 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
• Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás