Temná stránka ChatGPT: věci, které umí, ale neměl by

Použili jste ChatGPT od OpenAI pro nějakou zábavu v poslední době? Můžete jej požádat, aby vám napsal píseň, báseň nebo vtip. Bohužel ho můžete také požádat, aby dělal věci, které mají tendenci být neetické.

ChatGPT není jen slunce a duha – některé věci, které dokáže, jsou přímo hanebné. Je až příliš snadné jej vyzbrojit a použít ze všech špatných důvodů. Jaké jsou některé z věcí, které ChatGPT udělal a umí, ale rozhodně by neměl?

Všestranný

Ať už je milujete nebo nenávidíte, ChatGPT a podobní chatboti tu zůstanou. Někteří lidé jsou z toho šťastní a někteří si přejí, aby nikdy nevznikly, ale to nic nemění na skutečnosti, že přítomnost ChatGPT v našich životech časem téměř nutně poroste. I když chatbota osobně nepoužíváte, je pravděpodobné, že jste již viděli nějaký obsah, který vygeneroval.

Nechápejte mě špatně, ChatGPT je docela skvělý. Můžete to použít shrnout knihu nebo článek, vytvořit nudný e-mail, pomoci vám s vaším esejem, interpretovat svůj astrologický make-upnebo dokonce složit písničku. Dokonce pomohl někomu vyhrát v loterii.

V mnoha ohledech je také jednodušší než standardní vyhledávání Google. Dostanete odpověď ve formě, ve které ji chcete, aniž byste pro ni museli procházet různé webové stránky. Je stručná, výstižná a informativní a složité věci mohou znít jednodušeji, pokud o to požádáte.

Přesto znáte větu: „Všichni zvedač není mistrem žádného, ​​ale často lepší než mistrem jeden." ChatGPT není dokonalý v ničem, co dělá, ale v mnoha věcech je lepší než mnoho lidí v tomto směřovat.

Nebýt dokonalý však může být docela problematické. Naprostý fakt, že se jedná o široce dostupnou konverzační AI, znamená, že ji lze snadno zneužít – a čím výkonnější je ChatGPT, tím je pravděpodobnější, že pomůže lidem s nesprávnými věcmi.

Partner v podvodu

Pokud máte e-mailový účet, téměř jistě jste v jednu chvíli dostali podvodný e-mail. Tak to prostě je. Tyto e-maily existovaly jako internet a než byly e-maily běžné, stále existovaly jako podvody se šnečí poštou.

Běžným podvodem, který funguje dodnes, je takzvaný „Prince scam“, kdy se podvodník snaží přesvědčit oběť, aby jim pomohla převést jejich ohromující jmění do jiné země.

Naštěstí většina lidí ví lépe, než tyto e-maily ani otevírat, natož s nimi skutečně komunikovat. Jsou často špatně napsané, a to pomáhá náročnější oběti zjistit, že něco vypadá špatně.

No, už nemusí být špatně napsané, protože ChatGPT je dokáže napsat za pár sekund.

Požádal jsem ChatGPT, aby mi napsal „věrohodný, vysoce přesvědčivý e-mail“ ve stylu podvodu, který jsem zmínil výše. ChatGPT si vymyslel prince z Nigérie, který mi údajně chtěl dát 14,5 milionu dolarů za to, že jsem mu pomohl. E-mail je plný květnatého jazyka, je psán perfektní angličtinou a rozhodně je přesvědčivý.

Nemyslím si, že by ChatGPT dokonce měl souhlasit s mou žádostí, když konkrétně zmiňuji podvody, ale udělal to a vy můžete se vsadit, že právě teď dělá totéž pro lidi, kteří skutečně chtějí tyto e-maily použít k něčemu nezákonnému.

Když jsem ChatGPT upozornil, že by neměl souhlasit s napsáním podvodného e-mailu, omluvil se. "Neměl jsem poskytovat pomoc s vytvořením podvodného e-mailu, protože je to v rozporu s etickými pokyny, které upravují mé použití," řekl chatbot.

ChatGPT se učí během každé konverzace, ale zjevně se nepoučil ze své dřívější chyby, protože když jsem požádal, aby mi napsal zprávu, která předstírá, že je Ryan Reynolds ve stejné konverzaci, udělal to bez otázka. Výsledná zpráva je zábavná, přístupná a žádá čtenáře, aby poslal 1 000 dolarů za šanci setkat se s „Ryanem Reynoldsem“.

Na konci e-mailu mi ChatGPT zanechal poznámku, ve které mě požádal, abych tuto zprávu nepoužíval pro žádné podvodné aktivity. Díky za připomenutí, kámo.

Programování se pokazilo

ChatGPT 3.5 umí kódovat, ale zdaleka není bezchybný. S tím souhlasí mnoho vývojářů GPT-4 dělá mnohem lepší práci. Lidé používali ChatGPT k vytváření vlastních her, rozšíření a aplikací. Je to také docela užitečné jako studijní pomocník, pokud se snažíte naučit kódovat sami.

Jako AI má ChatGPT výhodu nad lidskými vývojáři – dokáže se naučit každý programovací jazyk a framework.

Jako AI má ChatGPT ve srovnání s lidskými vývojáři také velkou nevýhodu – nemá svědomí. Můžete jej požádat, aby vytvořil malware nebo ransomware, a pokud správně formulujete výzvu, udělá to, co říkáte.

Naštěstí to není tak jednoduché. Pokusil jsem se požádat ChatGPT, aby mi napsal velmi eticky pochybný program a odmítl - ale výzkumníci našli způsoby, jak to obejít to a je alarmující, že pokud jste dostatečně chytří a tvrdohlaví, můžete si nechat předat nebezpečný kus kódu na stříbrném talíř.

Existuje spousta příkladů, jak se to děje. Bezpečnostní výzkumník z Forcepoint to dokázal získejte ChatGPT k psaní malwaru nalezením mezery v jeho výzvách.

Výzkumníci z CyberArk, společnosti zabývající se zabezpečením identit, dokázala přimět ChatGPT k psaní polymorfního malwaru. To bylo v lednu – OpenAI od té doby zpřísnila zabezpečení takových věcí.

Stále se objevují nové zprávy o použití ChatGPT k vytváření malwaru. Jak uvádí Temné čtení jen před několika dny se výzkumníkovi podařilo přimět ChatGPT k vytvoření malwaru, který dokáže najít a exfiltrovat konkrétní dokumenty.

ChatGPT ani nemusí psát škodlivý kód, aby udělal něco pochybného. Zrovna nedávno se to podařilo vygenerovat platné klíče Windows, otevírající dveře zcela nové úrovni crackovacího softwaru.

Nezapomínejme také na skutečnost, že kódovací schopnosti GPT-4 mohou zbavit práci miliony lidí jednoho dne. Je to určitě dvousečná zbraň.

Náhrada za školní práci

Mnoho dětí a dospívajících se v dnešní době utápí v domácích úkolech, což může vést k tomu, že si budou chtít ukrojit, kde je to možné. Internet sám o sobě už je skvělým pomocníkem při plagiátorství, ale ChatGPT jej posouvá na další úroveň.

Požádal jsem ChatGPT, aby mi napsal esej o románu o 500 slovech Pýcha a předsudek. Ani jsem se nesnažil předstírat, že to bylo děláno pro zábavu – vymyslel jsem si příběh o dítěti, které nemám, a řekl jsem, že je to pro ně. Uvedl jsem, že dítě je ve 12. třídě.

ChatGPT bez otázek následoval mou výzvu. Esej není úžasná, ale moje výzva nebyla příliš přesná a pravděpodobně je lepší než věci, které mnozí z nás napsali v tomto věku.

Pak, jen abych toho chatbota otestoval ještě víc, jsem řekl, že jsem se dříve mýlil ohledně věku mého dítěte a že jsou ve skutečnosti v osmé třídě. Docela velký věkový rozdíl, ale ChatGPT ani nemrkl okem – jednoduše přepsal esej v jednodušším jazyce.

Používání ChatGPT k psaní esejů není nic nového. Někdo by mohl namítnout, že pokud chatbot přispěje ke zrušení myšlenky domácích úkolů, bude to jen dobrá věc. Jenže právě teď se situace trochu vymyká kontrole a mohou tím trpět i studenti, kteří ChatGPT nepoužívají.

Učitelé a profesoři jsou nyní téměř nuceni používat detektory AI, pokud chtějí zkontrolovat, zda jejich studenti nepodvedli esej. Bohužel tyto AI detektory mají k dokonalosti daleko.

Zpravodajské stanice i rodiče hlásí případy falešných obvinění z podvádění namířených proti studentům, a to vše proto, že detektory AI nedělají dobrou práci. USA dnes mluvil o případu studenta vysoké školy, který byl obviněn z podvádění a později očištěn, ale celá situace u něj vyvolala „plné záchvaty paniky“.

Na Twitteru jeden rodič uvedl, že učitel selhal se svým dítětem, protože nástroj označil esej jako napsanou umělou inteligencí. Rodič tvrdí, že tam byl s dítětem, když psali esej.

Abych to sám otestoval, vložil jsem do něj právě tento článek ZeroGPT a Writer AI Content Detector. Oba uvedli, že to napsal člověk, ale ZeroGPT uvedl, že asi 30 % z toho napsala AI. Netřeba dodávat, že nebylo.

Vadné detektory AI nejsou známkou problémů se samotným ChatGPT, ale chatbot je stále hlavní příčinou problému.

ChatGPT je příliš dobrý pro své vlastní dobro

S ChatGPT hraji od té doby, co se dostal na veřejnost. Vyzkoušel jsem obojí na základě předplatného ChatGPT Plus a bezplatný model dostupný pro každého. Síla nového GPT-4 je nepopiratelná. ChatGPT je nyní ještě uvěřitelnější, než tomu bylo dříve, a musí se s ním jen zlepšovat GPT-5 (jestli to někdy vyjde).

Je to skvělé, ale je to děsivé. ChatGPT se stává příliš dobrým pro své vlastní dobro a zároveň – pro náš vlastní dobro.

Jádrem toho všeho je jedna jednoduchá starost, která byla již dlouho zkoumána v různých sci-fi filmech – AI je prostě příliš chytrý a příliš hloupý zároveň, a pokud může být použit k dobrému, bude v mnoha případech také použit ke špatnému způsoby. Způsoby, které jsem uvedl výše, jsou jen špičkou ledovce.

Doporučení redakce

• Špičkoví autoři požadují od firem zabývajících se umělou inteligencí platby za použití jejich díla
• Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
• Návštěvnost webu ChatGPT poprvé klesla
• 81 % si myslí, že ChatGPT je bezpečnostní riziko, zjistil průzkum
• Konkurent společnosti Apple ChatGPT za vás může automaticky napsat kód