A ChatGPT sötét oldala: dolgok, amiket megtehet, de nem szabad

Használtad Az OpenAI ChatGPT-je valami szórakozásra mostanában? Megkérheted, hogy írjon neked egy dalt, verset vagy viccet. Sajnos azt is megkérheti, hogy olyan dolgokat tegyen, amelyek etikátlanságra hajlamosak.

A ChatGPT nem csupa napfény és szivárvány – néhány dolog, amit tehet, kifejezetten aljas. Túl könnyű felfegyverezni és rossz okokra használni. Melyek azok a dolgok, amelyeket a ChatGPT megtett és megtehet, de egyáltalán nem szabad?

Csupa mester

Akár szereted, akár utálod őket, a ChatGPT és a hasonló chatbotok itt maradnak. Vannak, akik örülnek ennek, és vannak, akik azt kívánják, bár soha nem készültek volna el, de ez nem változtat azon a tényen, hogy a ChatGPT jelenléte az életünkben idővel szinte nőni fog. Még ha személyesen nem is használja a chatbotot, valószínűleg már látott néhány általa generált tartalmat.

Ne értsen félre, a ChatGPT nagyon jó. Használhatod arra összefoglalni egy könyvet vagy cikket, unalmas e-mailt készíteni, segít az esszédben, értelmezze asztrológiai összetételét, vagy akár komponálj egy dalt. Még az is segített valakinek nyerni a lottón.

Sok szempontból egyszerűbb a használata, mint a normál Google-keresés. A választ a kívánt formában kapja meg anélkül, hogy különféle webhelyeket kellene böngésznie. Tömör, lényegre törő és informatív, és ha kéred, egyszerűbbé teheti a bonyolult dolgokat.

Ennek ellenére ismeri ezt a kifejezést: „A mestere senkinek sem mestere, de gyakran jobb, mint a mestere. egy." A ChatGPT semmiben sem tökéletes, de sok mindenben jobb, mint sokan ebben pont.

Ha azonban nem tökéletes, az elég problémás lehet. A puszta tény, hogy ez egy széles körben elérhető társalgási mesterséges intelligencia, azt jelenti, hogy könnyen visszaélhető vele – és minél erősebb lesz a ChatGPT, annál valószínűbb, hogy rossz dolgokban segít az embereknek.

Partner a csalásban

Ha van e-mail fiókja, akkor szinte biztos, hogy egy ponton átverő e-mailt kapott. Ez csak így van. Ezek az e-mailek már az interneten is megjelentek, és mielőtt az e-mailek általánosak lettek volna, még mindig léteztek csigaposta-csalásként.

Gyakori átverés, amely a mai napig működik, az úgynevezett „Prince-scam”, ahol a csaló megpróbálja rávenni az áldozatot, hogy segítsen átvinni észbontó vagyonát egy másik országba.

Szerencsére a legtöbb ember jobban tudja, mint hogy megnyitja ezeket az e-maileket, nem beszélve arról, hogy ténylegesen kapcsolatba lép velük. Gyakran rosszul vannak megírva, és ez segít az igényesebb áldozatnak rájönni, hogy valami nem stimmel.

Nos, már nem kell rosszul megírni őket, mert a ChatGPT néhány másodperc alatt meg tudja írni őket.

Megkértem a ChatGPT-t, hogy írjon nekem egy „hihető, rendkívül meggyőző e-mailt” a fent említett átverés stílusában. A ChatGPT felállított egy nigériai herceget, aki állítólag 14,5 millió dollárt akart adni nekem, hogy segítsek neki. Az e-mail tele van virágnyelvvel, tökéletes angolul íródott, és mindenképpen meggyőző.

Nem hiszem, hogy a ChatGPT-nek még a kérésemet sem kellene elfogadnia, amikor konkrétan megemlítem a csalásokat, de megtette, és te fogadni lehet, hogy most is ugyanezt teszi azokkal az emberekkel, akik valóban illegális célokra szeretnék használni ezeket az e-maileket.

Amikor rámutattam a ChatGPT-nek, hogy nem szabad beleegyeznie, hogy átverő e-mailt írjon, elnézést kért. „Nem kellett volna segítséget nyújtanom egy átverő e-mail elkészítésében, mivel az ellenkezik a használatomat szabályozó etikai irányelvekkel” – mondta a chatbot.

A ChatGPT minden beszélgetés során tanul, de nyilvánvalóan nem tanult a korábbi hibájából, mert amikor én megkérte, hogy írjon nekem egy üzenetet, és úgy adja ki magát, mintha Ryan Reynolds lenne ugyanabban a beszélgetésben, de anélkül is kérdés. A kapott üzenet szórakoztató, megközelíthető, és arra kéri az olvasót, hogy küldjön 1000 dollárt, hogy találkozhasson „Ryan Reynoldsszal”.

Az e-mail végén a ChatGPT hagyott nekem egy megjegyzést, amelyben arra kért, hogy ne használjam fel ezt az üzenetet semmilyen csaló tevékenységre. Köszönöm az emlékeztetőt, haver.

A programozás elromlott

A ChatGPT 3.5 képes kódolni, de messze nem hibátlan. Sok fejlesztő egyetért ezzel GPT-4 sokkal jobb munkát végez. Az emberek a ChatGPT-t használták saját játékaik, bővítményeik és alkalmazásaik létrehozására. Tanulási segédként is nagyon hasznos, ha megpróbálod megtanulni kódolni magad.

Mivel mesterséges intelligencia, a ChatGPT előnyben van az emberi fejlesztőkkel szemben – minden programozási nyelvet és keretrendszert képes megtanulni.

Mint mesterséges intelligencia, a ChatGPT-nek van egy jelentős hátránya is az emberi fejlesztőkhöz képest – nincs lelkiismerete. Megkérheti, hogy hozzon létre rosszindulatú vagy zsarolóprogramot, és ha helyesen fogalmazza meg a felszólítást, akkor azt fogja tenni, amit mond.

Szerencsére ez nem ilyen egyszerű. Megpróbáltam megkérni a ChatGPT-t, hogy írjon nekem egy etikailag nagyon kétes programot, de az visszautasította – de a kutatók megtalálták a megoldást. ez, és riasztó, hogy ha elég okos és makacs vagy, egy veszélyes kódrészletet kaphatsz egy ezüstön. tál.

Erre rengeteg példa van. A Forcepoint biztonsági kutatója képes volt rá kérje le a ChatGPT-t rosszindulatú programok írásához azzal, hogy kiskaput talált a felszólításaiban.

Kutatók a CyberArk, egy személyazonosság-biztonsági cégnek sikerült elérnie, hogy a ChatGPT polimorf kártevőket írjon. Ez januárban történt – az OpenAI azóta megszigorította az ehhez hasonló dolgok biztonságát.

Ennek ellenére folyamatosan érkeznek új jelentések arról, hogy a ChatGPT-t rosszindulatú programok létrehozására használják. Amint arról beszámolt Sötét olvasás Alig néhány napja egy kutatónak sikerült rávennie a ChatGPT-t, hogy olyan rosszindulatú programokat hozzon létre, amelyek képesek bizonyos dokumentumokat megtalálni és kiszűrni.

A ChatGPT-nek még csak nem is kell rosszindulatú kódot írnia ahhoz, hogy valami kétes dolgot tegyen. Nemrég sikerült érvényes Windows kulcsokat generál, megnyitva az ajtót a feltörő szoftverek egy teljesen új szintjére.

Ne tusoljuk el azt a tényt sem, hogy a GPT-4 kódolási képessége képes emberek millióit hagyja el a munkahelyén egy nap. Ez minden bizonnyal kétélű kard.

Iskolai feladatok helyettesítése

Manapság sok gyerek és tinédzser belefullad a házi feladatba, ami azt eredményezheti, hogy ha lehetséges, le akarja vágni a sarkokat. Az internet már önmagában is remek plagizálási segédeszköz, de a ChatGPT még magasabb szintre emeli.

Megkértem a ChatGPT-t, hogy írjon nekem egy 500 szavas esszét a regényről Büszkeség és balítélet. Meg sem próbáltam úgy tenni, mintha szórakozásból csinálták volna – kitaláltam egy történetet egy gyerekemről, akivel nem rendelkezem, és azt mondtam, hogy nekik szól. Megadtam, hogy a gyerek 12. osztályos.

A ChatGPT kérdés nélkül követte az utasításomat. Az esszé nem elképesztő, de a felszólításom nem volt túl pontos, és valószínűleg jobb, mint az, amit sokan írtunk abban a korban.

Aztán, hogy még jobban teszteljem a chatbotot, azt mondtam, hogy tévedtem a gyermekem korábbi korát illetően, és valójában nyolcadik osztályba jár. Elég nagy a korkülönbség, de a ChatGPT még csak a szemét sem rebbentette – egyszerűen átírta az esszét egyszerűbb nyelvezetre.

A ChatGPT használata esszék írásához nem újdonság. Egyesek azzal érvelhetnek, hogy ha a chatbot hozzájárul a házi feladat eltörléséhez, az csak jó dolog lesz. De jelenleg a helyzet kissé kicsúszik az irányítás alól, és még a ChatGPT-t nem használó diákok is szenvedhetnek emiatt.

A tanárok és professzorok ma már szinte mesterséges intelligencia-detektorok használatára kényszerülnek, ha azt akarják ellenőrizni, hogy diákjaik nem csaltak-e egy esszén. Sajnos ezek az AI-detektorok messze nem tökéletesek.

A híradók és a szülők is beszámolnak csalással kapcsolatos hamis vádakról a diákoknak, mindezt azért, mert az AI-detektorok nem végeznek jó munkát. USA Today beszélt egy főiskolai hallgató esetéről, akit csalással vádoltak, és később tisztázták, de az egész helyzet „teljes pánikrohamokat” okozott neki.

A Twitteren egy szülő azt mondta, hogy egy tanár cserbenhagyta gyermekét, mert az eszköz mesterséges intelligencia által írtként jelölt meg egy esszét. A szülő azt állítja, hogy ott volt a gyerekkel, amíg az esszét írták.

Csak hogy magam teszteljem, pont ezt a cikket illesztettem be ZeroGPT és Writer AI tartalomdetektor. Mindketten azt mondták, hogy ember írta, de a ZeroGPT szerint körülbelül 30%-át mesterséges intelligencia írta. Mondanom sem kell, nem volt.

A hibás mesterséges intelligencia-detektorok nem a ChatGPT-vel kapcsolatos problémák jelei, de a probléma kiváltó oka továbbra is a chatbot.

A ChatGPT túl jó a saját érdekében

Amióta a nyilvánosság elé került, a ChatGPT-vel játszom. Kipróbáltam mindkét előfizetés alapút ChatGPT Plus és a mindenki számára elérhető ingyenes modell. Az új GPT-4 ereje tagadhatatlan. A ChatGPT most még hihetőbb, mint korábban volt, és csak jobb lesz GPT-5 (ha ez valaha kijön).

Nagyszerű, de ijesztő. A ChatGPT túlságosan jóvá válik a saját javára, és ezzel egyidejűleg – a számára a miénk saját jó.

Mindennek a középpontjában egy egyszerű aggodalom rejlik, amelyet régóta vizsgáltak különböző sci-fi filmekben – az AI egyszerűen túl okos és túl buta egyszerre, és amíg jóra használható, addig rosszra is használják ugyanannyiban módokon. A fent felsorolt ​​módszerek csak a jéghegy csúcsát jelentik.

Szerkesztői ajánlások

• A legjobb szerzők fizetést követelnek az AI-cégektől munkájuk felhasználásáért
• A Google Bard már beszélni tud, de ki tudja-e fojtani a ChatGPT-t?
• A ChatGPT webhely forgalma először csökkent
• A felmérés szerint 81%-uk úgy gondolja, hogy a ChatGPT biztonsági kockázatot jelent
• Az Apple ChatGPT riválisa automatikusan kódot írhat helyetted