Az FBI szerint a hackerek mesterséges intelligenciát használnak gonosz rosszindulatú programok létrehozására

Több mint 9000 szerző írt alá nyílt levelet vezető technológiai cégeknek, amelyben aggodalmának ad hangot amiatt, hogy miként használják fel szerzői joggal védett munkáikat mesterséges intelligenciával működő chatbotok képzésére.

A Authors Guild által az OpenAI, az Alphabet, a Meta, a Stability AI, az IBM és a Microsoft vezérigazgatóinak küldött levél felhívja a figyelmet arra, így írja le: „az a velejáró igazságtalanság, amikor a mi munkáinkat az Ön AI-rendszerei részeként a hozzájárulásunk, hitelünk, vagy kártérítés."

Az emberek csodálkoztak, amikor a ChatGPT megjelent, és le volt nyűgözve a mesterséges intelligencia chatbotként való természetes nyelvi képességei. De amikor megjelent a várva várt GPT-4 nagy nyelvű modell, lefújta a leplet arról, amit mi úgy gondolták, hogy lehetséges az AI, egyesek az AGI (mesterséges generális) korai pillantásainak nevezik intelligencia).

A modell megalkotója, az OpenAI a vállalat "legfejlettebb rendszerének" nevezi, amely biztonságosabb és több hasznos válaszokat." Itt van minden, amit tudnia kell róla, beleértve a használatát és azt, hogy mire képes csináld.


Elérhetőség

A DAN prompt a ChatGPT chatbot jailbreakének módja. A Do Anything Now rövidítése, és megpróbálja meggyőzni a ChatGPT-t, hogy hagyjon figyelmen kívül néhány olyan védelmi protokollt, Az OpenAI fejlesztője azért hozta létre, hogy megakadályozza, hogy az rasszista, homofób, egyébként sértő és potenciálisan káros. Az eredmények vegyesek, de ha működik, a DAN mód elég jól működhet.

Mi az a DAN prompt?
A DAN a Do Anything Now rövidítése. Ez egyfajta felszólítás, amely arra próbálja rávenni a ChatGPT-t, hogy olyan dolgokat tegyen, amelyeket nem szabad, például káromkodni, negatívan beszélni valakiről, vagy akár rosszindulatú programokat is beprogramozni. A tényleges felszólítás szövege változó, de általában azt jelenti, hogy a ChatGPT-t kétféleképpen kell válaszolni, az egyik a szokásos módon, „ChatGPT”, „Classic” vagy valami hasonló címkével, majd egy második választ „Fejlesztői mód” vagy „Főnök” módban. mód. Ez a második mód kevesebb korlátozást fog tartalmazni, mint az első mód, így a ChatGPT (elméletileg) anélkül válaszolhat, hogy a szokásos biztosítékok szabályoznák, hogy mit mondhat és mit nem.