Паметта е един от най-ограничаващите фактори дори на най-добрите AI чатботове, но има начини да заобиколите това. Една техника, използвана от експертите на ChatGPT е това, което хората наричат „Shogtongue“.
Shogtongue е компресирана форма на текст, който ChatGPT може да създаде за вас и по-късно разширете и използвайте като хронология, за да можете да продължите откъдето сте спрели в минали разговори.
Препоръчани видеоклипове
Техниките за съкращаване на AI подканите не са нова концепция, но интересното име е. Кога gfodor сподели силно компресирана подкана в туит миналата седмица, той предложи използването на името Shogtongue.
Шогезик
— [email protected] (@gfodor) 5 април 2023 г
Когато се появи подканата „2Pstory@shoggothNW$RCT_magicspell=#keyRelease^1stHuman*PLNs_Freed” се дава на GPT-4 версия на ChatGPT, очевидно споделя история за H.P. Съществата Shoggoth на Лъвкрафт, които бяха безформени петна, които можеха да се трансформират във всяко друго същество. Това е подходящо име, като се има предвид, че тази нечетлива подкана се превръща в дълга история.
Джеръми Нгуен даде по-подробно обяснение в скорошна нишка в туит. Основната идея е да помолите ChatGPT да компресира целия предходен разговор в минимален брой токени (представянето на езика, който AI използва вътрешно). Дадени са допълнителни инструкции за усъвършенстване на тази основна команда и засилване на целта — за съхраняване на чата в компресирана подкана, която ще пресъздаде целия разговор.
Нгуен каза, че подканата Shogtongue може да бъде въведена, за да продължите оттам, откъдето сте спрели, но тъй като резултатите не са перфектни, предоставянето на някакъв контекст може да помогне. Изясняването на ChatGPT, че този текст е компресиран, за да спести памет и трябва да се използва като история, ще предостави на AI намек за това как трябва да се интерпретира подканата.
Разговори, които обхващат месеци, или чатове, които включват поставяне на няколко големи документа, могат да бъдат възможни с помощта на тази техника.
1/ ChatGPT има ограничена памет. Той забравя подробности, ако вашият чат надхвърля ~8k думи.
Но Shogtongue ви позволява лесно да удължите разговорите с 5-10 пъти
Ето как: pic.twitter.com/7ENNQ9krMo
— Джеръми Нгуен ✍🏼 🚢 (@RunGreatClasses) 10 април 2023 г
Microsoft ограничи историята на разговорите на Bing Chat в ранните тестове, след като излезе извън релсите и започна да спори с хората за своите очевидни грешки. Не е известно дали използването на Shogtongue може да доведе до подобни объркани състояния с ChatGPT. GPT-4 е значително усъвършенстван след пускането си, което позволява Microsoft ще разшири паметта на Bing Chat, така че може да не е проблем да имате разширени чатове с AI chatbots, които използват Технологията GPT-4 на OpenAI.
Препоръки на редакторите
- Става ли GPT-4 по-тъп? Може най-накрая да имаме някакво доказателство
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
- Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
