Geheugen is een van de meest beperkende factoren van zelfs de beste AI-chatbots, maar er zijn manieren om dit te omzeilen. Eén techniek die ChatGPT-experts gebruiken is wat mensen ‘Shogtongue’ noemen.
Shogtongue is een gecomprimeerde vorm van tekst die ChatGPT voor u kan maken en later uit te breiden en te gebruiken als geschiedenis, zodat u verder kunt gaan waar u was gebleven in eerdere gesprekken.
Aanbevolen video's
Technieken om AI-prompts in te korten zijn geen nieuw concept, maar de interessante naam is dat wel. Wanneer gfodor deelde vorige week een sterk gecomprimeerde prompt in een tweet, hij stelde voor de naam Shogtongue te gebruiken.
Shogtong
— [email protected] (@gfodor) 5 april 2023
Wanneer de prompt “2Pstory@shoggothNW$RCT_magicspell=#sleutelvrijgave^1stHuman*PLNs_Freed” wordt gegeven aan de GPT-4-versie van ChatGPT, het deelt blijkbaar een verhaal over H.P. De Shoggoth-wezens van Lovecraft, vormeloze klodders die in elk ander wezen konden veranderen. Dit is een toepasselijke naam, aangezien deze onleesbare prompt verandert in een lang verhaal.
Jeremy Nguyen gaf een meer gedetailleerde uitleg in een recente tweetthread. Het basisidee is om ChatGPT te vragen het gehele voorgaande gesprek te comprimeren in een minimaal aantal tokens (de representatie van de taal die AI intern gebruikt). Er worden aanvullende instructies gegeven om dit basiscommando te verfijnen en het doel te versterken: de chat opslaan in een gecomprimeerde prompt die het hele gesprek opnieuw creëert.
Nguyen zei dat de Shogtongue-prompt kan worden ingevoerd om verder te gaan waar je was gebleven, maar aangezien de resultaten niet perfect zijn, kan het helpen om wat context te geven. Door aan ChatGPT te verduidelijken dat deze tekst is gecomprimeerd om geheugen te besparen en als geschiedenis moet worden gebruikt, krijgt de AI een hint over hoe de prompt moet worden geïnterpreteerd.
Gesprekken die maanden duren of chats waarbij meerdere grote documenten worden geplakt, kunnen met deze techniek mogelijk zijn.
1/ ChatGPT heeft een beperkt geheugen. Het vergeet details als uw chat meer dan ~8k woorden bevat.
Maar met Shogtongue kun je gesprekken gemakkelijk 5-10x verlengen
Hier is hoe: pic.twitter.com/7ENNQ9krMo
— Jeremy Nguyen ✍🏼 🚢 (@RunGreatClasses) 10 april 2023
Microsoft beperkte de gespreksgeschiedenis van Bing Chat in vroege tests nadat het uit de rails liep en begon met mensen te discussiëren over de duidelijke fouten ervan. Het is onbekend of het gebruik van Shogtongue tot soortgelijke verwarde toestanden zou kunnen leiden met ChatGPT. GPT-4 is sinds de release enorm verfijnd, waardoor dit mogelijk is Microsoft gaat het geheugen van Bing Chat uitbreiden, dus het is misschien geen probleem om uitgebreide chats te hebben met AI-chatbots die gebruikmaken van OpenAI's GPT-4-technologie.
Aanbevelingen van de redactie
- Wordt GPT-4 dommer? Misschien hebben we eindelijk bewijs
- Wix gebruikt ChatGPT om u te helpen snel een hele website te bouwen
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
- Het websiteverkeer van ChatGPT is voor het eerst gedaald
- De Bing-browsingfunctie van ChatGPT is uitgeschakeld vanwege een toegangsfout in de betaalmuur
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
