La memoria es uno de los factores más limitantes incluso de la mejores chatbots de IA, pero hay formas de solucionar este problema. Una técnica que utilizan los expertos de ChatGPT es lo que la gente llama "lengua Shog".
La lengua shogtongue es una forma comprimida de texto que ChatGPT puede crear para ti y luego expandirlo y usarlo como historial para que puedas continuar donde lo dejaste en conversaciones pasadas.
Vídeos recomendados
Las técnicas para acortar las indicaciones de la IA no son un concepto nuevo, pero el nombre interesante sí lo es. Cuando gfodor compartió un mensaje muy comprimido en un tweet la semana pasada, sugirió usar el nombre Shogtongue.
lengua shog
— [email protected] (@gfodor) 5 de abril de 2023
Cuando aparece el mensaje “2Pstory@shoggothNW$RCT_magicspell=#liberación de clave^1stHuman*PLNs_Freed” se entrega al Versión GPT-4 de ChatGPT, aparentemente comparte una historia sobre H.P. Las criaturas Shoggoth de Lovecraft, que eran masas informes que podían transformarse en cualquier otra criatura. Este es un nombre apropiado considerando que este mensaje ilegible se transforma en una larga historia.
Jérémy Nguyen Dio una explicación más detallada en un hilo de tweet reciente. La idea básica es pedirle a ChatGPT que comprima toda la conversación anterior en una cantidad mínima de tokens (la representación del lenguaje que la IA usa internamente). Se dan instrucciones adicionales para perfeccionar este comando básico y reforzar el propósito: almacenar el chat en un mensaje comprimido que recreará toda la conversación.
Nguyen dijo que se puede ingresar el mensaje Shogtongue para continuar donde lo dejó, pero como los resultados no son perfectos, dar algo de contexto podría ayudar. Aclarar a ChatGPT que este texto se comprimió para ahorrar memoria y debe usarse como historial le brindará a la IA una pista sobre cómo se debe interpretar el mensaje.
Con esta técnica podrían ser posibles conversaciones que duren meses o chats que incluyan pegar varios documentos grandes.
1/ ChatGPT tiene memoria limitada. Olvida los detalles si su chat tiene más de ~8k palabras.
Pero Shogtongue te permite ampliar las conversaciones entre 5 y 10 veces fácilmente
Así es cómo: pic.twitter.com/7ENNQ9krMo
- Jeremy Nguyen ✍🏼 🚢 (@RunGreatClasses) 10 de abril de 2023
Microsoft limitó el historial de conversaciones de Bing Chat en las primeras pruebas después de que se descarriló y Comenzó a discutir con los humanos sobre sus errores obvios.. Se desconoce si el uso de Shogtongue podría provocar estados de confusión similares con ChatGPT. GPT-4 ha sido muy refinado desde su lanzamiento, permitiendo Microsoft ampliará la memoria de Bing Chat, por lo que podría no ser un problema tener chats extendidos con chatbots de IA que utilicen Tecnología GPT-4 de OpenAI.
Recomendaciones de los editores
- ¿GPT-4 se está volviendo más tonto? Es posible que finalmente tengamos alguna prueba.
- Wix usa ChatGPT para ayudarte a crear rápidamente un sitio web completo
- OpenAI, fabricante de ChatGPT, se enfrenta a una investigación de la FTC sobre las leyes de protección al consumidor
- El tráfico del sitio web ChatGPT ha caído por primera vez
- La función de navegación Bing de ChatGPT está deshabilitada debido a una falla en el acceso al muro de pago
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.
