MemGPT es un procesador LLM de contexto fijo mejorado con un sistema de memoria jerárquica y un conjunto de funciones que le permiten gestionar su propia memoria. El contexto principal es la entrada LLM (de longitud fija). MemGPT analiza la salida de texto del LLM en cada ciclo de procesamiento y controla o devuelve el control al realizar llamadas a funciones, utilizadas para mover datos entre el contexto principal y el contexto externo. Cuando el LLM genera una llamada a función, puede solicitar una ejecución de retorno inmediata para encadenar funciones. En el caso de un rendimiento ('yield'), el LLM no volverá a ejecutarse hasta que se active el siguiente evento externo (por ejemplo, un mensaje del usuario o una interrupción programada).