![[送心]](http://lf-web-assets.juejin.cn/obj/juejin-web/xitu_juejin_web/img/jj_emoji_56.5777828.png)
岳俊奇
Api测试师
|
聊聊科技
获得徽章 0
赞了这篇文章
赞了这篇文章
赞了这篇文章
赞了这篇沸点
刚刚看了下 memgpt，主要还是在 context 长度管理上，我感觉其思路和我想的差不多…… 只不过它是在GPT4的11月更新之前发的，现在的有效 context 长度可能比当时长了5倍以上。此外它用操作系统虚拟内存做类比，我倒是有个想法，可以对会话信息做更精细的处理，这就可以跟虚拟机的GC做类比。比如分析每条历史会话和当前状态的相关性，相关度最差的就archive掉，这就是GC。为了提升性能节约成本，可以经过多次都存活的历史会话标记一下就不用检查了，这就是新生代和老生代机制。如果有谁按这个思路做了写了论文，记得让我挂名混个三作四作就行，嘻嘻。
展开
8
21
赞了这篇文章
赞了这篇文章