首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
GPTCache
SimFG
创建于2023-04-13
订阅专栏
GPTCache相关内容,包括:介绍、用法等 项目地址:https://github.com/zilliztech/GPTCache
等 1 人订阅
共4篇文章
创建于2023-04-13
订阅专栏
默认顺序
默认顺序
最早发布
最新发布
GPTCache,LangChain,强强联合
LangChain命中缓存的条件是,必须是完全相同的两个问题,在实际使用过程,要命中缓存还是有一定难度,其缓存利用率有比较大的提升空间。GPTCache的接入,将可以很好的完善LangChain缓存模
GPT Cache:2 如何配置缓存存储
如何配置缓存存储,包括设置大小、存储方式、搜索等,介绍目前最基本的三种缓存管理,包括了map、标量数据库+向量索引搜索和标量数据库+向量数据库
最近频繁使用 LLM,有没有既提升性能又节省成本的办法?
想提升大型语言模型(LLM)应用的性能?用 GPTCache。 想提升 LLM 应用性能的同时降低开销?还得用 GPTCache!
GPT Cache:1 介绍
⚡ GPT Cache 是一个强大的缓存库,可用于加速和降低依赖 LLM 服务的聊天应用程序的成本。 而且它类似于aigc场景中的redis。