给列表加缓存时,我更在意一个小问题:缓存满了,下一次请求会把谁挤出去?函数名写着 evictLRU,并不能代替这个答案。
这次检查的是我维护的 XYGo Admin 仓库里沿用的表格缓存工具。文件保留了 Art Design Pro Team 的署名,不把它说成我们独创的算法。固定提交为 6370847d8f24e076219092aa2a62539be46d4d02。我把原始 TypeScript 文件放进独立目录,调用真实的 TableCache,没有重写一份“看起来相同”的算法来证明结论。
结果有两个值得补测试的地方:淘汰先比较访问次数,次数相同时才比较最近访问时间;容量检查在插入之前运行,而且当前大小等于上限时直接返回。因此,配置容量为 2,连续插入不同键,实际可以留下 3 项。下面只讨论这个文件的行为,不是线上故障复盘,也没有性能测试。
先确认这段代码有没有被启用
缓存工具在 web/src/utils/table/tableCache.ts,调用方在 web/src/hooks/core/useTable.ts。后者的默认配置是:
performance: {
enableCache = false,
cacheTime = 5 * 60 * 1000,
debounceTime = 300,
maxCacheSize = 50
} = {}
实例创建也有同样的开关:
const cache = enableCache
? new TableCache<TRecord>(cacheTime, maxCacheSize, enableLog)
: null
所以不能据此写“所有列表都受影响”。使用默认值的调用不会创建缓存。具体页面是否打开了开关,要继续查调用参数;本次没有逐页验收,也没有证明在线 Demo 部署了这个提交。
名字是LRU,比较器更接近按频率淘汰
严格的 LRU 按最近使用顺序选牺牲项。高频但很久没访问的记录,不应仅因为过去访问次数多就一直留下。
原始文件的判断是:
if (
item.accessCount < minAccessCount ||
(item.accessCount === minAccessCount &&
item.lastAccessTime < oldestTime)
) {
lruKey = key
minAccessCount = item.accessCount
oldestTime = item.lastAccessTime
}
主排序字段是 accessCount,lastAccessTime 只负责打破平局。更准确的描述是“按频率优先、同频按时间”的淘汰,不是严格 LRU。这里也没有频率衰减,不能把它等同于 Redis 的 LFU 实现。
我用递增的 Date.now() 控制时间,不靠毫秒级真实等待。每次 set 初始次数为 1,成功 get 增加次数并更新时间。构造下面的状态:
| 键 | 插入后额外成功读取 | 最终次数 | 最后访问关系 |
|---|---|---|---|
| A | 5 | 6 | 较早 |
| B | 2 | 3 | 最新 |
| C | 4 | 5 | 早于B |
然后插入 D。按照严格 LRU,A 应该先离开;按照当前比较器,B 的次数最少,会被删除。原始类实际运行后保留 A,C,D。这比读函数名更有说服力,也比只测“set 后能 get”更接近淘汰策略的验收。
容量上限还差一个插入时机
淘汰函数开头写着:
if (this.cache.size <= this.maxSize) return
而 set 的顺序是先调用它,再写入 Map:
this.evictLRU()
this.cache.set(key, {
data, response, timestamp: now, params: key, tags,
accessCount: 1, lastAccessTime: now
})
当前有 2 项、上限也是 2 时,清理函数返回,第三项照常插入。下一次插入前虽然删掉一项,但紧接着又写进一项,大小仍是 3。
覆盖已有键则是另一种情况。实验先插入 X、Y、Z,此时大小为 3;再覆盖 Z,清理先删掉了同频且更早的 X,随后覆盖已有 Z,大小变成 2。也就是说,一次更新可能淘汰另一条记录,即使这次更新本身不需要额外槽位。
这不是内存占用测量。maxSize 数的是条目,不是字节;一项里面的数据量仍取决于接口返回。单凭多一项不能估算浏览器会增加多少 MB,更不能外推页面卡顿。
还有一个测试上的细节:不要为了打印状态,先把所有键逐个读取一遍。这里的读取会同时改变次数和时间,原本用于观察的代码就会改变下一次淘汰结果。表里的次数在插入 D 之前确定,存留检查在淘汰发生之后才运行。若以后增加只读快照接口,应保证它不更新这些字段,否则调试工具也会干扰策略。
时间也要固定。连续操作可能落在同一个毫秒里,测试就会意外依赖 Map 的遍历顺序;本次每次操作主动递增时间,避免把这种平局误认成最近访问顺序。
复现用真实文件,输出单独留档
实验环境为 Node v26.7.0,tsx@4.20.6、ohash@2.0.11。源码未修改,保留头部版权和原作者说明。把固定提交的 tableCache.ts 保存到实验目录后,依赖与执行命令如下:
npm install --ignore-scripts --no-audit --no-fund tsx@4.20.6 ohash@2.0.11
node --import tsx experiment.ts
下面是核心容量和淘汰测试,可作为 experiment.ts 运行。观察用的 getStats() 不增加访问次数;最后的存留检查才调用 get,避免测试把被测状态提前改变。
import assert from 'node:assert/strict'
import { TableCache } from './tableCache.ts'
let now = 1000
const original = Date.now
Date.now = () => now
const c = new TableCache<string>(100000, 2)
const put = (key: string) => c.set({ key }, [key], { records: [key] })
try {
put('A'); now++; put('B')
console.log('capacity after2=' + c.getStats().total)
for (let i = 0; i < 5; i++) { now++; c.get({ key: 'A' }) }
now++; c.get({ key: 'B' })
now++; put('C')
console.log('capacity after3=' + c.getStats().total)
for (let i = 0; i < 4; i++) { now++; c.get({ key: 'C' }) }
now++; c.get({ key: 'B' })
now++; put('D')
console.log('capacity after4=' + c.getStats().total)
const present = ['A', 'B', 'C', 'D'].filter(key => c.get({ key }) !== null)
console.log('survivors=' + present.join(','))
assert.deepEqual(present, ['A', 'C', 'D'])
assert.equal(c.getStats().total, 3)
} finally {
Date.now = original
}
实际输出中的对应结果:
capacity after2=2
capacity after3=3
capacity after4=3
survivors=A,C,D
补充测试还覆盖了 TTL:缓存时长设 10,经过 10 个时间单位仍可读取,11 时返回空。这来自代码的 > 判断,不是 >=。我也检查了覆盖键后的条目数,结果为 2。测试只运行独立缓存类,没有启动完整 Vue 页面、后端数据库或公共 Demo,更没有模拟真实用户流量。
改代码之前,先约定想要哪种行为
如果确实想要频率优先,可以保留比较器并修改命名和文档;如果要求严格 LRU,则应只按访问顺序选择淘汰项,并为同时间值给出稳定规则。这是两种产品选择,不能只把函数改名就说缓存策略已经修好。
容量处理可以区分新增和覆盖:新增前清理到有空位,覆盖时不因容量误删别的键。也可以先写入再按上限清理,但要明确新项是否允许立刻被淘汰。上限为 0、负值以及过期项未被访问时如何清理,都需要另写用例。本次没有向项目仓库提交修复,文中的建议不代表已上线功能。
还有个指标容易误读:getStats().hitRate 返回的是每个存留项的平均访问次数,格式为 avg hits,没有总查询次数和未命中次数这个分母。它不能拿来宣称“命中率提升了多少”。要做真正的命中率,先定义命中、未命中、过期和清空后的统计周期。
固定源码可在表格缓存文件核对。另一个证据是同提交下的 web/src/hooks/core/useTable.ts,用于确认默认开关,而不是证明每个页面都打开了缓存。
我维护的 XYGo Admin 是后台工程样本,这篇展示的是其中一个可以独立验收的前端工具,不把它包装成性能成果。想看项目范围、部署文档与演示入口,可从官网进入,也可查源码仓库。本次确认演示介绍页与后台登录界面可达,没有登录完成业务操作;开源版与 Pro 的功能范围请以官网和对应版本源码分别核对。
你们在后台列表里更希望保留最近访问,还是经常访问的数据?如果只能先补一条缓存测试,我会选“满了之后到底删谁”,你会测哪条?