设计一个带有过期时间的LRU缓存

2,492 阅读3分钟

问题描述

如何设计实现LRU缓存?且GET()和Set()的复杂度为0(1)。

问题分析

LRU 全称Least Recently Used, 最近最少使用缓存。

image.png

LRU算法的设计原则

如果一个数据在最近一段时间没有被访问到,那么在将来它被访问的可能性也很小 也就是说,当限定的空间已存满 数据时,应当把最久没有被访问到的数据淘汰

而用什么数据结构来实现LRU算法呢?

可能大多数人都会想到:用一个数组来存储数据,给每一个数据项标记一个访问时间戳,每次插入新数据项的时 候,先把数组中存在的数据项的时间戳自增,并将新数据项的时间戳置为0并插入到数组中。每次访问数组中的数 据项的时候,将被访问的数据项的时间戳置为0。当数组空间已满时,将时间戳最大的数据项淘汰。 这种实现思路 很简单,但是有什么缺陷呢?需要不停地维护数据项的访问时间戳,另外,在插入数据、删除数据以及访问数据 时,时间复杂度都是O(n),数组的缺陷凸显无疑

那么有没有更好的实现办法呢?

那就是利用链表和HashMap。 当需要插入新数据项,在链表中命中,则把该节点移到链表头部 不存在,则新建一个节点,放在链表头部,若缓存满,则把链表最后一个节点删除即可。 在访问数据时,若数据项在链表中存在,则把该节点移到链表头部,否则返回-1 这样一来在链表尾部的节点就是最近最久未访问的数据项。

1)set(key,value) 若key在hashmap中存在,则先重置value,然后获取对应节点cur,将其从链表删除,并移到链表头 不存在,则新 建一个节点,并将节点放到链表的头部。 当Cache满,删除链表最后一个节点

2)get(key) 若key在hashmap中存在,把对应的节点放到链表头,并返回对应value 若不存在,则返回-1 即保证基本的get/set 同时,还要保证最近访问(get或put)的节点保持在限定容量的Cache中,如果超过容量则应该把LRU(近期最少使用) 的节点删除掉。

当我们在get/set一个节点时都会把操作的这个节点移动到tail节点处,代表最新操作的节点,head节点永远指向最 老的节点,当超过设定的容量时,我们就删除head节点指向的最老节点 就像是个LinkedHashMap,这样做的好处是,get/set在不冲突情况下可保证O(1)复杂度 也可通过双向链表保证 LRU的删除/更新O(1)复杂度 当然可简化head和tail变成一个head节点,成环,这样head的next指向最旧的节点,prev指向最新的节点。

过期时间实现

维护一个线程 惰性删除

image.png