对于web开发而言,缓存必不可少,也是提高性能最常用的方式。无论是浏览器缓存(如果是chrome浏览器,可以通过chrome:😕/cache查看),还是服务端的缓存(通过memcached或者redis等内存数据库)。缓存不仅可以加速用户的访问,同时也可以降低服务器的负载和压力。那么,了解常见的缓存淘汰算法的策略和原理就显得特别重要。
常见的缓存算法
- lru (least recently used) 最近最少使用,如果数据最近被访问过,那么将来被访问的几率也更高。
- lfu (least frequently used) 最不经常使用,如果一个数据在最近一段时间内使用次数很少,那么在将来一段时间内被使用的可能性也很小。
- fifo (fist in first out) 先进先出, 如果一个数据最先进入缓存中,则应该最早淘汰掉。
lru缓存
像浏览器的缓存策略、memcached的缓存策略都是使用lru这个算法,lru算法会将近期最不会访问的数据淘汰掉。lru如此流行的原因是实现比较简单,而且对于实际问题也很实用,良好的运行时性能,命中率较高。下面谈谈如何实现lru缓存:
- 新数据插入到链表头部
- 每当缓存命中(即缓存数据被访问),则将数据移到链表头部
- 当链表满的时候,将链表尾部的数据丢弃
lru cache具备的操作:
- set(key,value):如果key在hashmap中存在,则先重置对应的value值,然后获取对应的节点cur,将cur节点从链表删除,并移动到链表的头部;若果key在hashmap不存在,则新建一个节点,并将节点放到链表的头部。当cache存满的时候,将链表最后一个节点删除即可。
- get(key):如果key在hashmap中存在,则把对应的节点放到链表头部,并返回对应的value值;如果不存在,则返回-1。
lru的c 实现
lru实现采用双向链表 map 来进行实现。这里采用双向链表的原因是:如果采用普通的单链表,则删除节点的时候需要从表头开始遍历查找,效率为o(n),采用双向链表可以直接改变节点的前驱的指针指向进行删除达到o(1)的效率。使用map来保存节点的key、value值便于能在o(logn)的时间查找元素,对应get操作。
双链表节点的定义:
struct cachenode {
int key; // 键
int value; // 值
cachenode *pre, *next; // 节点的前驱、后继指针
cachenode(int k, int v) : key(k), value(v), pre(null), next(null) {}
};
对于lrucache这个类而言,构造函数需要指定容量大小
lrucache(int capacity)
{
size = capacity; // 容量
head = null; // 链表头指针
tail = null; // 链表尾指针
}
双链表的节点删除操作:
void remove(cachenode *node)
{
if (node -> pre != null)
{
node -> pre -> next = node -> next;
}
else
{
head = node -> next;
}
if (node -> next != null)
{
node -> next -> pre = node -> pre;
}
else
{
tail = node -> pre;
}
}
将节点插入到头部的操作:
void sethead(cachenode *node)
{
node -> next = head;
node -> pre = null;
if (head != null)
{
head -> pre = node;
}
head = node;
if (tail == null)
{
tail = head;
}
}
get(key)操作的实现比较简单,直接通过判断map是否含有key值即可,如果查找到key,则返回对应的value,否则返回-1;
int get(int key)
{
map::iterator it = mp.find(key);
if (it != mp.end())
{
cachenode *node = it -> second;
remove(node);
sethead(node);
return node -> value;
}
else
{
return -1;
}
}
set(key, value)操作需要分情况判断。如果当前的key值对应的节点已经存在,则将这个节点取出来,并且删除节点所处的原有的位置,并在头部插入该节点;如果节点不存在节点中,这个时候需要在链表的头部插入新节点,插入新节点可能导致容量溢出,如果出现溢出的情况,则需要删除链表尾部的节点。
void set(int key, int value)
{
map::iterator it = mp.find(key);
if (it != mp.end())
{
cachenode *node = it -> second;
node -> value = value;
remove(node);
sethead(node);
}
else
{
cachenode *newnode = new cachenode(key, value);
if (mp.size() >= size)
{
map::iterator iter = mp.find(tail -> key);
remove(tail);
mp.erase(iter);
}
sethead(newnode);
mp[key] = newnode;
}
}