redis-跳表

71 阅读5分钟

一、内存分配

#define increment_used_memory(_n) do { \
    if (zmalloc_thread_safe) { \
        pthread_mutex_lock(&used_memory_mutex);  \
        used_memory += _n; \
        pthread_mutex_unlock(&used_memory_mutex); \
    } else { \
        used_memory += _n; \
    } \
} while(0)

static void zmalloc_oom(size_t size) {
    fprintf(stderr, "zmalloc: Out of memory trying to allocate %zu bytes\n",
        size);
    fflush(stderr);
    abort();
}

void *zmalloc(size_t size) {
    void *ptr = malloc(size+PREFIX_SIZE);

    if (!ptr) zmalloc_oom(size);
#ifdef HAVE_MALLOC_SIZE
    increment_used_memory(redis_malloc_size(ptr));
    return ptr;
#else
    *((size_t*)ptr) = size;
    increment_used_memory(size+PREFIX_SIZE);
    return (char*)ptr+PREFIX_SIZE;
#endif
}

Q:为什么要这样设计?

A:用于保存分配的空间大小。 Redis 这样做是为了能够:

用途说明
统计内存Redis 有个 used_memory 的全局变量,用于追踪总分配内存
实现 zfree()zfree(ptr) 时回到 ptr - PREFIX_SIZE,知道该 free 多大
跨平台兼容某些系统不支持 malloc_size(),必须自己实现记录机制

案例:

ptr = zmalloc(100); // 实际申请了 100 + 8 = 108 字节 Redis 实际在内存里分成两段:

[ size_t (记录100) ][ 100字节真正可用空间 ]
 ^                  ^
 |                  |
 ptr - 8            ptr(返回给用户)

这段 PREFIX_SIZE 的内容是 Redis 自己写进去的:

*((size_t*)ptr) = size;

然后返回的是后面的空间:

return (char*)ptr + PREFIX_SIZE;

二、跳表的结构

typedef struct redisObject {
    unsigned type:4;
    unsigned encoding:4;
    unsigned lru:REDIS_LRU_BITS; /* lru time (relative to server.lruclock) */
    int refcount;
    void *ptr;
} robj;


字段说明:

字段说明
type表示这个对象是哪种类型,比如字符串(REDIS_STRING)、有序集合(REDIS_ZSET)
encoding同一种类型的数据可能有多种存储方式(比如 ZSET 可以是 ziplist 或 skiplist)
lru用于内存回收策略,比如 LRU,表示最后一次访问时间的抽象
refcount引用计数,用于内存管理,引用数为 0 时会释放
ptr指向真实的数据结构(如字符串、哈希表、跳表等)

跳表的结构定义

/* ZSETs use a specialized version of Skiplists */
typedef struct zskiplistNode { // 跳表的节点
    robj *obj;
    double score;
    struct zskiplistNode *backward;
    struct zskiplistLevel {
        struct zskiplistNode *forward;
        unsigned int span;
    } level[];
} zskiplistNode;

typedef struct zskiplist { //跳表的结构
    struct zskiplistNode *header, *tail;
    unsigned long length;
    int level;
} zskiplist;

typedef struct zset {       // 实现由字典和跳表构成
    dict *dict;             // key: 元素成员(sds),value: 分数(double *)
    zskiplist *zsl;         // 跳表结构,按分数排序
} zset;

image.png

注意:这里的表头节点和其他的节点有细微区别,表头节点不存储数据的,虽然也有BW,obj,score但是用不上

关于zskiplistNode节点中的level[]介绍: level[] 是 C99 引入的柔性数组成员,它没有固定大小(默认是0),必须出现在结构体最后一行。它允许你为结构体动态分配“额外的数组空间”。这里涉及到后面的创建Node的时候的内存分配情况。

三、跳表的代码介绍

3.1 创建跳表

// 创建节点
zskiplistNode *zslCreateNode(int level, double score, robj *obj) {
    // 分配空间
    zskiplistNode *zn = zmalloc(sizeof(*zn)+level*sizeof(struct zskiplistLevel));
    // 赋值
    zn->score = score;
    zn->obj = obj;
    return zn;
}

zskiplist *zslCreate(void) {
    int j;
    zskiplist *zsl;

    zsl = zmalloc(sizeof(*zsl));
    zsl->level = 1;
    zsl->length = 0;
    zsl->header = zslCreateNode(ZSKIPLIST_MAXLEVEL,0,NULL);
    for (j = 0; j < ZSKIPLIST_MAXLEVEL; j++) {
        zsl->header->level[j].forward = NULL;
        zsl->header->level[j].span = 0;
    }
    zsl->header->backward = NULL;
    zsl->tail = NULL;
    return zsl;
}

解释1:之前提及的柔性数组的问题,所以我们需要手动的为level分配大小为 level*sizeof(struct zskiplistLevel)的空间

3.2 插入节点

zskiplistNode *zslInsert(zskiplist *zsl, double score, robj *obj) {
    zskiplistNode *update[ZSKIPLIST_MAXLEVEL], *x;
    unsigned int rank[ZSKIPLIST_MAXLEVEL];
    int i, level;

    redisAssert(!isnan(score));
    x = zsl->header;
    
    /* 从最顶层一层一层的向下找
     * 比如当前位于第i层,该层节点x后面的node小于我的插入节点,那么我就往后移
     *       后移的时候:更新rank[i],相当于我往后移了以后,我目前节点是第几个节点
     * 如果当前层后面的节点大于我的插入节点,那么我就需要向下移动节点,但是移动前,
     * 需要跟新我当前层我最多可以走到了哪个节点
     * 最终,找到一个x,也就是我的新节点要插入到X后面 */
     
    for (i = zsl->level-1; i >= 0; i--) {
        /* store rank that is crossed to reach the insert position */
        rank[i] = i == (zsl->level-1) ? 0 : rank[i+1];
        while (x->level[i].forward &&
            (x->level[i].forward->score < score ||
                (x->level[i].forward->score == score &&
                compareStringObjects(x->level[i].forward->obj,obj) < 0))) {
            rank[i] += x->level[i].span;
            x = x->level[i].forward;
        }
        update[i] = x;
    }
    
    /* we assume the key is not already inside, since we allow duplicated
     * scores, and the re-insertion of score and redis object should never
     * happen since the caller of zslInsert() should test in the hash table
     * if the element is already inside or not. */
    // 创建一个新节点,其level层数是随机的
    // 并不是说一定是n,n/2,n/4,n/8这种按照二叉树每层缩短一半(影响插入删除)
    level = zslRandomLevel();
    //判断新节点层数是否超过当前跳跃表最大层数 
    // - zsl->level 存储的是当前整个跳跃表中所有节点的最大层数。 
    // - 如果新生成的随机层数 level 比当前跳跃表的最大层数 zsl->level 还要大, 
    //   意味着跳跃表需要“长高”,需要增加新的层级来容纳这个新节点。
    if (level > zsl->level) {
        // 这个 for 循环遍历所有新增的层级。注意:此时还没有插入节点
        for (i = zsl->level; i < level; i++) {
            rank[i] = 0;
            //在这些新层级 i 上,新节点插入位置的前一个节点必然是跳跃表的头节点
            update[i] = zsl->header;
            // 此时新层级直接会走到末尾,也就是跨越所有节点
            update[i]->level[i].span = zsl->length;
        }
        zsl->level = level;
    }
    x = zslCreateNode(level,score,obj);
    
    for (i = 0; i < level; i++) {
        x->level[i].forward = update[i]->level[i].forward;
        update[i]->level[i].forward = x;

        /* update span covered by update[i] as x is inserted here */
        x->level[i].span = update[i]->level[i].span - (rank[0] - rank[i]);
        update[i]->level[i].span = (rank[0] - rank[i]) + 1;
    }

    /* increment span for untouched levels */
    for (i = level; i < zsl->level; i++) {
        update[i]->level[i].span++;
    }

    x->backward = (update[0] == zsl->header) ? NULL : update[0];
    if (x->level[0].forward)
        x->level[0].forward->backward = x;
    else
        zsl->tail = x;
    zsl->length++;
    return x;
}

update[i]: 保存的是在第 i 层,新元素应该插入位置的前一个节点。例如,update[0] 是在最底层 (level 0) 插入位置的前一个节点。

rank[i]: 保存的是从跳跃表头节点出发,沿着第 i 层到达 update[i] 这个节点(不包括 update[i] 自身)总共跨越了多少个节点。特别是 rank[0],它表示 update[0] 节点在整个跳跃表中的排名(从 0 开始计数,如果想得到 1 开始的排名通常需要 +1,具体看后续逻辑)。

作用是:插入了一个新node以后,我需要更新这个node的各层level指向

image.png