Redis 基本特性
1. 非关系型的键值对数据库，可以根据键以O(1) 的时间复杂度取出或插入关联值
2. Redis 的数据是存在内存中的
3. 键值对中键的类型可以是字符串，整型，浮点型等，且键是唯一的
4. 键值对中的值类型可以是string，hash，list，set，sorted set 等
5. Redis 内置了复制，磁盘持久化，LUA脚本，事务，SSL, ACLs，客户端缓存，客户端代理等功能
6. 通过Redis哨兵和Redis Cluster 模式提供高可用性
Redis高性能的原因
1.图示（换算时间：1s =1000 ms ，1ms=1000 us ，1us =1000 ns）：
2.对于内存数据库来说，本身数据就存在于内存里，避免了磁盘 I/O 的限制，无疑访问速度会远大于磁盘数据库。
3.其次Redis，默认是采用一个线程执行指令任务的，既减少了线程上下文切换带来的开销，也避免并发问题。
4.而且Redis中有多种数据类型，每种数据类型的底层都由一种或多种数据结构来支持。正是因为有了这些数据结构，Redis 在存储与读取上的速度才不受阻碍。
深入底层C源码分析Redis
1.Redis是基于键值对存储数据的，像我们平时会使用的时候很容易觉得Redis的键值是多种数据类型的，其实不然，Redis的键值是String类型的，数据变成字节流（byte）基于网络传输的过程，传到Redis服务转成SDS（Simple Dynamic String【简单动态字符串】） String（Redis自定义的数据类型）。既然Redis是基于C语言写的，那么为什么不用原生的？
//如果我们想存储字符串：myname
C： char data[]="myname\0"; //而C语言中对于字符串是默认采用\0作为结尾的
而对于Redis，它是面向多种语言的，对于传过来的数据是不可控的：
如果传输的视频流或者音频的流文件，大概率会出现"name\0orxxx"这种
那么C语言只能读到“name”这部分遇到“\0”，则会视为结束了。（这明显是不合适，容易导致数据丢失）
故，Redis采用sds结构：
struct sdshdr {
int len; //存储的长度
int free; //剩余的空闲空间
char buf[]; //数据存储的地方
};
这种数据结构的好处是：
1.对于存储数据的准确性更高了，依靠len字段来标明准确数据的位置。【二进制安全的数据结构】
2.采用以空间换时间的方式，每次扩容的时候可以适当分配大一点的空间，记录剩余时间是否够下一次的修改或者追加。（减少对象的销毁与创建的步骤）【提供了内存预分配机制，避免了频繁的内存分配】
3.会在数据末尾依旧采用\0作为结尾【兼容C语言的函数库】
说明：
Redis自定义sdshdr数据结构具备三大特性：
【1】二进制安全的数据结构
【2】提供了内存预分配机制，避免了频繁的内存分配
【3】兼容C语言的函数库
2.String类型的数据结构
1）代码展示
//redis 3.2 以前
struct sdshdr {
int len;
int free;
char buf[];
};
//redis 3.2 后
//redis\deps\hiredis\sds.h文件
typedef char *sds;
//存在注释：sdshdr5 is never used, we just access the flags byte directly.However is here to document the layout of type 5 SDS strings.
//意思大概是：sdshdr5从未使用过，我们只是直接访问标志字节。然而，这里是为了记录类型5 SDS字符串的布局
struct __attribute__ ((__packed__)) sdshdr5 { // 对应的字符串长度小于 1<<5
unsigned char flags;
char buf[];
};
//__attribute__ ((packed)) 的作用就是告诉编译器取消结构体在编译过程的优化对齐，按照实际占用字节数进行对齐
struct __attribute__ ((__packed__)) sdshdr8 { // 对应的字符串长度小于 1<<8
uint8_t len; //目前字符串的长度
uint8_t alloc; //分配的内存总长度
unsigned char flags; //flag用3bit来标明类型，类型后续解释，其余5bit目前没有使用
char buf[]; //柔性数组，以'\0'结尾
};
struct __attribute__ ((__packed__)) sdshdr16 { // 对应的字符串长度小于 1<<16
uint16_t len;
uint16_t alloc;
unsigned char flags;
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr32 { // 对应的字符串长度小于 1<<32
uint32_t len;
uint32_t alloc;
unsigned char flags;
char buf[];
};
struct __attribute__ ((__packed__)) sdshdr64 { // 对应的字符串长度小于 1<<64
uint64_t len;
uint64_t alloc;
unsigned char flags;
char buf[];
};
#define SDS_TYPE_5 0
#define SDS_TYPE_8 1
#define SDS_TYPE_16 2
#define SDS_TYPE_32 3
#define SDS_TYPE_64 4
static inline char sdsReqType(size_t string_size) {
if (string_size < 1<<5)
return SDS_TYPE_5;
if (string_size < 1<<8)
return SDS_TYPE_8;
if (string_size < 1<<16)
return SDS_TYPE_16;
#if (LONG_MAX == LLONG_MAX)
if (string_size < 1ll<<32)
return SDS_TYPE_32;
return SDS_TYPE_64;
#else
return SDS_TYPE_32;
#endif
}
2）发现说明
【1】为什么要对原本的数据结构进行修改？（改版后的优化在哪里）
因为int占据4个字节（8bit），也就是能存42亿左右的，但是在我们实际上，存储的数据大概率都是小数据，所以它存在浪费资源的嫌疑。
所以进行优化的思维就是根据不同的数据范围，设置不同容量，如，uint8_t 表示占据1字节（8bit，在二进制中最大可以表示255），uint16_t 表示占据2字节（16bit，在二进制中最大可以表示65535）
【2】官网上说String类型限制大小512M，是怎么限制的？
//位于t_string.c文件中
//为什么要限制，要知道512M已经是一个很大的值了（已经是一个bigkey了），在redis单线程操作中已经很容易阻塞线程
//故在追加命令appendCommand和设置命令setrangeCommand中都会进行校验
static int checkStringLength(client *c, long long size) {
if (size > 512*1024*1024) {
addReplyError(c,"string exceeds maximum allowed size (512MB)");
return C_ERR;
}
return C_OK;
}
3）分析是怎么创建的
//在sds.c文件内
//sds在创建的时候，buf数组初始大小为：struct结构体大小 + 字符串的长度+1, +1是为了在字符串末尾添加一个\0。
//在完成字符串到字符数组的拷贝之后，会在字符串末尾加一个\0，这样可以复用C语言的一些函数。
sds sdsnewlen(const void *init, size_t initlen) {
void *sh;
sds s;
// 根据长度计算sds类型
char type = sdsReqType(initlen);
if (type == SDS_TYPE_5 && initlen == 0) type = SDS_TYPE_8; //为空时强制用sdshdr8
// 获取结构体大小
int hdrlen = sdsHdrSize(type);
unsigned char *fp; /* flags pointer. */
// 分配内存空间，初始大小为：struct结构体大小+字符串的长度+1,+1是为了在字符串末尾添加一个\0，兼容传统C语言
sh = s_malloc(hdrlen+initlen+1);
// sh在这里指向了这个刚刚分配的内存地址
if (sh == NULL) return NULL;
// 判断是否是init阶段
if (!init)
//init 不为空的话，将sh这块内存全部设置为0
memset(sh, 0, hdrlen+initlen+1);
// 指向buf数组的指针
s = (char*)sh+hdrlen;
//因为可以看到地址的顺序是 len,alloc,flag,buf,目前s是指向buf，那么后退1位,fp 正好指向了flag对应的地址
fp = ((unsigned char*)s)-1;
// 类型选择
switch(type) {
case SDS_TYPE_5: {
*fp = type | (initlen << SDS_TYPE_BITS);
break;
}
case SDS_TYPE_8: {
SDS_HDR_VAR(8,s);
sh->len = initlen;
sh->alloc = initlen;
*fp = type;
break;
}
case SDS_TYPE_16: {
SDS_HDR_VAR(16,s);
sh->len = initlen;
sh->alloc = initlen;
*fp = type;
break;
}
case SDS_TYPE_32: {
SDS_HDR_VAR(32,s);
sh->len = initlen;
sh->alloc = initlen;
*fp = type;
break;
}
case SDS_TYPE_64: {
SDS_HDR_VAR(64,s);
sh->len = initlen;
sh->alloc = initlen;
*fp = type;
break;
}
}
//如果两者都不为空，则init 这个对应的字符串，赋值给s
if (initlen && init)
memcpy(s, init, initlen); // 将字符串拷贝到buf数组
s[initlen] = '\0'; // 字符串末尾添加一个\0
return s;
}
// 获取结构体大小
static inline int sdsHdrSize(char type) {
switch(type&SDS_TYPE_MASK) {
case SDS_TYPE_5:
return sizeof(struct sdshdr5);
case SDS_TYPE_8:
return sizeof(struct sdshdr8);
case SDS_TYPE_16:
return sizeof(struct sdshdr16);
case SDS_TYPE_32:
return sizeof(struct sdshdr32);
case SDS_TYPE_64:
return sizeof(struct sdshdr64);
}
return 0;
}
4）怎么防止操作时缓冲区溢出
//先检查 SDS 的空间是否满足修改所需的要求
//如果不满足要求的话，API 会自动将 SDS 的空间扩展到执行修改所需的大小
//最后才是返回，去执行实际的修改操作
sds sdscatlen(sds s, const void *t, size_t len) {
size_t curlen = sdslen(s); //获取s已经使用过的空间字符数
s = sdsMakeRoomFor(s,len); //扩大s的空闲空间
if (s == NULL) return NULL;
memcpy(s+curlen, t, len); //拷贝数据
sdssetlen(s, curlen+len); //设置s的len
s[curlen+len] = '\0'; //最后加上空字符串
return s;
}
5）分析是怎么扩容的
代码展示
// 扩容sds
sds sdsMakeRoomFor(sds s, size_t addlen) {
void *sh, *newsh;
//获取剩余可用的空间
size_t avail = sdsavail(s);
size_t len, newlen;
char type, oldtype = s[-1] & SDS_TYPE_MASK;
int hdrlen;
//如果可用空间大于需要增加的长度，那么直接返回
if (avail >= addlen) return s;
//len 已使用长度
len = sdslen(s);
//sh 回到指向了这个sds的起始位置。
sh = (char*)s-sdsHdrSize(oldtype);
// newlen 代表最小需要的长度
newlen = (len+addlen);
//Redis认为一旦被扩容了，那这个字符串被再次扩容的几率就很大，所以会在此基础上多加一些空间，防止频繁扩容
if (newlen < SDS_MAX_PREALLOC)
newlen *= 2;
else
newlen += SDS_MAX_PREALLOC;
//获取新长度的类型
type = sdsReqType(newlen);
//如果是SDS_TYPE_5会被强行转为SDS_TYPE_8
if (type == SDS_TYPE_5) type = SDS_TYPE_8;
hdrlen = sdsHdrSize(type);
if (oldtype==type) {
//sh是开始地址，在开始地址的基础上，分配更多的空间，逻辑如同初始化部分，hdrlen 是head的长度，即struct本身大小。后面newlen 是buf 大小， +1 是为了结束符号，sds 通常情况下是可以直接打印的
newsh = s_realloc(sh, hdrlen+newlen+1);
if (newsh == NULL) {
s_free(sh);
return NULL;
}
s = (char*)newsh+hdrlen;
} else {
//如果类型发生变化，地址内容不可复用，所以找新的空间。
newsh = s_malloc(hdrlen+newlen+1);
if (newsh == NULL) return NULL;
//复制原来的str到新的sds 上面,newsh+hdrlen 等于sds buf 地址开始的位置，s 原buf的位置，len+1 把结束符号也复制进来
memcpy((char*)newsh+hdrlen, s, len+1);
//释放前面的内存空间
s_free(sh);
//调整s开始的位置，即地址空间指向新的buf开始的位置
s = (char*)newsh+hdrlen;
//-1 正好到了flag的位置
s[-1] = type;
//分配len的值
sdssetlen(s, len);
}
sdssetalloc(s, newlen);
//返回新的sds
return s;
}
// 给len 设值
static inline size_t sdsavail(const sds s) {
unsigned char flags = s[-1];
switch(flags&SDS_TYPE_MASK) {
case SDS_TYPE_5: {
return 0;
}
case SDS_TYPE_8: {
SDS_HDR_VAR(8,s);
return sh->alloc - sh->len;
}
case SDS_TYPE_16: {
SDS_HDR_VAR(16,s);
return sh->alloc - sh->len;
}
case SDS_TYPE_32: {
SDS_HDR_VAR(32,s);
return sh->alloc - sh->len;
}
case SDS_TYPE_64: {
SDS_HDR_VAR(64,s);
return sh->alloc - sh->len;
}
}
return 0;
}
// 获取当前sds,可用的长度。
static inline void sdssetlen(sds s, size_t newlen) {
unsigned char flags = s[-1];
switch(flags&SDS_TYPE_MASK) {
case SDS_TYPE_5:
{
unsigned char *fp = ((unsigned char*)s)-1;
*fp = (unsigned char)(SDS_TYPE_5 | (newlen << SDS_TYPE_BITS));
}
break;
case SDS_TYPE_8:
SDS_HDR(8,s)->len = (uint8_t)newlen;
break;
case SDS_TYPE_16:
SDS_HDR(16,s)->len = (uint16_t)newlen;
break;
case SDS_TYPE_32:
SDS_HDR(32,s)->len = (uint32_t)newlen;
break;
case SDS_TYPE_64:
SDS_HDR(64,s)->len = (uint64_t)newlen;
break;
}
}
// 获取alloc的长度
/* sdsalloc() = sdsavail() + sdslen() */
static inline size_t sdsalloc(const sds s) {
unsigned char flags = s[-1];
switch(flags&SDS_TYPE_MASK) {
case SDS_TYPE_5:
return SDS_TYPE_5_LEN(flags);
case SDS_TYPE_8:
return SDS_HDR(8,s)->alloc;
case SDS_TYPE_16:
return SDS_HDR(16,s)->alloc;
case SDS_TYPE_32:
return SDS_HDR(32,s)->alloc;
case SDS_TYPE_64:
return SDS_HDR(64,s)->alloc;
}
return 0;
}
// 给 alloc 设值
static inline void sdssetalloc(sds s, size_t newlen) {
unsigned char flags = s[-1];
switch(flags&SDS_TYPE_MASK) {
case SDS_TYPE_5:
/* Nothing to do, this type has no total allocation info. */
break;
case SDS_TYPE_8:
SDS_HDR(8,s)->alloc = (uint8_t)newlen;
break;
case SDS_TYPE_16:
SDS_HDR(16,s)->alloc = (uint16_t)newlen;
break;
case SDS_TYPE_32:
SDS_HDR(32,s)->alloc = (uint32_t)newlen;
break;
case SDS_TYPE_64:
SDS_HDR(64,s)->alloc = (uint64_t)newlen;
break;
}
}
代码说明
【1】sds内部buf的扩容机制：新buf长度 = （原buf长度 + 添加buf长度）*2，如果buf长度大于1M后，每次扩容也只会增大1M
【2】对于类型改变的需要变换存储空间。
3.RedisDb 数据结构
1）代码展示
//位于server.h文件中
typedef struct redisDb {
dict *dict; // 保存了当前数据库的键空间
dict *expires; //键空间中所有键的过期时间
dict *blocking_keys; //客户端等待数据的键(BLPOP)
dict *ready_keys; //保存着处于阻塞状态的键，value为NULL
dict *watched_keys; //监视键的MULTI/EXEC CAS
int id; //数据库ID
long long avg_ttl; //键的平均过期时间
unsigned long expires_cursor; //周期性删除过期键的游标
list *defrag_later; /* List of key names to attempt to defrag one by one, gradually. */
} redisDb;
//位于dict.h文件中
typedef struct dict {
dictType *type;
void *privdata;
dictht ht[2]; // ht[0] , ht[1] =null //方便渐进的rehash扩容，dict的hashtable ，其中一个哈希表正常存储数据，另一个哈希表为空，空哈希表在 rehash 时使用
long rehashidx; /* rehash 索引，当不在进行 rehash 时，值为 -1 */
unsigned long iterators; //当前正在运行的迭代器的数量
} dict;
//位于dict.h文件中
/*这是我们的哈希表结构。每本字典都有两个这样的词，实现增量重哈希，从旧表到新表。* /
typedef struct dictht {
dictEntry **table;
unsigned long size; // hashtable 容量
unsigned long sizemask; // size -1
unsigned long used; // hashtable 元素个数 used / size =1
} dictht;
//位于dict.h文件中
typedef struct dictEntry {
void *key;
union {
void *val;
uint64_t u64;
int64_t s64;
double d;
} v;
struct dictEntry *next;
} dictEntry;
//位于server.h文件中
//redisObject对象 : string , list ,set ,hash ,zset ...
typedef struct redisObject {
unsigned type:4; // 4 bit, sting , hash
unsigned encoding:4; // 4 bit
unsigned lru:LRU_BITS; /* LRU time (relative to global lru_clock) or LFU data (least significant 8 bits frequency
* and most significant 16 bits access time).
* 24 bit
* */
int refcount; // 4 byte
void *ptr; // 8 byte 总空间: 4 bit + 4 bit + 24 bit + 4 byte + 8 byte = 16 byte
} robj;
2）视图展示
3）代码说明
【1】由上可知redisDb，主要都是将数据存储在字典（dict）中，而且还是多个，固定存储，过期维护等多个字典。
【2】dict字典结构，每个字典有两个哈希表结构的原因是为了用于渐进式扩容，当某个哈希表结构过于庞大的时候（按照hashMap的思维，必定是需要对数组进行扩容，增大数组长度，将链表长度缩小，加快遍历），其实它也需要进行扩容，但是再进行扩容操作的同时，容易出现阻塞线程的情况（如果时间太久），为此，dict中采用rehashidx标明是否正在处于扩容状态，且ht[1]会生成一个新的哈希表结构，容量是之前的两倍，然后把ht[0]中的数据按槽位一点一点的搬运过来【断断续续的操作，这样就不会一直阻塞住线程】，新的数据也会落到ht[1]中，直到搬完。然后将ht[1]指针指向ht[0]，然后自己再指向null，rehashidx变为0，就完成了扩容操作。
【3】dictEntry相当于hashMap中的节点（包含了key，value，和指向下个节点的指针），其中val会被进一步封装成redisObject。
【4】redisObject中的type用于约束客户端命令，如set操作，会判断操作的值与操作的类型匹不匹配。encoding记录了值在redis底层是怎么样的编码形式。ptr指向内存的真实地址。
4）分析String类型的编码
【1】会存在：int，raw，embstr三种。
【2】为什么会有int，因为整型值最大固定是64bit，其实与指针*ptr占据的大小一致，其实把数值存于这里可以减少了对空间的开辟。代码展示：
//server.c文件中封装了所有的客户端命令
//发现set命令会执行setCommand方法【该方法位于t_string.c文件中】，直接看核心部分
void setCommand(client *c) {
....
// 完成编码 set: key value
c->argv[2] = tryObjectEncoding(c->argv[2]);
setGenericCommand(c,flags,c->argv[1],c->argv[2],expire,unit,NULL,NULL);
}
//该方法位于object.c文件中
robj *tryObjectEncoding(robj *o) {
long value;
sds s = o->ptr;
size_t len;
/*确保这是一个字符串对象，我们在这个函数中编码的唯一类型。其他类型使用编码的内存高效表示，但由实现该类型的命令处理。* /
serverAssertWithInfo(NULL,o,o->type == OBJ_STRING);
// 只有类型为 原生sds类型 或者 embstr类型， 还有机会可以进一步编码，否则直接返回
if (!sdsEncodedObject(o)) return o;
// 如果其他地方有应用即当前对象为共享对象， 修改范围将扩大，所以放弃编码为整形操作
if (o->refcount > 1) return o;
//判断是否可以把该字符串转化为一个长整型
len = sdslen(s);
// 范围是否在 整型值得表示范围 ， 0 - 2^64,最多不超过20 位
if (len <= 20 && string2l(s,len,&value)) {
/*
* 如果Redis的配置不要求运行LRU替换算法，且转成的long型数字的值又比较小
* （小于OBJ_SHARED_INTEGERS，在目前的实现中这个值是10000），
* 那么会使用共享数字对象来表示。之所以这里的判断跟LRU有关，是因为LRU算法要求每个robj有不同的lru字段值，
* 所以用了LRU就不能共享robj。shared.integers是一个长度为10000的数组，里面预存了10000个小的数字对象。
* 这些小数字对象都是 encoding = OBJ_ENCODING_INT的string robj对象。
*
* */
// 没有设置内存淘汰策略，且数字范围在 缓存整型得范围内
if ((server.maxmemory == 0 ||
!(server.maxmemory_policy & MAXMEMORY_FLAG_NO_SHARED_INTEGERS)) &&
value >= 0 &&
value < OBJ_SHARED_INTEGERS)
{
decrRefCount(o); // 不需要用额外得对象来存储
incrRefCount(shared.integers[value]);
return shared.integers[value]; // 共享对象
} else {
// 如果前一步不能使用共享小对象来表示，那么将原来的robj编码成encoding = OBJ_ENCODING_INT，这时ptr字段直接存成这个long型的值。
// 注意ptr字段本来是一个void *指针（即存储的是内存地址），
// 因此在64位机器上有64位宽度，正好能存储一个64位的long型值。这样，除了robj本身之外，它就不再需要额外的内存空间来存储字符串值。
if (o->encoding == OBJ_ENCODING_RAW) {
sdsfree(o->ptr); // 释放空间
o->encoding = OBJ_ENCODING_INT;
// 用整形编码
o->ptr = (void*) value;
return o;
} else if (o->encoding == OBJ_ENCODING_EMBSTR) {
decrRefCount(o);
return createStringObjectFromLongLongForValue(value);
}
}
}
// 数据长度 小于 OBJ_ENCODING_EMBSTR_SIZE_LIMIT 44 的话， 用 embstr 进行编码
if (len <= OBJ_ENCODING_EMBSTR_SIZE_LIMIT) {
robj *emb;
if (o->encoding == OBJ_ENCODING_EMBSTR) return o;
emb = createEmbeddedStringObject(s,sdslen(s));
decrRefCount(o);
return emb;
}
trimStringObjectIfNeeded(o);
/* Return the original object. */
return o;
}
【3】为什么会有embstr，代码展示
//CPU读取数据的时候其实是会有一个缓存行的概念（cache line，通常是64byte的空间），也就是一次性读取的大小
//而redisObject数据大小为16 byte
typedef struct redisObject {
unsigned type:4; // 占4 bit
unsigned encoding:4; // 占4 bit
unsigned lru:LRU_BITS; // 占24 bit
int refcount; // 4 byte
void *ptr; // 8 byte
} robj;
//总空间: 4 bit + 4 bit + 24 bit + 4 byte + 8 byte = 16 byte
所以读取是会读【redisObject 16 byte，及其后面的48byte的数据（但是用不到）】
为了节约CPU成本，可不可以在创建的时候，将数据就存在后面呢？（为什么采用sdshdr8，因为最多存44个字符，sdshdr8可以容纳128个，满足条件，且消耗最小）
struct __attribute__ ((__packed__)) sdshdr8 { // 对应的字符串长度小于 1<<8
uint8_t len; //占据1byte，表示128个
uint8_t alloc; //占据1byte
unsigned char flags; //占据1byte
char buf[]; //以'\0'结尾，这个字符也会占据1byte
};
所以如果把他们都存于一个64byte的内存中是不是读取对象的时候顺便可以把值也拿出来了，减少了一次IO。
【4】而raw便是表示：字符串将以简单动态字符串（SDS）的形式存储，需要两次 malloc 分配内存，redisObject 对象头和 SDS 对象在内存地址上一般是不连续的。
5）发现说明
【1】会有人疑问为什么DB默认是16？
因为Redis的配置文件redis/redis.conf中的databases属性默认是16。所以Redis启动的时候默认会创建16个数据库且拿数据库索引为0的数据库作为默认数据库。这些都是可以通过配置调整的。
4.List 数据结构（Redis采用quicklist（双端链表） 和 ziplist 作为List的底层实现）
1）介绍
【1】List是一个有序(按加入的时序排序)的数据结构，Redis采用quicklist（双端链表） 和 ziplist 作为List的底层实现。以通过设置每个ziplist的最大容量，quicklist的数据压缩范围，提升数据存取效率。
//当值为正数时，表示quicklistNode节点上的ziplist的长度。比如当这个值为5时，每个quicklistNode节点的ziplist最多包含5个数据项 //当值为负数时，表示按照字节数来限制quicklistNode节点上的ziplist的的长度，可选值为-1到-5，每个值的含义如下 //-1 ziplist节点最大为4kb //-2 ziplist节点最大为8kb //-3 ziplist节点最大为16kb //-4 ziplist节点最大为32kb //-5 ziplist节点最大为64kb list-max-ziplist-size -2 // 单个ziplist节点最大能存储 8kb ,超过则进行分裂,将数据存储在新的ziplist节点中 //对节点中间的数据进行压缩，进一步节省内存 //0 特殊值，表示都不压缩 //1 quicklist两端各有1个节点不压缩，中间的节点压缩 //2 quicklist两端各有2个节点不压缩，中间的节点压缩 //n quicklist两端各有n个节点不压缩，中间的节点压缩 list-compress-depth 1 // 0 代表所有节点，都不进行压缩，1， 代表从头节点往后走一个，尾节点往前走一个不用压缩，其他的全部压缩，以此类推
2）ziplist 分析详解
【1】介绍
1.ziplist是一个经过特殊编码的双向链表，它的设计目标就是为了提高存储效率；
2.ziplist可以用于存储字符串或整数，其中整数是按真正的二进制表示进行编码的，而不是编码成字符串序列。它能以O(1)的时间复杂度在表的两端提供push和pop操作；
3.因为ziplist是一个内存连续的集合，所以ziplist遍历只要通过当前节点的指针 加上 当前节点的长度 或 减去 上一节点的长度 ，即可得到下一个节点的数据或上一个节点的数据，这样就省去的指针从而节省了存储空间，又因为内存连续所以在数据读取上的效率也远高于普通的链表。
【2】代码展示
robj *createZiplistObject(void) {
unsigned char *zl = ziplistNew();
robj *o = createObject(OBJ_LIST,zl);
o->encoding = OBJ_ENCODING_ZIPLIST;
return o;
}
robj *createObject(int type, void *ptr) {
robj *o = zmalloc(sizeof(*o));
o->type = type;
o->encoding = OBJ_ENCODING_RAW;
o->ptr = ptr;
o->refcount = 1;
if (server.maxmemory_policy & MAXMEMORY_FLAG_LFU) {
o->lru = (LFUGetTimeInMinutes()<<8) | LFU_INIT_VAL;
} else {
o->lru = LRU_CLOCK(); // 获取 24bit 当前时间秒数
}
return o;
}
//以下为ziplist.c文件中
#define ZIPLIST_BYTES(zl) (*((uint32_t*)(zl))) //获取ziplist的zlbytes的指针（ziplist 所占空间字节数）
#define ZIPLIST_TAIL_OFFSET(zl) (*((uint32_t*)((zl)+sizeof(uint32_t)))) //获取ziplist的zltail的指针
#define ZIPLIST_LENGTH(zl) (*((uint16_t*)((zl)+sizeof(uint32_t)*2))) //获取ziplist的zllen的指针
#define ZIPLIST_HEADER_SIZE (sizeof(uint32_t)*2+sizeof(uint16_t)) //ziplist头大小
#define ZIPLIST_END_SIZE (sizeof(uint8_t)) // ziplist结束标志位大小
#define ZIPLIST_ENTRY_HEAD(zl) ((zl)+ZIPLIST_HEADER_SIZE) // 获取第一个元素的指针
#define ZIPLIST_ENTRY_TAIL(zl) ((zl)+intrev32ifbe(ZIPLIST_TAIL_OFFSET(zl))) // 获取最后一个元素的指针
#define ZIPLIST_ENTRY_END(zl) ((zl)+intrev32ifbe(ZIPLIST_BYTES(zl))-1) // 获取结束标志位指针
unsigned char *ziplistNew(void) { // 创建一个压缩表
unsigned int bytes = ZIPLIST_HEADER_SIZE+ZIPLIST_END_SIZE; // zip头加结束标识位数
unsigned char *zl = zmalloc(bytes);
ZIPLIST_BYTES(zl) = intrev32ifbe(bytes); // 大小端转换
ZIPLIST_TAIL_OFFSET(zl) = intrev32ifbe(ZIPLIST_HEADER_SIZE);
ZIPLIST_LENGTH(zl) = 0; // len赋值为0
zl[bytes-1] = ZIP_END; // 结束标志位赋值
return zl;
}
/*
* 压缩列表节点 对应 上文中 Ziplist 中的 entry
* zlentry每个节点由三部分组成：Previous entry len、encoding、data
* prevlengh: 记录上一个节点的长度，为了方便反向遍历ziplist
* encoding: 编码，由于 ziplist 就是用来节省空间的，所以 ziplist 有多种编码，用来表示不同长度的字符串或整数。
* data: 用于存储 entry 真实的数据
* 结构体定义了7个字段，主要还是为了满足各种可变因素
*/
typedef struct zlentry {
unsigned int prevrawlensize; //prevrawlensize是描述prevrawlen的大小，有1字节和5字节两种
unsigned int prevrawlen; //prevrawlen是前一个节点的长度，
unsigned int lensize; //lensize为编码len所需的字节大小
unsigned int len; //len为当前节点长度
unsigned int headersize; //当前节点的header大小
unsigned char encoding; //节点的编码方式
unsigned char *p; //指向节点的指针
} zlentry;
【3】图示:
【4】图示参数说明
zlbytes:32bit，表示ziplist占用的字节总数。 zltail: 32bit，表示ziplist表中最后一项（entry）在ziplist中的偏移字节数。通过zltail我们可以很方便地找到最后一项，从而可以在ziplist尾端快速地执行push或pop操作 zlen: 16bit， 表示ziplist中数据项（entry）的个数。 entry:表示真正存放数据的数据项，长度不定 zlend: ziplist最后1个字节，是一个结束标记，值固定等于255。 prerawlen: 前一个entry的数据长度。 len: entry中数据的长度 data: 真实数据存储
【5】说明
1.Ziplist的设计结构，保障了空间的节省与查询的高效，但是当出现zlentry增加或删除时，Ziplist是不能直接在原有空间上进行修改，每一次变动都需要重新开辟空间去拷贝、修改。这样的场景下Ziplist一旦内部元素过多，将会导致性能的急剧下滑。因此Redis 在实现上做了一层优化，当Ziplist过大时，会将其分割成多个Ziplist，然后再通过一个双向链表将其串联起来。
3）quicklist 分析详解
【1】介绍
1.Redis quicklist是Redis 3.2版本以后针对链表和压缩列表进行改造的一种数据结构，是 zipList 和 linkedList 的混合体，相对于链表它压缩了内存，进一步的提高了效率。
【2】代码展示
robj *createQuicklistObject(void) {
quicklist *l = quicklistCreate();
robj *o = createObject(OBJ_LIST,l);
o->encoding = OBJ_ENCODING_QUICKLIST;
return o;
}
//处于quicklist.c文件中
quicklist *quicklistCreate(void) {
struct quicklist *quicklist;
quicklist = zmalloc(sizeof(*quicklist));
quicklist->head = quicklist->tail = NULL;
quicklist->len = 0;
quicklist->count = 0;
quicklist->compress = 0;
quicklist->fill = -2;
quicklist->bookmark_count = 0;
return quicklist;
}
//处于quicklist.h文件中
//quicklist 是一个 40 字节的结构（在 64 位系统上），描述了一个快速列表。
typedef struct quicklist {
quicklistNode *head; //指向头节点（左侧第一个节点）的指针。
quicklistNode *tail; //指向尾节点（右侧第一个节点）的指针。
unsigned long count; // 所有 quicklistNode 节点中所有的 entry 个数
unsigned long len; // quickListNode 节点个数，也就是 quickList 的长度
int fill : QL_FILL_BITS; //单个节点的填充因子，也就是 ziplist 的大小
unsigned int compress : QL_COMP_BITS; // 保存压缩成都只，配置文件设置，64位操作系统占 16bit , 6 表示压缩
unsigned int bookmark_count: QL_BM_BITS;
quicklistBookmark bookmarks[];
} quicklist;
//quicklistNode 是一个 32 字节的结构，描述了一个快速列表的 ziplist。
typedef struct quicklistNode {
struct quicklistNode *prev; // 双向链表前驱节点
struct quicklistNode *next; // 双向链表的后节点
unsigned char *zl; //数据指针。如果当前节点的数据没有压缩，那么它指向一个ziplist结构；否则，它指向一个quicklistLZF结构。
unsigned int sz; // 压缩列表 ziplist 的总长度
unsigned int count : 16; // 每个 ziplist 中 entry 的个数
unsigned int encoding : 2; // 表示是否采用了 LZF 压缩 quickList 节点 1 表示压缩过，2 表示没有压缩站 2bit 长度
unsigned int container : 2; // 表示是否开启 ziplist 进行压缩
unsigned int recompress : 1; // 表示该节点是否被压缩过
unsigned int attempted_compress : 1; // 测试使用
unsigned int extra : 10; // 额外拓展位，占 10bit 长度
} quicklistNode;
//当指定使用 lzf 压缩算法压缩 ziplist entry 节点时,quicklistNode 结构的 zl 成员执行 quicklistLZF 结构
typedef struct quicklistLZF {
unsigned int sz; //表示被LZF 压缩后的 ziplist 的大小
char compressed[]; // 压缩有的数据，柔性数组
} quicklistLZF;
【3】图示：
【4】说明
1.通过控制ziplist 的大小，则很好的解决了超大ziplist 的拷贝情况下对性能的影响。每次改动只需要针对具体的小段ziplist 进行操作。
4）发现说明
【1】为什么不采用两个指针指向前后数据的方式，而是要采用复合的数据结构完成？
1.采用双指针的方式，那就必须赋予两个指针pre和next，一个指针占据了8byte，故两个指针就需要消耗16byte。如果list存在大量数据，所以就需要消耗相当多的内存在指针方面（胖指针问题）。
2.采用双链表的话数据可能会分的很散，因为指针就是采用不连续的存储空间来存储数据，容易造成大量的内存碎片。
3.采用quicklist 和 ziplist 混合，达到减少指针消耗的空间，其次连续的存储空间读取起来效率高于不连续的存储空间，节省IO。
4.通过控制ziplist 的大小，则很好的解决了超大ziplist 的拷贝情况下对性能的影响。每次改动只需要针对具体的小段ziplist 进行操作。
5.Hash 数据结构
1）介绍
【1】Hash 数据结构底层实现为一个字典( dict ),也是RedisBb用来存储K-V的数据结构,当数据量比较小，或者单个元素比较小时，底层用ziplist存储，数据大小和元素数量阈值可以通过如下参数设置。
hash-max-ziplist-entries 512 // ziplist 元素个数超过 512 ，将改为hashtable编码 hash-max-ziplist-value 64 // 单个元素大小超过 64 byte时，将改为hashtable编码
2）发现说明
【1】为什么数据量小的时候采用ziplist存储？
1.ziplist使用紧凑的连续内存块顺序存储数据，在list或者hash结构中，未使用listNode（24字节）和dictEntry（24字节）结构体来存储元素项，因此会节省内存。
2.ziplist结构元素访问采用的是后向遍历（从后往前），因此在hash中可将热点的key或者在list中将热点的元素项放在最后，可以提升性能。
3.因为ziplist的内存结构中，仅仅只使用了额外的11个字节来存储ziplist的属性，另外很重要的是ziplist使用后向遍历，当list或者hash中的元素较多时，可以根据元素的冷热性调整元素存储顺序。
4.而在dictht结构体中，存储属性需要32个字节，其中元素dictEntry也是每个占用24个字节。
6.Set 数据结构
1）介绍
【1】Set 为无序的，自动去重的集合数据类型，Set 数据结构底层实现为一个value 为 null 的 字典( dict ),当数据可以用整形表示时，Set集合将被编码为intset数据结构。
//在配置文件中设置 set-max-intset-entries 512 // intset 能存储的最大元素个数，超过则用hashtable编码
【2】两个条件任意满足时Set将用hashtable存储数据。1， 元素个数大于 set-max-intset-entries , 2 ， 元素无法用整形表示。
2）intset数据结构
//intset内部其实是一个数组（int8_t coentents[]数组），而且存储数据的时候是有序的，因为在查找数据的时候是通过二分查找来实现的。
typedef struct intset {
uint32_t encoding; // 编码方式
uint32_t length; // 集合包含的元素数量
int8_t contents[]; // 保存元素的数组
} intset;
3）set存储过程
// set添加元素的处理函数，在文件t_set.c中
//过程汇总
//检查set是否存在不存在则创建一个set结合。
//根据传入的set集合一个个进行添加，添加的时候需要进行内存压缩。
//setTypeAdd执行set添加过程中会判断是否进行编码转换。
void saddCommand(client *c) {
robj *set;
int j, added = 0;
// 取出集合对象
set = lookupKeyWrite(c->db,c->argv[1]);
// 对象不存在，创建一个新的，并将它关联到数据库
if (set == NULL) {
set = setTypeCreate(c->argv[2]->ptr);
dbAdd(c->db,c->argv[1],set);
}
// 对象存在，检查类型
else {
if (set->type != OBJ_SET) {
addReply(c,shared.wrongtypeerr);
return;
}
}
// 将所有输入元素添加到集合中
for (j = 2; j < c->argc; j++) {
// set 类型 添加元素
if (setTypeAdd(set,c->argv[j]->ptr)) added++;
}
// 如果有至少一个元素被成功添加，那么执行以下程序
if (added) {
// 发送键修改信号
signalModifiedKey(c,c->db,c->argv[1]);
// 发送事件通知
notifyKeyspaceEvent(NOTIFY_SET,"sadd",c->argv[1],c->db->id);
}
// 将数据库设为脏
server.dirty += added;
// 返回添加元素的数量
addReplyLongLong(c,added);
}
//元素已经存在 直接返回 0 ， 否则添加元素 返回 1
//过程汇总
//如果能够转成int的对象（isObjectRepresentableAsLongLong），那么就用intset保存。
//如果用intset保存的时候，如果长度超过512（REDIS_SET_MAX_INTSET_ENTRIES）就转为hashtable编码。
//其他情况统一用hashtable进行存储。
int setTypeAdd(robj *subject, sds value) {
long long llval;
// 字典
if (subject->encoding == OBJ_ENCODING_HT) {
// 将 value 作为键， NULL 作为值，将元素添加到字典中
dict *ht = subject->ptr;
dictEntry *de = dictAddRaw(ht,value,NULL);
if (de) {
dictSetKey(ht,de,sdsdup(value));
dictSetVal(ht,de,NULL);
return 1;
}
}
// intset
else if (subject->encoding == OBJ_ENCODING_INTSET) {
// 判断是否可以用整形编码，可以的话用intset 编码
if (isSdsRepresentableAsLongLong(value,&llval) == C_OK) {
uint8_t success = 0;
subject->ptr = intsetAdd(subject->ptr,llval,&success);
if (success) {
//如果元素个数超过 set-max-intset-entries[ 默认 512 ] 时，将转化为 hashtable 数据结构
if (intsetLen(subject->ptr) > server.set_max_intset_entries)
setTypeConvert(subject,OBJ_ENCODING_HT);
return 1;
}
} else {
//转整形失败，直接用hashtable存储
setTypeConvert(subject,OBJ_ENCODING_HT);
// 执行添加操作
serverAssert(dictAdd(subject->ptr,sdsdup(value),NULL) == DICT_OK);
return 1;
}
} else {
// 未知编码
serverPanic("Unknown set encoding");
}
return 0;
}
7.ZSet 数据结构
1）介绍
【1】ZSet 为有序的，自动去重的集合数据类型，ZSet 数据结构底层实现为 字典(dict) + 跳表(skiplist) ,当数据比较少时，用ziplist编码结构存储。
zset-max-ziplist-entries 128 // 元素个数超过128 ，将用skiplist编码 zset-max-ziplist-value 64 // 单个元素大小超过 64 byte, 将用 skiplist编码
【2】数据比较少时，用ziplist编码结构存储的图示：
2）skiplist 分析解析
【1】数据结构代码
// 创建zset 数据结构: 字典 + 跳表
robj *createZsetObject(void) {
zset *zs = zmalloc(sizeof(*zs));
robj *o;
// dict用来查询数据到分数的对应关系， 如 zscore 就可以直接根据 元素拿到分值
zs->dict = dictCreate(&zsetDictType,NULL);
// skiplist用来根据分数查询数据（可能是范围查找）
zs->zsl = zslCreate();
// 设置对象类型
o = createObject(OBJ_ZSET,zs);
// 设置编码类型
o->encoding = OBJ_ENCODING_SKIPLIST;
return o;
}
//位于edis/src/server.h 中
#define ZSKIPLIST_MAXLEVEL 32 /* Should be enough for 2^64 elements */
#define ZSKIPLIST_P 0.25 /* Skiplist P = 1/4 */
typedef struct zskiplistNode {
sds ele; //存储字符串类型数据 redis3.0版本中使用robj类型表示，但是在redis4.0.1中直接使用sds类型表示
double score; //存储排序的分值
struct zskiplistNode *backward; //指向上一个节点,用于zrevrange命令
struct zskiplistLevel {
struct zskiplistNode *forward; //指向下一个节点
unsigned long span; //到达后一个节点的跨度(两个相邻节点span为1)
} level[]; //该节点在各层的信息，柔性数组成员
} zskiplistNode;
typedef struct zskiplist {
struct zskiplistNode *header, *tail; // 跳跃表头尾节点
unsigned long length; //节点个数
int level; //除头结点外最大的层数
} zskiplist;
typedef struct zset {
dict *dict;
zskiplist *zsl;
} zset;
【2】追踪添加函数
//在server.c发现跳表的添加函数为zaddCommand
//去t_zset.c文件查看流程
void zaddCommand(client *c) {
zaddGenericCommand(c,ZADD_NONE);
}
void zaddGenericCommand(client *c, int flags) {
static char *nanerr = "resulting score is not a number (NaN)";
robj *key = c->argv[1];
robj *zobj;
sds ele;
double score = 0, *scores = NULL;
int j, elements;
int scoreidx = 0;
/* The following vars are used in order to track what the command actually
* did during the execution, to reply to the client and to trigger the
* notification of keyspace change. */
int added = 0; //新添加元素的数量
int updated = 0; //更新分数的元素数量
int processed = 0; //被处理的元素数量
/* Parse options. At the end 'scoreidx' is set to the argument position
* of the score of the first score-element pair. */
scoreidx = 2;
// 输入参数解析
while(scoreidx < c->argc) {
char *opt = c->argv[scoreidx]->ptr;
if (!strcasecmp(opt,"nx")) flags |= ZADD_NX;
else if (!strcasecmp(opt,"xx")) flags |= ZADD_XX;
else if (!strcasecmp(opt,"ch")) flags |= ZADD_CH;
else if (!strcasecmp(opt,"incr")) flags |= ZADD_INCR;
else break;
scoreidx++;
}
/* Turn options into simple to check vars. */
int incr = (flags & ZADD_INCR) != 0;
int nx = (flags & ZADD_NX) != 0;
int xx = (flags & ZADD_XX) != 0;
int ch = (flags & ZADD_CH) != 0;
/* After the options, we expect to have an even number of args, since
* we expect any number of score-element pairs. */
elements = c->argc-scoreidx;
if (elements % 2 || !elements) {
addReply(c,shared.syntaxerr);
return;
}
elements /= 2; /* Now this holds the number of score-element pairs. */
/* Check for incompatible options. */
if (nx && xx) {
addReplyError(c,
"XX and NX options at the same time are not compatible");
return;
}
if (incr && elements > 1) {
addReplyError(c,
"INCR option supports a single increment-element pair");
return;
}
/* Start parsing all the scores, we need to emit any syntax error
* before executing additions to the sorted set, as the command should
* either execute fully or nothing at all. */
scores = zmalloc(sizeof(double)*elements);
for (j = 0; j < elements; j++) {
if (getDoubleFromObjectOrReply(c,c->argv[scoreidx+j*2],&scores[j],NULL)
!= C_OK) goto cleanup;
}
/* Lookup the key and create the sorted set if does not exist.
查询对应的 key 在对应的 db 即 hash table 中，是否存在
*/
zobj = lookupKeyWrite(c->db,key);
if (zobj == NULL) {
if (xx) goto reply_to_client; /* No key + XX option: nothing to do. */
// 如果 zset_max_ziplist_entries ==0
// // 或者 zadd 元素的长度 > zset_max_ziplist_value
// // 则直接创建 skiplist 数据结构
// // 否则创建ziplist 压缩列表数据结构
if (server.zset_max_ziplist_entries == 0 ||
server.zset_max_ziplist_value < sdslen(c->argv[scoreidx+1]->ptr))
{
zobj = createZsetObject();
} else {
zobj = createZsetZiplistObject();
}
// 关联对象到db
dbAdd(c->db,key,zobj);
} else {
if (zobj->type != OBJ_ZSET) {
addReply(c,shared.wrongtypeerr);
goto cleanup;
}
}
// 处理所有元素
for (j = 0; j < elements; j++) {
double newscore;
// 分值
score = scores[j];
int retflags = flags;
// 元素
ele = c->argv[scoreidx+1+j*2]->ptr;
// 往 zobj 添加元素
int retval = zsetAdd(zobj, score, ele, &retflags, &newscore);
if (retval == 0) {
addReplyError(c,nanerr);
goto cleanup;
}
if (retflags & ZADD_ADDED) added++;
if (retflags & ZADD_UPDATED) updated++;
if (!(retflags & ZADD_NOP)) processed++;
score = newscore;
}
server.dirty += (added+updated);
reply_to_client:
if (incr) { /* ZINCRBY or INCR option. */
if (processed)
addReplyDouble(c,score);
else
addReplyNull(c);
} else { /* ZADD. */
addReplyLongLong(c,ch ? added+updated : added);
}
cleanup:
zfree(scores);
if (added || updated) {
signalModifiedKey(c,c->db,key);
notifyKeyspaceEvent(NOTIFY_ZSET,
incr ? "zincr" : "zadd", key, c->db->id);
}
}
// 创建zset 数据结构: 字典 + 跳表
robj *createZsetObject(void) {
zset *zs = zmalloc(sizeof(*zs));
robj *o;
// dict用来查询数据到分数的对应关系， 如 zscore 就可以直接根据 元素拿到分值
zs->dict = dictCreate(&zsetDictType,NULL);
// skiplist用来根据分数查询数据（可能是范围查找）
zs->zsl = zslCreate();
// 设置对象类型
o = createObject(OBJ_ZSET,zs);
// 设置编码类型
o->encoding = OBJ_ENCODING_SKIPLIST;
return o;
}
// 创建zset 数据结构: ZipList
robj *createZsetZiplistObject(void) {
unsigned char *zl = ziplistNew();
robj *o = createObject(OBJ_ZSET,zl);
o->encoding = OBJ_ENCODING_ZIPLIST;
return o;
}
int zsetAdd(robj *zobj, double score, sds ele, int *flags, double *newscore) {
/* Turn options into simple to check vars.
可选参数解析
*/
int incr = (*flags & ZADD_INCR) != 0;
int nx = (*flags & ZADD_NX) != 0;
int xx = (*flags & ZADD_XX) != 0;
*flags = 0; /* We'll return our response flags. */
double curscore;
/* NaN as input is an error regardless of all the other parameters.
数值判断
*/
if (isnan(score)) {
*flags = ZADD_NAN;
return 0;
}
/* Update the sorted set according to its encoding.
数据类型为ziplist 的情况
*/
if (zobj->encoding == OBJ_ENCODING_ZIPLIST) {
unsigned char *eptr;
if ((eptr = zzlFind(zobj->ptr,ele,&curscore)) != NULL) {
/* NX? Return, same element already exists. */
if (nx) {
*flags |= ZADD_NOP;
return 1;
}
/* Prepare the score for the increment if needed. */
if (incr) {
score += curscore;
if (isnan(score)) {
*flags |= ZADD_NAN;
return 0;
}
if (newscore) *newscore = score;
}
/* Remove and re-insert when score changed.
元素 score 有变化，则删除老节点，重新插入
*/
if (score != curscore) {
zobj->ptr = zzlDelete(zobj->ptr,eptr);
zobj->ptr = zzlInsert(zobj->ptr,ele,score);
*flags |= ZADD_UPDATED;
}
return 1;
} else if (!xx) {
/* Optimize: check if the element is too large or the list
* becomes too long *before* executing zzlInsert. */
zobj->ptr = zzlInsert(zobj->ptr,ele,score);
if (zzlLength(zobj->ptr) > server.zset_max_ziplist_entries ||
sdslen(ele) > server.zset_max_ziplist_value)
// 元素个数 或者 单个元素大小超过阈值 任意条件满足就转化为skiplist
zsetConvert(zobj,OBJ_ENCODING_SKIPLIST);
if (newscore) *newscore = score;
*flags |= ZADD_ADDED;
return 1;
} else {
*flags |= ZADD_NOP;
return 1;
}
// 数据类型为 跳表的情况
} else if (zobj->encoding == OBJ_ENCODING_SKIPLIST) {
// 获取值指针
zset *zs = zobj->ptr;
zskiplistNode *znode;
dictEntry *de;
// O(1) 的时间复杂度，获取到元素
de = dictFind(zs->dict,ele);
if (de != NULL) {
/* NX? Return, same element already exists.
NX 互斥
*/
if (nx) {
*flags |= ZADD_NOP;
return 1;
}
// 当前分值
curscore = *(double*)dictGetVal(de);
/* Prepare the score for the increment if needed. */
// 递增
if (incr) {
score += curscore;
if (isnan(score)) {
*flags |= ZADD_NAN;
return 0;
}
if (newscore) *newscore = score;
}
/* Remove and re-insert when score changes.
分值不同的场景
*/
if (score != curscore) {
znode = zslUpdateScore(zs->zsl,curscore,ele,score);
/* Note that we did not removed the original element from
* the hash table representing the sorted set, so we just
* update the score.
* hash 表中不需要移除元素， 修改分值就可以了
*
* */
dictGetVal(de) = &znode->score; /* Update score ptr. */
*flags |= ZADD_UPDATED;
}
return 1;
// 元素不存在
} else if (!xx) {
ele = sdsdup(ele);
// 插入新元素
znode = zslInsert(zs->zsl,score,ele);
serverAssert(dictAdd(zs->dict,ele,&znode->score) == DICT_OK);
*flags |= ZADD_ADDED;
if (newscore) *newscore = score;
return 1;
} else {
*flags |= ZADD_NOP;
return 1;
}
} else {
serverPanic("Unknown sorted set encoding");
}
return 0; /* Never reached. */
}
// 往跳表中 新增元素
zskiplistNode *zslInsert(zskiplist *zsl, double score, sds ele) {
zskiplistNode *update[ZSKIPLIST_MAXLEVEL], *x;
unsigned int rank[ZSKIPLIST_MAXLEVEL];
int i, level;
// 数值判断
serverAssert(!isnan(score));
x = zsl->header;
// 遍历所有层高 ，寻找插入点: 高位 -> 低位
for (i = zsl->level-1; i >= 0; i--) {
/* store rank that is crossed to reach the insert position
存储排位， 便于更新
*/
rank[i] = i == (zsl->level-1) ? 0 : rank[i+1];
while (x->level[i].forward &&
(x->level[i].forward->score < score || // 找到第一个比新分值大的节点，前面一个位置即是插入点
(x->level[i].forward->score == score &&
sdscmp(x->level[i].forward->ele,ele) < 0))) //相同分值则按字典序排序
{
rank[i] += x->level[i].span; // 累加排位分值
x = x->level[i].forward;
}
update[i] = x; // 每一层的拐点
}
/* we assume the element is not already inside, since we allow duplicated
* scores, reinserting the same element should never happen since the
* caller of zslInsert() should test in the hash table if the element is
* already inside or not.
*
* */
level = zslRandomLevel(); // 幂次定律， 随机生成层高 ，越高的层出现概率越低
if (level > zsl->level) { // 随机层高大于当前的最大层高，则初始化新的层高
for (i = zsl->level; i < level; i++) {
rank[i] = 0;
update[i] = zsl->header;
update[i]->level[i].span = zsl->length; //header 最层都是跳表的长度
}
zsl->level = level;
}
x = zslCreateNode(level,score,ele); // 创建新的节点
for (i = 0; i < level; i++) {
x->level[i].forward = update[i]->level[i].forward; // 插入新节点
update[i]->level[i].forward = x;
/* update span covered by update[i] as x is inserted here
更新 span 信息
*/
x->level[i].span = update[i]->level[i].span - (rank[0] - rank[i]);
update[i]->level[i].span = (rank[0] - rank[i]) + 1;
}
/* increment span for untouched levels
新加入节点， 更新顶层 span
*/
for (i = level; i < zsl->level; i++) {
update[i]->level[i].span++;
}
// 更新后退指针 和尾指针
x->backward = (update[0] == zsl->header) ? NULL : update[0];
if (x->level[0].forward)
x->level[0].forward->backward = x;
else
zsl->tail = x;
zsl->length++;
return x;
}
//返回一个随机的层数，不是level的索引是层数
int zslRandomLevel(void) {
int level = 1;
while ((random()&0xFFFF) < (ZSKIPLIST_P * 0xFFFF)) //有1/4的概率加入到上一层中
level += 1;
return (level<ZSKIPLIST_MAXLEVEL) ? level : ZSKIPLIST_MAXLEVEL;
}
【3】示图展示
【4】示图说明
1.默认会构造一个不存数据的拥有32层高度的头结点，而每加一个结点，会自身去概率生成层数（概率为1/4），这样就可以通过头结点快速查找数据了。
标签：return,SDS,int,ziplist,Redis,unsigned,源码,节点,底层 From： https://www.cnblogs.com/chafry/p/16747719.html