Redis数据结构与高性能原理

57 阅读8分钟

Redis安装

下载地址:http://redis.io/download
安装步骤:
# 安装gcc
yum install gcc

# 把下载好的redis‐5.0.3.tar.gz放在/usr/local文件夹下,并解压
wget http://download.redis.io/releases/redis‐5.0.3.tar.gz
tar xzf redis‐5.0.3.tar.gz
cd redis‐5.0.3

# 进入到解压好的redis‐5.0.3目录下,进行编译与安装
make

# 修改配置
daemonize yes #后台启动
protected‐mode no #关闭保护模式,开启的话,只有本机才可以访问redis
# 需要注释掉bind
#bind 127.0.0.1(bind绑定的是自己机器网卡的ip,如果有多块网卡可以配多个ip,代表允许客户
端通过机器的哪些网卡ip去访问,内网一般可以不配置bind,注释掉即可)

# 启动服务
src/redis‐server redis.conf

# 验证启动是否成功
ps ‐ef | grep redis

# 进入redis客户端
src/redis‐cli

# 退出客户端
quit

 # 退出redis服务:
(1)pkill redis‐server
(2)kill 进程号
(3)src/redis‐cli shutdown

五种核心数据类型

  1. string
  2. 哈希hash
  3. 列表list
  4. 集合set
  5. 有序集合zset

string结构

字符串常用操作

SET key value // 存入字符串键值对

MSET key value [key value ...] // 批量存储字符串键值对

SETNX key value // 存入一个不存在的字符串键值对

GET key // 获取一个字符串键值

MGET key [key ...] // 批量获取字符串键值

DEL key [key ...] // 删除一个键

EXPIRE key seconds // 设置一个键的过期时间(秒)

原子操作

INCR key // 将key中储存的数字值加1 DECR key // 将key中储存的数字值减1 INCRBY key increment // 将key所储存的值加上increment DECRBY key decrement // 将key所储存的值减去decrement

String应用场景

单值缓存

SET key value

GET key

对象缓存

  1. SET USER:1 value(json格式数据)
  2. MSET user:1:name zxzg user:1:balance 1888 MGET user:1:name user:1:balance

分布式锁

SETNX product:10001 true // 返回1代表获取锁成功

SETNX product:10001 true // 返回0代表获取锁失败

执行业务操作 DEL product:10001 // 执行完业务释放锁

SET product:10001 true ex 10 nx // 防止程序意外终止导致死锁

计数器

INCR article:readcount:{文章id}

GET article:readcount:{文章id}

Web集群session共享

spring session + redis实现session共享

分布式系统全局序列号

INCRBY orderId 1000 // redis批量生成序列号提升性能

hash结构

hash常用操作

HSET key field value // 存储一个哈希表key的键值

HSETNX key field value // 存储一个不存在的哈希表key的键值

HMSET key field vlaue [field value ...] // 在一个哈希表key中存储多个键值对

HGET key field // 获取哈希表key对应的field键值

HMGET key field [field ...] // 批量获取哈希表key中过个field键值

HDEL key field [field ...] // 删除哈希表key中的field键值

HKEN key // 返回哈希表key中field的数量

HGETALL key // 返回哈希表key中所有的键值

HINCRBY key field increment // 为哈希表key中field键的值加上增量increment

哈希应用场景

对象缓存

HMSET user {userId}:name zxzg {userId}:balance 1888

HMSET user 1:name zxzg 1:balance 1888

HMGET user 1:name 1:balance

电商购物车

  1. 以用户id为key
  2. 商品id为field
  3. 商品数量为value

购物车操作

  1. 添加商品->hset cart:1001 10088 1
  2. 增加数量->hincrby cart:1001 10088 1
  3. 商品总数->hlen cart:1001
  4. 删除商品->hdel cart:1001 10088
  5. 获取购物车所有商品->hgetall cart:1001

hash数据结构优缺点

优点

  1. 同类数据归类整合储存,方便数据管理
  2. 相比string操作消耗内存与cpu更小
  3. 相比string储存更节省空间

缺点

  1. 过期功能不能使用在field上,只能用在key上
  2. redis集群架构下不适合大规模使用

list结构

list常用操作

LPUSH key value [value ...] // 将一个或多个值value插入到key列表的表头(最左边)

RPUSH key value [value ...] // 将一个或多个值value插入到key列表的表尾(最右边)

LPOP key // 移除并返回key列表的头元素

RPOP key // 移除并返回key列表的尾元素

LRANGE key start stop // 返回列表中指定区间内的元素,区间以偏移量start和stop指定

BLPOP key [key ...] timeout // 从key列表头弹出一个元素,若列表中没有元素,阻塞等待timeout秒,如果timeout=0,一直阻塞等待

BRPOP key [key ...] timeout // 从key列表表尾弹出一个元素,若列表中没有元素,阻塞等待timeout秒,如果timeout=0,一直阻塞等待

list应用场景

常用数据结构

stack(栈) = LPUSH + LPOP

queue(队列) = LPUSH + RPOP

blocking mq(阻塞队列) = LPUSH + BRPOP

微博和微信公众号消息流

set 数据结构

set常用操作

SADD key member [member ...] // 往集合key中存入元素,元素存在则忽略,若key不存在则新建

SREM key member [member ...] // 从集合key中删除元素

SMEMBERS key // 获取集合key中所有元素

SCARD key // 获取集合key的元素个数

SISMEMBER key member // 判断member元素是否存在于集合key中

SRANDMEMBER key [count] // 从集合key中选出count个元素,元素不从key中删除

SPOP key [conut] // 从集合key中选出count个元素,元素从key中删除

set运算操作

SINTER key [key ...] // 交集运算

SINTERSTORE destination key [key ..] // 将交集结果存入新集合destination中

SUNION key [key ..] // 并集运算

SUNIONSTORE destination key [key ..] // 将并集结果存入新集合destination中

SDIFF key [key ..] // 差集运算

SDIFFSTORE destination key [key ..] // 将差集结果存入新集合destination中

set运用场景

*微信抽奖小程序

  1. 点击参与抽奖加入集合

SADD key {userId}

  1. 查看参与抽奖所有用户

SMEMBERS key

  1. 抽取count名中奖者

SRANDMEMBER key [count] / SPOP key [count]

微信微博点赞,收藏,标签

  1. 点赞

SADD like:{消息Id} {用户Id}

  1. 取消点赞

SREM like:{消息Id} {用户Id}

  1. 检查用户是否点过赞

SISMEMBER like:{消息Id} {用户Id}

  1. 获取点赞的用户列表

SMEMBERS like:{消息Id}

  1. 获取点赞用户数

SCARD like:{消息Id}

集合操作

image.png

ZSet有序集合结构

ZSet常用操作

ZADD key score member [[score member]...] // 往有序集合key中加入带分值元素

ZREM key member [member ...] // 从有序集合key中删除元素

ZSCORE key member // 返回有序集合key中元素member的分值

ZINCRBY key increment member // 为有序集合key中元素member的分值加上increment

ZCARD key // 返回有序集合key中元素个数

ZRANGE key start stop [WITHSCORES] // 正序获取有序集合key从start下标到stop下标的元素

ZREVRANGE key start stop [WITHSCORES] // 倒序获取有序集合key从下标到stop下标的元素

Zset集合操作

ZUNIONSTORE destkey numkeys key [key ...] // 并集计算

ZINTERSTORE destkey numkeys key [key ...] // 交集计算

ZSet使用场景

Zset集合操作实现排行榜

  1. 点击新闻

ZINCRBY hotNews:20231122 1 守护家园

  1. 展示当日排行前十

ZREVRANGE hotNews:20231122 0 9 WITHSCORES

  1. 七日搜索榜单计算

ZUNIONSTORE hotNEWS:20231115-20231122 7 hotNEWs:20231115 hotNEWs:20231116... hotNEWs:20231117

  1. 展示七日排行前十

ZREVRANGE hotNEWS:20231115-20231122 0 9 WITHSCORES

Redis的单线程和高性能

Redis是单线程吗?

Redis 的单线程主要是指 Redis 的网络 IO 和键值对读写是由一个线程来完成的,这也是 Redis 对外提供键值存储服务的主要流程。但 Redis 的其他功能,比如持久化、异步删除、集群数据同步等,其实是由额外的线程执行的。

Redis 单线程为什么还能这么快?

因为它所有的数据都在内存中,所有的运算都是内存级别的运算,而且单线程避免了多线程的切换性能损耗问题。正因为 Redis 是单线程,所以要小心使用 Redis 指令,对于那些耗时的指令(比如keys),一定要谨慎使用,一不小心就可能会导致 Redis 卡顿。

Redis 单线程如何处理那么多的并发客户端连接?

Redis的IO多路复用:redis利用epoll来实现IO多路复用,将连接信息和事件放到队列中,依次放到文件事件分派器,事件分派器将事件分发给事件处理器。

image.png

# 查看redis支持的最大连接数,在redis.conf文件中可修改,# maxclients 10000
127.0.0.1:6379> CONFIG GET maxclients
##1) "maxclients"
##2) "10000"

scan:渐进式遍历键

SCAN cursor [MATCH pattern] [COUNT count]

scan 参数提供了三个参数,第一个是 cursor 整数值(hash桶的索引值),第二个是 key 的正则模式,第三个是一次遍历的key的数量(参考值,底层遍历的数量不一定),并不是符合条件的结果数量。第一次遍历时,cursor 值为 0,然后将返回结果中第一个整数值作为下一次遍历的 cursor。一直遍历到返回的 cursor 值为 0 时结束。

注意:但是scan并非完美无瑕, 如果在scan的过程中如果有键的变化(增加、 删除、 修改) ,那么遍历效果可能会碰到如下问题: 新增的键可能没有遍历到, 遍历出了重复的键等情况, 也就是说scan并不能保证完整的遍历出来所有的键, 这些是我们在开发时需要考虑的。

image.png

image.png