首页 > 编程语言 >哈希类型 列表类型 集合类型 有序集合 慢查询 pipeline与事务 发布订阅 Bitmap位图 HyperLogLog

哈希类型 列表类型 集合类型 有序集合 慢查询 pipeline与事务 发布订阅 Bitmap位图 HyperLogLog

时间:2023-04-23 15:45:02浏览次数:55  
标签:pipeline field 复杂度 element 集合 user key 类型

昨日回顾

# 1 redis介绍
	-特性
    # 速度快:10w ops(每秒10w读写),数据存在内存中,c语言实现,单线程模型
    # 持久化:rdb和aof
    # 多种数据结构:
        5大数据结构
        BitMaps位图:布隆过滤器 本质是 字符串
        HyperLogLog:超小内存唯一值计数,12kb HyperLogLog 本质是 字符串
        GEO:地理信息定位 本质是有序集合
    # 支持多种编程语言:基于tcp通信协议,各大编程语言都支持
    # 功能丰富:发布订阅(消息) Lua脚本,事务(pipeline)
    # 简单:源代码几万行,不依赖外部库
    # 主从复制:主服务器和从服务器,主服务器可以同步到从服务器中
    # 高可用和分布式:
        2.8版本以后使用redis-sentinel支持高可用
        3.0版本以后支持分布式
        
# 2 redis 在linux上安装
	-wget 源代码下载
    -make
    -make install
    -src:可执行文件
    
# 3 三种启动方式
	-redis-server
    -动态参数 --xx xx
    -配置文件启动(常用)
    
# 4 客户端连接,关闭服务端,查看配置项,查看redis进程
	redis-cli -h 127.0.0.1 -p 6379
# 5 应用场景
	
    
    
# 6 通用命令
# 7 5大数据类型
	-跳跃表是啥
    
# 8 字符串操作

今日内容

1 哈希类型

image-20230418164146124

###1---hget,hset,hdel
hget key field  #获取hash key对应的field的value 时间复杂度为 o(1)
hset key field value # 设置hash key对应的field的value值 时间复杂度为 o(1)
					# field相同则修改(会返回0,但还是修改成功) 不相同则新增
hdel key field #删除hash key对应的field的值 时间复杂度为 o(1)
#测试
hset user:1:info age 23
hget user:1:info ag
hset user:1:info name lqz
hgetall user:1:info
hdel user:1:info age
###2---hexists,hlen
hexists key field  #判断hash key 是否存在field 时间复杂度为 o(1)
hlen key   #获取hash key field的数量  时间复杂度为 o(1)
hexists user:1:info name
hlen user:1:info  #返回数量
        
###3---hmget,hmset
hmget key field1 field2 ...fieldN  #批量获取hash key 的一批field对应的值  时间复杂度是o(n)
hmset key field1 value1 field2 value2  #批量设置hash key的一批field value 时间复杂度是o(n)

###4--hgetall,hvals,hkeys
hgetall key  #返回hash key 对应的所有field和value  时间复杂度是o(n)
hvals key   #返回hash key 对应的所有field的value  时间复杂度是o(n)
hkeys key   #返回hash key对应的所有field  时间复杂度是o(n)
###小心使用hgetall
##1 计算网站每个用户主页的访问量
hincrby user:1:info pageview count
##2 缓存mysql的信息,直接设置hash格式

##其他操作 hsetnx,hincrby,hincrbyfloat
hsetnx key field value #设置hash key对应field的value(如果field已存在,则失败,返回了0),时间复杂度o(1)
hincrby key field intCounter #hash key 对应的field的value自增intCounter 时间复杂度o(1)
hincrbyfloat key field floatCounter #hincrby 浮点数 时间复杂度o(1)
# 浮点自增示例
hincrbyfloat numbers num1 3.5

使用hincrby做自增计数:

image-20230418165747098

浮点数自增示例:

image-20230418171618127

2 列表类型

# 插入操作

#rpush 从右侧插入
rpush key value1 value2 ...valueN  #时间复杂度为o(1~n)
#lpush 从左侧插入

#linsert
linsert key before|after value newValue   #从元素value的前或后插入newValue 时间复杂度o(n) ,需要遍历列表
linsert listkey before b java
linsert listkey after b php

# 删除操作

lpop key #从列表左侧弹出一个item 时间复杂度o(1)

rpop key #从列表右侧弹出一个item 时间复杂度o(1)

lrem key count value
#根据count值,从列表中删除所有value相同的项 时间复杂度o(n)
1 count>0 从左到右,删除最多count个value相等的项
2 count<0 从右向左,删除最多 Math.abs(count)个value相等的项
3 count=0 删除所有value相等的项
lrem listkey 0 a #删除列表中所有值a
lrem listkey -1 c #从右侧删除1个c

ltrim key start end #按照索引范围修剪列表 o(n)
ltrim listkey 1 4 #只保留下表1--4的元素

# 查询操作
lrange key start end #包含end获取列表指定索引范围所有item  o(n)
lrange listkey 0 2
lrange listkey 1 -1 #获取第一个位置到倒数第一个位置的元素

lindex key index #获取列表指定索引的item  o(n)
lindex listkey 0
lindex listkey -1

llen key #获取列表长度

# 修改操作
lset key index newValue #设置列表指定索引值为newValue o(n)
lset listkey 2 ppp #把第二个位置设为ppp

# 实战
实现timeLine功能,时间轴,微博关注的人,按时间轴排列,在列表中放入关注人的微博的即可


# 其他操作
blpop key timeout #lpop的阻塞版,timeout是阻塞超时时间,timeout=0为拥有不阻塞 o(1)
brpop key timeout #rpop的阻塞版,timeout是阻塞超时时间,timeout=0为拥有不阻塞 o(1)
'''它可以从多个列表中移出并获取第一个元素,如果列表没有元素,它会阻塞列表直到等待超时或发现可弹出元素为止。'''



#要实现栈的功能
lpush+lpop
#实现队列功能
lpush+rpop
#固定大小的列表
lpush+ltrim
#消息队列
lpush+brpop

timeLine 先后顺序 10个人发送的状态,发送在我的列表内
公司内部项目 ---> 任务 ---> 我的任务列表
不需要去过滤任务查看哪些是我的,而是之间放入我的任务列表。
审核请假,只放入我的部门列表,列表里面存放的是id号,查询快。
关注的人:按照时间排列,将关注的明星放入列表。
redis做消息队列不够专业,没有确认机制
虽然并发量较高但是吞吐量较低。

blpop如果列表没有元素,会阻塞程序,并且等待timeout时间结束:

image-20230418194919771

这里已经等待了20s。

如果在等待期间,有其他的客户端往这个列表放值,blpop会将其立即弹出,结束阻塞:

image-20230418195122905

可见只阻塞了4s,而不是20s。

3 集合类型

sadd key element #向集合key添加element(如果element存在,添加失败) o(1)
srem key element #从集合中的element移除掉 o(1)
scard key #计算集合大小
sismember key element #判断element是否在集合中
srandmember key count #从集合中随机取出count个元素,不会破坏集合中的元素
spop key #从集合中随机弹出一个元素
smembers key #获取集合中所有元素 ,无序,小心使用,会阻塞住 


sdiff user:1:follow user:2:follow  #计算user:1:follow和user:2:follow的差集
sinter user:1:follow user:2:follow  #计算user:1:follow和user:2:follow的交集     
sunion user:1:follow user:2:follow  #计算user:1:follow和user:2:follow的并集
                
sdiff|sinter|suion + store destkey... #将差集,交集,并集结果保存在destkey集合中
sinterstore destkey  set1  set2
    命令     新集合   集合1  集合2   # 将set1 set2取交集 存储到新集合destkey
# 更多示例:
sdiffstore destkey  set1  set2

# 应用场景
去重场景
抽奖系统 :通过spop来弹出用户的id,活动取消,直接删除
点赞,点踩,喜欢等,用户如果点了赞,就把用户id放到该条记录的集合中
标签:给用户/文章等添加标签,sadd user:1:tags 标签1 标签2 标签3
给标签添加用户,关注该标签的人有哪些
共同好友:集合间的操作

集合放值:

image-20230418104243803

判断集合里是否存在某值:

image-20230418104329455

随机取出O(n)(抽奖功能):

image-20230418104354453

随机弹出:

image-20230418104634365

两个集合:

image-20230418104747458

求差集(去掉交集的部分):

image-20230418104816361

求交集、并集:

image-20230418105432358

卖课网站:实现推荐的功能、去重

4 有序集合(zset)

# 特点:不能重复 有一个分值字段,来保证顺序
key                  score                value
user:ranking           1                   lqz
user:ranking           99                  lqz2
user:ranking           88                  lqz3
#集合有序集合
集合:无重复元素,无序,element
有序集合:无重复元素,有序,element+score
#列表和有序集合
列表:可以重复,有序,element
有序集合:无重复元素,有序,element+score

#  API使用
zadd key score element #score可以重复,可以多个同时添加,element不能重复 o(logN) 
zrem key element #删除元素,可以多个同时删除 o(1)
zscore key element #获取元素的分数 o(1)
zincrby key increScore element #增加或减少元素的分数  o(1)
zcard key #返回元素总个数 o(1)
zrank key element #返回element元素的排名(从小到大排)

zrange key 0 -1 #返回排名,不带分数  o(log(n)+m) n是元素个数,m是要获取的值
zrange player:rank 0 -1 withscores #返回排名,带分数

zrangebyscore key minScore maxScore #返回指定分数范围内的升序元素 o(log(n)+m) n是元素个数,m是要获取的值
zrangebyscore user:1:ranking 90 210 withscores #获取90分到210分的元素

zcount key minScore maxScore #返回有序集合内在指定分数范围内的个数 o(log(n)+m)

zremrangebyrank key start end #删除指定排名内的升序元素 o(log(n)+m)
zremrangebyrank user:1:rangking 1 2 #删除升序排名中1到2的元素
        
zremrangebyscore key minScore maxScore #删除指定分数内的升序元素 o(log(n)+m)
zremrangebyscore user:1:ranking 90 210 #删除分数90到210之间的元素

# 实战
排行榜:音乐排行榜,销售榜,关注榜,游戏排行榜

#其他操作
zrevrank #返回某个元素从高到低排序的顺序 
#zrevrank girls dlrb  返回迪丽热巴 按分数降序排的排名
zrevrange #从高到低排序取一定范围
zrevrangebyscore #返回指定分数范围内的降序元素

zinterstore #对两个有序集合交集
zunionstore #对两个有序集合求并集

重复的值放不进去,但是这个分数会放进去,会覆盖原来的分数:

image-20230418105621254

5 慢查询

# 单线程架构,命令一个个执行,会有长慢命令,造成整个redis的阻塞

# redis提供一种方式,可以记录长慢命令【放到慢查询队列中】,用于后续的排查修改工作


# 配置慢查询
	-slowlog-max-len :慢查询队列的长度
    -slowly-log-slower-than :超过多少微妙,就算慢命令,就会记录到慢查询队列中
    
    
# 实战
config set slowlog-log-slower-than 0
config set slowlog-max-len 100
config rewrite  # 写了永久生效,如果不写,只是暂时生效

# 查看慢查询队列
slowlog len #获取慢查询队列长度
slowlog reset #清空慢查询队列
slowlog get  # 获取慢查询队列的所有命令

image-20230418113252663

所以命令都会进行记录包括slowlog len

6 pipeline与事务

Redis的pipeline(管道)功能在命令行中没有,但redis是支持pipeline的,而且在各个语言版的client中都有相应的实现(Redis模块)

将一批命令,批量打包,在redis服务端批量计算(执行),然后把结果批量返回

1次pipeline(n条命令)=1次网络时间+n次命令时间

# python实现pipline
import redis
pool = redis.ConnectionPool(host='127.0.0.1', port=6379)
r = redis.Redis(connection_pool=pool)
#创建pipeline
pipe = r.pipeline(transaction=True)
#开启事务
pipe.multi()
pipe.set('name', 'lqz')
#其他代码,可能出异常
pipe.set('role', 'nb')
 
pipe.execute()



# redis原生实现事务   实现事务mutil
# 1 mutil  开启事务,放到管道中一次性执行
multi   # 开启事务
set name lqz
set age 18
exec



# 2 模拟实现乐观锁  watch+multi实现乐观锁
# 在开启事务之前,先watch
watch age
multi
decr age
exec

# 另一台机器
multi
decr age
exec  # 先执行,上面的执行就会失败(乐观锁,被wathc的事务不会执行成功)

image-20230418205643030

通过pineple可以实现事务,但是redis没有隔离级别。
关系型数据库才有隔离级别,redis相当于可重复读。
watch+multi实现乐观锁。
multi模仿事务实际上就是Pipeline。

mysql实现乐观锁:
查数字  减数字 修改数字的时候,jinzhi

mysql实现悲观锁:
就是for updata ---》 锁住这一行

7 发布订阅

# 发布订阅是 观察者模式 :只要订阅了某个东西,这个东西发送变化,我们就能收到
发布者发布了消息,所有的订阅者都可以收到,就是生产者消费者模型(后订阅了,无法获取历史消息)


# 一个客户端发送消息
publish lqz hello  # 只要有订阅者,客户端发送消息,所有订阅者都能收到

# 另外两个客户端,订阅频道,等待接收消息
subscribe lqz

# 查看某个频道有几个订阅者
pubsub numsub lqz

# 列出活跃的频道
pubsub channels

# 发布订阅和消息队列
发布订阅数全收到,消息队列有个抢的过程,只有一个抢到
而发布-订阅模式是发布一个消息,所有的订阅者都受到这个消息。
django信号是发布-订阅模式 

8 Bitmap位图

Bitmap位图:是字符串类型,但是以二进制形式存储的,获取,设置某个二进制位的

# set hello big
# getbit hello 0/1/2  返回比特位是0或1

# setbit hello 7 1   把第7,也就是8个比特位设置为1 
# big就变成了cit
# bitcount hello  0 1  字节数  返回8

# 独立用户统计
	-假设:1亿用户,5千万活跃用户     统计今天活跃用户是多选   用户iduserid是整形,32位整型
    	-int32 类型  4个字节表示一个数字---》 正负 2的31次方-1 的范围
        	1    4个字节
            1001 4个字节
    	-方式一:登录,把id放到集合中---》统计集合大小
        -方式二:登录,操作位图,把id对应的数字设为1 ,以后统计1的个数
    
数据量小的时候,使用Bitmap反而占用更多空间。

'''使用bitmap统计日活'''   

9 HyperLogLog

redis中支持这种算法,基于HyperLogLog算法:极小的空间完成独立数量统计
很类似于布隆过滤器

pfadd key element # 向hyperloglog添加元素,可以同时添加多个
pfcount key #计算hyperloglog的独立总数

pfadd uuids "uuid1" "uuid2" "uuid3" "uuid4" #向uuids中添加4个uuid
pfcount uuids #返回4


#也可以做独立用户统计

'''用于统计日订单量 可以存入uuid 而位图只能存数字'''

标签:pipeline,field,复杂度,element,集合,user,key,类型
From: https://www.cnblogs.com/clever-cat/p/17346724.html

相关文章

  • 说说Python集合的那些事儿
    大家好,我是IT共享者,人称皮皮。今天给大家来捋一捋Python集合。一、什么是集合?集合(set)和字典(dict)类似,它是一组key的集合,但不存储value。集合的特性就是:key不能重复。二、集合常用操作1.创建集合set的创建可以使用{}也可以使用set函数:s1={'a','b','c','a','d','b'}......
  • 使用pipeline执行命令遇到redis.Nil的坑
    参考项目kratos_rockscacheredis数据准备关键代码特别注意,使用pipeline的Exec方法,一定要判断一下redis.Nil这个错误:~~~......
  • 实验3 控制语句与组合数据类型应用编程
    实验任务一:实验源码:importrandomprint('用列表存储随机整数:')lst=[random.randint(0,100)foriinrange(5)]print(lst)print('\n用集合存储随机整数:')s1={random.randint(0,100)foriinrange(5)}print(s1)print('\n用集合存储随机整数:')s2=set()......
  • 多通道振弦传感器无线采集仪 多类型数字传感器独立发送协议
    多通道振弦传感器无线采集仪多类型数字传感器独立发送协议独立发送传感器数据时,每个传感器是一个独立的数据包,发送至预设的TCP服务器。数据包字符串,结构说明如下:UDID>MDS+传感器类型码+第x个传感器>第x包/总x包>传感器数据,校验和字符,回车换行符例如:“861234567812345......
  • 多通道振弦传感器无线采集仪 多类型数字传感器独立发送协议
    河北稳控科技多通道振弦传感器无线采集仪多类型数字传感器独立发送协议 独立发送传感器数据时,每个传感器是一个独立的数据包,发送至预设的TCP服务器。数据包字符串,结构说明如下:UDID>MDS+传感器类型码+第x个传感器>第x包/总x包>传感器数据,校验和字符,回车换行符例如:“......
  • 值类型
    publicstaticvoidType(){//基本类型变量,值赋值inta=12;intb=a;Console.WriteLine($"更改前{a}");b+=1;Console.WriteLine($"更改后的值{a}");//引用类型赋......
  • MySQL数据类型之字符型
    字符类型类型说明N的含义是否有字符集最大长度char(n)定长字符字符是255varchar(n)变长字符字符是65535binary(n)定长二进制字节字节否255varbinary(n)变长二进制字节字节否65535tinyblob二进制大对象字节否255blob(n)二进制大对象字节否65535mediumblob(n)二进制大对象字节否16Mlo......
  • MySQL数据类型之日期型
    日期类型日期类型占用空间(字节数)表示范围date41000-01-01~9999-12-31datetime81000-01-0100:00:00.000000~9999-12-3123:59:59.999999timestamp41970-01-0100:00:00.000000UTC~2038-01-1903:14:07.000000UTCyear11901-2155time3-838:59:59.000000~838:59:59.000000date......
  • 数据结构中的集合
    原文点此跳转什么是集合?集合是一种无序且唯一的数据结构,其中的唯一是指集合中的元素。在ES6中新增了一种数据结构Set就是集合。实现功能new()实例化一个集合add()添加元素delete()删除元素has()判断是否存在元素size()获取集合大小应用场景去重判断某元素是否在集合中求两......
  • Java 编程问题:四、类型推断
    本章包括21个涉及JEP286或Java局部变量类型推断(LVTI)的问题,也称为var类型。这些问题经过精心设计,以揭示最佳实践和使用var时所涉及的常见错误。到本章结束时,您将了解到将var推向生产所需的所有知识。问题使用以下问题来测试您的类型推断编程能力。我强烈建议您在使用解决方案......