文章目录
- 基础
- 基础内容
- 使用场景/功能
- 常见数据类型
- 下载与安装
- 可视化(多个)
- 发布订阅功能
- 事务
- 两种持久化
- 主从模式
- 哨兵模式
- 集群模式Cluster
- 缓存淘汰
- 过期删除
- 缓存一致 Cache Aside
- 缓存击穿
- 缓存穿透
- 缓存雪崩
- 分布式锁
- 实战内容
- 配置文件
- 配置Redis的Bean
- Redis为什么这么快?
- Hash冲突怎么办?
- 项目与redis服务配置方式不同?
基础
基础内容
概念:Redis,全称为Remote Dictionary Server(远程数据服务),是开源的、基于内存的、键值对存储系统,是非关系型、日志型数据库;
特点:性能高;数据类型丰富,单键值对最大支持512M大小的数据;简单易用,支持所有主流编程语言;支持数据持久化、主从复制、哨兵模式等;
使用场景/功能
高性能缓存服务器:用于减轻数据库服务器的压力,项目运行将所必须内容加载到Redis中,提高项目对数据的获取速度;
数据共享:Redis是分布式的独立服务,可以多个项目使用相同的Redis;
分布式锁:实现对某操作的原子性执行,推荐使用redisson第三方库实现;
全局id:incrby 利用原子性,incrby userid 1000 分库分表的场景,一次性拿一段;
计数器:incr方法实现,目前涉及到的内容集中在计费操作,通过incr记次数实现;
限流:incr 本质还是统计次数,然后利用最大值限制;
位统计:用于大数据量的统计,通过二进制表示数据;
还有很多,不做详细介绍了 用到哪种学习哪种?
参考博客:https://blog.csdn.net/agonie201218/article/details/123640871
常见数据类型
字符串String
key是区分大小写的;
默认使用String类型存储键值对;
get获取的key对应的value是不存在,那么会输出nil;
不支持中文存储value,只是通过二进制形式存储,若想正常实现存储内容,需要在登录的时候采用redis-cli --raw登录;
TTL 查询key对应的过期时间,值为-1,则表示该键没有过期时间;值为-2,表示该key已经过期了;
列表List
存储和操作一组有顺序的数据;
输入输出可以类比栈,单向输入输出;lPush在左侧输入输出,RPush在右侧输入输出;输入元素是abc 那么输出是cba;lPop 和 RPop也是类似的操作;Llen 获取 长度;
可以重复的;
相关命令以l开头;
集合Set
不可以重复;
smembers course ,假设该set集合没有元素,则返回empty list or set
相关命令以S开头;
有序集合 SortedSet
每一个key都会关联一个浮点类型的分数,会按照这个分数排序,从小到大来排序;
有序集合的元素是唯一的,但是分数是可以重复的;
相关命令都是z开头;
哈希hash
键值对的集合,适合存储对象;
相关命令都以h开头;
消息队列 Stream
可以解决发布订阅功能的缺点;
相关命令都以x开头;
涉及到消费者组、以及消息的多次读取;
地理空间 Geospatial
存储地理位置信息的数据结构,同时对地理位置进行计算操作;
相关命令都以Geo开头;
如果key-value存储地点-经纬度,那么通过查询key得到的是一个数组;
如果计算两个value之间的距离,返回结果默认是米;
查询某个key在指定半径内的其他key;命令:
GEOSEARCH City FROMMEMBER shanghai BYRADIUS 1000 KM 查询key=上海 1000千米范围内的key城市
HyperLogLog
是一种用来做基数统计的算法;基于随机算法,牺牲一些精确度的角度,来减轻内存消耗;
基数 = 如果集合中的元素都不重复,那么基数=集合中元素的个数;
例如:集合12345,它的基数是5,集合1122334455,它的基数仍旧是5;
优点:占用内存小;缺点:精度不高;
适用场景:数据量大,且不需要精确度的情况;
相关命令都以pf开头;
位图Bitmap
字符串类型的扩展,可以使用字符串模拟一个数组;
数组的下标就是偏移量,值只有0和1;也支持位运算,与 或 非 异或等;
相关命令有bit开头或bit结尾;
位域Bitfield
将小的整数,存储到一个较大的位图中,可以高校的使用内存;
下载与安装
三种方式实现:
linux系统;
windows系统的压缩包安装;
windows系统的docker desktop 镜像安装;
停止终端的方式:
按下ctrl+c 或者 关闭终端页面;
可视化(多个)
参考链接:https://blog.csdn.net/WeiHao0240/article/details/123423230
参考博客:https://blog.csdn.net/boboJon/article/details/135073969
发布订阅功能
订阅频道subscribe xxx
发布消息到频道publish xxx 消息内容
订阅频道的终端可以有多个;缺点:
消息无法持久化;
无法记录历史消息;
事务
概念:在一次请求中,执行多条命令;
通过MULTI开启事务,将后续所有命令放入队列中,通过EXEC执行队列中命令;
并不能保证事务中的所有命令都执行成功;
可以保证的内容:执行EXEC命令之前,会将所有命令都缓存起来,不立即执行;执行EXEC命令,事务中的某个命令执行失败,其余命令不会受到影响;执行EXEC命令过程中,其他用户提交的命令,不会插入得到命令的执行序列中;通过MULTI启动事务,指令会多TX标识符;
再次输入命令,会返回QUEUED,表示已经放入命令执行队列;
两种持久化
是一个重要的功能,Redis是基于内存的,如果断点,则会导致数据丢失;所以必须有持久化操作;
两种方式:RDB 和 AOF 方式;
RDB:Redis Database在指定时间间隔内,将内存中的数据快照写入磁盘中;某个时间点上完整副本;通过save参数配置;save 参数1 参数2 --》参数1=时间间隔 参数2=修改次数更适合用来做备份,因为如果服务宕机,那么快照最后一次后的所有修改就会丢失;思考1:由于正式环境中 redis都会给分配较大的内存空间,通过RDB进行备份的时候,redis是不能进行处理的,会影响业务;通过提供bgsave命令处理,会创建一个子进程专门处理备份,主进程处理业务,但是在创建子进程的过程中仍旧不能处理业务;
AOF:执行追加文件,在执行写命令的过程中,不仅会将结果写入数据库中,而且会将写命令写入追加文件中(AOF文件);redis执行写操作时,会重新执行AOF文件,重新构建数据库;开启AOF方式:配置文件中,将appendonly参数值改成yes;
主从模式
将主节点数据复制到从节,主节点-master,从节点slave;
从节点可以有很多,每个从节点只能有一个主节点;
数据的复制是单向的,只能从主节点到从节点;
主节点负责写操作,从节点负责读操作;
主节点通过异步的方式向从节点发送数据,从节点收到后更新自己的数据;
一台主机上可以配置多个redis 通过不同的端口号进行区分;
配置:
主节点 不需要配置,因为默认就是主节点;
设置从节点的方式两种:命令 以及 配置文件修改
命令:role --》 查看当前节点角色replicaf host port --》配置所属主节点
配置文件:是redis.conf文件修改端口号:port pidfile 都要修改端口号dbfilename 配置也要加上端口号rplicaof host port 配置主节点Redis默认是以守护进程的方式运行,系统默认会将pid写入文件中;redis-cli登录:info replication 查看配置信息;
哨兵模式
主从模式存在问题:
当主节点宕机之后,需要人工干预将从节点提升为主节点;
哨兵模式:
哨兵以一个独立的进程运行在一个Redis集群中,用来监控Redis集群中的节点是否运行正常;
作用:监控:会不断向各个节点发送指令,检查各个节点的是否正常运行;通知:发现某个节点不能正常工作,会通过发布订阅模式,通知其他节点;自动故障转移:会将从节点变成新的主节点,再将其他从节点指向该主节点;哨兵模式配置:配置文件sentinel.conf内容:sentinel monitor master ip port 1ip 和 port都是主节点的1 = 使用一个哨兵来实现故障转移正式环境中一般都采用3个哨兵,防止哨兵节点宕机;
启动哨兵模式:redis-sentinel sentinel.conf
集群模式Cluster
解决问题:采用主从复制、哨兵机制,每台机子上完整存储所有数据,当数据量特别大的时候,这种情况是无效的;
定义:cluster是redis提供的分布式数据库解决方案,将所有数据分片,节点进行领取,即使某些节点宕机,也还可以执行操作;
数据分片:将key通过CRC16校验函数计算,再对16384取模运算,再决定数据分配到哪个槽位(也即是片、slot) ;每个redis的cluster节点负责一部分槽数据的存储;(槽数据 = 存储在特定槽上的所有键值对)这些节点再结合主从复制模式,对数据进行备份;
查询策略:每个节点都会存储整个集群节点信息,这些叫元信息;元信息:各节点存储的槽数据、master和slave状态、节点存活状态;两次查询实现数据查询;
元信息传递:gossip协议,每个节点把自己的数据信息通过协议传递出去;具体过程:周期性执行;所有被感染的节点选择k个相邻的节点散播消息;
扩容缩容:当数据量大时,增加节点;数据量少,减少节点;
缓存淘汰
淘汰策略:常用的三个;默认是LRU先进先出FIFO:类似一个队列,淘汰最早载入缓存的数据;最近最早使用LRU:老数据,按照最近被访问的时间排序,末端节点删除;实现思路-双向链表+哈希表;双向链表存储键值对;哈希表存储key和双向链表的node节点的指针引用;具体执行: 当某个key被访问到,会将其对应的node节点放到双向链表的头部;最不经常使用LFU:多一个 被访问次数 这个属性;key+value 结合被访问次数,组成新的数据结构;将该数据结构放入双向链表中,按照次数从大到小的排序方式,先替换排在最后的元素;
过期删除
默认采用定期删除;
目前有三种策略:主动删除、惰性删除、定期删除;主动删除:设置错误间隔时间,在指定时间后进行主动删除;缺点:当redis比较忙,删除时间刚好到了,则会增加服务器的负担;惰性删除:程序访问某个数据,先判断是否已经过期,没过期则返回,反之,则删除;缺点:只有当被访问到的时候,才进行删除,会导致内存中存在大量无效数据,造成资源的浪费;定期删除:主动删除+惰性删除;每个一段时间,执行主动删除;其余时间,采用惰性删除;
缓存一致 Cache Aside
定义:后端缓存数据 = 数据库数据,并不是时时刻刻保持一致,允许在一定小范围内,出现不一致的情况;
采用策略:Cache Aside策略:模式1 = 删除缓存、更新数据库模式2 = 更新数据库、更新缓存Read/Write Through将缓存作为主要的数据读取方式,如果缓存中没有数据,则更新缓存,再从缓存中取数;Write Behind更新数据库与更新缓存都采用异步的形式;结合mysql的主从复制模式,将mysql作为主服务,redis作为从服务;
模式1:
模式2:
Read/Write Through
Write Behind
缓存击穿
定义:查询某个数据的值,缓存中没有,而数据库中有
危害:如果访问该key的量特别大,且缓存中没有,则请求全部会访问数据库;redis的性能是mysql数据库的10-100倍,当访问量redis可以承受时,转到mysql上,可能就会导致mysql宕机;
解决:mysql角度,加锁,控制redis击穿之后数据库的并发访问量;redis角度,热点数据永不过期;异步线程,将重要数据、已经过期的 进行过期时间重置;
缓存穿透
定义:一条查询数据,缓存中没有,数据库中也没有;
解决方法:拦截非法请求;缓存空对象;布隆过滤器;
布隆过滤器:
缓存雪崩
定义:一大批缓存数据都失效,故此这批请求都会被打到数据库上,导致数据库宕机;
与缓存击穿的区别:缓存击穿是单点;缓存雪崩是多点;
解决方式:mysql角度,加锁,减少数据库并发量;redis角度, 热点数据永不过期;让失效时间分散点;缓存预热,即在上线前,根据当天的情况,将数据直接加载到缓存系统;
分布式锁
实战内容
配置文件
单机模式:
spring:redis:enable: true
// 意图是控制是否启用Redis功能host: localhostport: 6379database: 0// redis数据库的索引,表示第一个数据库timeout: 10000ms// Redis服务器的超时时间,单位ms,也就是10秒lettuce:// spring data redis默认使用的客户端;pool:// 配置lettuce的连接池配置max-active: 8// 最大活动连接数max-idle: 8// 最大空闲连接数min-idle: 0// 最小空闲连接数max-wait: -1ms// 获取连接的最大等待时间
主从模式:
// 通过spring.redis.sentinel来配置;spring:redis:sentinel:// 配置使用主从复制模式master: mymaster// 指定主服务器组nodes:- "sentinel1:26379"- "sentinel2:26379"- "sentinel3:26379"// seninel实例的主机名或ip 以及端口号database: 0timeout: 10000mspassword: yourpasswordSentinel配置文件:(哨兵模式)
# Sentinel配置文件位置 /etc/redis/sentinel.conf
具体内容:sentinel monitor mymaster 192.168.1.100 6379 2
# 监控名为mymaster
# 监控主机的ip和port 192.168.1.100 6379
# 至少有2个sentinel确认服务器宕机后才进行故障转移
sentinel down-after-milliseconds mymaster 30000
# 如果sentinel在3,0000毫秒内没有收到主服务器的有效回复,则认为主服务器宕机;
sentinel failover-timeout mymaster 180000
# 故障转移,等待新主机启动的超时时间为18,0000毫秒
sentinel parallel-syncs mymaster 1
# 故障转移过程中,同时复制给从服务器的数量限制为1
集群模式:
spring:redis:cluster:// 指定redis采用集群模式nodes:// 集群中的节点列表,每个节点都是集群中的一个成员;- "node1:7000"- "node2:7000"- "node3:7000"- "node4:7000"- "node5:7000"- "node6:7000"password: yourpasswordtimeout: 10000ms
配置Redis的Bean
public class RedisConfig {@Autowiredprivate StringRedisTemplate commonStringRedisTemplate;// 自动注入StringRedisTemplate实例;// 是 Spring Data Redis 提供的一个模板类,专门用于处理字符串类型的键值对;@Bean// 将返回一个可以被 Spring 管理的 Bean。public RedisOperations commonRedisOperations(){RedisOperations redisOperations = new DefaultRedisOperations(commonStringRedisTemplate);// 创建了一个 DefaultRedisOperations 实例,这是一个自定义的类(假设它是存在的),它接受 StringRedisTemplate 作为构造函数的参数。// 用于封装 Redis 操作,并初始化分布式锁机制。DistributedLock.init(redisOperations);// 初始化一个分布式锁机制,接受一个 RedisOperations 参数用于设置内部的 Redis 操作实例。同时,在应用程序启动时,分布式锁就会准备好使用。log.info("{}","Redis分布式锁初始化完成");return redisOperations;}
}
Redis为什么这么快?
Hash冲突怎么办?
项目与redis服务配置方式不同?
问题描述:项目配置redis,采用单机模式配置;redis服务,采用集群方式;导致项目启动异常;
分析:Redis 服务是按照集群(cluster)模式部署的,而应用程序却以单机(standalone)模式尝试连接到该集群中的某一个节点,这通常不会直接导致 Redis 服务本身启动异常。但会遇到连接或者操作失败的问题。