Redis 键值型数据库

一、Redis是什么

Redis：REmote DIctionary Server（远程字典服务器）是完全开源免费的，用C语言编写的，遵守BSD协议，是一个高性能的（Key/Value）分布式内存数据库，基于内存运行，并支持持久化的NoSQL数据库，是当前最热门的NoSQL数据库之一，也被人们称为数据结构服务器。

二、Windows安装redis

1.下载后解压

2.命令行运行（可以指定配置文件），默认端口：6379

redis-server redis.windows.conf

3.通过客户端去访问 redis-cli

三、基本数据库常识

默认 16 个数据库，下标从零开始，初始默认使用零号库，在redis.conf里面有默认的配置

Select命令切换数据库
dbsize查看库中的数据量
Flushdb：清空当前库
Flushall：清空全部的库

四、常用命令

1、Redis键（key）

keys * 查看所有的key
exists key 的名字，判断某个key是否存在
expire key 秒钟：为给定 key 设置生存时间，当 key 过期时(生存时间为 0 )，它会被自动删除
ttl key 查看还有多少秒过期，-1 表示永不过期，-2 表示已过期
type key 查看你的key是什么类型

2、Redis五种基本数据类型

String字符串、List列表、Set集合、Hash哈希、sorkedSet有序集合

（1）字符串String

set key value 设置值
get key 获得key的值
del key 删除key
append key "hello" 追加内容对不存在的 key 进行 APPEND ，等同于 SET
STRLEN key 获取字符串的长度
incr key + 1只能对数值
incrby key num +num
decr key -1
decrby key num -num

getrange 获取指定区间范围内的值，类似between...and的关系，从零到负一表示全部
setrange 设置指定区间范围内的值，格式是setrange key值具体值
setex（set with expire）键秒值
setnx（set if not exist）
mset Mset 命令用于同时设置一个或多个 key-value 对。
mget Mget 命令返回所有(一个或多个)给定 key 的值。如果给定的 key 里面，有某个 key 不存在，那么这个 key 返回特殊值 nil 。
msetnx 当所有 key 都成功设置，返回 1 。
getset（先get再set）

（2）列表List

Lpush：将一个或多个值插入到列表头部。
rpush：将一个或多个值插入到列表尾部。
lrange：返回列表中指定区间内的元素，区间以偏移量 START 和 END 指定。
lpop 命令用于移除并返回列表的第一个元素。当列表 key 不存在时，返回 nil 。
rpop 移除列表的最后一个元素，返回值为移除的元素。
Lindex，按照索引下标获得元素（-1(特殊)代表最后一个， 0 代表是第一个）

llen 用于返回列表的长度。
lrem key 根据参数 COUNT 的值，移除列表中与参数 VALUE 相等的元素。删除掉count个value值

Ltrim key 对一个列表进行修剪(trim)，就是说，让列表只保留指定区间内的元素，不在指定区间之内的元素都将被删除。
rpoplpush 移除列表的最后一个元素，并将该元素添加到另一个列表并返回。

lset key index value 将列表 key 下标为 index 的元素的值设置为 value 。不能超出下标界限
linsert key before/after pivot value 用于在列表的元素前或者后插入元素。将值 value 插入到列表 key 当中，位于值 pivot 之前或之后。(第一个)

（3）集合Set

sadd 将一个或多个成员元素加入到集合中，不能重复,返回添加成功的数量
smembers 返回集合中的所有的成员。
sismember 命令判断成员元素是否是集合的成员。
scard，获取集合里面的元素个数
srem key value 用于移除集合中的一个或多个成员元素(返回删除元素的个数)
srandmember key 命令用于返回集合中的一个随机元素
spop key 用于移除集合中的指定 key 的一个或多个随机元素(返回删除的元素)

smove SOURCE DESTINATION MEMBER 将指定成员 member 元素从 source 集合移动到 destination 集合。
数字集合类- 差集： sdiff sdiff A B 返回A集合交于B集合的差集- 交集： sinter sinter A B 返回A和B共同的元素- 并集： sunion sunion返回A和B中所有的元素

（4）哈希Hash

kv模式不变，但V是一个键值对

hset、hget 命令用于为哈希表中的字段赋值。
hmset、hmget 同时将多个field-value对设置到哈希表中。会覆盖哈希表中已存在的字段。
hgetall 用于返回哈希表中，所有的字段和值。
hdel 用于删除哈希表 key 中的一个或多个指定字段

hlen 获取哈希表中字段的数量。
hexists 查看哈希表的指定字段是否存在。
hkeys 获取哈希表中的所有域（field）。
hvals 返回哈希表所有域(field)的值。
hincrby 为哈希表中的字段值加上指定增量值。
hsetnx 为哈希表中不存在的的字段赋值

（5）有序集合Zset

Zset是排序的

在set基础上，加一个score值。之前set是k1 v1 v2 v3，现在zset是 k1 score1 v1 score2 v2
zadd 将一个或多个成员元素及其分数值加入到有序集当中。
zrange 返回有序集中，指定区间内的成员
zrangebyscore 返回有序集合中指定分数区间的成员列表。有序集成员按分数值递增(从小到大)次序排列。

zcard 命令用于计算集合中元素的数量
zcount 计算有序集合中指定分数区间的成员数量
zrank 返回有序集中指定成员的排名。其中有序集成员按分数值递增(从小到大)顺序排列。

zrevrank 返回有序集中成员的排名。其中有序集成员按分数值递减(从大到小)排序。

和set相比，sorted set增加了一个权重参数score，使得集合中的元素能够按score进行有序排列，比如一个存储全班同学成绩的sorted set，其集合value可以是同学的学号，而score就可以是其考试得分，这样在数据插入集合的时候，就已经进行了天然的排序。可以用sorted set来做带权重的队列，比如普通消息的score为 1 ，重要消息的score为 2 ，然后工作线程可以选择按score的倒序来获取工作任务。让重要的任务优先执行。

五、Redis事务

1、Redis事务的概念

Redis 事务的本质是一组命令的集合。事务支持一次执行多个命令，一个事务中所有命令都会被序列化。在事务执行过程，会按照顺序串行化执行队列中的命令，其他客户端提交的命令请求不会插入到事务执行命令序列中。

总结说：redis事务就是一次性、顺序性、排他性的执行一个队列中的一系列命令。 Redis事务没有隔离级别的概念：

批量操作在发送 EXEC 命令前被放入队列缓存，并不会被实际执行！

Redis不保证原子性

Redis中，单条命令是原子性执行的，但事务不保证原子性，且没有回滚。事务中任意命令执行失败，其余的命令仍会被执行。

Redis事务的三个阶段

开始事务
命令入队
执行事务

2、Redis事务相关命令

watch key1 key2... #监视一或多个key,如果在事务执行之前，被监视的key被其他命令改动，则事务被打断（类似乐观锁）
multi # 标记一个事务块的开始（ queued ）
exec # 执行所有事务块的命令（一旦执行exec后,之前加的监控锁都会被取消掉）
discard # 取消事务，放弃事务块中的所有命令
unwatch # 取消watch对所有key的监控

正常执行

放弃事务

若在事务队列中存在命令性错误（类似于java编译性错误），则执行EXEC命令时，所有命令都不会执行

若在事务队列中存在运行时性错误（类似于java的1/0的运行时异常），则执行EXEC命令时，其他正确命令会被执行，错误命令抛出异常。

3、Watch 监控

悲观锁

悲观锁(Pessimistic Lock),顾名思义，就是很悲观，每次去拿数据的时候都认为别人会修改，所以每次在拿数据的时候都会上锁，这样别人想拿到这个数据就会block直到它拿到锁。传统的关系型数据库里面就用到了很多这种锁机制，比如行锁，表锁等，读锁，写锁等，都是在操作之前先上锁。

乐观锁

乐观锁(Optimistic Lock),顾名思义，就是很乐观，每次去拿数据的时候都认为别人不会修改，所以不会上锁。但是在更新的时候会判断一下再此期间别人有没有去更新这个数据，可以使用版本号等机制，乐观锁适用于多读的应用类型，这样可以提高吞吐量，乐观锁策略：提交版本必须大于记录当前版本才能执行更新。

测试

使用watch检测easylock，事务期间easylock数据变动，事务执行失败！

使用watch检测easylock，事务期间easylock数据未变动，事务执行成功

说明

一但执行 EXEC 开启事务的执行后，无论事务是否执行成功， WARCH 对变量的监控都将被取消。故当事务执行失败后，需重新执行WATCH命令对变量进行监控，并开启新的事务进行操作。

小结

watch指令类似于乐观锁，在事务提交时，如果watch监控的多个KEY中任何KEY的值已经被其他客户端更改，则使用EXEC执行事务时，事务队列将不会被执行，同时返回Nullmulti-bulk应答以通知调用者事务执行失败。

六、Redis持久化

redis的（运行时）数据都是存在内存中的

1、持久化之RDB

RDB（Redis DataBase）是什么?

在指定的时间间隔内将内存中的数据集快照写入磁盘，它恢复时是将快照文件直接读到内存里。

Redis会单独创建（fork）一个子进程来进行持久化，会先将数据写入到一个临时文件中，待持久化过程都结束了，再用这个临时文件替换上次持久化好的文件。整个过程中，主进程是不进行任何IO操作的，这就确保了极高的性能。如果需要进行大规模数据的恢复，且对于数据恢复的完整性不是非常敏感，那RDB方式要比AOF方式更加的高效。

Fork：Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据（变量、环境变量、程序计数器等）数值都和原进程一致，但是是一个全新的进程，并作为原进程的子进程

RDB的缺点是最后一次持久化后的数据可能丢失。
rdb 保存的是dump.rdb文件
相关配置在配置文件的位置 - 在redis.conf搜寻 ### SNAPSHOTTING ###

如何触发RDB快照

四种时机：

1.配置文件中默认的快照配置dbfilename dump.rdb

2.命令save或者是bgsave

Save：save时只管保存，其它不管，全部阻塞
BGSAVE：Redis会在后台异步进行快照操作，快照同时还可以响应客户端请求。可以通过lastsave 命令获取最后一次成功执行快照的时间

3.执行flushall命令，也会产生dump.rdb文件，但里面是空的，无意义

4.退出的时候也会产生 dump.rdb 文件

如何恢复

将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可
CONFIG GET dir获取目录

优势与劣势

优势：

适合大规模的数据恢复
对数据完整性和一致性要求不高更适合使用
节省磁盘空间
恢复速度快

劣势：

在一定间隔时间做一次备份，所以如果redis意外down掉的话，就会丢失最后一次快照后的所有修改
Fork的时候，内存中的数据被克隆了一份，大致2倍的膨胀性需要考虑

2、持久化之AOF

AOF（Append Only File）是什么

以日志的形式来记录每个写操作，将Redis执行过的所有写指令记录下来(读操作不记录)，只许追加文件但不可以改写文件，redis启动之初会读取该文件重新构建数据，换言之，redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作

AOF配置

相关配置在配置文件的位置 - 在redis.conf搜寻 ### APPEND ONLY MODE ###
aof保存的是appendonly.aof文件（在配置文件可修改文件名）

rewrite是什么

AOF采用文件追加方式，文件会越来越大。为避免出现此种情况，新增了重写机制，当AOF文件的大小超过所设定的阈值时，Redis就会启动AOF文件的内容压缩，只保留可以恢复数据的最小指令集。可以使用命令bgrewriteaof

重写原理

AOF文件持续增长而过大时，会fork出一条新进程来将文件重写(也是先写临时文件最后再rename)，遍历新进程的内存中数据，每条记录有一条的Set语句。重写aof文件的操作，并没有读取旧的aof文件，而是将整个内存中的数据库内容用命令的方式重写了一个新的aof文件，这点和快照有点类似

触发机制

Redis会记录上次重写时的AOF大小，默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发

优势与劣势

优势：

每修改同步：appendfsync always 同步持久化每次发生数据变更会被立即记录到磁盘性能较差但数据完整性比较好
每秒同步：appendfsync everysec 异步操作，每秒记录如果一秒内宕机，有数据丢失
不同步：appendfsync no 从不同步

劣势：

相同数据集的数据而言aof文件要远大于rdb文件，恢复速度慢于rdb
Aof运行效率要慢于rdb,每秒同步策略效率较好，不同步效率和rdb相同

七、Redis主从复制

概念

主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(master/leader)，后者称为从节点(slave/follower)；数据的复制是单向的，只能由主节点到从节点。Master以写为主，Slave 以读为主。

默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。

注意:只能往主服务器中写，从服务器不可以写入

主从复制的作用主要包括：

1 、数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。

2 、故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复；实际上是一种服务的冗余。

3 、负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时应用连接主节点，读Redis数据时应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。

4 、高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。

为什么要使用主从复制

一般来说，要将Redis运用于工程项目中，只使用一台Redis是万万不能的，原因如下：

1 、从结构上，单个Redis服务器会发生单点故障，并且一台服务器需要处理所有的请求负载，压力较大；

2 、从容量上，单个Redis服务器内存容量有限，就算一台Redis服务器内存容量为256G，也不能将所有内存用作Redis存储内存，一般来说，单台Redis最大使用内存不应该超过20G。电商网站上的商品，一般都是一次上传，无数次浏览的，说专业点也就是"多读少写"。

对于这种场景，我们可以使如下这种架构：

环境配置

配从库不配主库，从库配置：(手动连接)slaveof 主库ip 主库端口 ,每次与 master 断开之后，都需要重新连接

在从机的配置文件中添加slaveof 主机IP 端口号

启动主机,启动从机

从服务器只读不写

层层链路

上一个Slave 可以是下一个slave 和 Master，Slave 同样可以接收其他 slaves 的连接和同步请求，那么该 slave 作为了链条中下一个的master，可以有效减轻 master 的写压力！

复制原理

Slave 启动成功连接到 master 后会发送一个sync命令,
Master 接到命令，启动后台的存盘进程，同时收集所有接收到的用于修改数据集命令，在后台进程执行完毕之后，master将传送整个数据文件到slave，并完成一次完全同步。
全量复制：而slave服务在接收到数据库文件数据后，将其存盘并加载到内存中。
增量复制：Master 继续将新的所有收集到的修改命令依次传给slave，完成同步但是只要是重新连接master，一次完全同步（全量复制）将被自动执行

谋朝篡位

一主二从的情况下，如果主机断了，从机可以使用命令 SLAVEOF NO ONE 将自己改为主机！这个时候其余的从机链接到这个节点。对一个从属服务器执行命令 SLAVEOF NO ONE 将使得这个从属服务器关闭复制功能，并从从属服务器转变回主服务器，原来同步所得的数据集不会被丢弃。

八、哨兵模式

主从切换技术的方法是：当主服务器宕机后，需要手动把一台从服务器切换为主服务器，这就需要人工干预，费事费力，还会造成一段时间内服务不可用。这不是一种推荐的方式，更多时候，我们优先考虑哨兵模式。Redis从2.8开始正式提供了Sentinel（哨兵）架构来解决这个问题。谋朝篡位的自动版，能够后台监控主机是否故障，如果故障了根据投票数自动将从库转换为主库。哨兵模式是一种特殊的模式，首先Redis提供了哨兵的命令，哨兵是一个独立的进程，作为进程，它会独立运行。其原理是哨兵通过发送命令，等待Redis服务器响应，从而监控运行的多个Redis实例。

哨兵有两个作用

通过发送命令，让Redis服务器返回监控其运行状态，包括主服务器和从服务器。
当哨兵监测到master宕机，会自动将slave切换成master，然后通过发布订阅模式通知其他的从服务器，修改配置文件，让它们切换主机。

然而一个哨兵进程对Redis服务器进行监控，可能会出现问题，为此，我们可以使用多个哨兵进行监控。各个哨兵之间还会进行监控，这样就形成了多哨兵模式。

假设主服务器宕机，哨兵 1 先检测到这个结果，系统并不会马上进行failover[故障转移]过程，仅仅是哨兵 1 主观的认为主服务器不可用，这个现象成为主观下线。当后面的哨兵也检测到主服务器不可用，并且数量达到一定值时，那么哨兵之间就会进行一次投票，投票的结果由一个哨兵发起，进行failover操作。切换成功后，就会通过发布订阅模式，让各个哨兵把自己监控的从服务器实现切换主机，这个过程称为客观下线。

配置

在redis目录中创建配置文件(文件名可以自定义)

配置文件的内容

哨兵模式的优缺点

优点：

哨兵集群模式是基于主从模式的，所有主从的优点，哨兵模式同样具有。
主从可以切换，故障可以转移，系统可用性更好。
哨兵模式是主从模式的升级，系统更健壮，可用性更高。

缺点：

Redis较难支持在线扩容，在集群容量达到上限时在线扩容会变得很复杂。
实现哨兵模式的配置也不简单，甚至可以说有些繁琐

九、缓存穿透和雪崩

说明

Redis缓存的使用，极大的提升了应用程序的性能和效率，特别是数据查询方面。但同时，它也带来了一些问题。其中，最要害的问题，就是数据的一致性问题，从严格意义上讲，这个问题无解。如果对数据的一致性要求很高，那么就不能使用缓存。

另外的一些典型问题就是，缓存穿透、缓存雪崩和缓存击穿。

redis通过内存存储数据，吞吐速度非常快，多数用作缓存，如Mybatis的一二级缓存。对数据的缓存即数据重用，使访问数据库减少，减少了数据库的负担。如果redis缓存没有起到作用，则redis缓存作用失效。

缓存穿透

缓存穿透的概念很简单，用户想要查询一个数据，发现redis内存数据库没有，也就是缓存没有命中，于是向持久层数据库查询。发现也没有，于是本次查询失败。当用户很多的时候，缓存都没有命中，于是都去请求了持久层数据库。这会给持久层数据库造成很大的压力，这时候就相当于出现了缓存穿透。

解决方案

1.布隆过滤器

布隆过滤器是一种数据结构，对所有可能查询的参数以hash形式存储，在控制层先进行校验，不符合则丢弃，从而避免了对底层存储系统的查询压力；

2.缓存空对象

当存储层不命中后，即使返回的空对象也将其缓存起来，同时会设置一个过期时间，之后再访问这个数据将会从缓存中获取，保护了后端数据源；

但是这种方法会存在两个问题：

如果空值能够被缓存起来，这就意味着缓存需要更多的空间存储更多的键，因为这当中可能会有很多的空值的键；
即使对空值设置了过期时间，还是会存在缓存层和存储层的数据会有一段时间窗口的不一致，这对于需要保持一致性的业务会有影响。

缓存击穿

这里需要注意和缓存击穿的区别，缓存击穿，是指一个key非常热点，在不停的扛着大并发，大并发集中对这一个点进行访问，当这个key在失效的瞬间，持续的大并发就穿破缓存，直接请求数据库，就像在一个屏障上凿开了一个洞。

当某个key在过期的瞬间，有大量的请求并发访问，这类数据一般是热点数据，由于缓存过期，会同时访问数据库来查询最新数据，并且回写缓存，会导使数据库瞬间压力过大。

解决方案

1.设置热点数据永不过期

从缓存层面来看，没有设置过期时间，所以不会出现热点 key 过期后产生的问题。

2.加互斥锁

分布式锁：使用分布式锁，保证对于每个key同时只有一个线程去查询后端服务，其他线程没有获得分布式锁的权限，因此只需要等待即可。这种方式将高并发的压力转移到了分布式锁，因此对分布式锁的考验很大。

缓存雪崩

缓存雪崩，是指在某一个时间段，缓存集中过期失效。

产生雪崩的原因之一，比如在写本文的时候，马上就要到双十二零点，很快就会迎来一波抢购，这波商品时间比较集中的放入了缓存，假设缓存一个小时。那么到了凌晨一点钟的时候，这批商品的缓存就都过期了。而对这批商品的访问查询，都落到了数据库上，对于数据库而言，就会产生周期性的压力波峰。于是所有的请求都会达到存储层，存储层的调用量会暴增，造成存储层也会挂掉的情况。

其实集中过期，倒不是非常致命，比较致命的缓存雪崩，是缓存服务器某个节点宕机或断网。因为自然形成的缓存雪崩，一定是在某个时间段集中创建缓存，这个时候，数据库也是可以顶住压力的。无非就是对数据库产生周期性的压力而已。而缓存服务节点的宕机，对数据库服务器造成的压力是不可预知的，很有可能瞬间就把数据库压垮。