参考博客:
SpringCloud Sentinel集成到微服务项目中(保姆级教程)
什么是Sentinel
Sentinel 是面向分布式服务架构的轻量级流量控制产品,主要以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。
优点
- 丰富的应用场景: Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、实时熔断下游不可用应用等。
- 完备的实时监控: Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。
- 广泛的开源生态: Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
- 完善的 SPI 扩展点: Sentinel 提供简单易用、完善的 SPI 扩展点。您可以通过实现扩展点,快速的定制逻辑。例如定制规则管理、适配数据源等。
下载
Github链接
官方文档,中文的推荐看这个学习
SpringCloud 整合 Sentinel
配置
引入依赖
<dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
配置yaml文件
spring:cloud:sentinel:transport:port: 9999 # 控制台交流的端口,所以指定一个未使用的端口dashboard: localhost:8080 # 指定服务地址
流控规则
为了演示效果,把单机阈值设置为3。新增完成之后,再次访问http://localhost:8080/sentinel2接口,当QPS超过3时,就可以看到限流的效果
并发线程数规则: 当请求达到设置的最大线程数时候,在这些线程处理响应结束之前,如果此时还有线程到达,那么这个线程就会被流控。
直接流控模式
直接流控模式: 直接对添加流控的资源进行流量限制,默认就是采用这种限流模式
关联流控模式
关联流控模式:两个资源之间存在关联关系,假设A资源和B资源存在关联关系,对A资源进行流控规则,关联了B资源,那么此时如果A资源满足流控规则后,就会限流B资源,这就是关联流控模式。
链路流控模式
链路流控模式:根据接口的调用链路来实现流量控制,假设:A资源被B、C两个资源调用,也就是存在两个链路:B–>A、C–>A;那么就可以采用链路流控模式,对【B–>A】调用链路进行流控限制。
比如两个Controller 调用 同一个Services 中的方法查询数据库,此时我们可以在这个Services 方法上添加注解(SentinelResource),加入到链路流控中去。
配置:Sentinel 默认情况下会给进入SpringMVc的所有请求设置同一个root资源,会导致链路模式失效,我们需要关闭这种资源聚合。
添加配置:
spring:cloud:sentinel:web-context-unify: false
流控效果
快速失败(流控效果)
快速失败:当发生流控的时候,直接快速返回失败信息。
Warm Up(流控效果)
“Warm Up”机制在流控中主要用于平滑请求的处理,避免系统在高并发情况下的突发压力。通过先处理少量请求,系统可以逐步适应负载,降低错误率。
具体来说,Sentinel 的冷加载因子为 3,意味着它会根据设定的阈值(threshold)除以 3 来确定初始处理能力。在预热阶段,系统从处理 3 个请求开始,随着时间的推移,逐步增加处理请求的数量,例如 3、6、10,直到达到预设的阈值。这种逐步增加的方式可以有效防止系统过载,提升系统的稳定性和响应能力。
排队等待(流控效果)
排队等待:请求在达到设定的阈值时候,多余的请求会在指定的时间里面排队等待被处理,如果在指定时间里面,还没有被执行,那就直接失败。
熔断降级
慢调用比列
慢调用比例:请求的响应时长超过给定的RT,并且满足【最小请求数】中满调用的占比达到阈值,则触发熔断规则。
最大RT(ResponseTime)相当于响应时间,说明该请求属于慢调用。
比例阈值:当慢调用请求数 / 总请求数 > 比例阈值的时候会触发这个熔断规则
熔断时长:触发熔断的时候,在熔断时长之内,不会接受请求。
最小请求数:要触发熔断机制的前提是,已经处理了最小请求书这么多的请求。
异常比例
异常比例:在指定的请求数量里面,出现异常的请求达到指定比例,则触发熔断规则。
异常数
异常数:在最小请求数里面,出现异常的次数满足阈值,则发生熔断。
热点规则
何为热点?热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的TopK数据,并对其访问进行限制。比如:
- 商品ID为参数,统计一段时间内最常购买的商品ID并进行限制
- 用户ID为参数,针对一段时间内频繁访问的用户ID进行限制
热点参数限流会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制,仅对包含热点参数的资源调用生效。
注意:热点参数规则,必须是使用 @SentinelResource 注解定义的资源。
系统规则
Sentinel 系统自适应限流从整体维度对应用入口流量进行控制,结合应用的 Load、CPU 使用率、总体平均 RT、入口 QPS 和并发线程数等几个维度的监控指标,通过自适应的流控策略,让系统的入口流量和系统的负载达到一个平衡,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性
Load 自适应(仅对 Linux/Unix-like 机器生效)
系统的 load1 作为启发指标,进行自适应系统保护。当系统 load1 超过设定的启发值,且系统当前的并发线程数超过估算的系统容量时才会触发系统保护(BBR 阶段)。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU cores * 2.5;
CPU usage(1.5.0+ 版本)
当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0),比较灵敏;
平均 RT
当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒;
并发线程数
当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护;
入口 QPS
当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。
授权规则
Sentinel 的授权规则(Authority Rule)是用于实现访问控制的机制,允许开发者根据请求来源(origin)来限制资源的访问。这一功能特别适用于需要保护 API 或服务的场景。以下是关于 Sentinel 授权规则的几个关键点:
- 主要概念
- 资源(resource):指需要进行访问控制的目标,通常是 API、服务或其他关键操作。
- 请求来源(limitApp):定义可以访问资源的来源,支持白名单和黑名单的配置。
- 策略(strategy):确定访问控制的模式,可以是白名单模式或黑名单模式。
- 配置项
- resource:指定要受限的资源名称。
- limitApp:定义可以访问或被禁止访问的应用来源,用逗号分隔。
- strategy:限制模式:
a. AUTHORITY_WHITE:白名单模式,只有 limitApp 列出的应用能够访问。
b. AUTHORITY_BLACK:黑名单模式,limitApp 列出的应用将被拒绝访问,其他应用可以访问。
- 使用场景
- API 保护:防止未经授权的应用访问敏感 API。
- 多租户系统:为不同租户设置访问权限,确保数据安全。
- 流量管理:根据来源控制流量,避免恶意请求影响系统稳定性。
Sentinel自定义异常
自定义bean实现替换,实现BlockExceptionHandler 接口 重写handler方法
SentinelResource注解的使用
博客推荐
@SentinelResource
注解是 Spring Cloud Alibaba Sentinel 的一部分,用于实现流量控制和熔断降级。这个注解可以用在方法上,主要用于标记要进行熔断和流量控制的资源。以下是一些主要特性和使用方法:
主要特性
- 流量控制:通过设置阈值来限制请求数量,防止服务过载。
- 熔断降级:在服务出现异常时,能够快速切换到降级逻辑,保证系统的稳定性。
- 自定义回调:可以指定当请求被熔断时的回调方法。
使用示例
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;@RestController
public class MyController {@GetMapping("/myResource")@SentinelResource(value = "myResource", fallback = "fallbackMethod", blockHandler = "blockHandlerMethod")public String myResource() {// 业务逻辑return "Hello, Sentinel!";}public String fallbackMethod(Throwable ex) {return "Fallback response due to: " + ex.getMessage();}public String blockHandlerMethod(BlockException ex) {return "Blocked request: " + ex.getMessage();}
}
参数说明
- value:资源名称,通常是方法名称。
- fallback:指定降级逻辑的方法。
- blockHandler:当流量控制策略生效(如限流)时,指定的处理方法将被调用,用于返回一个自定义的响应