匀速排队(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER)方式会严格控制请求通过的间隔时间,也即是让请求以均匀的速度通过,对应的是漏桶算法。详细文档可以参考 流量控制 - 匀速排队模式,具体的例子可以参见 PaceFlowDemo
该方式的作用如下图所示:这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。
配置:/test每秒1次请求,超过的话就排队等待,等待的超时时间为20000毫秒
5.5 降级规则官网说明
名词说明:
RT(平均响应时间,秒级)
平均响应时间,超出阈值 且 在时间窗口内通过的请求>=5,两个条件同时满足后触发降级,窗口期过后关闭断路器
RT最大4900 ms(更大的需要通过-Dcsp.sentinel.statistic.max.rt=XXXX才能生效)
异常比例(秒级)
QPS >= 5 且 比例(秒级统计)超过阈值时,触发降级,窗口期过后关闭断路器
注意:Sentinel的断路器是没有半开状态的
半开状态:半开的状态,系统自动去检测是否请求有异常,没有异常就关闭断路器恢复使用,有异常则继续打开断路器不可用,具体可以参考Hystrix。
Sentinel熔断降级会在调用链路中某个资源出现不稳定状态时(例如调用超时或异常比例升高),对这个资源的调用进行限制,让请求快速失败,避免影响到其他的资源而导致级联错误。
当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出DegradException )。
降级策略演示
RT(平均响应时间(DEGRADE_GRADE_RT))
是什么:当 1s 内持续进入 5 个请求,且对应时刻的平均响应时间(秒级)均超过阈值(count,以ms为单位),那么在接下来的时间窗口(DegradeRule中的timeWindow,以 s 为单位)之内,对这个方法的调用都会自动的熔断(抛出DegradeException)。注意 Sentinel 莫仍统计的 RT 上限是 4900 ms,超出次阈值的都会算作 4900 ms,若需要变更此上限可以通过启动配置项 -Dcsp.sentinel.statistic.max.rt=xxx来配置。
测试
代码
@GetMapping("/testD") public String testD() { //暂停几秒线程 try { TimeUnit.SECONDS.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); } log.info("testD 测试RT"); return "==> testD"; }配置
jmeter压测:直接 Blocked by Sentinel (flow limiting)
结论:① 默认请求是 1 秒 5个,而我们能jmeter压测设置的 1 秒 10个。② 代码中设置的平均响应时间为 1 秒,而我们设置的RT为 2 毫秒。两个条件都不满足则直接断路器开启,微服务不可用了,服务熔断降级。
异常比例(DEGRADE_GRADE_EXCEPTION_RATIO)
是什么:当资源的每秒请求量 >= 5,并且每秒异常总数占通过量的比值超过阈值(DegradeRule中的count)之后,资源进入降级状态,即在接下来的时间窗口(DegradeRule中的timeWindow,以 s 为单位)之内,对这个方法的调用都会自动的返回。异常比率的阈值范围是 [0.0,1.0],代表 0% - 100%。
测试
代码
@GetMapping("/testD") public String testD() { log.info("testD 测试RT"); int age = 10 / 0; return "==> testD"; }配置
jmeter压测:直接 Blocked by Sentinel (flow limiting)
异常数(DEGRADE_GRADE_EXCEPTION_COUNT):