springcloud hystrix,springcloud-熔断Hystrix
springcloud hystrix,springcloud-熔断Hystrix详细介绍
本文目录一览： 微服务架构的软件运行可能存在哪些问题？
微服务架构开发在软件编程开发领域中是一种非常常见的软件开发方式了，而今天我们就一起来了解一下，基于微服务架构的系统软件在运行过程中都有哪些问题会发生。
一：Hystrix是什么?
1.1:基本解释
Hystrix开始由Netflix(看过美剧的都知道,它是一个美剧影视制作的巨头公司)开源的，后来由SpringCloudHystrix基于这款框架实现了断路器、线程隔离等一系列服务保护功能,该框架的目标在于通过控制访问远程系统、服务和三方库的节点，从而延迟和故障提供更强大的容错能力。hystrix具备服务降级、服务熔断、线程和信号隔离、请求缓存、请求合并以及服务监控等强大功能。起到了微服务的保护机制,防止某个单元出现故障.从而引起依赖关系引发故障的蔓延，终导致整个系统的瘫痪。
1.2:断路器的概念
断路器本身是一个开关装置，用在电路上保护线路过载，当线路中有电器发生短路的时候。“断路器”能够及时切断故障，防止发生过载、发热甚至起火等严重后果。当分布式架构中，断路器模式起到的作用也是类似的。当某个服务发生故障的时候，通过断路器的故障监控向调用方返回一个错误响应，而不是长时间的线程挂机，无限等待。这样就不会使线程因故障服务被长时间占用不释放，避免了故障在分布式系统中的蔓延。
二：Hystrix解决超时问题
2.1：问题
假设我们前端提供了用户查询订单的功能，先请求映射到OrderController，控制器通过调用服务orderService获取订单信息，前端传过来两个参数：一个是订单id,一个是用户id,orderService需要通过用户id调取用户服务来获取用户的相关信息返回给订单服务去组装信息，假设这里是通过http请求的，我们有一个单独的工程叫做：userService部署在其他的服务器上。但是这个服务器宕机了，这时候订单服务调取用户信息就失败了，然后查询订单整个请求就失败了!由一个服务的宕机就导致整个查询都失败了，牵一发而动全身。
三：Hystrix的流程
Hystrix实际上的工作原理是这样的:通过command来解耦请求与返回操作，在具体的实例中就是，Hystrix会对依赖的服务进行观察,通过command.toObservable调用返回一个观察的对象，同时发起一个事件，然后用Subscriber对接受到的事件进行处理。北京北大青鸟建议在command命令发出请求后，它通过一系列的判断，顺序依次是缓存是否命中、断路器是否打开、线程池是否占满，然后它才会开始对我们编写的代码进行实际的请求依赖服务的处理，也就是Hystrix.run方法，如果在这其中任一节点出现错误或者抛出异常，它都会返回到fallback方法进行服务降级处理，当降级处理完成之后，它会将结果返回给,际的调用者,经过一系列流程处理的。
springcloud-熔断Hystrix
Hystrix是由Netflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失败，从而提升系统的可用性与容错性。Hystrix主要通过以下几点实现延迟和容错。
包裹请求 ：使用HystrixCommand（或HystrixObservableCommand）包裹对依赖的调用逻辑，每个命令在独立线程中执行。这使用到了设计模式中的“命令模式”。
跳闸机制 ：当某服务的错误率超过一定阈值时，Hystrix可以自动或者手动跳闸，停止请求该服务一段时间。
资源隔离 ：Hystrix为每个依赖都维护了一个小型的线程池（或者信号量）。如果该线程池已满，发往该依赖的请求就被立即拒绝，而不是排队等候，从而加速失败判定。
监控 ：Hystrix可以近乎实时地监控运行指标和配置的变化，例如成功、失败、超时、以及被拒绝的请求等。
回退机制 ：当请求失败、超时、被拒绝，或当断路器打开时，执行回退逻辑。回退逻辑可由开发人员自行提供，例如返回一个缺省值。
自我修复 ：断路器打开一段时间后，会自动进入“半开”状态。
springcloudgateway怎么故障转移
在SpringCloudGateway中实现故障转移通过以下步骤进行操作：1、配置服务注册和发现确保你的微服务已经注册到服务注册中心，例如Eureka或Consul。这将使Gateway能够发现可用的服务实例。2、配置负载均衡：在Gateway的路由配置中，使用负载均衡器来分发请求到多个服务实例。SpringCloudGateway默认集成了Ribbon作为负载均衡器，你可以使用`LoadBalancerClient`来实现负载均衡。3、配置熔断器：为了实现故障转移，你可以在Gateway中使用熔断器来处理故障的服务。SpringCloudGateway集成了Resilience4j和Hystrix作为熔断器，默认使用Resilience4j。你可以在路由配置中添加熔断器的相关配置，例如设置熔断器的阈值、超时时间等。4、配置降级策略：如果某个服务发生故障，你可以在Gateway中配置降级策略，返回一个默认的响应或者转发到备用的服务。你可以使用`fallbackUri`属性来指定降级的路由。5、监控和告警：为了及时发现故障和进行故障转移，你可以使用监控和告警工具来监控Gateway和后端服务的状态。SpringCloudGateway集成了SpringBootActuator，你可以通过Actuator来暴露监控和健康检查的端点。
Spring Cloud 常用组件梳理
业务场景:
创建一个订单之后，如果用户立刻支付了这个订单，我们需要将订单状态更新为“已支付”
扣减相应的商品库存
通知仓储中心，进行发货
给用户的这次购物增加相应的积分
针对上述流程，我们需要有订单服务、库存服务、仓储服务、积分服务。整个流程的大体思路如下：
用户针对一个订单完成支付之后，就会去找订单服务，更新订单状态
订单服务调用库存服务，完成相应功能
订单服务调用仓储服务，完成相应功能
订单服务调用积分服务，完成相应功能
至此，整个支付订单的业务流程结束
一、Spring cloud组件
1、Spring Cloud核心组件：Eureka 注册中心
2、Spring Cloud核心组件：Feign ?调用
3、Spring Cloud核心组件：Ribbon 负载均衡
4、Spring Cloud核心组件：Hystrix 熔断器 错误降级 防止雪崩
5、Spring Cloud核心组件：Zuul 网关 各端请求 统一处理
Spring Cloud调用接口过程
Feign ----->Hystrix —>Ribbon —>Http Client（apache http components 或者 Okhttp） 具体交互流程上
Hystrix 是一个供分布式系统使用，提供 延迟 和 容错 功能，保证复杂的分布系统在面临不可避免的失败时，仍能有其弹性。
比如系统中有很多服务，当某些服务不稳定的时候，使用这些服务的用户线程将会阻塞，如果没有隔离机制，系统随时就有可能会挂掉，从而带来很大的风险。SpringCloud使用 Hystrix组件提供断路器、资源隔离与自我修复功能 。下图表示服务B触发了断路器，阻止了级联失败
Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统中，许多依赖不可避免的会调用失败，超时、异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，提高分布式系统的弹性
熔断机制是应对雪崩效应的一种微服务链路保户机制，当扇出链路的某个微服务不可用或者响应时间太长时，会进行服务的降级，进而熔断该节点微服务的调用，快速返回错误的相应信息。当检测当该节点微服务调用响应正常后恢复调用链路，熔断机制的注解是@HystrixCommand
“熔断器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控，，某个异常条件被触发，直接熔断整个服务。，向调用方法返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出吊牌用方法无法处理的异常，就保证了服务调用方的线程不会被长时间占用，避免故障在分布式系统中蔓延，乃至雪崩。
服务降级处理是在客户端实现完成的，与服务端没有关系
整体资源快不够了，忍痛将某些服务单元先关掉，关闭后还要返回一些可处理的备选方法，待渡过难关，再开启回来。
分布式项目中，有数十个依赖关系，每个依赖关系在某些时候不可避免地失败，
服务雪崩 ：当A调用微服务B，B调C，和其他微服务，这是扇出，当扇出链路上某个微服务调用响应时间过长或者不可用，对微服务的A的调用就会占用越来越多的系统资源，导致系统崩溃，所谓的雪崩效应
服务熔断 ：一般是某个服务异常引起的，相当于“保险丝”，当某个异常条件被触发，直接熔断整个服务，不是等到此服务超时
服务降级 ：降级一般是从整体负荷考虑，当某个服务熔断之后，服务器将不再被调用，客户端可自己准备一个本地的fallback回调，返回一个缺省值，虽然服务水平下降，当能用，比直接挂掉要强
springcloud是spring，采用AOP的思想，异常处理信息，我们某个服务的功能是每个方法，我们还可以使用AOP直接在api层通过接口设置服务降级。
Spring Boot和Spring Cloud的区别
1、spring cloud是基于spring boot的一种框架，包括 eureka、ribbon、 feign、 zuul 、hystrix等
2、Spring Boot可以离开 Spring Cloud独立使用开发项目,但是 Spring Cloud离不开 Spring Boot
3、Spring boot 是 Spring 的一套快速配置脚手架，可以基于spring boot 快速开发单个微服务；Spring Cloud是一个基于Spring Boot实现的云应用开发工具；
4、Spring boot专注于快速、方便集成的单个个体，Spring Cloud是关注全局的服务治理框架；
5、spring boot使用了默认大于配置的理念，很多集成方案已经帮你选择好了，能不配置就不配置，Spring Cloud很大的一部分是基于Spring boot来实现。
6、Spring boot可以离开Spring Cloud独立使用开发项目，但是Spring Cloud离不开Spring boot，属于依赖的关系。
Spring-> Spring Boot> Spring Cloud这样的关系
Spring Cloud 中断路器 Circuit Breaker的应用
环境：Springboot2.3.12.RELEASE + cloud-netflix-hystrix2.2.10.RELEASE
SpringCloud Circuit breaker(断路器)提供了跨不同断路器实现的抽象。它提供了在应用程序中使用的一致API，允许开发人员选择最适合应用程序需要的断路器实现。
支持的断路器类型：
要在代码中创建断路器（circuit breaker），可以使用断路器工厂API。当您在类路径中包含Spring Cloud Circuit Breaker starter时，将自动创建一个实现此API的bean。下面给出了使用此API的一个非常简单的示例：
通过引入下面不同依赖来确定使用具体的那个断路器
以上5种断路器是不同的实现方式，根据需要引入即可。
这里以Hystrix为例来使用
引入依赖
定义具有熔断功能的服务
Controller接口
CircuitBreakerFactory#create方法创建了CircuitBreaker实例
根据当前的CLASSPATH我们使用的是Hystrix，那么这里使用的工厂就是：
HystrixCircuitBreakerFactory类
泛型参数：Setter就是用来配置Hystrix相关配置信息的（这里主要用来CommandKey与Setter进行绑定），HystrixConfigBuilder用来构建 HystrixCommand.Setter对象。
当执行HystrixCircuitBreakerFactory#configure方法时：
断路器具体的子类实现HystrixCircuitBreakerFactory
断路器工厂有了，接下来就是通过工厂创建具体的断路器对象了
通过上面的代码执行cbf().create("demo-slow")方法时执行了什么？
上面创建的是HystrixCircuitBreaker断路器，当执行run方法时：
完毕！！！
关注+转发
Sentinel 与 Hystrix 的对比
SpringCloud Hystrix实现资源隔离应用
SpringCloud Gateway 应用Hystrix 限流功能 自定义Filter详解
Spring Boot Security防重登录及在线总数
Spring Retry重试框架的应用
springboot mybatis jpa 实现读写分离
Spring容器对象BeanFactory与ApplicationContext你都清楚了吗？
Spring Cloud Hystrix熔断机制原理剖析
一、前言 在分布式系统架构中多个系统之间通常是通过远程RPC调用进行通信，也就是 A 系统调用 B 系统服务，B 系统调用 C 系统的服务。当尾部应用 C 发生故障而系统 B 没有服务降级时候可能会导致 B，甚至系统 A 瘫痪，这种现象被称为雪崩现象。所以在系统设计时候要使用一定的降级策略，来保证当服务提供方服务不可用时候，服务调用方可以切换到降级后的策略进行执行。
二、Hystrix 中基于自反馈调节熔断状态的算法原理 我们可以把熔断器想象为一个保险丝，在电路系统中，一般在所有的家电系统连接外部供电的线路中间都会加一个保险丝，当外部电压过高，达到保险丝的熔点时候，保险丝就会被熔断，从而可以切断家电系统与外部电路的联通，进而保障家电系统不会因为电压过高而损坏。
Hystrix提供的熔断器就有类似功能，当在一定时间段内服务调用方调用服务提供方的服务的次数达到设定的阈值，并且出错的次数也达到设置的出错阈值，就会进行服务降级，让服务调用方之间执行本地设置的降级策略，而不再发起远程调用。但是Hystrix提供的熔断器具有自我反馈，自我恢复的功能，Hystrix会根据调用接口的情况，让熔断器在closed,open,half-open三种状态之间自动切换。
open状态说明打开熔断，也就是服务调用方执行本地降级策略，不进行远程调用。 closed状态说明关闭了熔断，这时候服务调用方直接发起远程调用。 half-open状态，则是一个中间状态，当熔断器处于这种状态时候，直接发起远程调用。
三种状态的转换：
open->half-open:当服务接口对应的熔断器状态为open状态时候，所有服务调用方调用该服务方法时候都是执行本地降级方法，那么什么时候才会恢复到远程调用那？Hystrix提供了一种测试策略，也就是设置了一个时间窗口，从熔断器状态变为open状态开始的一个时间窗口内，调用该服务接口时候都委托服务降级方法进行执行。如果时间超过了时间窗口，则把熔断状态从open->half-open,这时候服务调用方调用服务接口时候，就可以发起远程调用而不再使用本地降级接口，如果发起远程调用还是失败，则重新设置熔断器状态为open状态，从新记录时间窗口开始时间。
half-open->closed: 当熔断器状态为half-open,这时候服务调用方调用服务接口时候，就可以发起远程调用而不再使用本地降级接口，如果发起远程调用成功，则重新设置熔断器状态为closed状态。
那么有一个问题，用来判断熔断器从closed->open转换的数据是哪里来的那？其实这个是HystrixCommandMetrics对象来做的，该对象用来存在HystrixCommand的一些指标数据，比如接口调用次数，调用接口失败的次数等等，后面我们会讲解。
图中流程的说明:
注意：熔断是否开启熔断器主要由依赖调用的错误比率决定的，依赖调用的错误比率=请求失败数/请求总数。Hystrix中断路器打开的默认请求错误比率为50%（这里暂时称为请求错误率），还有一个参数，用于设置在一个滚动窗口中，打开断路器的最少请求数（这里暂时称为滚动窗口最小请求数），这里举个具体的例子：如果滚动窗口最小请求数为默认20，在一个窗口内（默认10秒，统计滚动窗口的时间可以设置），收到19个请求，即使这19个请求都失败了，此时请求错误率高达95%，但是断路器也不会打开。对于被熔断的请求，并不是永久被切断，而是被暂停一段时间（默认是5000ms）之后，允许部分请求通过，若请求都是健康的（ResponseTime<250ms）则对请求健康恢复（取消熔断），如果不是健康的，则继续熔断。（这里很容易出现一种错觉：多个请求失败但是没有触发熔断。这是因为在一个滚动窗口内的失败请求数没有达到打开断路器的最少请求数）
三、总结 系统设计时候要使用一定的降级策略，来保证当服务提供方服务不可用时候，服务调用方可以切换到降级后的策略进行执行，Hystrix作为熔断器组件使用范围还是很广泛的. 学过分布式、微服务知识的朋友们对熔断机制都不会陌生的，即使没有系统化的学习过理论知识，在实际项目开发中也使用过，熔断机制其实就是一种补救措施，不至于一个节点服务宕机了，整个服务系统全部完蛋，从业务层面上看，增强了用户体验，运营角度看，不至于太难看。
SpringCloud简介
SpringCloud是基于SpringBoot基础之上开发的微服务框架，SpringCloud是一套目前非常完整的微服务解决方案框架，其内容包含服务治理、注册中心、配置管理、断路器、智能路由、微代理、控制总线、全局锁、分布式会话等。
SpringCloud包含众多的子项目
SpringCloud config 分布式配置中心
SpringCloud netflix 核心组件：
Eureka:服务治理 注册中心
Hystrix:服务保护框架
Ribbon:客户端负载均衡器
Feign：基于ribbon和hystrix的声明式服务调用组件
Zuul: 网关组件,提供智能路由、访问过滤等功能。
上海每特教育科技有限公司|苏州特每信息科技有限公司版权所有
SpringCloud中文翻译： https://springcloud.cc/spring-cloud-dalston.html
Spring Cloud之Hystrix_服务熔断介绍
34_SpringCloud_Hystrix_服务熔断介绍_尚学堂