nginx负载均衡默认算法,13《Nginx 入门教程》Nginx负载均衡(下)

nginx负载均衡默认算法,13《Nginx 入门教程》Nginx负载均衡(下)详细介绍

本文目录一览： 接触过的Nginx的负载均衡算法有哪些？

Nginx 官方默认的几种负载均衡的算法
①Round-Robin RR轮询（默认） 一次一个的来（理论上的，实际实验可能会有间隔）
②weight 权重 权重高多分发一些 服务器硬件更好的设置权重更高一些
③ip_hash 同一个IP，所有的访问都分发到同一个web服务器
第三方模块实现的调度算法 需要编译安装第三方模块
④fair 根据后端服务器的繁忙程度 将请求发到非繁忙的后端服务器
⑤url_hash 如果客户端访问的url是同一个，将转发到同一台后端服务器
看你在学习Nginx的知识，推荐你去看黑马程序员视频库，里面有它的学习视频，讲解的很详细哦！

Nginx实现负载均衡

实现负载均衡可有以下算法：
Nginx实现负载均衡的原理是利用Http重定向实现负载均衡
rpm 安装方式nginx配置文件地址 /etc/nginx/conf.d 目录下面，配置文件内容结构如下：
修改完配置文件以后，还需要输入重新加载配置命令：
我们从官网上面看一下负载均衡配置案例，然后根据案例配置去对每项参数进行解释，案例如下( 注意：以下模块内容必须放在http模块下 )：
从上面这个案例Nginx会作如下执行，默认情况下，请求使用 加权循环平衡法。 在上面的示例中，每 7 个请求将按如下方式分配： 5个请求去 backend1.example.com 向第二台和第三台服务器分别发送一个请求。 如果在与服务器通信过程中发生错误，请求将 被传递到下一个服务器，依此类推，直到所有的功能 服务器将被尝试。 如果无法从任何服务器获得成功的响应， 客户端将收到与最后一个服务器通信的结果。
语法：
parameters类别：
商业版本需要付费的其他属性这里就不阐述了
1）轮训策略：
upstream模块默认的负载均衡策略是轮训策略，它会依次在服务列表进行分发
2）加权策略：
容器会根据server设置的权重进行请求分配，例如server1 weight=5 ，server2 weight=2 将会使得每 7 个请求将按如下方式分配server1 5个请求，server2两个请求。
3）Ip哈希策略：
其中请求 根据客户端 IP 地址在服务器之间分布，确保来自同一客户端的请求将始终 传递到同一服务器。使用方法是在upstream模块下面添加ip_hash;
4）最少连接数策略(least_conn)：
指定组应使用负载平衡方法，其中请求 传递给活动连接数最少的服务器， 考虑到服务器的权重。 如果有多个这样的服务器，它们会依次尝试使用 加权循环平衡法。
5）扩展策略（需要安装插件）：
还有一些其他需要付费的策略这里就不进行阐述了，比如：最少时间策略（ least_time）、随机策略等。

13《Nginx 入门教程》Nginx负载均衡(下)

这一小节中，我们将实战 Nginx 的四层和七层负载均衡功能。条件有限，使用一台公网主机，在上面搭建好 Nginx 服务。公网 IP 为 180.76.152.113。

首先会进行简单的四层负载均衡实验，不会涉及多种负载均衡算法，只使用默认的 Round-Robin算法。在后续的七层负载均衡实验中，会重点测试不同的负载均衡策略，完成相关实验。

首先在 nginx.conf 中添加如下 stream 指令块配置:

上述配置用端口3000和3001模拟两个上游服务器，然后在 upstream 指令块中指定这两个上游服务器的地址，同时给第一个设置权重为2。由于默认采用的是加权的 Round-Robin 算法，默认服务器的权重为1。设置为2，表明3次请求中，2次会转发到3000端口，一次会转发到3001端口，下面的测试也验证了这一点。

和四层的配置其实差不多，在七层中除了测试最基本的，我们还将测试前面提到的几种负载均衡策略，进一步熟悉 Nginx 中的负载均衡配置。

在 nginx.conf 中添加如下的 http 指令块:

上述配置中，我们用8000，8001和8002三个端口模拟了3个上游服务器，默认使用轮询负载均衡算法，而且三个的权重均为1。进行如下的 http 请求操作，可以看到 Nginx 转发 http 请求会均匀地分配到3个服务器上。

我们打开 ip_hash 指令的注释，这个时候默认是使用客户端的 ip 地址作为 hash 的 key，然后重启 Nginx 服务并进行如下的命令行操作：

接下来，注释 ip_hash 指令，我们打开 hash user_$arg_username 这行配置的注释， hash 指令可以让我们根据我们设置的 key 进行 hash，然后根据 hash 值选择上游的服务器。具体测试参看下面的 Linux 命令：

这里我们可以看到，在请求中带上 username 参数，Nginx 中配置的 hash 算法会根据请求中带的 username 参数作为 key 去进行 hash，然后在根据 hash 结果映射上游服务器。username 相同时，选择的上游服务器肯定是一样的，只有在 username 的值发生变化时，返回的响应才可能有变化。

今天我们完成了几个测试实验，主要是针对 Nginx 的四层和七层的负载均衡功能进行了测试。这个功能在微服务部署中会有较多的应用。因为高流量企业为保证服务的高可用性，往往会水平扩展多个相同功能的服务，部署在多台主机上，这个时候负载均衡技术就能派上用场了，而 Nginx 提供了完善的负载均衡功能以及多种负载均衡算法，能满足大部分企业的需求，如果还不够，可以通过编写内部开发模块并集成到 Nginx，实现相应的需求。所以说 Nginx 是非常值得学习和深入研究的。

nginx 负载均衡（upstream）4种分配方式

实例 1 ? ?? (简单用法)

实例 2 ? ?? (动态可配置组)

参数说明：

解决session

1、轮询（默认）????每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。

2、weight????????指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。

3、ip_hash????每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。

4、fair（第三方）按后端服务器的响应时间来分配请求，响应时间短的优先分配。

5、url_hash（第三方）????按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。

如：

nginx 负载均衡之一致性hash，普通hash

哈希负载均衡原理 ??ngx_http_upstream_hash_module支持普通的hash及一致性hash两种负载均衡算法，默认的是普通的hash来进行负载均衡。 ??nginx 普通的hash算法支持配置http变量值作为hash值计算的key，通过hash计算得出的hash值和总权重的余数作为挑选server的依据；nginx的一致性hash(chash)算法则要复杂一些。这里会对一致性hash的机制原理作详细的说明。 一致性hash算法的原理 一致性hash用于对hash算法的改进，后端服务器在配置的server的数量发生变化后，同一个upstream server接收到的请求会的数量和server数量变化之间会有变化。尤其是在负载均衡配置的upstream server数量发生增长后，造成产生的请求可能会在后端的upstream server中并不均匀，有的upstream server负载很低，有的upstream server负载较高，这样的负载均衡的效果比较差，可能对upstream server造成不良的影响。由此，产生了一致性hash算法来均衡。 ?? 那么为什么一致性hash算法能改善这种情况呢？这里引用网上资料的一致性hash算法的图例。 因为对于hash(k)的范围在int范围，所以我们将0~2^32作为一个环。其步骤为： 1，求出每个服务器的hash（服务器ip）值，将其配置到一个 0~2^n 的圆环上（n通常取32）。 2，用同样的方法求出待存储对象的主键 hash值，也将其配置到这个圆环上，然后从数据映射到的位置开始顺时针查找，将数据分布到找到的第一个服务器节点上。 其分布如图：

除了上边的优点，其实还有一个优点：对于热点数据，如果发现node1访问量明显很大，负载高于其他节点，这就说明node1存储的数据是热点数据。这时候，为了减少node1的负载，我们可以在热点数据位置再加入一个node，用来分担热点数据的压力。 雪崩效应
接下来我们来看一下，当有节点宕机时会有什么问题。如下图：
如上图，当B节点宕机后，原本存储在B节点的k1，k2将会迁移到节点C上，这可能会导致很大的问题。如果B上存储的是热点数据，将数据迁移到C节点上，然后C需要承受B+C的数据，也承受不住，也挂了。。。。然后继续CD都挂了。这就造成了雪崩效应。 上面会造成雪崩效应的原因分析： 如果不存在热点数据的时候，每台机器的承受的压力是M/2(假设每台机器的最高负载能力为M)，原本是不会有问题的，但是，这个时候A服务器由于有热点数据挂了，然后A的数据迁移至B，导致B所需要承受的压力变为M（还不考虑热点数据访问的压力），所以这个失败B是必挂的，然后C至少需要承受1.5M的压力。。。。然后大家一起挂。。。 所以我们通过上面可以看到，之所以会大家一起挂，原因在于如果一台机器挂了，那么它的压力全部被分配到一台机器上，导致雪崩。
怎么解决雪崩问题呢，这时候需要引入虚拟节点来进行解决。 虚拟节点
虚拟节点，我们可以针对每个实际的节点，虚拟出多个虚拟节点，用来映射到圈上的位置，进行存储对应的数据。如下图：
如上图：A节点对应A1，A2，BCD节点同理。这时候，如果A节点挂了，A节点的数据迁移情况是:A1数据会迁移到C2，A2数据迁移到D1。这就相当于A的数据被C和D分担了，这就避免了雪崩效应的发送，而且虚拟节点我们可以自定义设置，使其适用于我们的应用。
ngx_http_upstream_consistent_hash 该模块可以根据配置参数采取不同的方式将请求均匀映射到后端机器，比如：
指令 语法：consistent_hash variable_name 默认值：none 上下文：upstream
配置upstream采用一致性hash作为负载均衡算法，并使用配置的变量名作为hash输入。
参考文档： https://www.cnblogs.com/FengGeBlog/p/10615345.html http://www.ttlsa.com/nginx/nginx-upstream-consistent-hash-module/

nginx在做负载均衡时如何配置

1、下面的架构就是我们今天的演示结构，后端有两台服务器，分别是node1和node2，前端是一台web服务器，然后在web服务器上做负载均衡，将前端的访问流量导到后端的两个节点服务器上。三个服务器的IP地址分别是：web：192.168.1.210node1：192.168.1.211node2：192.168.1.2122、按照这样的架构，在后端的node1和node2节点上分配配置好需要访问的网站，然后为了方便测试，我们将两个网站的主页分别改成下面的内容。便于区分访问的节点。3、后端两个节点配置好以后，我们再来配置web服务器里的负载均衡配置，首先使用默认配置，先打开/etc/nginx/nginx.conf配置文件，在http区块里添加upstream块内容，及配置了两个后端服务器，后端负载均衡集群的名称是backend，记下这个名称。4、然后再打开/etc/nginx/conf.d/default.conf这个配置文件，在server区块里，把location里面的内容改成图中所示内容。即将所有访问192.168.1.210的流量代理到后端的backend集群里。5、配置文件配置好以后，使用nginx-t命令测试一下配置文件，保证配置文件是ok状态，然后执行nginx命令启动nginx服务器。6、启动后在浏览器上输入前端web服务器的ip地址192.168.1.210，然后可以看到第一次是node1响应的，然后刷新一下以后，又变成了node2响应的。就这样实现了负载均衡的效果。由两个服务器分别响应，是因为默认的负载均衡算法是轮询算法，即两个节点轮流来。7、然后我们还可以尝试一下加权轮询算法，即给不同的节点配置不同的权重，权重高一点的服务器，响应的多一些，权重第一点的响应少一些。加权轮询算法配置，在后端服务器后面加上权重值weight即可。配置好以后，执行nginx-t命令检测配置文件，确认无误后，执行nginx-sreload命令重新加载配置文件。8、通过加权轮询的方式，我们无法通过手动一次次点击，最后来统计次数。但是我们可以使用自动化工具来统计。使用的工具是一款叫做httpd-tools的软件，安装好以后，提供了一个ab命令9、然后我们来执行ab命令进行测试，常用的格式是：ab-n1000-c50http://localhost这个命令是在210服务器上执行的。表示一共执行1000次访问，每次发送50个请求。10、然后我们登录到后端的node1服务器上，打开nginx的访问日志，从中可以看到ab命令测试的访问信息里，访问来源都是ApacheBench，因此可以通过可以来源来统计nginx响应的次数。命令是：grepApacheBenchaccess.log|wcnode1和node2节点上的统计结果分别是714和286，如下面图中所示，虽然没有达到5:2的权重比例，但是也非常接近了。说明这个配置生效了。

nginx实现tomcat集群的负载均衡有几种方式

一，如果仅是对外提供一个页面访问，不用区分单一用户（不区分每个访问session，不涉及用户权限，用户资料等内容），仅仅配置nginx负载均衡策略即可。
nginx负载均衡策略主要分一下四种：
1)、轮询（默认）
每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器宕机，能自动剔除。
2)、ip_hash 每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器。
3)、fair 按后端服务器的响应时间来分配请求，响应时间短的优先分配。
4)、url_hash 按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。
二，如果涉及到用户session，做一些鉴权缓存、存放临时信息时，就必须做tomcat的session共享。
目前可参考到的session共享方式主要分为两种。
1）利用tomcat自带的组播机制，实现session复制。
对tomcat及应用的若干配置文件进行配置即可实现，网上有很多资料可参考。但这种方式些弊端，看过一些资料，不建议用session复制的方式。在实际使用过程中，也发现有存在session莫名失踪的现象。
2）利用第三方机制存储session。
比较常见的是tomcat集成memcached服务器来存储session。实际项目中，我们采用过利用redis实现session存储，redis高效的存取性能为高效的访问提供了保障，但是目前redis的集群功能似乎没有发布，如何解决redis的单点故障需要研究。

使用Nginx实现负载均衡

一、负载均衡的作用

1、转发功能

按照一定的算法【权重、轮询】，将客户端请求转发到不同应用服务器上，减轻单个服务器压力，提高系统并发量。

2、故障移除

通过心跳检测的方式，判断应用服务器当前是否可以正常工作，如果服务器期宕掉，自动将请求发送到其他应用服务器。

3、恢复添加

如检测到发生故障的应用服务器恢复工作，自动将其添加到处理用户请求队伍中。

二、Nginx实现负载均衡

1、源地址哈希法：根据获取客户端的IP地址，通过哈希函数计算得到一个数值，用该数值对服务器列表的大小进行取模运算，得到的结果便是客服端要访问服务器的序号。采用源地址哈希法进行负载均衡，同一IP地址的客户端，当后端服务器列表不变时，它每次都会映射到同一台后端服务器进行访问。

2、轮询法：将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。

3、随机法：通过系统的随机算法，根据后端服务器的列表大小值来随机选取其中的一台服务器进行访问。

4、加权轮询法：不同的后端服务器可能机器的配置和当前系统的负载并不相同，因此它们的抗压能力也不相同。给配置高、负载低的机器配置更高的权重，让其处理更多的请；而配置低、负载高的机器，给其分配较低的权重，降低其系统负载，加权轮询能很好地处理这一问题，并将请求顺序且按照权重分配到后端。

5、加权随机法：与加权轮询法一样，加权随机法也根据后端机器的配置，系统的负载分配不同的权重。不同的是，它是按照权重随机请求后端服务器，而非顺序。

6、最小连接数法：由于后端服务器的配置不尽相同，对于请求的处理有快有慢，最小连接数法根据后端服务器当前的连接情况，动态地选取其中当前积压连接数最少的一台服务器来处理当前的请求，尽可能地提高后端服务的利用效率，将负责合理地分流到每一台服务器。

三、配置说明

四、轮询

五、权重

六、iphash

七、最少链接

八、fair

九、完整代码

十、也可以使用域名

Nginx代理功能详解

Nginx的代理功能与负载均衡功能是最常被用到的，关于nginx的基本语法常识与配置已在上篇文章中有说明，这篇就开门见山，先描述一些关于代理功能的配置，再说明负载均衡详细。
Nginx代理服务的配置说明
1、上一篇中我们在http模块中有下面的配置，当代理遇到状态码为404时，我们把404页面导向百度。

然而这个配置，细心的朋友可以发现他并没有起作用。
如果我们想让他起作用，我们必须配合着下面的配置一起使用

2、如果我们的代理只允许接受get，post请求方法的一种

3、设置支持的http协议版本

4、如果你的nginx服务器给2台web服务器做代理，负载均衡算法采用轮询，那么当你的一台机器web程序iis关闭，也就是说web不能访问，那么nginx服务器分发请求还是会给这台不能访问的web服务器，如果这里的响应连接时间过长，就会导致客户端的页面一直在等待响应，对用户来说体验就打打折扣，这里我们怎么避免这样的情况发生呢。这里我配张图来说明下问题。

如果负载均衡中其中web2发生这样的情况，nginx首先会去web1请求，但是nginx在配置不当的情况下会继续分发请求道web2，然后等待web2响应，直到我们的响应时间超时，才会把请求重新分发给web1，这里的响应时间如果过长，用户等待的时间就会越长。

5、如果使用upstream指令配置啦一组服务器作为被代理服务器，服务器中的访问算法遵循配置的负载均衡规则，同时可以使用该指令配置在发生哪些异常情况时，将请求顺次交由下一组服务器处理。

6、如果你想通过http获取客户的真是ip而不是获取代理服务器的ip地址，那么要做如下的设置。

关于X-Forwarded-For与X-Real-IP的一些相关文章我推荐一位博友的： HTTP 请求头中的 X-Forwarded-For ，这位博友对http协议有一系列的文章阐述，推荐大家去关注下。
7、下面是我的一个关于代理配置的配置文件部分，仅供参考。

上一篇中我说啦nginx有哪些中负载均衡算法。这一结我就给如果操作配置的给大家做详细说明下。
首先给大家说下upstream这个配置的，这个配置是写一组被代理的服务器地址，然后配置负载均衡的算法。这里的被代理服务器地址有2中写法。

然后，就来点实战的东西。
1、热备：如果你有2台服务器，当一台服务器发生事故时，才启用第二台服务器给提供服务。服务器处理请求的顺序：AAAAAA突然A挂啦，BBBBBBBBBBBBBB.....
upstream mysvr { server 127.0.0.1:7878; server 192.168.10.121:3333 backup; #热备 }

2、轮询：nginx默认就是轮询其权重都默认为1，服务器处理请求的顺序：ABABABABAB....
upstream mysvr { server 127.0.0.1:7878; server 192.168.10.121:3333; }

3、加权轮询：跟据配置的权重的大小而分发给不同服务器不同数量的请求。如果不设置，则默认为1。下面服务器的请求顺序为：ABBABBABBABBABB....
upstream mysvr { server 127.0.0.1:7878 weight=1; server 192.168.10.121:3333 weight=2;}

4、ip_hash:nginx会让相同的客户端ip请求相同的服务器。
upstream mysvr { server 127.0.0.1:7878; server 192.168.10.121:3333; ip_hash; }

5、如果你对上面4种均衡算法不是很理解，那么麻烦您去看下我上一篇配的图片，可能会更加容易理解点。
到这里你是不是感觉nginx的负载均衡配置特别简单与强大，那么还没完，咱们继续哈，这里扯下蛋。

关于nginx负载均衡配置的几个状态参数讲解。

down，表示当前的server暂时不参与负载均衡。

backup，预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候，才会请求backup机器，因此这台机器的压力最轻 。

max_fails，允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream 模块定义的错误。

fail_timeout，在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用。

到这里应该可以说nginx的内置负载均衡算法已经没有货啦。如果你像跟多更深入的了解nginx的负载均衡算法，nginx官方提供一些插件大家可以了解下。