负载均衡原理与实践

负载均衡原理与实践立得空间信息技术股份有限公司2015-9-7汇报提纲集群及负载均衡概念负载均衡实现方式负载均衡软件的比较分析使用Nginx实现负载均衡使用HAProxy实现负载均衡总结session共享第一部分集群及负载均衡概念负载均衡原理与实践——集群及负载均衡概念

所谓集群是指一组独立的计算机系统构成的多处理器系统，每台服务器都具有等价的地位，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。集群也是指多台计算机共同协作运行一个应用。什么是集群(Cluster)？负载均衡原理与实践——集群及负载均衡概念

负载均衡就是集群功能其中的一种。即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。

负载均衡是指将计算请求分配到集群中以使集群中的计算机的计算负载均衡。什么是负载均衡？负载均衡原理与实践——集群及负载均衡概念ServerTooBusyInternet应用背景访问流量快速增长业务量不断提高用户需求希望获得7×24的不间断可用性及较快的系统反应时间ServerTooBusy为什么需要负载均衡？

当这台服务器的处理能力达到上限时，它就会成为瓶颈。虽然你是可以通过购买更强大的硬件，但总会有上限。这时，我们就需要服务器的集群。这时，就必须加个新东西：负载均衡调度服务器。负载均衡原理与实践——集群及负载均衡概念1：大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间。

2：单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高。负载均衡有两方面的含义：

第二部分负载均衡实现方式负载均衡原理与实践——负载均衡实现方式负载均衡实现的方法有几种：

1.基于DNS的集群负载均衡：在DNS中为多个地址配置同一个名字，因而查询这个名字的客户机将得到其中一个地址，从而使得不同的客户访问不同的服务器，达到负载均衡的目的。

2.NAT的集群负载均衡：简单地说就是将一个IP地址转换为另一个IP地址，一般用于未经注册的内部地址与合法的、已获注册的InternetIP地址间进行转换。适用于解决InternetIP地址紧张、不想让网络外部知道内部网络结构等的场合下。。

3.硬件方式，通过交换机的功能或专门的负载均衡设备可以实现。是直接在服务器和外部网络间安装负载均衡设备，这种设备我们通常称之为负载均衡器，由于专门的设备完成专门的任务，独立于操作系统，整体性能得到大量提高，加上多样化的负载均衡策略，智能化的流量管理，可达到最佳的负载均衡需求，但是价格昂贵。

4.软件方式，通过一台负载均衡服务器进行，上面安装软件。它的优点是基于特定环境，配置简单，使用灵活，成本低廉，可以满足一般的负载均衡需求。第三部分负载均衡软件的比较分析负载均衡原理与实践——负载均衡软件的比较分析Nginx/LVS/Haproxy是目前使用最广泛的三种负载均衡软件Nginx：是一款轻量级的Web服务器/反向代理服务器及电子邮件（IMAP/POP3）代理服务器。其特点是占有内存少，并发能力强，中国大陆使用nginx网站用户有：百度、新浪、网易、腾讯等。LVS:LVS是LinuxVirtualServer的简写，意即Linux虚拟服务器，是一个虚拟的服务器集群系统。LVS集群采用IP负载均衡技术和基于内容请求分发技术。调度器具有很好的吞吐率，将请求均衡地转移到不同的服务器上执行，且调度器自动屏蔽掉服务器的故障，从而将一组服务器构成一个高性能的、高可用的虚拟服务器。Haproxy：HAProxy提供高可用性、负载均衡以及基于TCP和HTTP应用的代理，支持虚拟主机，它是免费、快速并且可靠的一种解决方案。负载均衡原理与实践——负载均衡软件的比较分析Nginx/LVS/HAProxy的比较软件优点Nginx工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构，它的正则规则比HAProxy更为强大和灵活。Nginx对网络稳定性的依赖非常小，理论上能ping通就就能进行负载功能，这个也是它的优势之一。Nginx安装和配置比较简单，测试起来比较方便，它基本能把错误用日志打印出来。Nginx也可作为静态网页和图片服务器，这方面的性能也无对手。LVS抗负载能力强、是工作在网络4层之上仅作分发之用，没有流量的产生，这个特点也决定了它在负载均衡软件里的性能最强的，对内存和cpu资源消耗比较低。工作稳定，因为其本身抗负载能力很强，自身有完整的双机热备方案，如LVS+Keepalived，不过我们在项目实施中用得最多的还是LVS/DR+Keepalived。无流量，LVS只分发请求，而流量并不从它本身出去，这点保证了均衡器IO的性能不会收到大流量的影响。应用范围比较广，因为LVS工作在4层，所以它几乎可以对所有应用做负载均衡，包括http、数据库、在线聊天室等等。HAProxyHAProxy也是支持虚拟主机的，可以工作在4、7层(支持多网段)；。HAProxy的优点能够补充Nginx的一些缺点，比如支持Session的保持，Cookie的引导；同时支持通过获取指定的url来检测后端服务器的状态。HAProxy跟LVS类似，本身就只是一款负载均衡软件；单纯从效率上来讲HAProxy会比Nginx有更出色的负载均衡速度，在并发处理上也是优于Nginx的。HAProxy支持TCP协议的负载均衡转发，可以对MySQL读进行负载均衡，对后端的MySQL节点进行检测和负载均衡。HAProxy负载均衡策略非常多负载均衡原理与实践——负载均衡软件的比较分析Nginx/LVS/HAProxy的比较软件缺点NginxNginx仅能支持http、https和Email协议，这样就在适用范围上面小些，这个是它的缺点。对后端服务器的健康检查，只支持通过端口来检测，不支持通过url来检测。不支持Session的直接保持，但能通过ip_hash来解决LVS软件本身不支持正则表达式处理，不能做动静分离；而现在许多网站在这方面都有较强的需求，这个是Nginx/HAProxy+Keepalived的优势所在。如果是网站应用比较庞大的话，LVS/DR+Keepalived实施起来就比较复杂了，特别后面有Windows

Server的机器的话，如果实施及配置还有维护过程就比较复杂了相反LVS对网络稳定性依赖比较大HAProxyhaproxy上扩展性很差，添加新功能很费劲，对不断扩展的新业务，haproxy很难应对重载配置的功能需要重启进程，虽然也是softrestart，但没有Nginx的reaload更为平滑和友好第四部分使用Nginx实现负载均衡负载均衡原理与实践——使用Nginx实现负载均衡1.Nginx下载2.Nginx安装3.Nginx配置4.启动Nginx详见《Nginx+Tomcat+memcache负载均衡实现》负载均衡原理与实践——使用Nginx实现负载均衡Nginx负载均衡策略1、轮询（默认）

每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。

2、weight

指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。

3、ip_hash

每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。

4、fair（第三方）

按后端服务器的响应时间来分配请求，响应时间短的优先分配。

5、url_hash（第三方）

按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。

第五部分使用HAProxy实现负载均衡负载均衡原理与实践——使用HAProxy实现负载均衡1.HAProxy下载2.HAProxy安装3.HAProxy配置4.启动HAProxy详见《Linux下HAProxy负载均衡实现》负载均衡原理与实践——使用HAProxy实现负载均衡HAProxy负载均衡策略1、roundrobin表示简单的轮询，这个是负载均衡基本都具备的；2、static-rr表示根据权重，建议关注；3、leastconn表示最少连接者先处理，建议关注；4、source表示根据请求源IP，这个跟Nginx的IP_hash机制类似，我们用其作为解决session问题的一种方法，建议关注；5、ri表示根据请求的URI；6、rl_param表示根据请求的URl参数’balanceurl_param’requiresanURLparametername；7、hdr(name)表示根据HTTP请求头来锁定每一次HTTP请求；8、rdp-cookie(name)表示根据cookie(name)来锁定并哈希每一次TCP请求。第六部分session共享负载均衡原理与实践——session共享Session共享方式：1、tomcatsession复制通过修改server.xml实现；2、cookie识别

WEB服务端发送给客户端的cookie中插入(或添加加前缀)haproxy定义的后端的服务器COOKIEID3、数据库保存session将session写入到数据库的表中；4、集中式sessionRedis或memcache或terrocotta第七部分总结第一阶段：利用Nginx或HAProxy进行单点的负载均衡，这一阶段服务器规模刚脱离开单服务器、单数据库的模式，需要一定的负载均衡，但是仍然规模较小没有专业的维护团队来进行维护，也没有需要进行大规模的网站部署。这样利用Nginx或HAproxy就是第一选择，此时这些东西上手快，配置容易，在七层之上利用HTTP协议就可以。这时是第一选择。第二阶段：随着网络服务进一步扩大，这时单点的Nginx已经不能满足，这时使用LVS或者商用Array就是首要选择，Nginx此时就作为LVS或者Array的节点来使用，具体LVS或Array的是选择是根据公司规模和预算来选择，