负载均衡器技术

虚拟化应用交付系统（LoadPass）技术白皮书负载均衡器VBalance技术白皮书

负载均衡器VBalance技术白皮书北京远为软件有限公司二〇一四年九月国富安虚拟化应用交付系统（GFAvPass）技术白皮书北京远为软件有限公司网址：负载均衡器产品概述应用交付网络的需求网络的发展为企业带来更多的机遇，但也给企业带来了更多的挑战。传统的负载均衡产品，通过将流量均衡分配到多个链路或服务器，实现企业应用快速交付给用户。但是随着更高带宽的企业应用与业务的爆发，功能单一的负载均衡设备已无法满足更高层次的应用交付需求，企业的应用交付网络面临更加复杂多样的需求：数据中心整合在云计算时代，企业数据中心理念在发生深刻变革。虚拟化、云计算的普及，让许多应用开始结合，带来了数据中心的整合和大集中的趋势，从而需要更高性能的应用交付产品做支撑，实现应用在任何情况下都保持控制和高可用。同时伴随云计算的发展，企业服务模式发生转变，企业业务越来越依赖云端资源，云计算环境下的业务精确交付，需要一个综合的应用交付平台提供更多集成功能特性，实现云端的各种分布式应用与业务的统一调度，传统的功能相对单一的负载均衡设备难以满足需求。移动互联网业务增长呈指数级增长的移动设备保有量，移动APP，BYOD等基于移动互联网的技术的快速发展，带来了移动互联网的浪潮愈演愈烈，国内国外一致认为移动互联网是未来几年全球最重要的技术增长点，移动互联网的发展趋势不可阻挡。在移动互联网时代，基于Web2.0的网络应用越来越丰富，访问应用所需要的大流量，给网络带宽带来极大考验，用户对访问网络应用的快速性和稳定性需求，直接导致用户对网络带宽的高要求。和传统业务相比，移动互联网业务基本上是使用WIFI，3G网络等接入，相对于固定宽带，移动互联网业务涉及到的用户个人和敏感信息，数据丢包及延迟等现象，增加了企业和用户对应用优化和安全接入的需求。在移动互联网时代，需要更加全面的应用交付解决方案，在不能完全改变基础网络带宽的条件下，满足对网络快速性、安全性以及稳定性方面多重要求。应用安全需求企业的传统防护体系，例如网络防火墙、IDS、IPS等架构体系已经无法应对目前出现的全新攻击模式，全新攻击模式可以绕过企业现有的传统防护体系，造成企业级应用安全防护隐患。应用安全作为应用交付中最为弱势的领域，促使应用安全的性能变得越来越重要。在这样的背景下，企业需要去构建更加安全、快速和高可用的应用基础架构，以适应应用交付网络的发展。相对于传统的功能单一的负载均衡产品，发展到今天的应用交付产品已经能够独立于应用和网络层，成为企业应用基础架构中的一个重要的组成部分。应用交付产品作为综合业务交付平台，集负载均衡、流量控制、优化、安全等功能于一体，在强调稳定性的基础上，增加了智能和优化方面的功能特性，保障企业关键应用快速、安全、稳定交付。远为负载均衡器远为负载均衡器（VBalance）作为新一代应用交付产品，是集广域网加速、智能流控、应用安全、链路负载均衡、服务器负载均衡和全局服务器负载均衡等功能于一体的综合应用交付平台，可以在降低用户IT投资成本的同时，帮助用户轻松实现大规模的网络应用部署。远为负载均衡器可以将企业的网络应用，例如数据、视频、WEB服务、公共资源等交付给内部员工和外部服务群，在用户和应用之间建立快速、可靠和安全的访问通道。企业的多种业务应用都可以通过负载均衡器获得加速、稳定性、安全性、定制化等各种支撑。负载均衡器可以广泛应用于电信、金融、互联网、政府、高校等各行各业，以及其它采用信息化系统的制造、能源等行业。通过应用交付平台，可以改善诸如办公OA、ERP、CRM、供销系统的内部企业信息管理，或域名解析、电子支付等互联网服务的质量。通过合理地部署应用交付设备，用户不仅能近一步改善其业务应用的性能，更可提高数据中心的基础设施效率，乃至应对未来部署虚拟化数据中心的趋势。产品功能特性高可用专业概念虚拟服务负载均衡器向客户端提供的用于用户访问的服务，称为虚拟服务。虚拟服务根据协议类型进行划分，可以是TCP、UDP和IP类型的虚拟服务，也可以是其他类型的虚拟服务。虚拟服务是连接客户端和真实服务器的桥梁，当客户端访问虚拟服务时，虚拟服务请求由负载均衡器进行处理，负载均衡器设备按照设定的负载均衡策略和算法将请求分配将到真实服务器。负载均衡策略负载均衡策略用于将虚拟服务和多个真实服务器组成的服务组绑定在一起。虚拟服务使用策略绑定到多个服务组上，负载均衡器设备通过策略可以实现虚拟服务在服务组间的负载均衡。负载均衡算法负载均衡算法决定了客户端访问请求将被分配到哪一个真实的后台服务器。负载均衡器设备根据预先设定的负载均衡算法，将客户端流量发送到真实服务器或是链路。健康检查健康检查是服务器负载均衡、链路负载均衡和全局服务器负载均衡的重要辅助功能。负载均衡器设备根据服务器或链路的健康检查状态和可用性，来判断后台服务或链路是否可用，从而将客户的请求发送到状态最优的后台服务或链路上。服务器负载均衡负载均衡器的服务器负载均衡功能可以充分发挥现有服务器的能力，有效地解决数据流量过大、网络负荷过重的问题，避免服务器单点故障造成数据流量的损失。负载均衡器的服务器负载均衡功能可提供L2-7层的流量控制，支持多种负载均衡算法，通过负载均衡策略，将应用请求分配到合适的服务器，并通过健康检查实时监测服务器的状态。负载均衡器设备支持OSI模型中二层、三层、四层和七层的负载均衡。二层负载均衡基于物理接口三层负载均衡基于服务器IP地址四层负载均衡基于IP地址+端口(TCP或UDP)七层负载均衡是基于应用层的信息，如URL、HTTP表头或Cookie、Host等。服务器负载均衡的网络拓扑图如下图所示：工作模式负载均衡器设备支持服务器负载均衡的三种工作模式：反向代理模式负载均衡器设备代理所有客户端到后台服务器的链接请求。请求数据进、出负载均衡器设备时，源、目的地址将发生改变。透明模式负载均衡器设备透明代理所有客户端到后台服务器的链接请求。请求数据进、出负载均衡器设备时，只有目的地址发生改变，源地址不改变。三角传输模式负载均衡器设备的三角传输模式是为那些低输入、高输出的应用系统而特别设计的。例如：VOD系统、VOIP系统等。√客户通过路由器向负载均衡器发送一个请求。√负载均衡器将请求转送给一个后台服务。√后台服务直接把响应直接返回到路由器。

三角传输模式下，服务器负载均衡中只有客户端的请求报文通过负载均衡器设备，服务器的响应报文不经过负载均衡器设备，从而减少了负载均衡器设备的压力，有效的避免了负载均衡器设备成为网络瓶颈。L7层服务器负载均衡实现方式L7层服务器负载均衡，是针对应用层内容进行交换。可以对客户端的请求和服务器的响应进行修改，例如客户请求中的Header重写，服务器响应中的关键字过滤或者内容插入等功能；可以将对图片类的请求转发到特定的图片服务器并可以使用缓存技术；将对文字类的请求可以转发到特定的文字服务器并可以使用压缩技术。这种方式主要提升了应用系统在网络层的灵活性。工作流程L7服务器负载均衡的工作流程如下图所示：L7层服务器负载均衡流程描述：步骤说明（1-2）客户端和负载均衡器设备建立TCP连接（3）客户端发送请求报文(4)负载均衡器设备收到请求后，根据匹配策略和调度算法，计算出应该将请求分发给哪台真实服务器，并缓存该请求报文(5-6)负载均衡器设备和服务器建立TCP连接（7）负载均衡器设备修改缓存的访问请求数据中的目的IP和TCP序列号，然后发送给服务器(8)服务器发送响应报文到负载均衡器设备(9)负载均衡器设备接收响应报文，转换源IP后转发NAT方式L4层服务器负载均衡实现方式L4层服务器负载均衡支持IPv4协议和IPv6协议，是基于流的服务器负载均衡，支持多种协议上的应用，例如TCP、UDP、DNS、E-mail、FTP、HTTP、RADIUS等等，可以通过NAT方式和三角传输方式来实现。在NAT方式下，客户端将虚拟服务的请求发送给负载均衡器设备后，负载均衡器设备上的虚拟服务接收客户端请求。负载均衡器设备分发服务请求时，需要进行网络IP地址转换，将报文转发给后台真实服务。工作流程NAT方式L4服务器负载均衡的工作流程如下图所示：NAT方式L4服务器负载均衡流程描述：步骤说明（1）客户端发送服务请求报文（2）负载均衡器设备接收到访问请求后，借助负载均衡调度算法计算出应该将请求分发给哪台真实服务器(3)负载均衡器设备使用DNAT技术分发报文(4)真实服务器接收并处理请求报文，返回响应报文(5)负载均衡器设备接收响应报文，转换源IP后转发三角传输方式L4层服务器负载均衡实现方式三角传输方式下，负载均衡器设备在分发请求到真实服务器上的时候，不改变请求的目标IP和源IP，而是将目的MAC替换为服务器的MAC后，再将访问请求转发给后端的服务器，后端服务器的响应会直接返回给客户端。三角传输方式下，只有单边报文经过负载均衡设备，负载均衡设备负担小，不易成为瓶颈，转发性能更强。工作流程三角传输模式下，负载均衡器设备实现服务器负载均衡的工作流程如下图所示：三角传输模式下服务器负载均衡流程描述：步骤说明（1）客户端发送访问请求，此时的源IP为客户端IP、目的IP为虚拟服务IP（2）负载均衡器设备接收到访问请求后，根据负载均衡策略和算法将选择将访问请求分发给后台哪台真实服务器（3）负载均衡器设备向服务器分发访问请求，此时的源IP为客户端IP、目的IP为虚拟服务IP，目的MAC地址改为服务器MAC地址（4）真实服务器处理接收到的访问请求，将响应数据直接回复给客户端，此时的源IP为虚拟服务IP、目的IP为客户端IP防火墙负载均衡实现方式防火墙是基于会话开展业务的，即一个会话的请求和应答报文必须通过同一个防火墙。当采用多台防火墙对网络流量进行负载均衡时，可能出现的情况是，构成同一个用户会话的双向数据包在多台防火墙上进行处理，如果数据流处理不当，不能保证每个防火墙看到完整的用户会话信息，防火墙就会将该数据包当作非法访问而抛弃掉。为了保证防火墙业务正常进行，内部组网不受影响，需要采用双侧负载均衡，即防火墙三明治。在这种组网环境中，对于流入流量，一级负载均衡器设备做防火墙负载均衡，二级负载均衡器设备保证从哪个防火墙进来的流量，还要从这个防火墙返回。工作流程防火墙负载均衡流程描述：步骤说明（1）负载均衡器A接收流量（2）负载均衡器A依次根据负载均衡算法选择一个防火墙，并将流量转发给该防火墙（3）防火墙将流量转发给负载均衡器B（4）负载均衡器B作为二级负载均衡设备，记录转发该流量的防火墙，并将流量转发到目的地（5）负载均衡器B接收目的地发回的流量（6）负载均衡器B根据（4）中的记录将流量转发给同一个防火墙（7）防火墙将流量转发给负载均衡器A（8）负载均衡器A将流量转发回源地址负载均衡算法负载均衡算法决定了访问请求将被分配到哪一个真实服务器，每个服务组都可以指定唯一一种负载均衡算法，作为自己的调度策略。支持20余种服务器负载均衡算法：最小连接数、轮询、加权轮询、SNMP、最快响应、哈希、PersistentIP、PersistentCookie、QosCookie、QosURL、ConsistentHashIP等算法。支持多种持续性算法和非持续算法。非持续算法实现机制：每一个新的访问请求将会分配到服务组内不同的真实服务器上。轮循算法轮循算法适合于服务器组中的所有服务器具有相同的软硬件配置并且服务请求相对均衡的情况，算法将每一个网络请求轮流的分配到服务器组的每台服务器上。加权轮循算法加权轮循算法是轮询算法的改良，根据一定规则将服务器组中的每个服务器分配一个权值，负载均衡器设备将访问请求转发到权值最高的服务器上。最少连接算法采用最少连接算法，当有新的服务连接请求时，新的服务请求将分配给连接数最少的服务器，特别适合长时间处理的请求服务。最短响应时间算法最短响应时间算法可以反映服务器的当前运行状态。负载均衡器设备对每台服务器发出探测请求，根据各服务器的响应时间决定那台服务器处理客户端的请求。持续性算法实现机制：来自同一个客户端地址所有的访问请求将会分配到服务组内固定的真实服务器上。IP保持算法当客户端发出多个请求时，负载均衡器设备可以将同一个客户IP地址的客户请求分配到同一台服务器上，保证客户端与服务器请求的持续性。PersistentCookiePersistentcookie算法将cookie的值和一个后台服务关联，含有相同cookie值的请求将会一直由同一个后台服务来处理。QoSCookieQoScookie算法将cookie的值和一组后台服务而不是一个后台服务关联。例如：具有[Cookie:company=“YW”]的HTTP请求将会被转发给“YW”服务来处理。而“YW”组里的服务都是给远为公司分配的服务。QoSURLQosURL算法利用客户请求中URL的一部分来做出负载均衡调度。可以建立基于字符串“/YW/”的算法，使得类似于/YW/index.jsp的请求(包含“/YW/”字符串)都被分配到YW的服务组，该组中的所有服务都返回与YW相关的业务页面。QosHostnameQoshostname算法基于客户请求中Host字段值来做出负载均衡调度，不同Host字段值的HTTP请求，可以有不同的服务组来处理。InsertCookie需要在服务组中指定要插入的cookie的名称，负载均衡器设备会自动生成cookie值，用于保持连接形成与服务的长期对应关系。RewriteCookie需要在服务组中指定要改写的cookie的名称，负载均衡器设备会修改为特定的cookie值，用于保持连接形成与服务的长期对应关系。服务器健康检查负载均衡器设备通过服务器健康检查，定期对真实服务器进行探测，收集相应信息，及时隔离工作异常的服务器。负载均衡器支持http、tcp、icmp、tcps、dns、srcipt-tcp、https、script-tdps,等健康检查的类型，支持SMPT、POP3等主动式服务器健康检查方法。基本健康检查ICMP适用于3层类型的应用服务探测向服务器集群中的服务器节点发送ICMPEcho报文，若收到ICMPReply，则服务器正常。TCP适用于4层类型的应用服务探测向服务器集群中服务器的某端口发起TCP连接建立请求，若成功建立TCP连接，则服务器正常。TCPS适用于4层类型的应用服务探测TCPS检查基于SSL握手协议来检查能否与后台SSL服务器正常握手。如果SSL握手成功，则服务正常。HTTP适用于7层类型的应用服务探测HTTP健康检查在建立TCP连接的基础上向后台服务发送预定义的HTTP请求。若收到的HTTP应答内容正确，则服务器正常。HTTPS适用于7层类型的应用服务探测HTTPS健康检查基于SSL握手协议来检查能否与后台SSL服务器正常握手。如果SSL握手成功，负载均衡器设备就会给后台服务发送预定义的HTTP请求。若收到的HTTP应答内容正确，则服务器正常。高级健康检查适用于7层类型的应用服务探测采用Scrip-TCP/Scrip-TCPS方式进行探测：Scrip-TCP/Scrip-TCPS方式是更为细致的健康检查，不是根据一个请求/响应来判断服务好坏，而是根据一个包括多次请求与响应的握手系列来更为准确的了解后台服务情况。服务器过载保护远为负载均衡设备可根据每台服务器处理性能不同，分别设置每台服务器的连接上限，一旦达到连接上限，负载均衡设备则对性能不足的服务器开启过载保护，将请求分配到其它服务器。负载均衡设备通过动态调节服务器的负载，进而保障整个业务系统的高可用性。服务器缓慢下线在对服务器进行维护时，可通过启用负载均衡设备的缓慢下线功能将新建请求逐渐分配到其它服务器，一旦选定某台服务器要从服务器组内退出服务后，远为负载均衡设备将不会把新的用户分配到该服务器，保证服务器退出时不会造成用户的访问中断。服务器温暖上线将新购置或维护后的服务器添加到服务器组时，远为负载均衡设备可以通过温暖上线方式，将新建请求逐渐分配到新增服务器，避免新服务器由于激增流量的冲击而导致系统故障，实现服务器的平滑进入。链路负载均衡负载均衡器设备的链路负载均衡功能，根据业务流量方向可以分为入站（Inbound）链路和出站（Outbound）链路两种情况。链路负载均衡功能主要用于解决多链路下的流量均衡问题，保证链路的高可用性和可靠性。链路负载均衡能够使TCP/IP数据流在多个ISP之间实施负载均衡，负载均衡器设备最多支持128个ISP。入站链路负载均衡实现方式当客户端从Internet访问内部服务器，并且内网和外网之间存在多条ISP链路时，通过入站链路负载均衡可以实现在多条ISP链路上分担外网用户访问内网服务器的流量。

入站链路负载均衡中，负载均衡器设备充当权威DNS服务器的角色，外网用户通过域名方式访问内网服务器时，逐步通过远程用户的本地DNS服务器、ROOTDNS服务器，最终由负载均衡器设备来进行域名的解析。负载均衡器设备通过负载均衡算法，在多条链路中选择最优的线路，然后将域名解析成相应线路的IP地址，返回给用户，外网用户通过该链路访问内网服务器。工作流程入站链路负载均衡流程描述：步骤说明（1）外网用户通过域名访问内网服务器时，首先要进行DNS解析，向其本地DNS服务器发送DNS请求（2）本地DNS服务器将DNS请求转发给负载均衡器设备，负载均衡器设备已经注册成为权威名称服务器，提供域名NS记录。（3）负载均衡器设备根据DNS请求的域名、ACL策略、就近性算法、ISP表选择最优的物理链路，然后将域名解析成相应线路的IP地址作为域名解析结果（4）负载均衡器设备将域名解析的结果发送给本地DNS服务器（5）本地DNS服务器将域名解析结果转发给用户（6）用户使用域名解析结果选择的链路，对内网服务器进行访问DNS全记录支持完整的DNS服务功能，支持A记录、AAAA记录、NS记录、MX记录、Cname记录、TXT记录。出站链路负载均衡实现方式内网和外网之间存在多条链路时，通过出站链路负载均衡可以实现在多条链路上分担内网用户访问外网服务器的流量。当企业拥有多个默认的网关时，负载均衡器设备出站链路负载均衡提高了链路的利用率，把企业数据流分配到多个不同的上游路由器。假如可以同时从两个ISP（ISPA、ISPB）连到因特网，负载均衡器出站链路负载均衡会把出去的数据流按照负载均衡算法分配到ISPA和ISPB上，已达到负载均衡的目的。分配到ISPA的连接被NAT成ISPA的地址范围，分配到ISPB的连接被NAT成ISPB的地址范围，返回的响应数据也会从相应的ISP接口流入。如果其中一个ISP的链路失效，所有的数据流将不会分配到这个ISP。工作流程出站链路负载均衡流程描述：步骤说明（1）负载均衡器设备接收内网用户流量（2）负载均衡器设备依次根据持续性功能、ACL策略、就近性算法、ISP表、调度算法进行链路选择（3）负载均衡器设备按照链路选择的结果将流量转发给选定的链路（4）负载均衡器设备接收返回流量（5）负载均衡器设备将流量转发给内网用户负载均衡算法支持丰富的链路负载均衡算法，包括轮询算法、加权轮询算法、最短反应时间调度算法和动态探测算法。轮循调度算法（RoundRobin）实现机制：将所有网络链路放在一个有序队列当中，按顺序依次返回给用户下一个网络链路的IP地址。适用场景：拥有同一运营商的多条互联网链路，链路的带宽相近。支持负载均衡器设备入站链路和出站链路负载均衡加权轮循（WeightedRoundRobin）实现机制：根据各条互联网链路的吞吐量不同而分配不同的加权值。根据加权值，把用户请求轮循分配到每条链路。适用场景：拥有同一运营商的多条互联网链路，链路的带宽存在差异。支持负载均衡器设备入站链路和出站链路负载均衡最短反应时间调度算法（LeastResponseTime）实现机制：基于每个TCP连接的握手过程计算得到最短响应时间，拥有最短响应时间的链路将会获得下一个新的会话。适用场景：拥有不同运营商的多条互联网链路，业务系统拥有大量的TCP连接。支持负载均衡器设备出站链路负载均衡动态探测算法（DynamicDetection）实现机制：对所有可用的ISP路径进行就近性探测，响应最快的ISP路径会被选为客户端请求的最优路径。适用场景：试用于小型网络或对ISP表项无法匹配的数据流。支持负载均衡器设备出站链路负载均衡全局负载均衡通过在每个数据中心部署一套负载均衡器设备，能够对放置在不同的地理位置、有不同网络结构的服务器群间作负载均衡。全局负载均衡可以使全球用户只以一个IP地址或域名就能访问到离自己最近的服务器。全局负载均衡可提供最快的服务器访问速度，使得客户察觉不到服务器故障，能够远距离为用户提供完全的透明服务。数据中心互备：远为负载均衡器设备支持数据中心互备，可实现应用级别的健康检查，能够实时的监控各个数据中心的运行状况，及时发现出现故障的数据中心或者其内部服务器，从而保证将用户后续访问请求都分配到其他的正常数据中心或者服务器之上。不但使多站点之间形成冗余，保障用户访问稳定，还提升了各站点的资源利用率。全局负载均衡的部署示意图如下：全局DNS智能解析负载均衡实现方式全局DNS智能解析负载均衡，适用于全局范围内存在多个（数据中心）站点的情况，负载均衡器设备相当于DNS解析的权威服务器，负责将最佳站点的IP地址解析给用户。负载均衡器设备支持基于LocalDNS位置的就近性解析功能。当用户通过域名方式进行访问时，可以根据用户使用的LocalDNS位置进行就近性计算，将最佳站点的IP地址解析给用户，用户向该IP地址请求服务。工作流程智能DNS解析负载均衡流程描述：步骤说明（1）用户通过域名请求服务时，首先要进行DNS解析，向本地DNS服务器发送DNS请求（2-4）本地DNS服务器将DNS请求转发给域名对应的权威DNS服务器—负载均衡器设备（5）负载均衡器设备根据DNS请求的域名，按照全局调度算法在全局所有可用的负载均衡器设备中选举出最优，并将该最优负载均衡器设备IP地址作为域名解析结果（6）负载均衡器设备将域名解析的结果，作为DNS回复发送给本地DNS服务器（7）本地DNS服务器将解析结果转发给用户HTTP重定向和RTSP重定向实现方式除了提供全局DNS智能解析，负载均衡器设备对基于HTTP协议或是RTSP协议的特定应用可以进行全局负载均衡。当用户通过IP地址向某站点的负载均衡器设备请求提供HTTP服务或RTSP服务，而该站点的真实服务器不能提供服务时，该站点的负载均衡器设备通过HTTP重定向或RTSP重定向负载均衡可将该HTTP请求或RTSP请求重定向到全局中其他站点可用的负载均衡器设备上。工作流程HTTP或RTSP重定向负载均衡流程：步骤说明（1）客户端与本地负载均衡器设备建立TCP连接（2）客户端向本地负载均衡器设备发送HTTP请求报文（3）本地负载均衡器设备根据本地服务器负载均衡选取真实服务失败，进入全局负载均衡流程（4）本地负载均衡器设备按照全局服务中指定的调度算法从全局所有可用的远程负载均衡器设备中选取出最优远程负载均衡器设备（5）本地负载均衡器设备向客户端回复HTTP重定向报文，将选取出的最优远程负载均衡器设备的IP地址作为重定向的目的IP地址（6）客户端收到HTTP重定向报文后，向远程负载均衡器设备地址发送TCP连接请求，建立TCP连接（7）用户向远程负载均衡器设备地址地址发送HTTP请求报文（8）远程负载均衡器设备收到HTTP请求后，根据其本地服务器负载均衡策略选取出可以提供HTTP服务的真实服务（9）远程负载均衡器设备将HTTP请求转发给选取出的真实服务对应的提供服务的服务器（10）服务器向远程负载均衡器设备回复HTTP响应报文（11）远程负载均衡器设备将HTTP响应报文转发给客户端负载均衡算法负载均衡器设备全局负载均衡支持丰富的负载均衡算法，包括：轮询算法(GRR)、加权轮询算法(VWGRR)、连接溢出(GCO)、最小连接数(GLC)、全局就近性算法(PROXIMITY)、区域算法(REGION)、静态就近性算法等。轮询算法(GRR)、加权轮询算法(VWGRR)：作用主要是将客户端的访问均匀的分散到各个站点，实现站点之间的负载均衡和远程容灾。最小连接数(GLC)算法：可以将用户端的请求引导到服务器性能最好或是服务器最空闲的站点，主要用于服务器运算密集型的应用场景。全局就近性算法(PROXIMITY)：可以将用户端的请求引导到距离用户最近的站点，实现用户的就近访问。静态就近性：负载均衡器设备中维护静态IP地址表，并能够实现实时更新，当用户访问目标IP属于哪个运营商（或地区），就为用户选择返回哪个运营商（或地区）的数据中心（或链路）。高可用性（HA）无论是服务器负载均衡，还是链路负载均衡，负载均衡器设备均处于关键路径，设备的稳定性和安全性直接影响了网络的可用性。负载均衡器具有集群管理功能，可以直线提升整体的处理能力。负载均衡器提供1+1和N+1的冗余配置模式，支持Active/Standby或Active/Active工作方式，最多可以支持32台负载均衡设备的热备负载。集群内的设备提供了彼此冗余的功能，设备之间能够自动同步配置信息，一旦出现故障，设备状态将自动切换，在提供强大性能的同时，保证了网络应用稳定、高效地运行。Active/Standby模式通过集群内的优先级的高低来确定设备的工作状态（Master或Backup），所有虚拟IP地址都在Master设备上，只有Master设备的虚拟IP可以响应访问请求。组内其他Backup设备都有虚拟IP地址，但不响应用户请求，Backup设备通过不停的侦听Hello信息来监测Master的状态，当Master设备失效后，优先级高的Backup设备接管工作，并转变成Master状态。Active/Active模式每台设备在不同的群组ID中拥有不同的虚拟IP地址，此模式可在每一个节点上分散流量，为每个活动节点提供冗余保护。以两个群组为例，设定两个虚拟IP地址为活动虚拟IP（VIP1）和不活动虚拟IP（VIP2），两个群组采用轮询的方式交换成为Master状态和Backup状态，轮询占用两个VIP，响应客户端的请求。应用加速TCP连接复用随着客户端一侧的并发连接数不断增加，服务器会逐渐耗尽网络资源，耗费了很多的资源来处理客户端一侧的大量短连接。连接复用技术加快了后台服务器的TCP连接处理速度，从而消除了服务器面对多客户端连接时的性能瓶颈。未采用连接复用技术的网络拓扑结构如下图。服务器一侧和客户端一侧的连接数是1：1的关系，随着服务器连接数的进一步增加，由于TCP/IP协议栈只能处理高吞吐量的数据而不能处理大量的短连接，最终导致服务器耗尽网络资源，测试显示服务器消耗80％的资源在处理TCP连接建立和拆除的工作。采用连接复用技术后的网络拓扑结构如下图。将客户端一侧大量短连接转换成少量的高吞吐量的长连接，这样可以在不改变服务器任何配置和内容的前提下充分发挥服务器对高吞吐量数据的处理能力，从而使巨大短连接数造成的性能瓶颈迎刃而解。硬件SSL加速负载均衡器内置了SSL硬件加速卡，将计算量很高的加密/解密流程从服务器中分离出来，并且SSL硬件加速完全在内核中实现，加速用户请求的响应。负载均衡器设备采用SSL加速芯片进行SSL信息的处理，比传统的采用服务器的SSL加密方式提供更高的SSL处理性能，从而节省大量的服务器资源。高速数据缓存负载均衡器设备采用基于内存缓存的架构，将应用服务器中的一些经常被用户访问的热点内容缓存在负载均衡器设备的内存中。当客户端发送请求到负载均衡器设备时，负载均衡器设备将缓存中的内容予以匹配，若内容符合则直接响应客户端的请求，减少客户端访问真实服务器的次数。由于是直接从内存中读取，内存缓存技术能够提高网络用户的访问速度，减轻后台应用服务器的负载情况。内容缓存技术将本应保存在客户端本地浏览器缓存中的内容共享给其他用户，对于客户端来说，内容缓存技术是完全透明的。最常见的对象包括：gif/jpg图片，静态的css/js/html等文本文件等。客户端访问abc.gif图片，负载均衡器设备进行内容缓存的工作流程：HTTP压缩负载均衡器设备支持HTTP压缩功能，能够代替服务器做压缩，大幅节省服务器的资源，可以使服务器专注于应用的处理，从而提高业务处理量。HTTP压缩功能可以根据对象的类型，文本格式、gif图片格式等进行选择性压缩。单边TCP加速传统TCP协议是基于局域网设计，一旦运用到互联网这种不稳定环境中，就会使得数据的传输效率降低，特别在延时比较大、有丢包的时候尤为明显。负载均衡器支持TCP单边加速，采用VFastTCP技术，大幅改进了传统TCP流控机制，使之更适合于现代网络的特点，以实现单边加速的效果。VFastTCP技术第一，VFastTCP技术引入了更精确的丢包判断及预测算法。改善了传统TCP丢包误判所带来的带宽浪费和带宽空置问题，从而保证了最佳的带宽利用率。第二，VFastTCP技术能够精确侦测连接路径带宽，并相应调整发送数据量。改善了传统TCP机制由于误判路径带宽容量导致的带宽利用率下降的问题，可以在防止引入拥塞的同时最大限度地利用路径带宽。

第三，VFastTCP技术可以监控学习连接对端的传输行为，并根据其发送模式智能反馈引导对端正确判断丢包及准确估算路径带宽，从而大幅提升下载方向带宽利用率。工作流程加速解决方案传统的广域网加速解决方案，通常需要通过对称部署优化设备来解决链路质量方面存在的问题。但是对于大量的中小企业和以学校为代表的机构，网络用途是访问到互联网，客观环境上无法使用需要双边部署的TCP加速设备。在这样的情况下，用户只需单边部署负载均衡器设备，其所有网络连接就可以得到加速。负载均衡器单边TCP加速，可以提高相同时段访问网站的速度，减少完整网页的等待时间，提升广域网链路使用率。特别针对于无线3G网络高丢包率和长延时的情况，负载均衡器单边加速能带来更加可观的加速效果，智能手机，上网本和笔记本电脑通过3G上网的实测平均加速比在1.5倍到5倍之间。多核多线程调度技术多核多线程调度技术，采用了全新的操作系统设计理念，实现多核处理器操作系统负载的均衡，使多核处理器操作系统上运行的多线程程序在操作系统的调度下，能够均衡的分布在不同的处理器核上，从而提高多处理器核的执行效率，使得系统具有更高的处理效率和稳定性。网络包无锁入栈技术操作系统中为了保证关键数据结构读写的一致性，引入了锁的机制，但同时也带来了额外的系统开销，降低了系统的处理能力，延长了系统的处理时间。因此，如何在保证系统正常运行的同时尽可能的减少甚至消除锁机制，一直是业界的一个难题。为此引入了网络包无锁入栈技术，根据系统中核的个数以及网卡的个数，构建多个（核-网卡）入栈环及出栈环。对于每个入栈环而言，读者及写者是唯一确定的协议栈处理线程及网卡服务线程，对于每个出栈环而言，读者及写者是唯一确定的网卡服务线程及协议栈处理线程。通过这种数据环的使用消除了多个协议栈处理线程和网卡服务线程对出入栈数据队列读写的潜在冲突，从而避免了采用锁机制，避免了这一部分的性能开销。基于数据挖掘的核态线程分派技术传统的4层以上负载均衡系统不能很好地把数据处理开销均衡地分派到系统的每个核上。例如，在基于网路数据包端口或IP地址的线程分派技术中，容易存在某些端口或IP地址对应的数据处理任务复杂程度随时间变化剧烈，造成其对应的核负载分配不均衡，进而影响了系统的并发性能。基于数据挖掘的核态线程分派技术，通过对应用场景的行为历史进行归纳分析，动态的把数据处理任务分派到最适合的协议栈处理线程上，达到了处理任务在多核之间的实时公平分配。端对端的反馈技术多核负载均衡产品的应用处理由运行在多个处理器核上的核心态线程组成。线程的优先级决定了该线程在系统的某个核上得到服务的实时性及服务时间长短，传统操作系统中线程的优先级通常按照全系统统一的策略进行调整。研究表明这种方式未区分具体应用负荷，容易造成实时性要求高的应用负载处理被延迟，而另一方面很多实时性要求不高的处理过程却过多过快地被服务，从总体上来看，该方式无法动态实时的均匀调度系统核心态线程，从而降低了系统的并发服务能力。负载均衡器操作系统采用端对端的反馈技术，在服务线程中插入统计钩子点，操作系统线程调度模块分析从各个服务线程汇总的应用相关统计信息，利用线程优先级计算公式为每个服务线程计算出当前最适合的优先级，实现了核心态线程优先级与应用服务实时性需求的一致，动态实时的均匀调度系统核心态线程，进一步提升了系统的并发处理能力。超线程技术区别于多核技术，超线程技术利用特殊的硬件指令，把两个逻辑内核模拟成两个物理芯片，让单个处理器都能使用线程级并行计算，减少了CPU的闲置时间，提高CPU的运行效率。定制化操作系统把对网络包处理任务进行动态细分，把数据共享程度高，且数据依赖性小的两个线程归并到同一超线程组，由同一处理器同时调度，充分发挥超线程技术的优势。高速协议栈技术目前通用的网络处理方法在处理TCP/IP协议和WEB访问请求时要占用巨大的CPU处理资源，而高速协议栈技术可以避免网络过程的重复处理开销，使处理性能得到极大的提升。传统的通信协议栈存在重复队列轮询的问题。处理资源消耗集中在两个方面：TCP/IP请求和七层的HTTP解析。TCP/IP协议栈必须支持多个同时并发的连接，协议栈必须对每个数据包进行分析，根据其不同的特点进行相应的处理，因而当大量并发连接出现时这些连接数据包信息会增加到惊人的规模。对于应用层HTTP协议来说，基于WEB的应用系统在进行网络交互过程中频繁交互HTTP请求与响应，这些数据长度不一，可包含10～5000个字节。对于WEB服务器来说对请求和响应的解析处理全部要靠处理器来完成。一个基于WEB的网络同样有近40%的能量是用于HTTP协议的解析工作上。负载均衡器在遵从TCP/IP协议的前提下对TCP/IP协议栈的精简和优化，采用基于网络包环的无锁化多核处理技术，将TCP/IP堆栈、HTTP解析器和代理引擎结合起来组成独特的高速协议栈架构，允许在数据流各种位置上将垂直应用程序附加入高速协议栈中。同时，平台关闭了对上层用户态的Socket开发接口支持，将所有的数据均在高速协议栈中进行处理，这就避免了数据流入用户态产生的冗余工作，减少了处理器用户态到内核态的来回切换所产生的资源开销，也减少了用户态协议处理程序的唤醒和睡眠产生的资源开销。这样的平台打破了传统的网络结构中数据奔走于各层协议栈之间繁冗工作的模式，构建的高速协议栈直接凌驾于所有垂直应用程序的数据流之上，确保在每种情形中的处理工作都是一次完成、永不重复，从而大大地提高了系统的工作效率。配合高速协议栈技术，所有垂直应用程序将变得更加灵活、更加强大，如服务器负载均衡组件可能被附加至TCP/IP级别上，也可能被附加至代理引擎上。而对于一个在传统网络架构下的第7层服务器负载均衡组件，其应用程序要经过反复的协议栈队列操作才能将信息发送至第7层，而这些工作已经耗费了大量的系统资源。不管所附加的垂直解决方案有多少个，系统进行的都是完全无重复性作业，使系统在保持最高性能的前提下，实现反向代理缓存、全局服务器负载均衡、SSL加速、压缩等众多垂直功能。高速协议栈技术将极大的改善产品的性能：每秒最高达400,000个HTTP请求(每个单元)；每秒超过20,000个SSL事务(打开、数据传输、关闭)；通过代理API最高可维持80%的最高性能(在使用一个空模块时)。安全防火墙负载均衡器具备完备的防火墙功能，防火墙基于包过滤技术研发，直接集成在操作系统内核中，通过立即丢掉垃圾的（反常的）包来改善安全性，减少为抗衡最新的网络攻击所做的安全补丁数量。负载均衡器是基于FullProxy设计的产品，来自客户端的任何连接请求都不会直接发到后台服务器，从而保证了整个系统的高安全性。采用的“延缓转发”技术可以用来防止伪造IP地址攻击，使客户请求连接在被转发到内部应用服务器之前完全终结在负载均衡器设备。负载均衡器提供基于源和目的地址/端口的线速防火墙和基于IP/TCP/UDP的包过滤机制，每秒可支持多达80,000个SYN请求。防火墙功能特性包括：基于源和目的地址/端口的线速防火墙基于IP/TCP/UDP的包过滤机制，每秒可支持多达80，000个SYN请求防DOS攻击典型应用校园网服务器负载均衡负载均衡器可以帮助教育网用户提供优质快速的网络通信，加速互联网用户访问教育网的访问速度，帮助高校提高