门户网站Web及应用服务器加速及负载均衡方案

1、门户网站 Web 及应用服务器加速及负载均衡方案门户网站结构的改造目前，比较流行的门户网站结构一般分为 3 层，第一层是 WWW服务器或反向代理服务器，负责处理静态内容；第二层是应用服务器，负责处理后台程序；第三层是数据库，负责存放网站数据。通常，一个较大的门户网站用户人群都在几百万以上。根据总结出的经验值，同时在线的用户一般最多为 5%，同一时刻更新页面的用户最多为 1%，每个页面请求 20 个 文 件 ， 则 一 个 用 户 人 群 是 30 0 万 的 网 站 ， 同 一 时 刻 最 大 的 ht t p 请 求 数 为 ： 3 00 万 5% 1% 2 0= 30 0 00 次 。 我

2、 们 知 道 ， 一 台 用 a pa c he 做 we b 服 务 的 PC Ser v e r 一 般 同 一时 刻 能 承 受 约 25 0 0 次 的 h t t p 请 求 ，因 此 ，一 个 用 户 人 群 是 3 00 万 的 网 站 需 要 的 web 服务器的数量为： 30000/ 2500=12 台 。除 了 第 一 层 的 we b 服 务 器 ， 为 了 提 高 后 台 程 序 的 工 作 效 率 ，网 站 还 使 用专门的应用服务器提供应用程序服务以及页面发布服务，使用专门的数据库服务器，实现后台应用的数据库驱动并提供统一用户认证服务。同样，各种应用服务器也将根据实

3、际的应用处理能力需要配置多台且能够同时提供应用服务。要 让 多 台 we b 服 务 器 和 应 用 服 务 器 负 载 均 衡 地 同 时 对 外 提 供 服 务 ，最 好的 解 决 方 案 就 是 采 用 4 / 7 层 交 换 设 备 ， 而 优 势 网 络 （ As c e Ne t wo r k s ） 公 司 的 I n Ch or u s 应用前端交换机就是门户网站的最佳选择。交换机（新一代网Net wo r k s的未来的换、应用优 势 网 络 ( As c e Net wo r k s ) 的 I n Ch or u s 的 核 心 是 技 术 十 分 成 熟 的 Web 第

4、四到第七层交换），它是在单一集成式业务平台上提供高可用性和安全性的络 应 用 交 换 机 。 当 传 统 的 4 / 7 交 换 器 还 在 做 所 谓 的 服 务 器 负 载 均 衡 时 ， As c e却已经看到了客户目前已经快速发展和变化的应用需求，甚至客户不断发展需 要 。 I n Ch o r u s 强 调 的 不 只 是 服 务 器 负 载 平 衡 ， 它 优 异 的 功 能 包 括 智 能 内 容 交加 速 、 数 据 压 缩 、 TCP o f f l o ad 、 SSL 性 能 加 速 、 N+ M 设 备 自 身 负 载 均 衡 等 。InChorus 特性及功能概述I

5、 n Ch o r u s 负 载 均 衡 交 换 机 产 品 是 最 先 进 的 应 用 层 交 换 产 品 ，它 易 于 安 装 、配 置 和 使 用 。优 势 网 络 在 隐 藏 其 复 杂 性 方 面 做 出 了 优 秀 的 工 作 ，这 使 得 I nCho r us 负 载 均衡交换机产品的使用极其合理。虚拟服务器I n Ch o r u s 产 品 架 构 以 虚 拟 服 务 器 为 核 心I n Ch o r u s 产 品 的 核 心 是 其 关 于 “ 虚 拟 服 务 器 ” 的 概 念 。 它 是 服 务 器 应 用或服务的高效前端，管理所有特定端口和协议的流量。典型的设

6、置是定义多个虚拟服务器，各自控制的不仅是不同的流量，还针对不同的环境基于智能的策略以不同的方法管理流量。例如，他可以应用策略来决定哪个服务器池来处理特定的用户请求。根据支持的协议，可以包括范围极广的 TCP和 UDP协议，包括 HTTP1.0/1. 1，HTTPS，SSL/任何 SSL 封 包 的 协 议（ SSL 会 话 可 以 在 虚 拟 服 务 器 上 解 密 ），F TP ( ac t i v e & pa s s i v e ) ，t e l ne t ， SMT P， POP， I MAP， DNS， L DAP， RADI US， NNT P， SOA P， XML - RPC，

7、 SQL 等 等 .可以对虚拟服务器进行以下进一步管理：1. 可 以 使 用 T r a f f i c Sma r t 智 能 流 量 管 理 语 言 编 辑 的 规 则 来 检 查 进 入 的 连接请求，然后选择合适的操作。这些规则可以分为多个层次并且可以按照需求以任意的顺序进行创建。每条规则都可以检查连接请求，或者可以改变它，然后可能执行以下三种操作中的一种：? 选择一个服务器池来处理请求? 关闭连接请求? 无动作，连接请求转由规则列表中的下一条规则来处理在每个虚拟服务器后端可能有一个或多个服务器池，包括预先定义的一个缺省服务器池，如果没有规则来确定具体的数据路由，连接请求将发送到该服务

8、器池来处理。量推送到后，访问不到数据I nCh o r us力。当然包加密并2. SSL加速和解密I n Ch o r u s 设 备 中 ， 虚 拟 服 务 器 可 以 解 密 S SL 流 量 ， 而 不 是 简 单 地 将 该 流应用服务器去处理。有两点原因说明这样做是非常有用的，原因之一，在解密规则可以分析访问请求的包头和内容，以确定数据流的路由。如果不解密则得包的几乎任何信息。原因之二，解密请求需要非常强大的处理能力支持，因此，在数据包发送到后端服务器前就先行解密，可以大大降低后端服务器的负载压，如果解密数据包仅仅是向应用访问规则，也可以在应用规则之后重新将数据发送给后端服务器，这样

9、在网络中就不存在任何的安全问题。3. 服务保护越 来 越 多 的 数 据 和 服 务 受 到 各 种 各 样 外 界 因 素 的 威 胁 和 攻 击 ，特 别 是 Do S和 DDo S ( Den i al o f S er v i c e - 拒 绝 服 务 和 Di s t r i bu t e d D en i al o f S er v i c e - 分 布 式 拒 绝服 务 ) 攻 击 。 因 此 ， I n Ch or u s 在 进 行 流 量 管 理 的 同 时 可 以 有 另 外 一 个 角 色 ， 就 是 可 以 建立一系列的服务保护规则来保护服务免受这些恶意攻击。设置

10、选项包括能够配置禁止和受信的 IP地址，这样来自相应 IP地址的访问请求将总是被禁止（或允许）。另外，用户也可以限制来自某一台机器或一组机器的连接数量，可以限制来自任一 IP地址的连接 r at e ， 或 者 限 制 HT T P 请 求 ， 例 如 是 否 必 须 严 格 遵 循 RF C2 39 6 标 准 。通 过 和 T r a f f i c Smar t 智 能 流 量 管 理 语 言 编 制 的 访 问 规 则 进 行 结 合 ，用 户还可以搜索或阻止其他一些干扰服务的因素，例如已经被感染的数据包中的病毒特征数据 。 这 样 ， I nCho r us 不 仅 仅 是 一 台

11、能 够 进 行 流 量 管 理 和 性 能 加 速 的 设 备 ， 它 还 为 用 户 的数据和服务提供了强大的安全性保障。4. 访问日志：可记录访问虚拟服务器的详细日志，可定义每个日志条目的文件名和文件格式；可记录源地址，被访问的服务器池和服务器节点以及发送和接收的字节数；可记录 HTTP的特定选项，例如被请求的 URL，特定包头的值以及 HTTP的方法，等。5. Sma r t Compr es s 内 容 压 缩另外一个提升客户端到服务器（特别是基于因特网或广域网连接的）性能 的 方 法 就 是 进 行 数 据 压 缩 。 在 将 响 应 信 息 发 送 到 客 户 端 时 ， I n

12、Ch or u s 可 以 压 缩 HT TP 数据，不仅可以降低带宽的使用，还可以使基于低速连接传送大型 WEB页面的性能得到提高。不 是所有的浏览器都可以接收压缩内容，这一点在 HTTP请求包的包头信息中就能够 体 现 ， I nCh o r us 可 以 智 能 地 进 行 判 断 ， 仅 是 对 可 以 接 收 压 缩 内 容 的 浏 览 器 发 送 压 缩 内容 。6. Op t i ma l Co nn ec t i o n连 接 管 理I n Ch o r u s 除 了 具 有 上 述 特 性 外 ， 还 有 一 系 列 用 于 优 化HT TP， F TP 和UDP协议的连接

13、管理选项，以及一些对于超时和内存使用的设置项。所有这些都可以应用到每一个虚拟服务器来管理每一种特定的协议。通常缺省设置已经足够了，但为了使应用更加灵活您可以设置这些选项。服务器池服务器池用来将后端服务器定义为一个逻辑组，每个后端服务器由服务器 名 和 端 口 两 个 部 分 组 成 ， 例 如 s er v er 1. b c c b. c om: 8 0 。 一 旦 被 定 义 ， 虚 拟 服 务 器 将 把连接请求指定给一个服务器池来处理，各个服务器节点将会负载均衡地处理连接请求。服务器池中的每一台服务器必须能够使用虚拟服务器指定的协议，通过指定端口来接收连接请求。除了实现负载均衡，每个服

14、务器池还可以各自设置相应的会话保持或 SSL加密方式。服务器池的设置选项非常灵活，例如，在服务器池中可以设置一个优先级列表，这样用户就可以按照优先级来将服务器进行分组，可以在任何时候指定最小数量的服务器来接收连接请求。比如，用户有 5台服务器，至少需要有 2台服务器来同时处理连接请求，那么用户可以指定服务器 1-3 来接收日常流量，服务器 4-5作为备用，平常不接收连接请求。当服务器 1发生故障时，用户还有两台服务器来负载均衡地处理连接请求，如果此时服务器 2也发生故障，这时就会只有一台服务器能够工作。此时， I nCh o r us 就 会 将 备 用 服 务 器 池 中 的 一 台 切 换

15、 到 主 服 务 器 池 中 接 收 连 接 请 求 ，保 证 至 少 有2台服务器来同时处理连接请求，直到主服务器池中的服务器恢复正常。可以对虚拟服务器进行以下进一步管理：1. 选择负载均衡算法：所有服务器池管理的基本原则就是其负载均衡的概念要将负载智能地 分 布 到 所 有 的 服 务 器 。 I n Ch or u s 提 供 轮 循 、 加 权 轮 循 、 感 知 、 最 小 连 接 数 、 最 快 响 应时间、随机等多种负载均衡算法。对于真实环境中的复杂流量，最适当的负载均衡算法应该是“感知”算法；对于流量较小的环境，用户可以选择“最快响应时间”算法；而选择最传统的“轮循”算法则可以

16、让连接平均分布。精密的算法（感知，最小连接数，最快响应时间）都会考虑服务器缓存。后端服务器会将 经 常 被 访 问 的 页 面 放 入 其 缓 存 ， 如 果 一 个 新 的 请 求 来 访 问 这 一 页 面 ， I nCh or u s 可 以将请求发送到最近时间缓存这一页面的后端服务器，从而提高访问效率。2. 会话保持对于许多基于 WEB的客户-服务器会话而言，保持从客户端到服务器的会话 始 终 采 用 特 定 的 路 径 是 非 常 重 要 的 这 通 常 被 称 为 “ 粘 性 ” 连 接 。 为 此 I nCho r u s提供了会话保持功能，可以保证来自同一客户端所有请求的会话将

17、被发送到同一台后端的服务器进行处理，无论是采用哪种 TCP协议。提供静态 WEB内容服务的服务器池一般没有会话保持的要求，即使每个页面或图象从不同的机器发送给客户也不会有什么问题。但是，对于类似在线购物的站点，就非常有必要提供会话保持来确保用户请求始终发送到那台保留有其购物筐详细信息的服务器。I n Ch o r u s以使用多种多样的不同的提供了多种方法来鉴别来自同一会话的不同请求，会话保持可 c o ok i es ，可 以 基 于 访 问 规 则 ，或 者 按 照 用 户 的 I P 地 址 来 实 现 。如果进入的流量是经过 SSL加密的，可以使用SSL会话标识来实现会话保持。但是当产

18、生无效的会话内容或保留会话的服务器发生故障时又会有新的问题，在这种情况下，用户可以选择关闭连接，将请求发送到另外一台服务器，或者将用户请求重定向到一个特定的 URL，例如出错页面。I n Ch o r u s 还 具 有 一 种 “ 全 局 会 话 保 持 ” 功 能 ， 使 用 脚 本 控 制 语 言 编 制 的访问规则可以萃取每个连接的所有独特的会话数据（源 IP地址，用户代理，用户名， i - Mo de 标 识 等 ） ， 并 基 于 上 述 信 息 重 新 生 成 会 话 。3.Dr a i n i ngNod e s这 也 是 I n Ch or u s 的 一 项 十 分 引 人

19、 入 胜 的 特 性 。 很 多 时 候 ，用 户 都 可 能 有各种各样的原因需要服务器池中的正在工作的一台或多台服务器离线，如打软件补丁，应用升级，等等，如果希望或者必须在正常工作时间来做这些工作，特别是对于那些需要 服 务 器 2 4 x 7 x 3 6 5 持 续 工 作 的 情 况 ，这 些 工 作 将 会 带 来 一 些 问 题 ，那 就 是 ，如 果 简 单 地让服务器立刻离线，那么该服务器正在处理的用户连接将全部丢失，对于某些应用或服务 而 言 特 别 是 从 用 户 的 角 度 去 看 ， 这 是 不 可 接 受 的 ！ 正 因 如 此 ， I n Cho r u s 允 许

20、 您 将一 台 或 多 台 服 务 器 进 行 “ d r ai n ” 操 作 ，这 时 这 些 服 务 器 将 不 再 接 受 新 的 连 接 请 求 ，等 到现有连接关闭或会话超时之后再自动离线，此时，所有的用户请求将被发送到服务器池中的其他服务器去处理。在这种情况下，没有任何连接被丢失，这是一个的非常周全的解决方案。4. 健康状况监控为 了 能 够 检 查 后 端 网 络 各 种 元 素 的 健 康 状 况 ，I n Cho r u s 中 包 含 了 一 系 列的健康状况监控工具，这些工具可以被任何一个服务器池选择调用，每个工具执行一项特定的测试，从简单的向服务器发 PING包，也可

21、以复杂到检测服务器特定的端口是否打开，是否能够提供特定的数据服务，例如打开一个特定的页面。监控工具可以只对一台服务器，也可以应用于整个服务器池， 而且对于一台设备的健康检测往往就会反映出整个服务器池的健康状况。例如，一个邮件服务器池可能将其数据保存在一台后端服务器均可以访问的网络文件服务器上，一个应用于整个服务器池的监控工具可以测试这台服务器，如果这台服务器发生故障，那么所有后端服务器就无法从它上面取得数据，这时整个服务器池也被认为失效。这种模式不仅非常有效，同时立即切断了所有多余的网络管理流量。TrafficSmart智能流量管理语言Tr a f f i c Sma r t 智 能 流 量

22、管 理 语 言 是 I nCho r u s 的 精 髓 所 在 ， 为 使 之 成 为真正灵活的工具，我们创建了流量控制脚本语言并用它来编辑访问规则。这些规则能够检测访问请求的所有方面，包括源/目的端口，源/目的 IP地址，甚至流量的类型和实际的 内 容 。 流 量 控 制 脚 本 可 以 进 行 本 地 Xp at h 查 询 ， 并 可 以 结 合 支 持 DTD 和 XSL T 的 XML 流量控制，这些通常可用于基于 SOAP协议的 WEB服务，可以使复杂的数据进行自动转换和理解而无需用户干预。I n Ch o r u s 在 图 形 用 户 界 面 中 提 供 了 规 则 生 成

23、工 具 来 指 导 用 户 生 成 流 量 控制脚本，当规则被创建后将被放置在规则目录中，任何虚拟服务器都可以任意调用规则目录中的任何规则。这样，用户就逐渐建立了一个规则库，可以在任何需要的时候进行调用。因 为 I nCho r us 可 以 无 限 制 地 进 行 内 容 检 查 ，也 就 是 可 以 阅 读 整 个 请 求 的 内 容 并 且 可 以 利用请求信息中的任意一个参数来进行流量管理，随着规则库中的规则越来越多，使得 I nCh o r us 成 为 一 个 十 分 强 大 的 应 用 流 量 管 理 引 擎 。目录I n Ch o r u s 定 义 了 一 系 列 的 目 录

24、 。 这 些 目 录 就 是 用 于 流 量 管 理 的 对 象 的 集中式的数据库。例如，一个目录中存放的是所有用户设置的访问规则，另一个目录中存放的是所有的健康监控工具。还有大量的目录是和 SSL设置相关的（例如，服务器和客户端证书，认证许可以及认证撤消列表等）。这些目录都是可以被单独编辑，并可随时应用到任意一个虚拟服务器或服务器池。如果您编辑了目录中的一个条目，其设置的改变可以将被自动应用到所有使用这个条目的服务， 这大大降低了人为因素带来的问题，保证所有的配置是最新的而且是同步的。应用加速和进程卸载I n Ch o r u s 的 关 键 不 仅 是 对 于 流 量 的 管 理 ， 还

25、 包 括 性 能 优 化 。 方 法 之 一 就是 采 用 一 种 通 用 的 模 式 ， 既 从 服 务 器 上 卸 载 大 量 的 T CP 请 求 ， 转 而 由 I n Ch o r u s 来 处 理 。类似地，对于单独的应用，采用一种非介入的方式尽可能地增强已有方案的性能，这只需要一点点或完全不需要进行应用的整合。InChorus 无限的容错能力和可扩展性为保证用户可以获得接近 100%的持续在线时间，优势网络推出了多种自身 设 备 的 容 错 选 择 ， 远 远 超 越 了 当 前 众 多 的 同 类 产 品 。 尤 其 是 其 独 有 的 Cl us t e r NG 设 备自

26、身高可用技术，可以让用户获得近乎无限的冗余和可扩展性，它可以让用户建立一个设 备 数 量 多 达 64 台 的 I n Cho r u s 集 群 ， 而 且 可 以 将 集 群 中 的 任 意 多 台 设 备 配 置 成 在 线 的（ Ac t i v e ） ； 另 外 任 意 多 台 设 备 配 置 成 备 份 的 （ St a nd b y ） 或 二 级 （ s ec on d l y ） 设 备 。 相比 于 那 些 只 能 提 供 简 单 的 主 备 模 式 （ a c t i v e - s t an d b y ） 或 双 活 模 式 （ a c t i v e - ac t i v e ） 的对手来说，在竞争中处于极其优势的地位。I nCh o r us有的特性I nCh o r us能），同此 外 ， 在 I n Ch o r u s 集 群 中 增 加 新 的 I n Ch or us 设 备 非 常 简 单 ， 因 为 新 的设备可以被已有的集群自动检测到，同时配置可以自动复制到该设备。这种独使用户可以用极低的成本构建和扩展系统（每次只需购买满足当时所需性能的即可，扩展的设备可以和原有设备同时工作，在保护原有投资的情况下扩展性时非常的简单。诊断（ Diagnose ）用来检验明显的配置问题其根源何在，或者是简单