高可用集群培训

方德高可信服务器集群

报告日期:

1中科方德软件有限公司

信目录

NFS-China

■

>集群介绍

>集群管理工具

>集群各模块服务

>集群应用

>总结

2中科方德软件有限公司

集群介绍

NFS-China

■集群概述

>集群技术（Cluster技术）就是将多台服务器用集群软件连接在一

起，组成一个高度透明的大型服务器群的计算机系统；

>作为一个整体为客户端提供服务，客户端能共享网络上的所有资源

,如数据或应用软件等，同时客户端的用户并不关心其应用Server

运行在那台服务器上，只关心其应用Server是否能连续工作。

3中科方德软件有限公司।

集群介绍

当集群系统内某一台服务器出现故障时，其备援服务器便

立即接管该故障服务器的应用服务，继续为前端的用户提

供服务。

从客户端看来，集群中的所有服务器是一个系统，就像一

台大型的计算机系统，其上运行着客户端需要的应用服务

o在一年之内可达99.99%可用性时，这样的集群系统我

们称为高可用性的集群系统。

4中科方德软件有限公司

集群模型

集群普通结构

]Linux系统简单负载均衡架构

5中科方德软件有限公司

集群分类(1)

■高可用集群

高可用集群简称HA(HighAvailability

Cluster)o是一项以减少服务中断时间为目

的的服务器集群技术。

中科方德软件有限公司

翅工作方式

.NFS-China

高可用集群通常有两种工作方式：

>容错系统：通常是主从服务器方式。

>互备系统：集群中所有的节点都处于活动状态，它们

承担系统的工作负载。

Z中科方德软件有限公司

集群分类（2）

NFS-China

■负载均衡集群

>负载均衡集群就是带均衡策略算法的服务器集

群。负载均衡集群在多节点之间按照一定的算法

分发网络或计算处理负载。

8中科方德软件有限公司।

集群的重要性

■在高可用性的集群系统中，由于是多台服务器在高可用性的

集群系统软件的管理下为客户端提供服务，故每一个计算机

的部件都有冗余备份，其中最重要的是数据存放的介质要有

冗余保护，一旦某个部件出现问题，冗余部件会自动接管故

障部件的工作，也就是说某台服务器出现故障，则备份服务

器将在集群软件的指挥下自动接管故障服务器的工作，从而

消除了此故障对整个系统的影响。

中科方德软件有限公司

集群应用前景

■网络的高速发展,带来了服务器的线形增长，当访问需求增

长时，服务器会在很短的时间内超载，集群技术由此应运而

生。目前,越来越多的企业采用Linux操作系统,提供Web、

邮件、文件存储数据库等服务。

■随着人们对Linux服务器依赖的加深,对其可靠性、负载能

力和数据能力也备加关注。Linux集群技术以低廉的成本，

实现了这些需求。Linux可以运行于极为普及的PC机上，不

需要购买昂贵的UNIX硬件设备。在几台运行Linux的PC机上

,只要加入相应的集群软件,就可以组成具有很强可靠性、

负载能力和计算能力的Linux集群。

10中科方德软件有限公司

集群介绍

小结：

•本次集群是在中科方德高可信服务器操作系

统平台上进行搭建；

•技术的目标在于通过多层网络结构进一步提

高扩展性、可用性与可靠性；

•将目前应用最为广泛的高可用集群技术和负

载均衡集群技术融合到一起。

11中科方德软件有限公司

目录

NFS-China

>集群介绍

>集群管理工具

>集群各模块服务

>集群应用

>总结

中科方德软件有限公司

Heartbeat介绍:

概述：

>Heartbeat是Linux-HA工程的一个组件。是集群的管理

工具，同时也是集群中的一个服务；

>它通过插件技术实现了集群间的串口、多播、广播和

组播通信，根据通信媒介选择采用的通信协议，

heartbeat启动的时候检查这些媒介是否存在，如果存

在则加载相应的通信模块。

>检测各节点和服务的运行状态，不需要人工干预的情

况下，自动保证系统能持续对外提供服务。

13中科方德软件有限公司

Heartbeat组件结构图

NFS-China

■结构图

中科方德软件有限公司

Heartbeat原理

高可用性集群的实现原理大致来说，就是有服务监测进程

运行在负载均衡器上，用来定期检查服务器是否可用。

如果在指定的时间内没有响应服务接入请求或没有从服务

器获得ICMPECHO_REQUEST数据,监测月艮务就会认为

服务器是不可用，并且将它从现有的负载均衡器上的服务

器列表中删除，从而不会有新的请求再被发送到这台不可

用的服务器中。

当监测服务检测到不可用的服务器已经可以恢复工作，监

测服务将会把这台服务器重新添加到可用的服务器列表中

15中科方德软件有限公司

pacemaker介绍

Pacemaker是集群资源管理。它利用你的集

群基础组件（如heartbeat）来停止，启动

甚至监控你希望集群提供服务的健康状况。

它可以在任何大小规模的集群中工作，伴随

使用可靠的模块，管理可以很准确的描述集

群中资源的关系。

中科方德软件有限公司

hb_gui介绍

NFS-China

pacemaker的图形管理工具:

中科方德软件有限公司

图形界面

■root用户登录信息：

中科方德软件有限公司

Cman介绍

•cman概述

Acman(clustermanager)是RHCS(RedHat

ClusterSuite)管理工具集的其中一个组件，是

一个基于内核的对称通用分布式集群管理工具，在

RHCS中执行集群管理任务，通过配置和管理其它组

件来管理高可用集群。

19中科方德软件有限公司

Cman介绍

•cnian原理

>cman通过监视集群节点提供一个法定节点数（

quorum）,当集群中有多余一半的节点处于活

跃状态时说明有一个法定节点数，当有一半或

少于一半的节点处于活跃状态是则不具有一个

法定节点数，此时整个集群不可用。cman通过

监控节点来了解节点的成员关系，当集群中的

成员关系改变时，cman通知底层结构做相应调

整。

中科方德软件有限公司

Cman组件(1)

cman.ko:CMAN的内核模块。

cman_tool：这是CMAN的管理前台，是一个管理

CMAN群集管理器的程序。它启动和停止CMAN并

能修改某些内部参数，它提供加入集群、离开集群

、杀死节点或修改集群里节点的预期quorum

votes的功能。

dlm-controld:由cman初始脚本启动的守护进

程，它管理内核中的dim;用户不可直接使用。

21中科方德软件有限公司

Cman组件(2)

gfs.controld：cman初始脚本启动的守护进程，它管理

内核中的gfs;用户不可直接使用。

group-tool:用来获取与保护（fencing）、DLM、GFS

相关的组群列表，并获取调试信息，包括cman_tool

services在RHEL4中提供的信息。

Groupd：cman初始脚本启动的守护进程，它是

openais/cman和dlm_controld/gfs_controld/fenced

之间的接口；用户不可直接使用。

中科方德软件有限公司

总结

•Heartbeat集群管理工具主要负责心跳信号，而Pacemaker

对资源进行管理。Pacemaker则可以通过命令行或者图形界

面来对资源（组），节点创建，管理，配置等工作，用来

搭建和管理一个高可用集群。

•cman集群管理工具用于管理集群成员，消息和通知。cman

包括一套内核补丁和一个用户空间程序。cman_tool用于

使一个节点加入或者离开集群。改变集群的投票期望值。

中科方德软件有限公司

集群介绍

集群管理工具

集群各模块服务

集群应用

总结

中科方德软件有限公司

短多网卡绑定

NFS-China

.

I•bonding概述

>Linuxbonding实现就是用多块网卡虚拟成

为一块网卡，这个聚合起来的设备对外看起来

是一个单独的以太网接口设备，通俗点讲就是

多块网卡具有相同的IP地址而并行链接聚合成

一个逻辑链路工作。

25中科方德软件有限公司

Bonding原理

正常情况下，网卡只接收目的硬件地址(MACAddress)

,自身Mac的以太网帧，将别的数据帧都滤掉，以减轻

驱动程序的负担。

网卡也支持另夕I'一'种被称为混杂promise的模式，可以

接收网络上所有的帧，bonding运行在这个模式下，而

且修改了驱动程序中的mac地址，将两块网卡的Mac地址

改成相同，可以接收特定mac的数据帧。然后把相应的

数据帧传送给bond驱动程序处理。

Linuxbonding驱动提供了一个把多个网络接口设备捆

绑为单个的网络接口设置来使用，用于网络负载均衡及

网络冗余。

26中科方德软件有限公司

bonding模块

bonding模块本质上是一个虚拟的网卡驱动(

networkdevicedriver),只不过并没有真实的

物理网卡与之对应，而是由这个虚拟网卡去“

管辖”一系列的真实的物理网卡，所以它的代

码结构和一般网卡驱动的代码结构非常类似，

这是共性；除此之外，它还有自己的一些特性

功能，例如特别的链路状态监控机制，绑定/解

除绑定等。

27中科方德软件有限公司

DRBD介绍

DRBD概述:

DRBD(DistributedReplicatedBlockDevice)

实际上是一种块设备的实现，主要被用于构建

linux系统下的高可用集群。它是由内核模块和

相关程序组成，通过网络通信来同步镜像整个设

备。DRBD负责接收数据，将数据写入本地

DRBD设备上的文件系统时，数据会同时被发送

到该服务器集群中另外的节点，并以完全相同的

内容格式保存。

中科方德软件有限公司

DRBD原理:

＞每个设备（DRBD提供了不止一个设备）都有一

个状态，可能是主状态或从状态。在带有主设备

的节点上，应用程序能运行并且访问主、从节点

设备。每次写入都会发往本地底层设备和从节点

设备中。从节点只能简单地把数据写入它的底层

块设备上。

中科方德软件有限公司

DRBD数据镜像特点

适时性：当应用程序在写入或修改数据的同时也在向其它

节点进行备份该数据；

透明性：将数据保存到本地设备时，实际上也保存到其它

节点上，而在其它节点也能看到数据的保存过程；

同步或异步：同步是指本地节点与集群中的其它节点同时

对数据进行写入；异步是写数据被存储到本地节点中之后

,写事务被认可，对等节点中的数据副本出现在后台中；

30中科方德软件有限公司

DRBD模式

■单用户模式

在单主模式下，任何资源，在任何时候，集群成员只有一

个主角色。这样就保证了只有一个集群节点操纵数据，这

种模式可用于与任何传统的文件系统。

■双主模式

在双主模式下，任何资源，在任何时候，两个节点都在集

群节点上都发挥主节点作用。这种模式要求共享集群文件

系统管理者使用一个分布式锁机制。包括GFS与0CFS2。

31中科方德软件有限公司

麹DRBD组件

NFS-China

DRBD包含几个具有可与内核组件通信能力的管理工具,

为了能够配置和管理DRBD资源。

■drbdadm:DRBD应用套件的高层管理工具。

■drbdsetup:需要用户配置已经被载入到运行内核的DRBD

模型，它是drbd应用套件的底层工具。

■drbdmeta:该应用允许用户创建，删除，恢复，修改

DRBD的元数据结构，也是一个很少使用的命令

32中科方德软件有限公司

留iSCSI介绍

NFS-China

■

■iSCSI概述

iSCSI是由IEETF开发的网络存储标准，目的是为

了用IP协议修存储设备连接在一起。通过在IP网

上传送SCSI命令和数据，iSCSI推动了数据在网际

之间的传递，同时也促进了数据的远距离管理。

33中科方德软件有限公司

通iSCSI原理

NFS-China

■

■iSCSI技术的核心是在TCP/IP网络上传输SCSI协议，是指用TCP/IP

报文、iSCSI报文封装SCSI报文，使得SCSI命令和数据可以在普通

以太网络上进行传输，iSCSI协议定义了在TCP/IP网络发送、接

收block（数据块）级的存储数据的规则和方法。发送端将SCSI命

令和数据封装到TCP/IP包中再通过网络转发，接收端收到

TCP/IP包之后，将其还原为SCSI命令和数据并执行，完成之后将

返回的SCSI命令和数据再封装到TCP/IP包中再传送回发送端。而

整个过程在用户看来，使用远端的存储设备就象访问本地的SCSI

设备一样简单。

34中科方德软件有限公司

iSCSI工作流程

iSCSI工作流程:

35中科方德软件有限公司

iSCSI组件

iSCSI存储使用以下三个组件：

服务端（Initiator）:安装在需要使用iSCSI存储设备的主机

上的客户端软件，提供连接iSCSI存储设备并进行数据读写

的驱动程序；

客户端（Target）:iSCSI存储设备，提供数据存储服务；

端口（Portal）:由IP地址和端口（默认为TCP3260）组成

,发起方通过入口来连接目标。

中科方德软件有限公司

iSCSI模块

NFS-China

■iscsiadm模块

iscsiadm是用来管理（更新、删除、插入、查询）

iSCSI配置数据库文件的命令行工具。

■iscsi-target模块

target端即磁盘阵歹U或其他装有磁盘的主机。

■iscsi-initiator模块

iSCSI-initiator提供了相当合理的iSCSI解决方案。

37中科方德软件有限公司

值GFS与GFS2介绍

NFS-China

■GFS与GFS2彳既述

>GlobalFileSystem(GFS)是一个开放源代码的，POSIX

兼容的Cluster文件系统和卷管理系统。是RedHat

ClusterSuite提供一个集群文件系统，它允许多个节点

在块级别上共享存储。GFS使用一个分布式的元数据和

多个记录，GFS是一个理想的集群文件系统。GFS2是

GFS基础上的改进。

38中科方德软件有限公司

GFS工作原理

■GFS文件系统通过一个或多个存储单元来构建一个存储

池，集群中的节点通过SAN可以连接到指定的存储池,

这样每个集群节点就可以通过一个或多个路径把存储池

连接到网络应用中，由于存储池连接方式是通过直接

I/O连接方式，所以可以大大提升I/O性能。

39中科方德软件有限公司

麹GFS文件系统格式转换

NFS-China

将GFS文件系统转成GFS2文件系统操作步骤：

■备份原来的GFS文件系统；

■从所有集群节点中卸载GFS文件系统；

■在GFS文件系统中执行gfs_fsck命令，确保没有文件系统损坏，并

且现在使用的文件系统是一个干净的文件系统；

■执行gfs2_convert+文件系统，系统将显示警告或确认信息

40中科方德软件有限公司

Idirectord介绍

■为了从主Director将LVS负载均衡资源故障转移到备用

Director,并从集群中自动移除节点，我们需要使用

Idirectord程序，这个程序在启动时自动建立IPVS表，

然后监视集群节点的健康情况，在发现失效节点时将其

自动从IPVS表中移除。

41中科方德软件有限公司

超Idirectord原理

NFS-China

■

■Idirectord守护进程通过向每台真实服务器真实IP(RIP)上的

集群资源发送访问请求来实现对真实服务器的监控，这对所

有类型的LVS集群都是成立的：正常情况下，为每个Director

上的VIP地址运行一个Idirectord守护进程，当真实服务器不响

应运行在Director上的Idirectord守护进程时，Idirectord守护

进程运行适当的ipvsadm命令将VIP地址从IPVS表中移除。(

以后，当真实服务器回到在线状态时，Idirectord使用适当的

ipvsadm命令将真实服务器重新添加到IPVS表中)；

42中科方德软件有限公司

Ldirectord功能

NFS-China

■

■负载均衡集群，通过Ldirectord监测各

RealServer的健康状况。在RealServer不可用

时把它从群中剔除，恢复时重新加入。

43中科方德软件有限公司

寻Idirectord模块

NFS-China

■ipvsadm

IPVS(IP虚拟服务器)是实现传输层的负载均衡工具包

含在linux内核中，所以也叫做4层交换机。

■Idirectord

Ldirectord(LinuxDirectorDaemon)是JacobRief编程实

现的一个独立进程，以实现对服务和物理服务器的监测

,广泛地用于http和https服务。

44中科方德软件有限公司।

NFS介绍

■NFS(NetFileSystem)网络文件系统是由SUN公司开发，

目前已经成为文件服务的一种标准(RFC1904,RFC1813

)。

■NFS是分布式计算机系统的一个组成部分，可实现在异构

网络上共享和装配远程文件系统。其最大功能是可以通过

网络让不同操作系统的计算机可以共享数据和远程访问，

所以也可以将其看作是一台文件服务器。

45中科方德软件有限公司

NFS原理

NFS客户端通过其TCP/IP模块向NFS服务器发送RPC请

求，NFS主要使用UDP,最新的实现也可以使用TCP。

NFS服务器在端口2049接收作为UDP数据包的客户端请

求，尽管NFS可以被实现为使用端口映射器，允许服务

器使用一个临时端口，但是大多数实现都是直接指定

UDP端口2049。

当NFS服务器收到一个客户端请求时，它将这个请求传

递给本地文件访问例程，然后访问服务器主机上的一个

本地的磁盘文件。

46中科方德软件有限公司

LVM介绍

NFS-China

■LVM概述

■LVM是逻辑盘卷管理(LogicalVolumeManager)的简

称，LVM作为Linux环境下对磁盘分区进行管理的一种

机制，LVM是建立在硬盘和分区之上的一个逻辑层，来

提高磁盘分区管理的灵活性。LVM是在磁盘分区和文件

系统之间添加的一个逻辑层，来为文件系统屏蔽下层磁

盘分区布局，提供一个抽象的盘卷，使得用户在无需停

机的情况下方便地调整各个分区大小，在盘卷上建立文

件系统。

47中科方德软件有限公司;

基本术语

NFS-China

■物理存储介质(Thephysicalmedia)

这里指系统的存储设备：硬盘，如：/dev/hdal./dev/sda等等

,是存储系统最低层的存储单元。

■物理卷(physicalvolume)

物理卷就是指硬盘分区或从逻辑上与磁盘分区具有同样功能的设

备(如RAID),是LVM的基本存储逻辑块，但和基本的物理存储介

质(如分区、磁盘等)比较，却包含有与LVM相关的管理参数。

■卷组(VolumeGroup)

LVM卷组类似于非LVM系统中的物理硬盘，其由物理卷组成。可以

在卷组上创建一个或多个“LVM分区”(逻辑卷)，LVM卷组由一

个或多个物理卷组成。

48中科方德软件有限公司।

基本术语

NFS-China

■逻辑卷(logicalvolume)

LVM的逻辑卷类似于非LVM系统中的硬盘分区，在逻辑卷之上可以

建立文件系统(比如/home或者/usr等)。

■PE(physicalextent)一逻辑扩展

每一个物理卷被划分为称为PE(PhysicalExtents)的基本单元,

具有唯一编号的PE是可以被LVM寻址的最小单元。PE的大小是可

配置的，默认为4MB。

■LE(logicalextent)

逻辑卷也被划分为被称为LE(LogicalExtents)的可被寻址的基

本单位。在同一个卷组中，LE的大小和PE是相同的，并且——对

应。

49中科方德软件有限公司

集群服务总结

■总结

集群的实现离不开以上的服务，多网卡绑定保证了网络的

连接；磁盘镜像实现了数据的备份；多机热互备为用户服

务提供了安全保障；负载均衡提高了服务器的性能，同时

也节省了用户的访问时间。

50中科方德软件有限公司

集群介绍

集群管理工具

集群各模块服务

集群应用

总结

中科方德软件有限公司

鱼系统配置环境

NFS-China

■

本章所描述的实例应用的系统配置环境如下：

■硬件环境：

＞集群节点：每个节点设备应该能运行中科方德高可信服务器

操作系统，并且内存大于等于1GB,应具备两个

网络适配器接口。

＞交换机或者Hub:为了每个节点相互链接。

＞存储器：集群所必需的设备

52中科方德软件有限公司

副系统配置环境

NFS-China

■软件环境：

>操作系统版本：方德高可信服务器操作系统64位

■>操作系统内核版本：2.6.18-123.7NFS

>Heartbeat服务版本：heartbeat-2.99.2-9.1

>Pacemaker服务版本：pacemaker-0.6.6-6.6

>Bonding月艮务版本：3.2.4

>Drbd服务版本：0.7.23

>IscsLtarget版本：0.4.17-LAXS3

>Iscsi-initiator・utils版本：68-0.18.LNFS

>Ipvaadm服务版本：1.24

>Ldirectord服务版本：1.186・ha・2.99.2

53中科方德软件有限公司

集群应用（1）

NFS-China

下图提供了一种5节点的高可用负载均衡集群解决方案:

中科方德软件有限公司

方案说明

■从上图我们看出，LVS的抽象体系结构分为三个层

次。第一层是负载均衡器，这是集群的唯一人口

o从客户端的角度看，集群通过这层的服务体现为

一个基于IP地址的单一系统映像(SSI),整个集

群共用这个虚拟地址，通过它客户端可以把整个集

群看作一个独立的具有合法IP地址的主机系统，客

户端的所有访问都发往这个虚拟IP地址。

55中科方德软件有限公司

方案说明

NFS-China

■但我们也发现，如果仅有一台负载均衡器，容易造

成负载均衡器成为集群的单点失效，使其成为集群

中最脆弱的环节。因此，有必要提供容错机制，能

够在负载均衡器失效的时候进行自动检测并平滑替

换，也就是常说的HA技术。在上图的结构中，有一

个以备份均衡身份运行的结点实时地监控负载均衡

器的运行状态，并根据检测到的状态做出响应：报

警、接管、恢复。

中科方德软件有限公司

方案说明

■第二层是提供实际服务的服务器组，并且节点间使

用drbd服务来实现磁盘镜像。客户端发出的服务请

求经过均衡器处理以后，转交到服务池由具体的服

务器响应请求并返回数据。通常我们会在服务结点

池上提供Web服务、FTP服务或者视频点播服务。由

于单一系统无法应付高峰值的数据访问，那么通过

多台服务器分担这些负载就比较经济可行了。

57中科方德软件有限公司

方案说明

■服务器节点也有可能出现暂时失效的情况，特别是

在节点提供多种服务的时候，系统的随机故障或外

部环境的突变都可能造成该节点的某个服务暂时不

可用。因此，由负载均衡扩展出的容错机制要能够

识别这种错误，及时进行处理。同样，当错误排除

后，集群能够自动识别恢复事件，把/恢复的结点重

新纳入集群继续运行。

58中科方德软件有限公司

方案说明

■由于服务器节点可能会失效，所以保护节点中的

数据是非常重要的！通过drbd服务，可以让集群

之间的节点实现磁盘镜像。每个节点中的硬盘都

会有自己的镜像，这样即使某节点失效了，用户

也可以正常访问其镜像中的数据，从而不会出现

数据丢失的现象，更不会有用户访问不到数据的

现象发生。

中科方德软件有限公司

方案说明

■第三层是存储服务系统，为整个集群内部运行提供

稳定、一致的文件存取服务。这一层作为LVS集群

的扩展，可以为集群节点池提供单一的文件系统入

口，即在每一台服务结点上都共用同一个根（/）

;并且自动完成不同结点访问文件系统所引发的文

件锁定、负载均衡、容错、内容一致、读写事务等

底层功能，对应用层提供一个透明的文件访问服务

中科方德软件有限公司

集群应用（2）

下图提供了一种16节点的高可用负载均衡集群解决方案:

H•■•*■•—-J......B---■---»或......■航B-」-—■一■,---

■rBr■-M*.一_布―—一_

HH—JJ——♦_—J.—,-J—•••―.J•—•••--9***■—>.J

j__•••，・—・—«■«・・・••,■

应用说明

■本集群模型是一个的3层集群的概念多节点扩充，前端是4

个负载均衡器实现的是主备模式的负载均衡，而中间层是

多节点的服务器层运行客户所需的服务，为负载均衡服务

器提供多个可供选择的真实服务器，存储层还是沿用中型

集群设计方案进行设计。

中科方德软件有限公司

应用说明

NFS-China

■本集群的设计基于大型企业来设计的，由16台计算机或者服务器来

组成有一个大规模的集群，成本方面，由于是16台计算机的联合工

作的大型集群，所以成本费用较高，但是增加负载均衡服务器的主

备模式，提高了负载均衡服务器的可用性；存储方面，由于使用了

共享存储，所以提高了数据的安全性和保密性；共享存储方面，使

用了磁盘镜像技术，对数据进行备份从而提高了对数据的可靠性。

但是本集群的服务器节点过多，而存储层只使用一个双节点磁盘镜

像与共享存储的综合应用，对数据的访问和存储有一定局限，如果

需要更改，可以减少节点数，增加存储层的节点个数。

63中科方德软件有限公司।

节点状态添加

点状态图:

Unux合可用集群管理容户院-□X

连接资源节点

4。牛=涿》口晶

0啊I

标识符:group_7类型：资源组

名称状态

赢比数：

▽j1llnux-ha节点个数无效

名标值

▼j节点

target_rolestopped

yserved54,localdomain停止

orderedtrue

yserved52停止

collocatedtrue

▽Qserved51运行住控节点）

QIPaddr_192_168_5_201运行于fserveU51']

Qv$ftpd_2运行于『server!51']

▼j资源

d。group」资源组

QIPaddr_192_168_5_201运行于C$erver1511

Qv$ftpd_2运行于r$ewerl511

▼♦group.2资源姐

jIPaddr_192_168_5_203未运行

▽非限制条件

口翼位置

兴r$cjocation_group_1

J顺序

.协同

「添加属性一“删除属性，

中科方德软件有限公司

资源添加

■资源窗口:

中科方德软件有限公司

NFS-China

■添加http服务:

资源粘性

NFS-China

■添加资源粘性:

连接安源节点

◎（牛=口第3VG

名称伏态属性：

标识符：localion_151权重:

▽Qiinux-ha节点个效有处

节点

▼Q资源：布尔运算：

Qserved53防住郃点）

>Qserver151防

▼③资源

▼Qgroup151资源蛆

QresourceJPaddriEfjT（'ser