政务云网站群平台-技术方案_第1页
政务云网站群平台-技术方案_第2页
政务云网站群平台-技术方案_第3页
政务云网站群平台-技术方案_第4页
政务云网站群平台-技术方案_第5页
已阅读5页,还剩85页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、政务云网站群平台 技术方案1目录1 业务架构2 应用架构3 数据架构4 技术架构5 技术选型浪潮IOP平台用户中心协作中心资源中心应用中心运营中心电子商务运营管理商城会员商品中心订单中心结算中心客服中心运营中心平台管理物流中心内容管理CMS站点管理频道管理栏目管理文章中心移动端后台互动中心模板管理系统管理电子商务前台应用商品发布价格管理库存管理订单发货促销设置评价管理商品浏览购物车我的订单收藏夹物流跟踪在线支付欢乐体验园区服务真伪查询传奇文化缤纷活动旅游文化七彩美食翡翠鉴赏旅游产品翡翠文化旅游攻略七彩好礼会员中心系统整合全网通行证七彩云南电子商务网站群大数据服务智能推荐运营分析用户行为分析销售

2、分析全网营销七彩云南主题园七彩云南翡翠网站珠宝展示聚粉集客交流互动怡美假日官方网站社交聚粉旅游产品展示用户服务移动应用园区应用社交互动信息推送怡美天香化妆品网站七彩云南花之城网站微信微博论坛SNS商品展示在线订单快递及服务SNS板块管理内容管理业务架构-总体架构翡翠交流旅游社交园区展示园区活动园区展示园区活动互动分享流量引入门票销售、珠宝销售等服务指引服务指引3总述 网站站群平台的建设包括怡美假日官方网站、七彩云南翡翠网站、七彩云南主题园网站、怡美假日官方网站后台、七彩云南翡翠网站后台、七彩云南主题园网站后台,网站后台大数据管理平台,旅游移动客户端和电商平台系统。其中一期建设内容为三个官方网站

3、以及后台网站站群管理平台、旅游移动客户端,二期建设内容为电商平台系统和后台大数据管理平台。 为保障业务快速稳定地发展,实现平台分阶段建设目标的平滑扩容, 以下从平台的业务架构、应用架构、数据架构和技术架构四方面的技术整体解决方案进行说明。 由于二期建设的电商平台的数据和技术实现较为复杂,在本方案中未进行深入论述,后期将对平台二期建设的技术解决方案进行单独汇报。4业务架构-业务支撑体系网站管理平台七彩云南网站站群平台立足于“互联网旅游”,面向团体游客、怡美假日俱乐部会员,提供以“旅游服务为中心”的交互、交流、交易平台。互联网旅游业务的良好稳定运营,需要建设以下业务能力支撑:品推宣传平台电商平台怡

4、美假日网站七彩云南翡翠网站销售服务合作伙伴服务市场营销供应链管理七彩云南网站站群统一管理平台业务能力支撑全景图七彩云南主题园网站大数据平台基础数据管理数据挖掘决策分析业务监控5业务架构-业务建设阶段业务演进过程自营运营演进过程良性循环:为目标用户提供全面多样服务多元探索:探索互联网旅游盈利模式七彩云南网站平台遵循互联网业务发展规律,为了利于积累用户、建立互信,平台拟按“引流-自营-集成”三个阶段逐级演进,逐步做强、做大。并根据运营需要,分期进行平台建设支撑,逐步加大投入:统一站群管理平台电商平台平台建设推广用户初始积淀各类品推门户网站差异旅游服务推广自有品牌形成业内标杆大数据分析平台本期建设后

5、续建设图例集成引流在线销售:在线购票差异服务:适当引入收费类服务保持黏性:利用互联网营销方式,不断扩大用户数量门户:为用户提供优质服务APP:形成优质应用搭框架:建主体平台推服务:为俱乐部会员、团队游客提供基础服务吸用户:保黏性:保持平台的热度和用户活跃度扩平台:电商、大数据平台扩用户:扩大用户数量、提供差异化产品和服务推产品:引入自营的服务产品建口碑:扩大影响,积累活跃用户做配套:提供电商合作的配套服务多探索:各种业务6目录1 业务架构2 应用架构3 数据架构4 技术架构5 技术选型7应用架构-基于用户业务行为的三侧划分七彩云南网站平台用户主要包括客户(原有俱乐部会员、团体游游客、散客)、运

6、营执行人员(网站管理,运营管理) 、管理人员(决策层)三种类型,为清楚划分用户界面和更好的满足不同类用户的关注点,将七彩云南网站平台分为客户侧、运营侧、管理三侧;应用功能及架构设计以此为基础展开。用户类别关注点业务行为基础用户七彩云南园区的文化和旅游内容;翡翠文化 翡翠知识 翡翠商品;旅游资讯、文化资讯差异化、个性化的需求;用户体验;运营执行者网站管理者对外部用户服务支撑的应用;服务质量和效率;保持和拓展网站形象宣传;建立专业的服务体系;聚粉效应发布内容信息;通过微信 微博等手段建立良好品牌;通过移动互联网为用户提供及时的服务;组织景区营销活动;客户侧面向互联网用户的服务面向网站客户的服务运营

7、侧面向平台业务运营者的业务应用集合;一阶段以内容为中心设计、二阶段过渡到以订单为中心;管理侧面向管理者的业务应用集合;一阶段以管理信息化为中心;二阶段过渡到以运营为中心;以客户体验为根本出发点以内容中心以分析为手段获取七彩云南园区信息,游客互动;获取翡翠信息,展示、交流;获取旅游信息,O2O互动;提升七彩云南美誉度、含金量;经营数据统计分析能力;关键事件预警、记录、应急处理;系统拓展能力、扩展性。通过IT手段提升七彩云南网站管理;用户行为分析、产品定位分析;营销效果分析、平台运营分析;8应用架构-客户侧设计原则随身的:任何时间、任何地点安全的:账户、数据、管理、交易、追溯、防抵赖友好的:尊重、

8、友好、帮助、服务高效的:减少操作、免操作经济的:无费用、较少费用、不花其他费用注重第一印象:网站、APP的首页发现和注重细节个性化让客户心情愉悦及时反馈恰当的推荐安全感和信任度站在客户角度看待问题。客户体验是一个完整的过程。发现需求而不是创造需求。决定不做什么,往往比决定做什么更重要。要迎合客户,而不是改变客户。关注绝大多数客户,快速上线,不断改善。把客户当傻瓜,不要让客户思考和选择。不要给客户不想要的东西。12345678以客户体验为中心是目前最科学的以客户为中心的衡量量化管理方法论,站在用户的视角考虑问题并进行应用设计的指导。订单中心订单识别订单拆分及路由订单取消退换货、退款异常订单处理9

9、应用架构-运营侧设计原则内容中心旅游知识旅游新闻旅游服务旅游产品旅游活动内容供应商旅游知识旅游服务旅游新闻公益活动收益结算翡翠门户翡翠品牌翡翠文化新闻资讯翡翠交流获取信息主题园门户欢乐体验七彩美食传奇文化七彩好礼园区服务怡美假日门户旅游文化旅游攻略用户服务旅游产品旅游社交配送管理仓库管理配送需求配送分配跟踪交货支付平台外部支付内部支付结算管理交易安全违规审查产品供应商旅游产品旅游服务商品管理售后服务一阶段以内容为中心设计,二阶段过渡到以订单为中心设计。一个管理后台,管理多套网站。.交易管理10应用架构-管理侧应用功能按照平台和产品运营目标而设计一阶段以管理信息化为中心设计,二阶段过渡到以运营目

10、标为中心设计客户行为分析用户行为数据客户数据内容数据产品数据交易数据数据分析挖掘内容吸引度、营销成功率等走势分析分类统计分析通过对数据的分析和挖掘,找出用户和客户行为的时间、操作等规律、转换率和关联因素;发现存在的风险和薄弱环节,为运营决策提供必要的支撑。根据搜索关键字、主题点击率、操作日志,按用户、客户,时间等多维分析。根据主题、产品、促销方式不同,评估内容吸引度、营销成功率等,适应用户喜好根据客户性别、年龄,景区,产品等不同,分类统计分析辅助运营。应用架构设计原则11应用架构-应用划分原则业务边界和流程聚合原则对于本身较独立,与其它业务间边界清晰的业务,其所需功能可以聚合为独立应用。非功能

11、性需求原则将并发量、性能、安全、大数据处理等有不同要求的应用进行独立划分,避免影响其他的应用或其他应用被影响。应用松耦合原则对于基础应用采用松耦合的原则,划分为独立应用。七彩云南网站群网站群统一管理后台网站移动端电子商城在基于客户侧、运营侧、管理侧三侧基础之上,运用业务边界和流程聚合原则、应用松耦合原则、主数据集中服务化原则、非功能性需求原则对功能进行应用的组合与划分。主数据集中服务化原则对于服务于主数据和需要实时更新的热点数据的功能,组合为独立的公共应用服务。电商运营支撑12应用架构-总图(Levle1)从客户侧、运营侧、管理侧三侧出发,对应用功能进行归类划分情况及信息流向如下图所示:运营侧

12、客户侧管理侧用户访问业务运营支撑数据信息业务决策大数据平台站群内容管理系统电子商城业务运营支撑平台七彩云南网站群移动客户端电子商城总控平台应用架构-客户侧应用架构(Levle2)七彩云南翡翠网站门户主页 品牌介绍 品牌旗舰店 翡翠文化 新闻资讯 保养方式 收藏方法 留言板 品质鉴别 交流社区 论坛 专家专栏 个人主页 用户鉴赏 内容搜索 用户注册七彩云南主题园移动客户端订阅关注七彩云南主题园网站门户 主页欢乐体验传奇文化七彩美食七彩好礼缤纷活动园区服务通知公告用户注册留言板 内容搜索 调查投票 交流社区积分返利怡美假日移动客户端怡美假日官方网站门户主页旅游文化旅游攻略旅游社交风土文化旅游产品退

13、款线下导游用户注册留言板 内容搜索 预定服务救援服务用户服务交流互动微网站旅游服务关注客户服务O2O互动管家服务网站站群管理平台应用架构-运营侧应用架构(Levle2)系统管理站点管理组织管理用户管理角色管理系统字典系统通告系统备份系统操作日志SaaS网站管理频道管理网站风格网站JS上传文件字符过滤站内链接友情链接作者管理网站公告联系我们频道栏目管理栏目管理内容属性参数频道上传文件产品品牌文章中心文章管理快速添加文章模版管理自定义模版自定义标签产品中心产品管理快速添加产品互动中心网站留言投票调查通用模版频道模版内容审批系统定时任务权限管理频道管理消息中心邮件短信通知公告会员中心信息审核属性分配

14、身份验证信息查询权限分配投诉处理生日管理积分管理积分兑换会员活动内容发布Flash编辑代码编辑文本编辑影音编辑电子商城业务运营支撑平台物流配送会员中心配送服务订单管理价格中心营销活动管理自营订单管理商铺管理品类及商品订单调度中心广告管理客服中心促销中心仓储管理批发中心销售管理自营采购管理系统管理大数据平台应用架构-管理侧应用架构(Levle2)总控平台决策分析数据挖掘业务监控分析信息咨询分析积分使用分析内容分析投票建议分析用户行为分析舆情监控维权举报分析交易分析商品分析客户优先分析退货保障分析营销活动分析配送工作量客服评估盘盈亏分析客户满意度PV监控分析合作伙伴评分UV监控分析用户活跃度UE监

15、控分析日志统计分析交易监管平台效益分析引流监控分析性能监控分析安全监控评估转换率分析SEO优化分析活动效果分析基础数据分析内容数据产品数据合作商户数据用户操作数据商城交易数据16运营侧客户侧管理侧用户访问业务运营支撑数据信息业务决策大数据平台站群内容管理系统电子商城业务运营支撑平台七彩云南网站群移动客户端电子商城一期建设内容二期建设内容图例:总控平台应用架构-总图(分阶段)17应用架构-应用组件划分原则业务完整原则考虑组件对独立业务支撑的完整性,组件内部功能之间耦合度高。组件被撤离之后,不影响其他业务。非功能性需求原则从并发量、性能、安全等非功能性角度出发,考虑组件的划分。公共应用原则针对一些

16、内部耦合度高、外部耦合度低,又形成公共应用的功能,划分成为公共应用组件。独立业务组件在应用功能拆分的基础上,从业务完整性、非功能性需求、公共应用三个原则出发,对业务应用组件进行拆分。调查投票社区公共业务组件信息展示信息搜索服务类组件移动客户端类服务网站门户互动服务 公共系统组件角色权限定时任务业务层服务层18目录1 业务架构2 应用架构3 数据架构4 技术架构5 技术选型数据架构-数据架构设计原则19 海量数据处理 数据一致性 结构化数据【重要度、热度、非关键数据、并发读写、数据量】。 非结构化数据【类型、应用场景】。 数据分类处理 结构化数据按重要度不同集中存放。 非结构化数据分布式存放。

17、结构化数据统一数据访问。 非结构化数据接口访问,与应用无关。数据设计原则关键数据强一致性,数据集中存储;非关键数据最终一致,数据分布存储。分阶段处理,从离线、准实时向实时处理渐进。按结构化,非结构化分为主要类别进行处理;每个主要类别数据按照数据量、访问特征,更新频率等有针对性进行处理。数据设计思路数据分类设计数据存储设计数据访问设计数据架构 -数据分类20客户侧运营侧结构化事务数据主数据基础数据非结构化模板文件合作伙伴图片网页模板文件管理侧会员数据合作伙伴(旅行社等)视频内容会员图片会员、合作伙伴主数据分析统计数据客户行为分析数据注册会员数据门户网站登录数据客服数据栏目变更数据七彩云南网站群平

18、台数据按客户侧、运营侧和管理侧横向分类,结构化和非结构化纵向分类。 网站内容图片产品数据栏目数据品牌数据模版数据插件数据字典数据公告数据新闻数据角色数据权限数据机构数据社交社区数据门户网站新闻、帖子数据留言板数据互动交流数据提交留言数据模版变更数据字典修改数据公告维护数据产品更新数据机构变更数据新闻更新数据权限变更数据营销活动分析数据旅游产品分析数据网站流量分析数据日志分析数据工作量分析数据数据架构-分库分表原则(1/2)21为应对高并发的业务场景,七彩云南网站平台数据库将做垂直分库、水平分库,其中垂直分库的原则以应用作为主要依据,水平分库的原则以负载压力、关键性及模块独立性作为主要依据;对数

19、据量大的表,还需要做分表分区处理。 应用特性客户侧备注在线注册内容搜索论坛社区账户密码找回字典维护移动端社区负载压力数据量一般大大小小大大:大于5000万行一般:100-5000万小:小于100万响应速度极快快极快极快极快极快极快:3秒以内快:3-6秒普通:6-9秒访问频率高高高一般一般高关键性重要性高高普通高普通普通高:影响交易类数据普通:不影响交易类数据安全性高高高高高高高:影响交易类数据普通:不影响交易类数据独立性集成关系用户登录查询互动交流忘记密码添加新的业务属性互动交流数据架构-分库分表原则(2/2)22 应用特性运营侧管理侧备注网站管理统计分析监控告警负载压力数据量大大普通大:大于

20、5000万一般:100-5000万小:小于100万响应速度极快普通快极快:3秒以内快:3-6秒普通:6-9秒访问频率高一般高关键性重要性高普通普通高:影响交易类数据普通:不影响交易类数据安全性高普通普通高:影响交易类数据普通:不影响交易类数据独立性集成关系发布内容用户行为分析救援处理重点说明一阶段的分库分表原则,二阶段的电子商城和数据平台的数据比较复杂,后期将单独规划解决方案进行汇报。非结构化数据结构化数据数据架构-数据的分布与存储23图示:七彩云南网站群平台数据在各个不同数据库的分布及存储。平台系统基础数据事务数据非结构化数据会员图片分布式文件系统核心数据库核心数据库合作伙伴图片网站内容图片

21、微视频前置数据库和核心数据库的混合数据库、NoSQL数据库、内存数据库技术在二阶段建设中实现,后期将单独规划解决方案进行汇报。注册会员数据模版变更数据互动交流数据提交留言数据权限变更数据字典修改数据公告维护数据栏目变更数据机构变更数据新闻更新数据权限变更数据客服数据产品数据栏目数据品牌数据模版数据插件数据字典数据公告数据新闻数据角色数据权限数据机构数据登录数据社区数据留言数据24目录1 业务架构2 应用架构3 数据架构4 技术架构5 技术选型技术架构-技术架构设计原则25 结合互联网架构CAP理论及BASE原则,借鉴主流互联网门户和电商平台的成熟经验,遵从七彩云南信息化设计标准,形成技术架构设

22、计原则。适度创新高可用性响应速度优先分布式设计高安全性面向服务的设计在技术选型和技术架构设计上优先保证系统724小时运行。采用空间换时间的思想,通过CDN、缓存等技术提升系统响应速度。采用云计算技术构建分布式系统支撑海量用户。按照业务需求对应用进行垂直拆分和水平拆分,实现从集中式系统到分布式系统的演进。在遵从七彩云南设计基本要求的前提下,适度引入应用业界成熟的技术。在技术选择、数据设计、数据传递等设计过程中重点关注安全性。26技术架构 -分层结构26网络接入层展现层应用层服务层数据层基础设施主要体现旅游网站平台大数据量的特点,按照数据的分类、读取性能、计算要求进行不同存储技术的划分,并且通过引

23、入分布式技术着重降低关系型数据库的压力,在最大程度保障数据可靠性的前提下降低数据库压力。运维保障体系承载旅游网站平台的基础设施,包括网络、服务器、存储等,通过虚拟化、计算加速等技术提高硬件负载能力。安全保障体系应用层与传统企业应用类似,负责业务逻辑的处理。在互联网架构下,应用层通过引入应用无状态、搜索引擎、分布式缓存等技术,进一步扩大负载的横向分担能力和业务变化快速响应能力,尽可能减少单点故障。将企业级应用大量同步信息传递,根据业务特性进行异步化处理。通过消息路由和消息调度机制的理构建,改善在高并发情况下各系统组件间同步通信可能导致的堵塞,提高系统负载能力。负责连接广域网与内部网络,是分流七彩

24、云南网站群平台访问压力的第一层保障,负责网络加速,负载均衡、一级缓存和流量控制。负责对网络接入层分发的压力进行第二层分担,通过Web服务负载均衡、静态化、动静结合的方式分流对应用层直接访问的压力,该层是体现门户网站、电商与传统企业应用差别特点之一。引用主流互联网门户和电商调研结果和设计原则,结合网站群业务的特点,将整体技术架构分为“6+2”模式。分别为网络接入层、展现层、应用层、服务层、数据层、基础设施6个层次和运维体系、安全保障体系技术架构-总体解决方案(1/7)27运营侧管理侧客户侧运维保障体系安全保障体系七彩云南网络平台应用需要提高网络负载能力和利用率;需合理对传递内容进行合理分发;考虑

25、高峰值极端情况的风险规避。能够对压力进行合理的分担;对安全要求较高。对安全要求较高。注重用户体验;对页面响应速度要求极高。注重业务表现的准确性;对应用的高可用性要求极高;应用的发展能够适应业务快速调整;应用的负载能力能够根据压力自由伸缩,无单点故障关注业务的标准化和规范化;业务逻辑的严密性要求较高。事件处理快速、高效,事件交互并行化;各功模块彼此独立,能够单独运行、更新、卸载,避免单点关联影响。注重分析与统计的友好表达形式。关注业务的标准化和规划范;业务逻辑的严密性要求较高。信息传递一致性要求高;事件发起后需同步获得响应结果;.信息传递受一定的安全策略限制。信息传递一致性要求高;事件发起后需同

26、步获得响应结果;信息传递受一定的安全策略限制。数据海量化,存储的数据种类多样;数据查询与写入的并发压力巨大;核心交易数据对数据可靠性要求高。数据一致性要求高;数据可靠性要求高。数据完整性要求高;数据的分析计算能力要求极高。对I/O吞吐能力要求高,能够承担大并发的写入与读取。负载能力能够根据压力变化进行自由伸缩。负载能力能够根据压力变化进行自由伸缩。对并行计算能力要求较高。网络接入层展现层应用层服务层数据层基础设施+技术架构-网络接入层解决方案(2/7)28运营侧客户侧运营侧应用需要提高网络负载能力和利用率;需合理对传递内容进行合理分发;考虑高峰值极端情况的风险规避。能够对压力进行合理的分担;对

27、安全要求较高。对安全要求较高;访问来源广泛,保证安全和访问速度增强用户体验;在大并发量情况下使用流量控制手段进行限制。访问来源单一,网络环境可控性高,对传输数据包进行防护即可;运营量随业务增长增加,运营效率对用户体验尤为重要。访问来源单一,网络环境可控性高,对传输数据包进行防护即可;所涉及管理部门较多,统计数据显示响应及时性要求较高。应用需求需求分析技术手段硬负载均衡:通过硬件对访问请求进行分发,如F5就是常见的硬负载均衡。SSL加速:用硬件对HTTPS协议加密数据包进行安全处理的技术手段。硬负载均衡:通过硬件对访问请求进行分发,如F5就是常见的硬负载均衡。SSL加速:用硬件对HTTPS协议加

28、密数据包进行安全处理的技术手段。管理侧CDN网络加速:在接入层最前端用硬件按照一定规则分发访问请求,以达到访问速度最优的目的。多层负载均衡:使用硬负载均衡、软负载均衡相结合的方式,在接入层实现多层次请求分发。SSL加速:用硬件对HTTPS协议加密数据包进行安全加速处理的手段。流量控制:在流量达到预设值时,通过硬件将新的访问请求进行转发或者阻断。技术架构-展现层解决方案(3/7)29运营侧客户侧运营侧不同时间段页面个性化需求差异很大,页面更新频率较高访问速度关乎用户体验以功能性需求为主,页面个性需求不多,页面与功能有关,变更较少。数据实时性要求较高,要求有较高的页面响应速度。以功能性需求为主,页

29、面个性需求不多,页面与功能有关,变更较少。数据实时性要求不高,页面响应速度要求不高。应用需求需求分析静态化处理:利用Web服务器自带功能实现对静态页面缓存动静分离:在接收访问请求时,根据在Web服务器上预先设定规则,对动态请求和静态请求分发到指定的服务器上,目的在于分担应用层服务器压力。Web集群:使用传统集群技术,通过负载均衡分担访问Web服务器压力,提高响应速度。技术手段Web集群:使用传统集群技术,通过负载均衡分担访问Web服务器压力,提高响应速度。管理侧应用注重用户体验对页面响应速度要求极高。注重业务表现的准确性注重分析与统计的友好表达形式技术架构-应用层解决方案(4/7)30运营侧客

30、户侧运营侧需随时应对应用失效;提供可控的业务调整流程;有极高的访问响应速度;内容信息等需进行缓存提高性能;需随时应对应用失效;提供可控的运营管理流程;在自营阶段商品信息等需进行缓存提高性能;需提供可控的管理流程;统计所使用的元数据需要进行缓存提高性能。应用需求需求分析应用无状态:指应用服务器间共享会话状态,达到会话状态与应用服务器无关目的。搜索引擎:通过关键字进行信息检索分布式缓存:属于分布式计算一种,无单点故障、可扩展的缓存技术。模板技术:将页面制作与程序开发分离,按照约定变量填充页面内容。应用集群:使用传统集群技术,通过负载均衡分担访问应用服务器压力,提高响应速度。技术手段管理侧应用的高可

31、用性要求极高应用的发展能够适应业务的快速调整应用的负载能力能够根据压力自由伸缩,无单点故障关注业务的标准化和规范化业务逻辑的严密性要求较高。关注业务的标准化和规划范业务逻辑的严密性要求较高。应用无状态:指应用服务器间共享会话状态,达到会话状态与应用服务器无关目的。搜索引擎:通过关键字进行信息检索分布式缓存:属于分布式计算一种,无单点故障、可扩展的缓存技术。应用集群:使用传统集群技术,通过负载均衡分担访问应用服务器压力,提高响应速度。分布式缓存:属于分布式计算一种,无单点故障、可扩展的缓存技术。应用集群:使用传统集群技术,通过负载均衡分担访问应用服务器压力,提高响应速度。技术架构-服务层解决方案

32、(5/7)31运营侧客户侧运营侧在人员查询等交易系统负载大,业务交互频繁,业务覆盖面广。随访问量增加,系统负载随时调整业务覆盖面涵盖广,整个七彩云南网站群平台都在业务范围内。随时应对突发事件处理,必要时需要进行程序升级。 监管七彩云南网站群平台运营、运作情况。随时应对管理决策变化,带来分析程序维度调整需求。应用需求需求分析服务框架:应用层请求分发给响应的服务组件,是一个软负载均衡。通用数据访问组件:实现多数据源,多数据库支持等,封装特有数据操作方法,消除不同数据库、不同语法的差异。组件化开发:将各业务功能模块化,使各个模块之间可以单独开发,单独测试,互相不影响。技术手段管理侧组件化开发:将各业

33、务功能模块化,使各个模块之间可以单独开发,单独测试,互相不影响。事件处理快速、高效,事件交互并行化。各功模块彼此独立,能够单独运行、更新、卸载,避免单点关联影响信息传递一致性要求高。事件发起后,需要同步获得响应结果。信息传递受一定的安全策略限制。信息传递一致性要求高。事件发起后,需要同步获得响应结果。信息传递受一定的安全策略限制。组件化开发:将各业务功能模块化,使各个模块之间可以单独开发,单独测试,互相不影响。技术架构-数据层解决方案(6/7)32运营侧 客户侧运营侧存放结构化、非结构化数据,如内容信息、图片等。海量数据需要负载高、易横向、纵向扩展数据库、存储支持。数据倾向持久化存储方式。访问

34、数据量与客户侧数据量相关,随之增长 。七彩云南网站群平台运营数据为分析基础,对数据清洗、转换、集成、加载的准确度、性能保证。体现数据分析计算能力。应用需求需求分析分布式文件系统:属于分布式计算一种,无单点故障、可扩展的文件管理系统。分布式关系数据库:指放置在核心数据库前端的数据库,采取技术手段处理,按业务、按功能存放数据,定期将数据向核心数据库进行归集,同时定期从核心数据库上进行数据同步。集中式关系数据库:指七彩云南网站群平台的核心数据库,存放商城运营所有数据。海量数据存储:可横向扩展存储,支持海量数据。技术手段管理侧数据海量化,存储的数据种类多样。数据查询与写入的并发压力巨大。核心交易数据对

35、数据可靠性要求高。数据一致性要求高。数据可靠性要求高。数据完整性要求高。数据的分析计算能力要求极高。分布式文件系统:属于分布式计算一种,无单点故障、可扩展的文件管理系统。集中式关系数据库:指七彩云南网站群平台的核心数据库,存放七彩云南网站群平台运营所有数据。集中式关系数据库:指七彩云南网站群平台的核心数据库,存放平台运营所有数据大数据存储与分析:定期抽取。集中式关系数据库中的数据作为统计分析源数据,所有的分析统计基于该数据源进行。内存数据库:主要用于数据分析计算,将所有的需计算数据都放置到内存中,磁盘I/O瓶颈大大降低,计算速度大幅提升。技术架构-基础设施层解决方案(7/7)33运营侧客户侧运

36、营侧系统负载高。数据传输量大。硬件资源可进行灵活分配。系统负载高。硬件资源可进行灵活分配。系统负载高。硬件资源可进行灵活分配。应用需求需求分析高速网络:指除保证网络带宽的基础上,加上高速网卡的配合实现千兆、万兆网络,在网络传输层实现高速数据传输。SSD加速:使用固态硬盘在存储之前做高速缓存。虚拟化:当前主流技术,将物理硬件转化为逻辑硬件,常用的主机虚拟化、网络虚拟化、存储虚拟化。技术手段管理侧SSD加速:使用固态硬盘在存储之前做高速缓存。虚拟化:当前主流技术,将物理硬件转化为逻辑硬件,常用的主机虚拟化、网络虚拟化、存储虚拟化。SSD加速:使用固态硬盘在存储之前做高速缓存。虚拟化:当前主流技术,

37、将物理硬件转化为逻辑硬件,常用的主机虚拟化、网络虚拟化、存储虚拟化。对I/O吞吐能力要求高,能够承担大并发的写入与读取。负载能力能够根据压力变化进行自由伸缩。负载能力能够根据压力变化进行自由伸缩。对并行计算能力要求较高。技术架构 -技术概览34网络接入层展现层应用层服务层数据层基础设施管理侧客户侧运营侧公司已成熟应用技术,一期建设采用互联网已成熟应用,一期建设采用结合业务拓展规划,二期建设采用内容分发网络(CDN)多层负载均衡硬负载均衡SSL加速硬负载均衡SSL加速流量控制页面局部静态化动静分离Web容器集群Web容器集群会话无状态分布式缓存会话无状态分布式缓存分布式缓存服务框架服务集群服务集

38、群服务集群分布式文件系统分布式关系数据库分布式文件系统集中式关系型数据库集中式关系型数据库运维体系高速网络SSD加速虚拟化虚拟化大数据存储与分析内存数据库SSD加速通用数据访问组件模板技术业务规则引擎混合式关系数据库安全保障应用服务器集群应用服务器集群应用服务器集群可视化技术Web容器集群搜索引擎搜索引擎搜索引擎SSD加速虚拟化35技术架构-技术演进路线公司已成熟应用技术互联网已成熟应用,公司需掌握和应用的技术需借鉴并结合公司特点自主创新的技术SSL加速流量控制内容分发网络(CDN)页面局部静态化动静分离Web容器集群可视化技术会话无状态模板技术分布式缓存应用服务器集群搜索引擎通用数据访问组件

39、-持续完善服务集群业务规则引擎分布式文件系统混合式关系数据库高速网络SSD加速虚拟化(服务器虚拟化)NOSQL数据库集中式关系型数据库硬负载均衡内存数据库虚拟化(其他虚拟化)大数据存储与分析服务框架网络接入层展现层应用层服务层数据层基础设备一阶段:该阶段工作重点充分运用公司和互联网成熟应用技术搭建七彩云南网站群平台系统,实现基本运营需求。可视化技术二阶段:该阶段工作重点实现服务框架对服务的管理功能,实现通用数据访问组件在数据层对异构数据库、业务数据逻辑读写,运用内存数据库在管理侧实现数据访问的高速缓存功能,支撑可视化技术对七彩云南网站群系统运行状况的全面监控。后续阶段:该阶段工作重点在业务数据

40、积累的基础上,结合可视化技术的数据需求,实现大数据存储和分析功能。软负载均衡服务框架(服务发布)一阶段二阶段后续阶段分布式缓存技术架构-技术架构 -总体架构36技术架构要素网络接入层:通过CDN缓存页面;展现层:采用动态分离、页面静态化提升页面访问速度;应用层:采用应用无状态实现服务层:服务化、SOA架构数据层:采用分布式数据处理技术提升并发以及海量数据处理能力;基础设施层:以x86服务器为主,通过虚拟化进行动态资源扩展二期建设内容图例:技术架构-网络接入层网络接入层能够实现多种方式包括: internet CDN IPSec VPN SSL VPN WLAN 3G采用众多关键技术: CDN技

41、术应用 链路负载均衡技术应用 硬件负载均衡技术 软件负载均衡技术 安全防御与过滤技术 流量控制技术展现技术特点37技术架构-SSL加速 SSL(加密套接字协议层)是一种应用极为广泛的WEB信息安全传送协议。由于SSL运用加密算法和密码,其加密/解密过程需大量占用服务器的CPU资源,使CPU利用率接近100%,从而大大降低服务器性能。在网络用户大增的情况下,网络性能将急剧降低。 七彩云南网站群平台在客户侧、运营侧和管理侧提供工作人员的HTTPS的接入,采用SSL加密认证方式,通过技术手段缓解上述问题。SSL加速技术:将加密数据推送到专有设备进行高速解密后再回传到常规网络,完成常规数据互动。具体实

42、现方法有: SSL VPN 网络系统 SSL 加速卡(置于服务器端PCI插槽上) 交换机SSL加速模块SSL加速交换机应用服务器应用服务器访问用户访问用户HTTPS访问HTTPS访问SSL加速卡38-网络接入层技术架构-展现层由于页面请求压力各有差异,客户侧、运营侧、管理侧采取不同的展现技术客户侧面向页面请求压力大,采用动静分离技术,使web服务器只处理静态页面,提升其承载能力。动态内容采用局部静态化方式处理模版技术,协助实现静态化,并可结合布局样式方式快速定制网站样式展现技术特点39技术架构-展现层 -静态化(1/2)响应请求反向代理Rewrite模块静态页面应用服务器模板技术应用服务器页面

43、模板静态请求动态请求页面无更新页面有更新 为了降低应用层压力,通过动静分离和静态化技术手段在展示层对每次请求进行识别,将动态请求、静态请求进行引导,对目标页面内容无更新的请求使用静态页面响应,对目标页面内容有更新的静态页面通过模板技术生成静态页面后响应,对动态请求仍然由应用服务器进行处理。展现层服务层对请求类型进行判断,将动态请求、静态请求指到相应服务器上。请求分发对请求访问的静态页面进行监控,监控页面更新状态,根据状态将访问地址重写至正确的访问地址。请求访问地址重写ESI页面片段缓存动态页面缓存40技术架构-展现层 -静态化(2/2)将远程服务器映射到本地服务器的URL空间;本地的服务器并不

44、是扮演传统意义上的代理服务器的角色,而是表现为远程服务器的一个镜像。反向代理基于正则表达式解析器开发的重写引擎,按照Web管理定义规则重写请求访问地址。Rewrite模块有些类型的动态请求先直接从页面缓存中查找,查不到在请求应用应用里面,页面里某项部分相对不变的部分使用页面片段缓存技术 页面(片段)缓存41应用客户侧运营侧管理侧请求响应请求响应请求响应展现层应用层Web服务反向代理Rewrite模块静态页面静态请求静态页面页面缓存页面片段缓存模板技术应用动态请求页面有更新技术架构-应用层采用J2EE架构实现应用逻辑。采用n层结构:前端采用MVC模式实现;业务逻辑采用spring框架;数据持久层

45、采用DAO技术,例如ibatis,hibernateJ2EE架构应用无状态,缓解了应用session同步压力,并可实现大规模部署无状态化场景:用户session、购物车、验证码等状态数据存于分布式缓存服务。本地浏览器将唯一标识保存在cookie中,访问请求发送给任意服务器,通过分布式缓存获取状态信息,组合动态内容。应用无状态化42应用技术架构-应用层 -应用无状态(1/2)会话1应用节点1应用节点2应用节点3应用节点4应用节点5会话2分布式缓存应用节点1应用节点2Session复制应用节点1应用节点2分布式缓存用户信息考勤状态库存状态用户状态考勤状态库存状态传统模式互联网模式 采用集中式ses

46、sion管理完成对用户信息、考勤状态、库存状态保存,各应用节点均为无状态连接,无论故障排除或横向扩展均不影响已建立的会话状态。 会话采用分布式互联网模式 使用集群来解决客户端的状态信息的保存,但集群节点间session通信会随节点增多而开销增大。当从集群中移除故障节点,将影响部分用户的正常使用,横向扩展的session复制也增加了横向扩展难度。传统模式43技术架构-应用层 -应用无状态(2/2)44前端业务在进行过程中,客户端会与应用节点间会根据会话请求建立相应会话,本身应用节点是无状态的,应用节点间的会话状态相互共享。会话请求应用节点在会话初次建立时,将会话状态发送到分布式缓存中储存。储存会

47、话状态应用节点在自身节点上未能通过会话句柄找到对应的会话状态时,会从分布式缓存中通过句柄获取相应会话。获取会话状态展示层会话1用户信息考勤状态库存状态应用层应用节点1数据层分布式缓存会话状态1会话状态2会话状态N会话请求会话请求储存会话状态获取会话状态应用节点2应用节点3应用节点N会话2用户信息考勤状态库存状态会话N用户信息考勤状态库存状态客户侧技术架构-应用层 -模板技术45 在七彩云南网站平台系统的客户侧、运营侧部分功能,凡涉及个性化需求较多的业务,通过定制代码开发的方式难易满足商户需求,也会带来不可估量的开发工作量。采用通过模板技术生成静态页面策略,不仅满足灵活多变的个性化需求,也是现在

48、行业中惯用做法。Web服务器应用服务器分布式缓存Velocity模板静态页面Web服务器应用服务器应用服务器应用服务器动态请求生成静态页整页缓存模板技术请求响应静态资源展示层服务层应用层页面模板技术架构-服务层 -服务框架46服务化,实现系统解耦,服务之间相互独立,可快速响应互联网需求。服务可分基础服务以及业务服务。服务化服务框架实现服务上线下线管理,服务注册,服务版本管理等;服务提供者通过服务集成注册服务,由服务调用者进行服务订购,由“服务集成”定时推送服务列表;。不同于企业服务总线ESB同步服务采用点对点的方式,不经过服务框架,直接调用,异步服务由消息队列方式实现。服务集成框架搜索引擎,可

49、对平台信息进行检索,从而缓解了关系数据库查询产品压力。统一授权,可对账户进行统一管理,实现平台各个子系统之间。基础服务应用服务消费者服务消费者服务消费者应用节点1应用节点1应用节点1服务注册中心消息总线消息队列调度处理服务框架基础服务搜索引擎统一授权业务服务业务服务业务服务业务服务同步调用服务列表同步异步调用消费着订阅技术架构-服务层 -搜索引擎采用先进的中文分词技术,切分词精度和效率高中文切分词搜索引擎能够准确地捕捉到用户所输入语句的真正意图,准确地向用户返回最符合其需求的搜索结果语义搜索 将基于数据库的搜索演变为基于网页的搜索,搜索的内容通过搜索引擎事先索引,返回用户的为静态网页资源,大大

50、降低应用服务器和数据库的压力。商品查询定时调度索引生成数据抓取分布式文件系统查询请求集中式关系数据库查询检索服务返回结果索引文件查询请求检索结果索引调度命令原始数据原始数据原始数据47技术架构-服务层 -统一认证对比项票据方式反向代理压力情况只做第一次登录验证,后续均通过客户端加密传递认证信息,负载等同UV,压力相对较小。登录期间需要监控各个接入系统的响应,所有登录与跳转均需全程控制,负载与PV量等同,压力极大。负载能力负载能力取决于承载硬件与应用服务器的负载能力,可提供数据库和LDAP两种方式的认证负载能力取决与反向代理软件性能,通常基于反向代理软件绑定的LDAP扩展能力横向扩展基于应用服务

51、器的横向扩展主流基于反向代理认证软件均支持集群扩展,但认证信息的集中管理,会导致一旦某个节点失效,通过该节点认证的用户需要重新认证。安全性用户认证信息传递与保持均通过自定义加密,安全性取决于加密算法本身。认证信息传递和保存的安全性取决于反向代理软件自身的安全机制应用特点接入应用必须以预先协定的票据协议作为认证基础反向代理特点为与具体应用实现无关,无需接入应用进行改造,应用案例主流门户网站如新浪、搜狐等,主流电商平台如淘宝商城、京东商城均采用票据方式主要用于企业级认证,代表的为Novell Access ManagerIBM Tivoli等结合互联网应用的特点,统一认证方式采用票据方式。48技术

52、架构-数据层49缓存用户session、验证码应用会话无状态实现的关键节点支持分布式,屏蔽了单点故障,可水平横向扩展内存以及计算容量分布式缓存用于保存网站图片、搜索索引文件等非结构化数据使用分布式文件系统可以水平横向扩展文件容量以及处理能力分布式文件系统一期建设暂不采用分布式Nosql数据库、前置数据库和内存数据库架构,后期将单独规划解决方案进行汇报技术架构-数据层 -分布式文件系统(1/2)50 在七彩云南网站平台系统中,分布式文件系统用于对非结构数据,如:图片、视频、搜索索引文件等的存储,使访问文件更加容易,提升文件读取容错率,确保七彩云南网站群平台系统运行性能。客户侧人员信息新闻内容检索

53、分布式文件系统图片视频索引文件搜索引擎静态化组件运营侧内容检索人员信息应用层服务层数据层文件数量多 平均每个商品有20个图片; 文件小 平均每个文件大小在700K; 每个原始图片将生成8张左右缩略图,平均缩略图大小为10K;数据吞吐量大 日均流量的90%为图片;平台非结构化文件特点无单点故障,可横向扩展实时在线动态扩容,可通过增加磁盘、节点和机柜等多种灵活的方式实时对存储容量扩展,扩容期间服务不中断;随着节点的增加,吞吐量和读写带宽随之线性增长;分布式文件系统特点技术架构-数据层 -分布式文件系统(2/2)51存放搜索引擎索引文件。索引文件存放模板技术所需模板文件。模板文件存放供前端页面显示所

54、需图片、视频等。其他技术架构-基础设施52互联网CDNWEB层应用层数据层万兆骨干网管理侧运营侧开发区测试区运维区客户侧交易数据库集中存储磁盘阵列SSD加速搜索引擎SSD加速WEB服务器虚拟化应用服务器虚拟化应用服务器虚拟化应用服务器虚拟化分布式文件虚拟化CDNCDN应用服务器虚拟化技术架构-基础设施 -虚拟化53平台系统将采用虚拟化技术构建如下资源池:WEB层服务器应用层服务器物理机与虚拟化部署规划:平台各种应用系统、存储和网络皆可采用虚拟化部署。具体虚拟化和物理化比例根据实际需要进行部署。平台WEB层WEB虚拟机池负载均衡平台WEB服务器平台APP层APP虚拟机池负载均衡平台APP服务器.

55、物理架构-硬件设计策略54WEB层、应用层采用云计算技术,可动态调配资源、横向扩展。数据层考虑数据的安全性和高性能,采用物理机集群。存储采用集中存储和分布式存储结合的方式;分布式存储采用本地硬盘做分布式存储,前置数据库和核心数据库都采用集中存储。主数据库物理机采用高端、高性能X86服务器,其他虚拟化的物理机采用标准4路8核64G内存的X86服务器。 借鉴主流门户网站和电商平台的成熟经验,形成了可扩展、高可用的硬件设计策略:物理架构-网络带宽估算说明网络带宽估算:七彩云南网站平台信息外网峰值网络流量的主要构成包括以下三部分:1、同时在线的用户在网站中完成的结构化数据相关的查询与录入,这部分网络流

56、量需求记录为W1;2、同时在线的用户在王长平台中完成的非结构化数据的上传与下载,这部分网络流量需求记录为W2; 根据经验,用户无法同时在网站平台中进行结构化数据的查询录入与非结构化数据的上传下载,因此 平台信息外网网络带宽需求的计算公式为:带宽需求 = Max(W1,W2) 在进行七彩云南网站平台硬件配置估算时,活跃用户按中值10万计算,对最大同时在线的用户进行估算约100万,以电信行业Siebel CRM应用为参照,按每次服务请求17.2kb计算。W1 = 100 * 17.2 * 8 = 13,760kbps 2MW2 = 100 * 1 * 30 * 8 = 16,000kbps 3Mb

57、ps带宽需求 = Max(13,760kbps,48,000kbps) 3Mbps结论:七彩云南旅游网站平台互联网带宽初步估算是3M左右。55物理架构-网络接入 -CDN七彩云南旅游网站平台建设一期可以采用租赁方式组建CDN网络,具体规划如下: 在国内组建4个CDN节点,分别是:北京、上海、广州、西安;七彩云南网站群平台网站出口带宽=10M,以上4个点的带宽设计为5M; 具体年度费用计算如下: CDN运营提供商双向流量价格= 400.00元/月/兆 4节点年度费用=(400*12)* 5 * 4 = ¥ 96,000 以上带宽为常规标准,如遇特殊活动,则可灵活申请带宽调整,满足突发流 量需要。

58、七彩云南旅游网站平台CDN网络组建规划:平台建设二期将根据电商平台实际运营情况租赁CDN网络。北京上海广州西安七彩云南网站群平台56物理架构-服务器和存储部署架构57 客户侧WEB服务器群 运营侧WEB服务器群 TCP/IP网络TCP/IP网络 备份中心核心数据存储生产中心数据备份测试服务器群. 管理侧WEB服务器群分布式缓存服务核心数据库分布式文件系统内存数据库基础服务组件服务器群TCP/IP网络应用层数据层数据存储层展现层虚拟化平台数据存储虚拟化平台SAN网络前置数据库分布式NoSQL数据库数据同步客户侧应用服务器群 管理侧应用服务器群 运营侧应用服务器群二期建设物理架构 服务器性能及存储

59、容量估算说明58服务器性能及存储容量估算说明数据库服务器性能估算估算TPCC值,TPCC估算的数据源于日均独立用户访问量UV应用及WEB服务器性能估算估算SPECjbb2013值,SPECjbb2013估算的数据源于日均页面浏览量(PV)服务器部署架构除数据层服务器以及虚拟机管理服务器采用物理服务器进行部署外,其他所有服务器都采用虚拟机进行部署WEB、应用服务器SPECjbb2013基准值根据SPEC网站公布的结果,4路服务器中,每核CPU的SPECjbb2013平均值约为1981,由于这是实验室测试数据,测试环境都进行了最大程度的优化,我们按此值的90%作为本项目的参考值,即每核CPU的SP

60、ECjbb2013平均值为1780,WEB服务器按应用服务器性能要求的一半即890估算内存配置原则根据应用架构要求,一般按1:4的比例配置,即1核CPU配置4GB内存;对于有特别内存要求的单独配置资源池部署出于网络安全以及应用扩展考虑,展现层、应用层、准生产测试区都独立部署资源子池虚拟机所需要的物理机配置根据服务器的重要性,从成本角度考虑,展现层、应用层、准生产测试区所用虚拟机全部采用4路(32核128GB内存)PC服务器物理机进行虚拟化,每台物理机应留有20%的冗余量存储容量估算基础数据来源于数据架构规划中提出的数据量物理架构 -展现层Web服务器59SAN网络虚拟化平台数据存储客户侧WEB

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论