高并发系统架构设计经验分享

1、高并发系统架构设计经验分享2021-06-29邹春刚目 录VMS系统架构概述123Web系统高并发技术VMS系统高并发设计 优化遐想透过12306五大焦点看高性能高并发系统12306系统高性能高并发架构设计遐想初稿.pptx性能评价指标响应时间并发用户数吞吐量性能计数器TPSHPS高性能网站建设的14个原那么原那么1: 减少HTTP请求数1. Image Map2. CSS SpriteCSS贴图整合/贴图拼合/贴图定位3. Inline Image内联图片原那么2: 利用多线路CDN原那么3: 利用HTTP Cache原那么4: 使用Gzip压缩原那么5: 将样式表置于页面前部原那么6: 将

2、脚本置于页面尾部原那么7: 防止使用CSS表达式原那么8: 将JavaScript与CSS作为外联资源高性能网站建设的14个原那么原那么9: 减少DNS查找1. 使用Keep-Alive保持连接2. 减少域名原那么10: 压缩你的JavaScript原那么11: 尽量防止重定向1. 防止URL失效2. URL美化原那么12: 移除重复的脚本原那么13: 小心处理EtagETag是除Last-Modified之外的另一种HTTP Cache手段原那么14: 在Ajax中利用HTTP Cache目 录VMS系统架构概述123Web系统高并发技术VMS系统高并发设计VMS架构简介产品架构图VMS架构

3、简介逻辑组网图VMS架构简介网元视图VMS架构简介模块进程视图VMS架构简介典型场景分析留言场景VMS架构简介典型场景分析提取留言场景VMS架构简介典型场景分析MCN通知场景VMS架构简介典型场景分析探测MCN通知场景目 录VMS系统架构概述123Web系统高并发技术VMS系统高并发设计性能优化方面JVM数据库通信应用JVM目前常用的商用JVM主要有：Sun HotSpot，BEA JRocket以及IBM J9。其中由于BEA和Sun已经被Oracle收购，所以Oracle拥有当今世界上最流行的两个JVM，并有传言说Oracle将在Java8时将两个虚拟机合并，各取所需，取长补短，打造一个更

4、加精湛的JVM。VMS软件配置软件版本JVMSun JDK 1.6.0_32Tomcatapache-tomcat-7.0.23JVM的性能评测VOLANO BenchmarkThe VOLANO Benchmark, also known asVolanoMark, is a testing program that lets you determine the performance and connection limitations of your hardware, operating system, and Java platform when running the VOLANO

5、 chat server. The VOLANO Benchmark consists of the VOLANO chat server along with a test driver that simulates thousands of chat clients.测试分类Loopback测试不进行网络传输测试，因此可以测试出来JVM的performanceNetwork测试通过网络进行测试，模拟真实环境的JVM处理能力。测试报告JVM-network评测之吞吐量连接数Sun 1.6.0_32Jrockit 1.6.0_26IBM J9JIT24100014057840363118062

6、00012602078686580930001162453477138054000108798246912314JVM-network评测之响应时间连接数Sun 1.6.0_32Jrockit 1.6.0_26IBM J9JIT24100014.22749.55169.41200031.74150.835688.586300051.615172.5561576.691400073.531324.013457.203SPECjbb2005SPECjbb2005 is an industry-standard benchmark designed to measure the server-sid

7、e performance of Java runtime environments. JVM-体系结构JVM-内存结构内存结构JVM-自动内存管理标记存活对象算法引用计数根搜索回收内存的算法复制算法标记清扫标记整理按代收集经IBM研究，通常运行的程序有98%的对象是临时对象，因此Sun Hotspot对JVM堆采用了分代的方式来管理，以提升GC的效率JVM-内存监控VisualVM内存监控JVM-GC策略JVM-性能调优设置jvm启动参数使用 -server 编译开关使用-XX:+UseParallelGC 并行垃圾回收吞吐量设置 -Xms 初始化堆大小为物理内存的1/64设置 -Xmx 最

8、大堆内存为物理内存的1/4设置 -Xss 最大线程栈的大小垃圾回收策略-XX:+UseParallelGC，提升吞吐量-XX:+UseConcMarkSweepGC(CMS)，缩短延迟时间-XX:+UseSerialGC，适用于小型系统更多JVM 参数Java HotSpot虚拟机内存管理JVM-性能调优案例，大吞吐量java-Xmx3800m -Xms3800m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:ParallelGCThreads=20-Xmx3800m -Xms3800m-Xmn2g-Xss128k-XX:+UseParallelGC-XX:Pa

9、rallelGCThreads=20JVM-性能调优案例,大吞吐量&低延迟java-Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:ParallelGCThreads=20 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:SurvivorRatio=8 -XX:TargetSurvivorRatio=90 -XX:MaxTenuringThreshold=31-XX:+UseConcMarkSweepGC -XX:+UseParNewGC-XX:SurvivorRatio=8-XX:TargetSurvivorRatio=

10、90-XX:MaxTenuringThreshold=31JVM-性能监控数据库-RAC方案数据库-优化方面数据库将数据文件与日志文件分开减少与效劳器无关的磁盘IO评估裸设备的使用分割表数据，表分区编程方面使用JDBC连接池，物理连接建立对性能影响很大，对于并发很高的应用，可调高JDBC连接池的大小尽量降低对数据库的访问次数，否那么性能影响很大使用prepare statement，防止DBMS对SQL重复的解析与编译SQL不要太复杂，尤其是连表查询的表最好不要超过3个编程方面?vms工程rac优化.doc?应用优化-缓存技术资源缓存VxmlJavascript会话缓存邮箱信息全局缓存用户路由

11、信息系统参数业务参数CoS参数通知模板系统黑名单号码号段规那么.应用优化-缓存技术缓存的更新应用优化-缓存技术简单缓存实现应用优化-缓存技术其他实现HashMap多级缓存开源产品EhcacheOSCacheMemcached总结减少HTTP访问减少Database访问应用优化-ActiveMQActiveMQ 是Apache出品，最流行的，能力强劲的开源消息总线。ActiveMQ 是一个完全支持和标准的 JMS Provider实现应用优化-ActiveMQ点对点 Point-to-Point (PTP) built around the concept of message queuesea

12、ch message has only one consumerClient1Client2QueuesendsacknowledgesconsumesMsgMsg应用优化-ActiveMQ发布/订阅 Publish-Subscribe systemsuses a “topic to send and receive messageseach message has multiple consumersClient1Client2publishessubscribessubscribesMsgTopicClient3deliversdelivers应用优化-ActiveMQJMS API Pr

13、ogramming ModelConnectioncreatescreatescreatesMsgDestinationreceives fromsends toConnectionFactoryDestinationMessageConsumerSessionMessageProducercreates应用优化-ActiveMQAMQ Message Store应用优化-ActiveMQVMS系统中应用-Notifyserver应用优化-ActiveMQActiveMQ的优化内部使用vm:/协议设置Broker的VMPendingQueueMessageStoragePolicy设置Sess

14、ion.AUTO_ACKNOWLEDGE设置生产者connectionFactory.setUseAsyncSend(true)消费者consumer.dispatchAsync=trueconsumer.prefetchSize=5000应用优化-RPC(Hessian)RPCRPCRemote Procedure Call Protocol远程过程调用协议，它是一种通过网络从远程计算机程序上请求效劳，而不需要了解底层网络技术的协议。RPC协议假定某些传输协议的存在，如TCP或UDP，为通信程序之间携带信息数据。具体实现RMIEJBWebServiceHessianDubbo应用优化-RPC(Hessian)Hessian基于HTTP，简单易用传输二进制数据，平安、高效应