借我一双慧眼――Web20的运营监控及数据统计

1、借我一双慧眼借我一双慧眼WWEBEB2.02.0的运营监控及数据统计的运营监控及数据统计51.COM51.COM 研发经理研发经理林泰君林泰君2009.12.262009.12.26WEB2.0的挑战51应对挑战案例分享51数据统计系统架构51.COMWEB2.0WEB2.0的挑战的挑战51.COM大型大型WEB2.0WEB2.0网站的运营现状网站的运营现状复杂复杂巨大巨大众多众多51.COM用户产生内容用户与网站的交互线上运行的代码量业务逻辑网站架构网络环境机房网站功能运营监控的巨大挑战运营监控的巨大挑战如何 监控监控 数以千计的功能数以千计的功能 在巨大的用户交互背景巨大的用户交互背景下,

2、 在复杂的网络环境复杂的网络环境中, 在众多的机房里众多的机房里 是可靠可用的?监控什么?怎么监控?51.COM业务层业务层网络层网络层目前的监控方式目前的监控方式广域网络监控商业产品内部网络监控Cacti服务器监控NagiosGanglia51.COM已有监控方式的优点及不足已有监控方式的优点及不足优点广域网监控能发现定位广域网层面的一些问题Cacti 能很快发现内部网络问题.Nagios, Ganglia能很快发现并定位服务器层面的问题不足不足广域网监控:监控点少, 有时不准确价格昂贵无法 发现发现 定位定位 业务层业务层 问题51.COM5151应对挑战应对挑战51.COM应对方法应对方

3、法 - - 缺啥补啥缺啥补啥广域网监控业务层监控51.COM广域网监控广域网监控做法: 在网站页面上嵌入脚本, 测试用户端抓取不同服务器上的图片的速度, 将数据汇总, 根据不同的测速曲线及历史曲线判定广域网事件功效:发现广域网异常, 并定位出异常是发生在用户端,广域网,还是企业机房特点: 成本低廉, 准确度高51.COM业务层监控业务层监控做法:通过嵌入在业务逻辑代码中的数据采集程序, 汇聚业务数据到数据中心, 异常发现系统抓取数据中心的数据进行曲线模式匹配, 发现异常,上报数据到告警服务器, 监控中心收到告警, 并做检查,最终确定是否有事故发生.功效能发现大量以往不能发现的问题用户不再是测试

4、员, 是真正的上帝!特点能快速发现业务层异常,并准确定位异常点51.COM51.51.COMCOM慧眼慧眼10000多个广域网络采集点5000多个业务监控点,涵盖的所有重要功能可定制上报时间的自动监控监控点可任意添加, 甚至监控网页Flash,Js可定位到异常发生在哪个频道,服务器,页面,程序段,甚至是哪行代码.51.COM案例分享案例分享51.COM 故事: 一个阳光明媚的早上 半仙,焦工,黄大侠,薄海在踢皮球 陈总是火警 一个阳光明媚的早上 半仙,焦工,黄大侠,薄海在开心的工作 陈总读书看报 聊技术人生 51.COM发现问题某频道用户访问曲线下降51.COM分析现象广域网测速情况51.CO

5、M分析现象- 交换机流量情况51.COM分析现象-服务器监控51.COM分析现象-总在线及各地在线情况51.COM定位问题 - 问题发生在哪个功能逻辑中51.COM定位问题- 问题发生在哪台服务器的哪个页面上51.COM事故记录51.COM 当其他公司的运营总监在为运营质量头痛脑裂时, 我们陈总却能胸有成竹,运筹帷幄,很重要的原因就是有一套完备的监控系统, 用一双双自动化的眼睛检查运营质量.51.COM5151数据统计数据统计51.COM数据统计的前世今生数据统计的前世今生数据统计和运营监控有什么关系?为什么系统提供的数据能做财务审计使用?51.COM高层为何每天登入系统3次,他们在关注什么?

6、51.COM前世前世- -监控统计系统的背景监控统计系统的背景庞总问:我们的PV有多少?一天后,三天后,三十天后:一封来至Google的邮件.我们自己开发.业务监控系统 -意外的收获深刻的认识: 业务监控和业务统计实际上是一个铜板的两面.51.COM今生-统计系统的现状实时统计800台WEB服务器每天十几亿次请求采集分析400多个用户信息3000多个统计点3年积累了12T的用户行为数据和Google分析的不同关注用户行为 可以采集到触发某种业务逻辑的用户信息数据实时 产品人员可以立即看到新上线产品的变化情况51.COM部分统计功能展示51.COM业务行业务行为统计为统计用户行用户行为统计为统计PVPV统计统计产品产品分析分析核心数核心数据分析据分析用户成用户成分分析分分析反作弊反作弊分析分析页面行页面行为统计为统计用户分用户分布分析布分析系统架构系统架构51.COM监监控控统统计计系系统统架架构构51.COM业务层业务层数据数据中心中心异常异常发现发现主数主数据库据库报表报表告警告警用户用户分析分析监控监控数据分析数据分析广域网 监控 战略数据采集 第三方数据采集 用户舆论采集接入层 监控服务器 监控业务数据采集业务监控业务监控数据总线数据总线数据总线业