高性能网的背景和需求

1、高性能网的背景和需求 郝卫东人力计算-human computingn路易斯.凡.安(luis von ahn)，卡耐基梅隆（cmu）的研究者，28岁那年，获得麦克阿瑟(macarthur)天才奖金，或许大家并不熟悉，但他的发明机会所有的网站所有的网民都要引用得到。n2000年还是学生的他在导师的指导下，发明了验证码(captcha)使用机制，就是我们在网站登录时，需要添加的校验码。人力计算-human computingn当初的发明初衷，是防止密码被盗用或者反垃圾邮件（anti-spamming），这项技术发明后短短五年内，每天就有2亿个检验码在被使用，十年之后的今天，几乎所有的网站都采用这

2、个技术来校验用户身份，保证信息安全。n然而luis von ahn并没有在安全认证领域止步，一方面将校验码的模式与程序公布在自己的网站上，供更多的网站使用，另外，luis进一步拓展这个发明背后的实际上是一门新的学科，叫做“human computation”或者“human-based computation”。有人称之为“人本计算”或者“人计算”。n即利用网络的分众性和协同性，可以轻易完成很多计算机不可能完成的事情。这门学科正是研究如何把人的这个优势发挥出来，与计算机互动，达到一个最佳结果。n当所有的人都在思考如果是计算机替代人的时候，luis von ahn却在想利用互联网，利用社会化的协

3、同工作模式，实现计算机根本不可能完成的事情，以达成群体智能的效果。例子一n纽约时报创刊与1851年，158年的历史，作为传统传媒业的需求是简单的，就是想把所有的报纸电子化，对于电子化出版之后的工作相对简单，但过往故纸堆上的文字就显得十分困难，传统ocr的技术不能实现百分之百的准确，如果如果人工录入的方式，整个工作耗时耗力不说，一个字一个字的打印录入，校对，短期内基本上是不可完成的任务。nluis von ahn的校验码2005年已经得到了广泛的使用，两者之间有什么联系吗？luis给出的解决方案，当时互联网上每天有2亿个校验码被使用，虽然每个用户在录入校验码的时候只需要10秒钟，但如果把这些时间

4、全部利用起来，就是20亿秒，相当于50多万个小时。nluis von ahn把这些事件利用起来，实现不可想象的伟大实践。n现在看来，方法很简单，把扫描的纽约时报通过简单的分词形成片段，然后入库编码，作为校验码的素材提供给用户，用户每一次填注校验码的过程就是对文字的一次录入，n通过众多用户的协同，当两个人都对一个图片给出相同的单词结果时，就认为这个结果就是正确的。n无数的用户输入的内容整合链接起来，就是一个完整的数字化的纽约时报。game with a purposenluis von ahn的脚步依然没有停止，他利用人的群体智慧和集体计算的模式，做了很多开创性的事情。n他最常用的实现模式就是利

5、用sns的互动游戏的模式，来实现传统模式识别与计算科学中。n他的主要应用成果在上可以体验获得（game with a purpose）。例子二n基于内容的图像识别与搜索中，样本的标注是一个很繁琐的问题，为了让计算机识别图片里的内容，必须要用到许多标注好的图像样本来训练识别核，传统的方式只能通过人工进行大量的手工标注。n2006年，luis推出了一个著名的游戏，叫esp game。n这一游戏的玩法其实很简单：进入游戏，网站会给你随机配一个伙伴，两人同时看一张图，让你在两分钟内给图片写出关键词，如天空、鸟、足球、奔跑等等。n如果你们两人写的关键词一样，就可以得分。n通过积分的方式激发用户参与的积极

6、性，网站每天公布得分最高的游戏者，luis通知这种方式收集的关键字超过了5000万。n这个发明已经被谷歌所采用，在谷歌推出的产品google image labeler中，使用的方式就是通过游戏互动的方式来实现图像标注，之后用于谷歌的图片检索引擎。人们在游戏中，已经为科学与商业过程做出来贡献 例子三n当我们都在考虑云计算的时候，基于人的互动协同计算其实离我们很近，n每天的校验码的登录填注，n百度知道、百度百科与维基百科的点击阅读n我们可能都在不知不觉中，贡献了自己的力量 网络背景(1)n考虑一种新的基础设施n它用高性能通信网络把人,计算机,传感器和数据连在一起,使社会中的各种不同群体,如研究者

7、,教育工作者,商人和普通消费者从中受益.n历史上的其它基础设施n电力网n铁路网n电话和电报网n银行网络背景(2)n历史上的其它基础设施的发展经验n每一种基础设施的发展都具有巨大的复杂性n参与的角色复杂:发明家研究者标准化工作者的力量,自由市场的力量,政府的力量n发展历程的复杂:从局部到全局,不平坦的时间表n整个基础设施上承载能力的分布性n物流配送:本地仓库,地区仓库,国家级仓库等n地区”缓存”n基础设施发展后新鲜事物的出现n新城市:芝加哥城, urbana-champaignn新产业:世界级零售中心,世界级航空中心,世界级总部基地电网电网电站电站电站电站电站电站水坝水坝矿山矿山油井油井电力网和

8、网格组成对比电力网和网格组成对比电力网电力网网格网格 发电厂 高性能计算中心 发电机 高性能网络计算机 电能 数据、内容、知识、信息 水能、风能、火能、核能等原始能源 数据库、传感器、存储设备、工业仪器设备等资源 输电线网 广域网、城域网、局域网，光纤网、无线网 电力调配系统 网格系统软件和中间件、网络缓存和负载平衡器等硬件动力电、照明电、家用电器等电力应用 科学计算、电子商务/政务、信息服务等网格应用 各种电器 网格终端设备（pc、手机、数字电视） 指数增长的世界n网络 vs. 计算机性能n处理器速度每18个月翻一番n存储密度 每12个月翻一番n网络速度 每9个月翻一番n1986 to 20

9、00n计算机: x 500n网络: x 340,000n2001 to 2010n计算机: x 60n网络: x 4000引用引用网格和云计算的用户n虽然计算机的性能有如此惊人的提高，那是不是所有的计算需求都已经得到满足了呢？遗憾的是，还远远没有。n计算科学家和工程师n实验科学家n企业n自然环境n教育与培训n国家-政府n世界n消费者rotating turbulent gas ball model of the sunnine day run on ncsa origin (128-processors)generated 2 terabytes of data, lcse visualize

10、d in 3 daysdave porter, paul woodward, et al., lcse, univ of minnesotacomputational scientistsexperimental scientistsrachael brady, ncsa i-way 95virtual manufacturingcustomermanufacturingfacilitysupplierdesigneratm networksource: kem ahlers, caterpillarcad/cam对性能的需求生命科学数字生物学数据密集型科学nlhc（强子对撞机）n瑞典日内瓦欧

11、洲原子能研究中心（cern）高能粒子物理实验ncms(紧凑介子螺线管)用于记录最高能量质子对撞事件所产生的数据ncms每年将产生pb（1015字节）数量级的试验数据n用于寻找希格斯介子微粒和宇宙中物质的可能起源的研究;一种新的自然界基本对称(称为超对称)的存在性以及可能发现新的空间维数.n处理和分析数据的机构n美国nsf网格物理网n美国能源部粒子物理数据网格n欧盟数据网格工程n。lhc experimentsthe constraintstaken from: lhc computing review, cern/lhcc/2001-004needed during a year of lhc

12、 operationstape diskcpu29400 tb9600 tb6.2 * 106 si95in todays units:60 stk silos160000 60gb disks150000800 mhz cpusworld wide collaboration distributed computing & storage capacitylhc: 5000physicists 270 institutes 60 countries遥感 天文学基于仿真的科学(1)n数字仿真的必要性n数字仿真(模拟)代表一种新的解决问题的方法学,重要性与日俱增n在基础科学(气候学天体物理学等)

13、的研究过程中,难以进行物理实验,但数字仿真是可行的.n随着计算机性能的提高和计算技术的发展,计算方法越来越多的应用到长期受实验控制的领域,例如化学领域,生命科学领域等基于仿真的科学(2)n数字仿真的实例ncms在建成之前和之后物理学家进行计算密集型蒙特卡罗模拟研究.n为了产生真实的模拟数据,蒙特卡罗模拟研究结合了基础物理学的理论预言n一旦cms探测器发挥作用,模拟研究的输出数据将直接与真实数据比较,从而改进探测器、并预示可能的科学发现。天气预报大气海洋模拟实验仪器的远程访问（1）n仿真或数据驱动科学的日益盛行并不意味着实验科学变得越来越不重要n相反，高速网络的出现使得将实验仪器整合到科学问题解

14、决过程中变得更容易n地震工程组织正在部署的遥测设备容许参与者无须亲自到试验设备现场就可以远程设计、执行和监控试验。nnees（network for earthquake engineering and simulation,地震工程与仿真网络）计划实验仪器的远程访问（2）nnees计划n在地震工程测试设备上投资n如振动台、反应墙和造波水池n要求这些设备能通过网络访问n通过系统集成建立必要的信息技术设备框架n集成测试设备、模拟、数据仓库和协作工具n跨团体的科学工作者联盟n运行和管理全局基础设施。ncarl kesselman和ian foster是主要领导者和参与者虚拟社区科学(1)n21世纪

15、科学与工程研究的重要标志之一就是探索未来的研究团队之间与日俱增的合作和分布特性n网格技术对科学最大的影响就是科学家构成的全球虚拟社区能解决现在和未来的基础科学问题nnees就是典型的实例,cern的cms模拟计划也是实例虚拟社区科学(2)ncms的协作组织的美国参与者(us-cms)建立的us-cms grid虚拟社区包括如下单位:ncaltech(加洲理工学院)nfermilab(费米国家加速器实验室)nuniv. of florida(佛罗里达大学)nuc san diego(加洲大学圣迭戈分校)ncern(欧洲原子能研究中心)nuw madison(威斯康星大学麦迪逊分校)n它们之间用o

16、c12/stm4(622mbps)或更高速的网络连接新基础设施的投资n投资方向n物理设施:存储网通信网络计算机网络传感器网络万亿次超级计算机n软件设施(网络中间件协作套件)n新的应用概念及应用软件n投资来源n政府:英国科学技术办公室,美国nsf蓝带顾问团,欧盟”第六框架”计划清华acin在清华aci 系统中，清华大学研制的高性能计算机“thnpsc-2”与上海大学研制的高性能计算机“自强2000”通过高速网络连接在一起，此外还连接了4 个应用结点。这6 个地理位置不同的节点可以同时召开网络会议。n除此之外，还开发了相应的中间件，可以构成跨地区、跨学科的“虚拟实验室”研究环境。n清华aci 系统

17、具有一套健全的资源管理系统、任务管理系统、用户管理系统及安全服务与监控系统。http:/shanghai gridn上海市投入两个多亿，建设e-institute，其中网格是重点，把上海交大、复旦、华东理工等多所重点高校用网格整合起来，共享资源，协同教学科研。n清华大学教授、上海大学计算机学院院长李三立院士担任网格主题的首席科学家上海“云海计划”n2010年8月17日下午，上海市发布了 上海推进云计算产业发展行动方案（20102012年）三年行动方案，即“云海计划”。n该计划指出，未来三年，上海将致力打造“亚太云计算中心”，培育十家年经营收入超亿元的云计算企业，带动信息服务业新增经营收入千亿元

18、 北京 “祥云工程” n2010年7月，北京“祥云工程”计划正式启动，北京将合理规划布局云应用、云产品、云服务和云基础设施、积极参与国际竞争，力争到2015年，形成500亿元产业规模，成为世界级云计算产业基地 n中关村云计算产业联盟由联想、塞尔网络、中国移动研究院、百度等19家单位发起成立。工业需求(1)n中国电子学会云计算专家委员会委员、华中科技大学计算机学院院长、中国教育科研网格计划china grid专家组组长金海博士:n网格和云计算真正最大的用户不是学计算机的人。做计算机的有些类似于建筑工人，完成基本建设以后就该轮到其他人来应用了。工业需求(2)n网格计算和云计算实际上是在构建一个使信

19、息技术被广泛接受所必须的环境.n技术向应用演变的两个阶段:n第一阶段:发展阶段.以汽车工业为例n此时,最重要的是技术本身。如内燃机原理，采用汽油作为燃料的发明，第一辆实验室里的内燃机驱动的汽车原型n技术使用者是专家、技术能手。驾驶者和机械师之间几乎没有区别，只有机械师才能担任驾驶者工业需求(2)n技术向应用演变的两个阶段:n第二阶段：后技术阶段。n技术已不再新奇，易用性、可靠性、可用性和成本等技术应用因素变得重要起来。n技术使用者是普通消费者。比如家用轿车驾驶员，家用电器使用者（煮饭、听立体声音乐、看电视等电力系统的终端用户）工业需求(3)n转换的因素和动力.以汽车工业为例n应用需求的驱动：旅

20、游、物流、客流快速移动的需求n工业界指定技术标准：方向盘？方向舵；发动机规格n市场的驱动：市场竞争导致成本下降，消费者的需求得到及时满足n转换的结果:技术的复杂性被隐藏起来n没人在煮咖啡的时候能清楚的意识到复杂的电力基础设施正从几百公里之外运煤到发电厂，然后产生蒸汽驱动涡轮发电it的技术演变（1）n信息技术（it）的演变也遵循这一普遍的技术演变规律n目前信息技术已经处于演变过程中的发展阶段，网格技术和云计算技术将使之进一步向“后技术”阶段演化n早期：昂贵而复杂的“玻璃房子”中的大型机，只有训练有素且精通程序设计的专家能使用这些系统it的技术演变（2）nit技术演变的征兆n越来越多的信息技术商品

21、化生活化nusb盘,mp3,cd唱机,手机wap,笔记本电脑,数字电视,网络娱乐,网络论坛,网络新闻,网络购物n信息技术,包括计算机系统等越来越强大n集成化:n计算机系统商务过程组织人高度集成,紧密交流n技术数据应用的空前集成n高效用n资源充分利用,自我配置自我优化自我修复自我保护n灵活性n人们能根据业务需求做出选择it的技术演变（3）nit技术演变的挑战n挑战1:标准化n实验室的研究转化成生产力依赖于集成技术的能力n开放标准能使技术整合更容易n标准并非指严格一致,但是差异很小(如电气标准220v/110v等,变压器可适应该差异)n应答: 网格和云计算等信息技术的标准在迅速发展n网格协议nwe

22、b servicenlinux、hadoop等开源软件njavac#等具有相当一致性的网络编程工具it的技术演变（4）nit技术演变的挑战n挑战2:降低复杂性n随着单一大型主机环境演变成网络化计算环境,系统的复杂性在增加n应答:n虚拟化和虚拟系统已经存在并发展n虚拟i/on虚拟内存n虚拟存储池n云计算的挑战在于如何通过internet使计算资源虚拟化it的技术演变（5）nit技术演变的挑战n挑战3:访问透明性n隐藏在易用接口之后的庞大复杂的基础设施对用户而言是透明的,它无须关心也不必知道n应答:n通过开放网络协议可以实现异构资源的透明共享,覆盖了各种异型操作系统和文件系统的差异性,构造虚拟操作系统nlinuxnwindowsnaixnsolarisnhp-uxit的技术演变（6）nit技术演变的挑战n挑战4: