计算机并行体系结构的分类课件

并行体系结构的发展之路033327王庆龄032116宋佳思并行体系结构的发展之路1目录引言并行计算机发展的推动力并行体系结构的分类并行体系结构的发展过程并行体系结构的展望目录引言2引言并行计算机的定义体系结构巨大变化CPU性能发展软硬件技术进步引言并行计算机的定义3并行计算机发展的推动力科学与工程计算领域对并行计算能力的要求总是永无止境的。计算机技术、网络技术的迅速发展及其对经济与生活影响的日益深入并行计算机体系结构的发展和处理器、存储器以及网络互连技术的发展密不可分并行计算机发展的推动力科学与工程计算领域对并行计算能力的要求4计算机并行体系结构的分类

Flynn分类法其弱点计算机并行体系结构的分类Flynn分类法5计算机体系结构的分类Flynn分类法的扩展:根据内存的物理分布、逻辑映射、读取方式可以将MIMD类并行计算机系统进一步细分为共享内存，虚拟共享内存，和分布式内存三大类这三类并行系统所使用的编程模式有共享内存和消息传递，以及两种模式同时使用的混合模式计算机体系结构的分类Flynn分类法的扩展:6共享内存(UMA/SMP)所有共享内存系统的共同特点是：计算机系统具有可以被所有处理器直接存取的共享内存空间。由一个操作系统控制，并且整个系统仅有一个地址空间；各个处理器在内存的存取上是平等的，处理器存取每个内存单元的代价是一致的共享内存(UMA/SMP)所有共享内存系统的共同特点是：计算7虚拟/分布式共享内存内存不再是集中位于系统中的某一区域，而是物理分布在整个系统中；这种系统中连接处理器与内存的网络不再是简单的、单一的总线/交叉开关/其他网络结构，而是一种分级混合式网络结构。在用户看来，这种系统具有共享内存系统的所有特征。虚拟/分布式共享内存内存不再是集中位于系统中的某一区域，而是8分布式内存没有一个共享的、囊括系统所有物理内存的空间。分布式内存系统所使用的编程模式是消息传递，系统的任何一个结点都具有独立的操作系统，能独立运行这类系统又被一些人称为多处理机系统。可以进一步分为三个子类：分布式内存没有一个共享的、囊括系统所有物理内存的空间。9分布式内存系统分类大规模并行处理（MPP，MassivelyParallelProcessing）指那些使用比较专有的、非大规模商品化的硬件和软件，紧耦合的分布式内存计算机系统；分布式内存系统分类大规模并行处理（MPP，Massively10分布式内存系统分类Beowulf集群它的每个处理结点都使用量产的商用计算机系统，互连网络也使用量产的商用LAN/ATM网络。Beowulf集群也被称为工作站集群（COW，ClusterofWorkstations），或者工作站网络。分布式内存系统分类Beowulf集群11分布式内存系统分类SMP集群它的每个结点都是一个SMP系统，互连网络也使用类似Myrinet的高速网络。SMP集群仍然可以适用以MPI（MessagePassingInterface）为代表的消息传递编程模式。另外，ＳＭＰ集群较之Beowulf集群，可以支持以MPI+OpenMP为代表的混合编程模式。分布式内存系统分类SMP集群12并行体系结构的发展过程60年代初期主要是共享存储多处理器系统当时的IBMSystem360是这一时期的典型代表。（下图IBMSystem360）并行体系结构的发展过程60年代初期13IBMSystem360IBMSystem36014并行体系结构的发展过程

伊利诺依大学和Burroughs公司此时开始了IlliacIV计划。当一台规模大大缩小了的16CPU系统终于在1975年出现时，整个计算机界已经发生了巨大的变化。并行体系结构的发展过程

伊利诺依大学和Burroughs公司15并行体系结构的发展过程首先是存储系统概念的彻底革新。虚拟存储和缓存的普遍应用。IBM360/85系统与360/91反映了这一时期的主要变化（上图360/91，下图360/85）并行体系结构的发展过程首先是存储系统概念的彻底革新。虚拟存储16并行体系结构的发展过程其次是半导体存储器开始代替磁芯存储器。CDC7600（下图CDC7600）率先全面采用半导体存储器，磁芯存储器从此退出了历史舞台。与此同时，集成电路也出现了并行体系结构的发展过程其次是半导体存储器开始代替磁芯存储器。17计算机并行体系结构的分类课件18并行体系结构的发展过程1976年CRAY1问世以后，向量计算机从此牢牢地控制着整个高性能计算机市场。并行体系结构的发展过程1976年CRAY1问世以后，向量计19计算机并行体系结构的分类课件20并行体系结构的发展过程

微处理器的出现则使并行计算机的体系结构迈出了另一大步。卡内基梅隆大学开始进行共享存储多处理器系统的研究。C.mmp就是这一研究的具体成果。（下图C.mmp）并行体系结构的发展过程

微处理器的出现则使并行计算机的体系结21计算机并行体系结构的分类课件22并行体系结构的发展过程

80年代稍后出现了非常适合于SMP方式的总线协议，而伯克利加州大学则扩展性地提出了Cache一致性问题的处理方案。同一时期，基于消息传递机制的并行计算机也开始不断涌现。例如InteliPSC系列（下图InteliPSC）并行体系结构的发展过程

80年代稍后出现了非常适合于SMP方23计算机并行体系结构的分类课件24并行体系结构的发展过程

向量计算机渐渐衰落下去了。数据并行方式到了80年代中期又开始逐渐复兴。并行体系结构的发展过程

向量计算机渐渐衰落下去了。数据并行方25计算机并行体系结构的分类课件26并行体系结构的发展过程

80年代末90年代初，共享存储器方式的大规模并行计算机又获得了新的发展。90年代以来，主要的几种体系结构开始走向融合。不过，IBM近年来大获成功的SP1、SP2系列机群系统走的则是另外一条路线。面向的是通用的应用领域并行体系结构的发展过程

80年代末90年代初，共享存储器方式27并行体系结构展望目前的并行计算机系统则主要有四类:第一类是多向量处理系统,如CrayYMP90、NECSX3和FujitsuVP2000等;第二类是基于共享存储的多处理机（SMP）系统,如SGIPowerChallenge、曙光1号等;第三类是基于分布存储的大规模并行处理(MPP)系统,如IntelParagon、IBMSP2、曙光1000等；第四类是基于RISC工作站或高档微机通过高速互连网络连接而构成的机群计算机系统，如清华同方探索集群计算机等。并行体系结构展望目前的并行计算机系统则主要有四类:28并行体系结构展望实现上述第一和第三类系统由于受研制费用高、售价高等因素的影响,其市场受到一定的限制。第二类系统由于共享结构的限制,系统的规模不可能很大。由于机群系统计算机具有投资风险小、可扩展性好、可继承现有软硬件资源和开发周期短、可编程性好等特点，目前已成为并行处理的热点和主流。这种发展趋势也恰好符合了专家对最高水平的计算机技术做过的预测。并行体系结构展望实现上述第一和第三类系统由于受研制费用高、售29机群系统研究目前国内外许多科研机构都在对机群系统下的通信技术进行深入的研究，下表中列举了在机群系统中实现的几种经典的通信子系统。机群系统研究目前国内外许多科研机构都在对机群系统下的通信技术30计算机并行体系结构的分类课件31机群系统研究目前，机群系统大多数采用商用高性能工作站或高档PC，结点的运算速度问题不是很突出，因而主要的研究方面是在提高系统的并行效率，使系统的使用更为方便上，包括建立高效的通信系统，有效地管理全局资源和提供友好的并行应用程序开发环境等。机群系统之所以能够从技术可能发展到实际应用主要是它与传统的并行处理系统相比有以下几个明显的特点：机群系统研究目前，机群系统大多数采用商用高性能工作站或高档P32机群系统研究系统开发周期短。用户投资风险小。系统价格低。节约系统资源。系统扩展性好用户编程方便机群系统研究系统开发周期短。33机群系统研究跟传统的RISC小型机或者由普通的PC服务器群比较，机群的优势主要体现在以下几个方面：机群系统研究跟传统的RISC小型机或者由普通的PC服务器群比34计算机并行体系结构的分类课件35机群系统整体框架机群系统整体框架36

曙光机群系统结构

曙光机群系统结构37曙光4000L面向网格和HPC机群系统方案

曙光4000L面向网格和HPC机群系统方案

38机群系统研究今后几年，我们将看到第三代机群的出现，试图解决下列问题：功耗效益：单位功耗所提供的性能（performance）与生产力（productivity）。成本效益：单位成本所提供的性能（performance）与生产力（productivity）。空间效益：单位空间所提供的性能（performance）与生产力（productivity）。应用效益：用户实际能够得到的性能（performance）与生产力（productivity）。单一系统映像与带宽、吞吐率的矛盾。具有Petaflop/s计算能力和PB级存储能力的大规模系统的SUMA问题。对网络计算与广泛普及的支持（即面向网格的超级服务器）。建立高性能计算机的等级，针对不同的用户需求，提供不同等级的系统和服务机群系统研究今后几年，我们将看到第三代机群的出现，试图解决下39机群系统研究在过去十年中，高性能计算机发展最快的体系结构种类是SMP和机群。从今天的市场（包括技术计算市场和大得多的服务器市场）占有率看，低档高性能计算机的主流是SMP，而机群，尤其是SMP机群，已经成为中高档高性能计算机的主流。其他体系结构（PVP、PVP-NUMA、ccNUMA）的市场占有率要小的多，而且很难看出他们有加速发展的可能。机群的应用水平也不断提高，不论是在技术计算（科学计算与工程模拟）领域、商务应用（事务处理与数据处理）领域、互联网主机应用领域，都是如此高性能的工作站、高档微机的使用是提出并行机群系统的前提条件，而高速网络硬件设备的出现，则为机群系统的发展打下了坚实的基础，极大的推动了它的的使用和推广，新型通信协议的研究又进一步发挥了高速网络的高性能，使得机群系统具有更好的性能和更广的适应性。因此可以预计，随着工作站本身性能的不断提高以及新的通信技术的研究，并行机群系统将会逐渐接近或达到MPP的性能指标，成为目前并行计算领域中的主流技术之一机群系统研究在过去十年中，高性能计算机发展最快的体系结构种类40参考文献1．陈树清《并行计算机的现状与发展趋势》2．郑纬民《并行计算机之路》3．李国杰《可扩展高性能并行计算机的关键技术与发展远景》4．陈国良《并行算法研究进展》5．《机群服务器与小型机的优势比较》

/27/200668923571.shtml6．徐志伟《高性能计算机与网格的研究开发态势》

/5-3.asp?id=39&letternum=9参考文献1．陈树清《并行计算机的现状与发41TheEnd.Thanks.TheEnd.Thanks.42并行体系结构的发展之路033327王庆龄032116宋佳思并行体系结构的发展之路43目录引言并行计算机发展的推动力并行体系结构的分类并行体系结构的发展过程并行体系结构的展望目录引言44引言并行计算机的定义体系结构巨大变化CPU性能发展软硬件技术进步引言并行计算机的定义45并行计算机发展的推动力科学与工程计算领域对并行计算能力的要求总是永无止境的。计算机技术、网络技术的迅速发展及其对经济与生活影响的日益深入并行计算机体系结构的发展和处理器、存储器以及网络互连技术的发展密不可分并行计算机发展的推动力科学与工程计算领域对并行计算能力的要求46计算机并行体系结构的分类

Flynn分类法其弱点计算机并行体系结构的分类Flynn分类法47计算机体系结构的分类Flynn分类法的扩展:根据内存的物理分布、逻辑映射、读取方式可以将MIMD类并行计算机系统进一步细分为共享内存，虚拟共享内存，和分布式内存三大类这三类并行系统所使用的编程模式有共享内存和消息传递，以及两种模式同时使用的混合模式计算机体系结构的分类Flynn分类法的扩展:48共享内存(UMA/SMP)所有共享内存系统的共同特点是：计算机系统具有可以被所有处理器直接存取的共享内存空间。由一个操作系统控制，并且整个系统仅有一个地址空间；各个处理器在内存的存取上是平等的，处理器存取每个内存单元的代价是一致的共享内存(UMA/SMP)所有共享内存系统的共同特点是：计算49虚拟/分布式共享内存内存不再是集中位于系统中的某一区域，而是物理分布在整个系统中；这种系统中连接处理器与内存的网络不再是简单的、单一的总线/交叉开关/其他网络结构，而是一种分级混合式网络结构。在用户看来，这种系统具有共享内存系统的所有特征。虚拟/分布式共享内存内存不再是集中位于系统中的某一区域，而是50分布式内存没有一个共享的、囊括系统所有物理内存的空间。分布式内存系统所使用的编程模式是消息传递，系统的任何一个结点都具有独立的操作系统，能独立运行这类系统又被一些人称为多处理机系统。可以进一步分为三个子类：分布式内存没有一个共享的、囊括系统所有物理内存的空间。51分布式内存系统分类大规模并行处理（MPP，MassivelyParallelProcessing）指那些使用比较专有的、非大规模商品化的硬件和软件，紧耦合的分布式内存计算机系统；分布式内存系统分类大规模并行处理（MPP，Massively52分布式内存系统分类Beowulf集群它的每个处理结点都使用量产的商用计算机系统，互连网络也使用量产的商用LAN/ATM网络。Beowulf集群也被称为工作站集群（COW，ClusterofWorkstations），或者工作站网络。分布式内存系统分类Beowulf集群53分布式内存系统分类SMP集群它的每个结点都是一个SMP系统，互连网络也使用类似Myrinet的高速网络。SMP集群仍然可以适用以MPI（MessagePassingInterface）为代表的消息传递编程模式。另外，ＳＭＰ集群较之Beowulf集群，可以支持以MPI+OpenMP为代表的混合编程模式。分布式内存系统分类SMP集群54并行体系结构的发展过程60年代初期主要是共享存储多处理器系统当时的IBMSystem360是这一时期的典型代表。（下图IBMSystem360）并行体系结构的发展过程60年代初期55IBMSystem360IBMSystem36056并行体系结构的发展过程

伊利诺依大学和Burroughs公司此时开始了IlliacIV计划。当一台规模大大缩小了的16CPU系统终于在1975年出现时，整个计算机界已经发生了巨大的变化。并行体系结构的发展过程

伊利诺依大学和Burroughs公司57并行体系结构的发展过程首先是存储系统概念的彻底革新。虚拟存储和缓存的普遍应用。IBM360/85系统与360/91反映了这一时期的主要变化（上图360/91，下图360/85）并行体系结构的发展过程首先是存储系统概念的彻底革新。虚拟存储58并行体系结构的发展过程其次是半导体存储器开始代替磁芯存储器。CDC7600（下图CDC7600）率先全面采用半导体存储器，磁芯存储器从此退出了历史舞台。与此同时，集成电路也出现了并行体系结构的发展过程其次是半导体存储器开始代替磁芯存储器。59计算机并行体系结构的分类课件60并行体系结构的发展过程1976年CRAY1问世以后，向量计算机从此牢牢地控制着整个高性能计算机市场。并行体系结构的发展过程1976年CRAY1问世以后，向量计61计算机并行体系结构的分类课件62并行体系结构的发展过程

微处理器的出现则使并行计算机的体系结构迈出了另一大步。卡内基梅隆大学开始进行共享存储多处理器系统的研究。C.mmp就是这一研究的具体成果。（下图C.mmp）并行体系结构的发展过程

微处理器的出现则使并行计算机的体系结63计算机并行体系结构的分类课件64并行体系结构的发展过程

80年代稍后出现了非常适合于SMP方式的总线协议，而伯克利加州大学则扩展性地提出了Cache一致性问题的处理方案。同一时期，基于消息传递机制的并行计算机也开始不断涌现。例如InteliPSC系列（下图InteliPSC）并行体系结构的发展过程

80年代稍后出现了非常适合于SMP方65计算机并行体系结构的分类课件66并行体系结构的发展过程

向量计算机渐渐衰落下去了。数据并行方式到了80年代中期又开始逐渐复兴。并行体系结构的发展过程

向量计算机渐渐衰落下去了。数据并行方67计算机并行体系结构的分类课件68并行体系结构的发展过程

80年代末90年代初，共享存储器方式的大规模并行计算机又获得了新的发展。90年代以来，主要的几种体系结构开始走向融合。不过，IBM近年来大获成功的SP1、SP2系列机群系统走的则是另外一条路线。面向的是通用的应用领域并行体系结构的发展过程

80年代末90年代初，共享存储器方式69并行体系结构展望目前的并行计算机系统则主要有四类:第一类是多向量处理系统,如CrayYMP90、NECSX3和FujitsuVP2000等;第二类是基于共享存储的多处理机（SMP）系统,如SGIPowerChallenge、曙光1号等;第三类是基于分布存储的大规模并行处理(MPP)系统,如IntelParagon、IBMSP2、曙光1000等；第四类是基于RISC工作站或高档微机通过高速互连网络连接而构成的机群计算机系统，如清华同方探索集群计算机等。并行体系结构展望目前的并行计算机系统则主要有四类:70并行体系结构展望实现上述第一和第三类系统由于受研制费用高、售价高等因素的影响,其市场受到一定的限制。第二类系统由于共享结构的限制,系统的规模不可能很大。由于机群系统计算机具有投资风险小、可扩展性好、可继承现有软硬件资源和开发周期短、可编程性好等特点，目前已成为并行处理的热点和主流。这种发展趋势也恰好符合了专家对最高水平的计算机技术做过的预测。并行体系结构展望实现上述第一和第三类系统由于受研制费用高、售71机群系统研究目前国内外许多科研机构都在对机群系统下的通信技术进行深入的研究，下表中列举了在机群系统中实现的几种经典的通信子系统。机群系统研究目前国内外许多科研机构都在对机群系统下的通信技术72计算机并行体系结构的分类课件73机群系统研究目前，机群系统大多数采用商用高性能工作站或高档PC，结点的运算速度问题不是很突出，因而主要的研究方面是在提高系统的并行效率，使系统的使用更为方便上，包括建立高效的通信系统，有效地管理全局资源和提供友好的并行应用程序开发环境等。机群系统之所以能够从技术可能发展到实际应用主要是它与传统的并行处理系统相比有以下几个明显的特点：机群系统研究目前，机群系统大多数采用商用高性能工作站或高档P74机群系统研究系统开发周期短。用户投资风险小。系统价格低。节约系统资源。系统扩展性好用户编程方便机群系统研究系统开发周期短。75机群系统研究跟传统的RISC小型机或者由普通的PC服务器群比较，机群的优势主要体现在以下几个方面：机群系统研究跟传统的RISC小型机或者由普通的PC服务器群比76计算机并行体系结构的分类课件77机群系统整体框架机群系统整体框架78

曙光机群系统结构

曙光机群系统结构79曙光4000L面向网格和HPC机群系统方案

曙光4000L面向网格和HPC机群系统方案

80机群系统研究今后几年，我们将看到第三代机群的出现，试图解决下列问题：功耗效益：单位功耗所提供的性能（performance）与生产力（productivity）。成本效益：单位成本所提供的性能（performance）与生产力（productivity）。空间