




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1.指导思想
要求学生理解高端并行计算机系统设计技术,高端MPP、
DSM、CLUSTER等大规模并行计算机的关键设计理论和实现技
术,包括互连网络技术、存储架构和高可用技术等。为此,必须
用适量的作业、习题,启发学生独立思考以及熟练掌握一些基础
知识和基本技能。
习题设计
计划
2.作业安排
本教材每一章都附有大量的习题,根据教学进度和学时,合
理选择书上习题,以达到进一步加深理解课堂讲授的内容。每一
章讲授结束,收一次作业,给出成绩,并作一次集体答疑,讲解
作业中的共性问题。作业成绩记入总成绩内。
第一章绪论
1.1什么是并行计算机?
答:简单地讲,并行计算机就是由多个处理单元组成的计算机系统,这些处理单元相互通信
和协作,能快速高效求解大型的复杂的问题。
1.2简述Flynn分类法:
答:根据指令流和数据流的多重性将计算机分为:
1)单指令单数据流SISD
2)单指令多数据流SIMD
3)多指令单数据流MISD
4)多指令多数据流MIMD
1.3简述当代的并行机系统
答:当代并行机系统主要有:
1)并行向量机(PVP)
2)对称多处理机(SMP)
3)大规模并行处理机(MPP)
4)分布式共享存储(DSM)处理机
5)工作站机群(COW)
1.4为什么需要并行计算机?
答:1)加快计算速度
2)提高计算精度
3)满足快速时效要求
4)进行无法替代的模拟计算
1.5简述处理器并行度的发展趋势
答:1)位级并行
2)指令级并行
3)线程级并行
1.6简述SIMD阵列机的特点
答:1)它是使用资源重复的方法来开拓计算问题空间的并行性。
2)所有的处理单元(PE)必须是同步的。
3)阵列机的研究必须与并行算法紧密结合,这样才能提高效率。
4)阵列机是一种专用的计算机,用于处理一些专门的问题。
1.7简述多计算机系统的演变
答:分为三个阶段:
1)1983-1987年为第一代,代表机器有:Ipsc/1、Ameteks/14等。
2)1988-1992年为第二代,代表机器有:Paragon、Inteldelta等。
3)1993-1997年为第三代,代表机器有:MIT的J-machine。
1.8简述并行计算机的访存模型
答:1)均匀存储访问模型(UMA)
2)非均匀存储访问模型(NUMA)
3)全高速缓存存储访问模型(COMA)
4)高速缓存一致性非均匀访问模型(CC-NUMA)
1.9简述均匀存储访问模型的特点
答:1)物理存储器被所有处理器均匀共享。
2)所有处理器访问任何存储字的时间相同。
3)每台处理器可带私有高速缓存。
4)外围设备也可以一定的形式共享。
1.10简述非均匀存储访问模型的特点
答:1)被共享的存储器在物理上分布在所有的处理器中,其所有的本地存储器的集合构成
了全局的地址空间。
2)处理器访问存储器的时间不一样。
3)每台处理器可带私有高速缓存,外备也可以某种的形式共享。
第二章性能评测
2.1使用40MHz主频的标量处理器执行一个典型测试程序,其所执行的指令数及所需的周
期数如表2.13所示。试计算执行该程序的有效CPI、MIPS速率及总的CPU执行时间。
解:CPI=totalcycles/totalinstructions
=(45000*1+32000*2+15000*2+8000*2)/(45000+32000+15000+8000)
=1.55
乂氏$=时钟频率/(CPI*106)=(40*106)/(1.55*106)=25.8
CPU执行时间=totalcycles/时钟频率=0.00375s
2.2欲在40M11Z主频的标量处理器上执行20万条目标代码指令程序。假定该程序中含有4
种主要类型之指令,各指令所占的比例及CPI数如表2.14所示,试计算:
①在单处理机上执行该程序的平均CPI。
②由①所得结果,计算相应的MIPS速率。
解:⑴CPI=1*60%+2*18%+4*12%+8*10%
=2.12
(2)乂氏5=时钟频率/(CPI*106)=(40*106)/(2.12*106)=18.9
2.12.3已知SP2并行计算机的通信开销表达式为:t(m)=46+(0.035)in,试计算:
①渐近带宽r~=?
②半峰值信息长度飞=?[提示:546us]
解:⑴渐近带宽rx=l/0.035=28.6MB/S
(2)半峰值消息长度mi/2=to*rs=46us*28.6MB/S=1315.6B
2.4并行机性能评测的意义。
答:意义有:
1)发挥并行机长处,提高并行机的使用效率。
2)减少用户购机盲目性,降低投资风险。
3)改进系统结构设计,提高机器的性能。
4)促进软/硬件结合,合理功能划分。
5)优化“结构-算法-应用”的最佳组合。
6)提供客观、公正的评价并行机的标准。
2.5如何进行并行机性能评测
答:1)机器级性能评测:CPU和存储器的某些基本性能指标;并行和通信开销分析;并行
机的可用性与好用性以及机器成本、价格与性/价比。
2)算法级性能评测:加速比、效率、扩展性。
3)程序级性能评测:Benchmark。
2.6简述Gustafson定律的出发点
答:1)对于很多大型计算,精度要求很高,即在此类应用中精度是个关键因素,而计算时
间是固定不变的。此时为了提高精度,必须加大计算量,相应地亦必须增多处理器数才能维
持时间不变。
2)除非学术研究,在实际应用中没有必要固定工作负载而计算程序运行在不同数目的
处理器上,增多处理器必须相应地增大问题规模才有实际意义。
2.7已知一程序可并行代码占比例为80%,将其在有10个处理器的系统中运行,求其加速
比?并求其极限加速比?并分析其结构带来的影响
解:加速比=1/(20%+80%/10)=1/(0.2+0.08)=3.57。
极限加速比,即处理器个数无穷大的时候呈现的加速比=1/20%=5。
这个极限加速比,换个角度说是,Amdahl定律在很长一段时间影响了人们对开发并行
计算机的信心,对于本例,因为就算你把处理器做到无穷也只能得到5倍的加速比,同时有
一点更明显,就是处理器数目增加到一定程度后,加速比的增长非常缓慢。
2.8简述影响加速的因素
答:1)求解问题中的串行分量。
2)并行处理器所引起的额外开销。
3)加大的处理器数超过的算法的并发程度。
2.9为什么增加问题规模可以在一定程度提高加速
答:1)较大的问题规模可提高较大的并发度。
2)额外开销的增加可能慢于有效计算的增加。
3)算法中串行分量的比例不是固定不变的。
2.10进行可扩放行研究的主要意义
答:1)确定解决某类问题用某类并行算法和某类并行体系结构结合,可以有效的利用大量
的处理器。
2)对于运行于某种体系结构的并行机的某种算法当移到大规模处理机上的性能。
3)对于某类固定规模的问题,确定在某类并行机上的最优处理器数目和最大的加速比。
4)用于指导改进并行算法和并行体系结构,以使并行算法能尽可能充分利用可扩充的。
大量的处理器。
第三章互连网络
3.1对于一颗K级二叉树(根为0级,叶为k-1级),共有N=2”-l个节点,当推广至m-
元树时(即每个非叶节点有m个子节点)时,试写出总节点数N的表达式。
答:
推广至M元树时,k级M元树总结点数N的表达式为:
N=l+mAl+mA2+...+mA(k-1)=(l-mAk)*l/(l-m);
3.2二元胖树如图3.46所示,此时所有非根节点均有2个父节点。如果将图中的每个椭圆均
视为单个节点,并且成对节点间的多条边视为一条边,则他实际上就是一个二叉树。试问:
如果不管椭圆,只把小方块视为节点,则他从叶到根形成什么样的多级互联网络?
答:8输入的完全混洗三级互联网络。
3.3四元胖树如图3.47所示,试问:每个内节点有几个子节点和几个父节点?你知道那个机
器使用了此种形式的胖树?
答:每个内节点有4个子节点,2个父节点。CM-5使用了此类胖树结构。
3.4试构造一个N=64的立方环网络,并将其直径和节点度与N=64的超立方比较之,你的
结论是什么?
答:AN=64的立方环网络,为4立方环(将4维超立方每个顶点以4面体替代得到),直径
d=9,节点度n=4
BN=64的超立方网络,为六维超立方(将一个立方体分为8个小立方,以每个小立
方作为简单立方体的节点,互联成6维超立方),直径d=6,节点度n=6
3.5一个N=2八k个节点的deBruijin网络如图3.48所示,令如〃-。一…“%,是一个
节点的二进制表示,则该节点可达如下两个节点:830,出3、…8必1。
试问:该网络的直径和对剖宽度是多少?
答:N=24个节点的deBruijin网络直径d=k对剖宽带w=2%k-l)
3.6一个N=2八n个节点的洗牌交换网络如图3.49所示•试问:此网络节点度==?网络直径
==?网络对剖宽度==?
答:N=2〃n个节点的洗牌交换网络,网络节点度为=2,网络直径=41,网络对剖宽度=4
3.7一个N=(k+1)24个节点的蝶形网络如图3.50所示。试问:此网络节点度=?网络直
径=?网络对剖宽度=?
答:N=(k+1)2”个节点的蝶形网络,网络节点度=4,网络直径=2*k,网络对剖宽度
=2Ak
3.9对于如下列举的网络技术,用体系结构描述,速率范围,电缆长度等填充下表中的各
项。(提示:根据讨论的时间年限,每项可能是一个范围)
答:
网络技术网络结构市4H-宽tAx铜线距离光纤距离
Myrinet专用机群互联网络200MB/秒25m500m
HiPPI用于异构计算机和其外设的800Mbps-1.6G25m300m-10k
组网bpsm
SCI可扩展一致性接口,通常独立250Mbps〜8Gbp
于拓扑结构s
光纤通信多处理器和其外围设备之间,100Mbps〜80050m10km
直连结构Mbps
ATM主要应用于因特网主干线中25Mbps-lOGbp
s
FDDI采用双向光纤令牌环,所有结100-200Mbps100m2KM
点联接在该环中
3.10如图3.51所示,信包的片0,1,2,3要分别去向目的地A,B,C,D。此时片。占
据信道CB,片1占据信道DC,片2占据信道AD,片3占据信道BA。试问:
1)这将会发生什么现象?
2)如果采用X-Y选路策略,可避免上述现象吗?为什么?
答:1)通路中形成环,发生死锁
2)如果采用X-Y策略则不会发生死锁。因为采用X-Y策略时其实质是对资源(这里
是通道)进行按序分配(永远是x方向优先于y方向,反方向路由是y方向优先于x方向),
因此根据死锁避免的原则判断,此时不会发生死锁。
3.12在二维网孔中,试构造一个与X-Y选路等价的查表路由。
答:所构造路由表描述如下:
1)每个节点包括两张路由表x表和y表
2)每个节点包含其以后节点信息,如节点【1,2】x表内容为:[2,2][3,2】y表
内容为:[1,3]
选路方法:
节点路由时进行查表:先查x表即进行x方向路由,如果查表能指明下一跳方向则直
接进入下一跳。如果不能则继续查y表,直到到达目的地。
第四章对称多处理机系统
4.1参照图4.20,试解释为什么采用WT策略进程从尸2迁移到勺时,或采用WB策略将包
含共享变量X的进程从片迁移到P2时,会造成高速缓存的不一致。
处理器
高速缓存
总线
共享
存储器
迁移之前写通过写回
图4.20进程迁移所造成的不一致性
答:采用WT策略进程从尸2迁移到R后,P2写共享变量X为X',并且更新主存数据为X',
此时6共享变量值仍然为X,与P2和主存X,不一致。采用WB策略进程从4迁移到P2后,
P}写共享变量X为X,,但此时P2缓存与主存变量值仍然为X,造车不一致。
4.2参照图4.21所示,试解释为什么:①在采用WT策略的高速缓存中,当I/O处理器将一
个新的数据X•写回主存时会造成高速缓存和主存间的不一致;②在采用WB策略的高速缓
存中,当直接从主存输出数据时会造成不一致。
处理器
P.p2P,p2p2
VVVV
高速缓存XXXJL
*
尼•钦i*
▼▼▼▼▼li
I/O处理机XX'£X*
存储器I/O存储器(输入)存储器(输出)
(写直达)(写回)
图4.21绕过高速缓存的I/O操作所造成的不一致性
答:①中I/O处理器将数据X,写回主存,因为高速缓存采用NT策略,此时P1和P2相应的
高速缓存值还是X,所以造成高速缓存与主存不一致。②直接从主存输出数据X,因为高速
缓存采用WB策略,可能高速缓存中的数据已经被修改过,所以造成不一致。
4.3试解释采用WB策略的写更新和写无效协议的一致性维护过程。其中X为更新前高速
缓存中的拷贝,X'为修改后的高速缓存块,I为无效的高速缓存块。
EZI高速缓存行共享存储器R江]
(a)写操作前(b)处理器P1执行写无效操作后(C)处理器片执行写更新操作后
答:处理器P1写共享变量X为X"写更新协议如图⑹所示,同时更新其他核中存在高速
缓存拷贝的值为X,;写无效协议如图(b)所示,无效其他核中存在高速缓存拷贝,从而维护了
一致性过程。
4.4两种基于总线的共享内存多处理机分别实现了IllinoisMESI协议和Dragon协议,对于
下面给定的每个内存存取序列,试比较在这两种多处理机上的执行代价,并就序列及一
致性协议的特点来说明为什么有这样的性能差别。序列①rlwlrlwlr2w2r2w2r3
w3r3w3;序列②rlr2r3wlw2w3rlr2r3w3wl;序列③rlr2r3r3wlwlwl
wlw2w3;所有的存取操作都针对同一个内存位置,r/w代表读/写,数字代表发出该操
作的处理器。假设所有高速缓存在开始时是空的,并且使用下面的性能模型:读/写高
速缓存命中,代价1个时钟周期;缺失引起简单的总线事务(如BusUpgr,BusUpd),60
个时钟周期;缺失引起整个高速缓存块传输,90时钟周期。假设所有高速缓存是写回式。
答:读写命中、总线事务、块传输分别简记为H、B、ToMESI协议:①BTHHHHBTHBHH
HBTHBHIIII共5B+12H+3T=582时钟周期②BTHBTHBTHBHBTHBTHBTHBTHHBIIBTH共
10B+12H+8T=1330时钟周期③BTHBTHBTHHBHHHHBTHBTH共6B+10H+4T=730时钟周期。
Dragon协议:①BTHHHHBTHBTHHBTHBTHBTHHBTH共7B+12H+7T=882时钟周期②
BTHBTHBTHBTHBTHBTHHHHHBTTHBTH8B+12H+8T=1212时钟周期③BTHBTHBTHH
BTHBTHBTHBTHBTHBTH共9B+10H+9T=1360时钟周期。由结果得出,①、③序列用MESI
协议时间更少,而②序列用Dragon协议时间更少。综上可知,如果同一块在写操作之后频
繁被多个核读操作采用Dragon协议更好一些,因为Dragon协议写操作后会更新其它核副本。
如果一个同多次连续对同一块进行写操作MESI协议更有效,因为它不需要更新其它核副本,
只需要总线事务无效其它核即可。
4.5考虑以下代码段,说明在顺序一致性模型下,可能的结果是什么?假设在代码开始执行
时,所有变量初始化为0。
a.
PlP2P3
A=1U=AV=B
B=1W=A
b.
PlP2P3P4
A=1U=AB=1W=B
V=BX=A
答:顺序一致性模型性下,保护每个进程都按程序序来发生内存操作,这样会有多种可能结
果,这里假设最简单情况,即P1、P2、P3依次进行。则a中U=V=W=1,b中U=X=W=1,
V=0。
4.6参照461中讨论多级高速缓存包含性的术语,假设L1和L2都是2-路组相联,n2>ni,
bl=b2,且替换策略用FIFO来代替LRU,试问包含性是否还是自然满足?如果替换策
略是随机替换呢?
答:如果采用FIFO替换策略包含性自然满足,因为L1和L2都是2路组相联,FIFO保证
了L1与L2在发生替换时会换出相同的缓存块,维护了包含性。如果采取随机替换策略,
存在L1与L2替换不是相同块的情况,故不满足包含性。
4.7针对以下高速缓存情况,试给出一个使得高速缓存的包含性不满足的内存存取序列?
L1高速缓存容量32字节,2-路组相联,每个高速缓存块8个字节,使用LRU替换算
法;L2高速缓存容量128字节,4-路组相联,每个高速缓存块8个字节,使用LRU替
换算法。
答:假设ml、m2、m3块映射到一级Cache和二级Cache的同一组中,考虑如下内存存取
序列Rm”Rm2,Rml.Rm3,由LRU替换算法知道,当Rm3执行后,L1中被替换出的是m2,
L2中被替换出的是ml,此时ml块在L1却不在L2中,不满足包含性。
4.8在4.6中关于分事务总线的讨论中,依赖于处理器与高速缓存的接口,下面情况有可能
发生:一个使无效请求紧跟在数据响应之后,使得处理器还没有真正存取这个高速缓存
块之前,该高速缓存块就被使无效了。为什么会发生这种情况,如何解决?
答:考虑如下情景:SMP目录一致性协议中,核1读缺失请求数据块A,主存响应请求传
送数据块A给核1,同时核2对数据块A进行写操作,到主存中查得核1拥有副本,向核1
发使无效请求。如此,一个使无效请求紧跟在数据响应之后。解决方法,可以使每个核真正
存取高速缓存块后向主存发回应,然后再允许其它对此块操作的使无效或其它请求。
4.9利用LL-SC操作实现一个Test&Set操作。
答:Test&Set:11reg1,location/*Load-lockedthelocationtoregl*/
bnzregl,lock/*iflocatinwaslocked,tryagain*/
movreg2,1/*setreg21*/
sclocation,reg2/*storereg2conditionalintolocation*/
4.10在4.7.4部分描述具有感觉反转的路障算法中,如果将Unlock语句不放在if条件语句
的每个分支中,而是紧接放在计数器增1语句后,会发生什么问题?为什么会发生这个
问题?
答:再进入下一个路障时可能会发生计数器重新清0现象,导致无法越过路障。考虑如
下情景:第一次进入路障时,最后两个进入路障的进程分别为1、2。假设最后进入路障
的进程为2进程,2进程执行共享变量加一操作并解锁。然后2进程执行一条if条件语
句,此时由于某种原因换出或睡眠,而此时共享变量的值已经为p。如果1进程此时正
执行if条件语句,则清零计数器,设置标志,其它进程越过路障。到目前为止没有出现
问题,问题出现在下一次进入路障。进程再一次进入路障,此时会执行共享变量加一操
作。如果此时2进程被换入或被唤醒,会重新清零共享变量,使之前到达路障的进程的
加一操作无效,导致无法越过路障。
第五章大规模并行处理机系统
5.1简述大规模并行处理机的定义,原理和优点?
答:并行处理机有时也称为阵列处理机,它使用按地址访问的随机存储器,以单指令流多数
据流方式工作,主要用于要求大量高速进行向量矩阵运算的应用领域。并行处理机的并行性
来源于资源重复,它把大量相同的处理单元(PE)通过互联网络(ICN)连接起来,在统一
的控制器(CU)控制下,对各自分配来的数据并行地完成同一条指令所规定的操作。PE是
不带指令控制部件的算术逻辑运算单元。并行处理机具有强大的向量运算能力,具有向量化
功能的高级语言编译程序有助于提高并行处理机的通用性,减少编译时间。
5.2并行处理机有两种基本结构类型,请问是哪两种?并作简单介绍。
答:采用分布存储器的并行处理结构和采用集中式共享存储器的并行处理结构。分布式存储
器的并行处理结构中,每一个处理机都有自己的存储器,只要控制部件将并行处理的程序分
配至各处理机,它们便能并行处理,各自从自己的存储器中取得信息。而共享存储多处理机
结构中的存储器是集中共享的,由于多个处理机共享,在各处理机访问共享存储器时会发生
竞争。因此,需采取措施尽可能避免竞争的发生。
5.3简单说明多计算机系统和多处理机系统的区别。
答:他们虽然都属于多机系统但是他们区别在于:(1)多处理机是多台处理机组成的单机系
统,多计算机是多台独立的计算机。(2)多处理机中各处理机逻辑上受同一的OS控制,而
多计算机的OS逻辑上独立.(3)多处理机间以单一数据,向量。数组和文件交互作用,多计
算机经通道或者通信线路以数据传输的方式进行。(4)多处理机作业,任务,指令,数据各
级并行,多计算机多个作业并行。
5.4举例说明MPP的应用领域及其采用的关键技术。
答:全球气候预报,基因工程,飞行动力学,海洋环流,流体动力学,超导建模,量子染色
动力学,视觉。采用的关键技术有VLSI,可扩张技术,共享虚拟存储技术。
5.5多处理机的主要特点包括
答:
(1)结构的灵活性。与SIMD计算机相比,多处理机的结构具有较强的通用性,它可以同
时对多个数组或多个标量数据进行不同的处理,这要求多处理机能够适应更为多样的算法,
具有灵活多变的系统结构。2)程序并行性。并行处理机实现操作一级的并行,其并行性存
在于指令内部,主要用来解决数组向量问题;而多处理机的并行性体现在指令外部,即表现
在多个任务之间。3)并行任务派生。多处理机是多指令流操作方式,一个程序中就存在多
个并发的程序段,需要专门的程序段来表示它们的并发关系以控制它们的并发执行,这称为
并行任务派生。
4)进程同步。并行处理机实现操作级的并行,所有处于活动状态的处理单元受一个控制器
控制,同时执行共同的指令,工作自然同步;而多处理机实现指令、任务、程序级的并行,
在同一时刻,不同的处理机执行着不同的指令,进程之间的数据相关和控制依赖决定了要采
取一定的进程同步策略.
5.6在并行多处理机系统中的私有Cache会引起Cache中的内容相互之间以及与共享存储器
之间互不相同的问题,即多处理机的Cache一致性问题。请问有哪些原因导致这个问题?
答:
1)出现Cache一致性问题的原因主要有三个:共享可写的数据、进程迁移、I/O传输。共
享可写数据引起的不一致性。比如Pl、P2两台处理机各自的本地高速缓冲存储器Cl、C2
中都有共享存储器是M中某个数据X的拷贝,当P1把X的值变成X/后,如果P1采用写
通过策略,内存中的数据也变为X/,C2中还是X。如果通过写回策略,这是内存中还是X。
在这两种情况下都会发生数据不一致性。2)进程迁移引起的数据不一致性。P1中有共享
数据X的拷贝,某时刻P1进程把它修改为X,并采用了写回策略,由于某种原因进程从P1
迁移到了P2上,它读取数据时得到X,而这个X是“过时”的。3)I/O传输所造成的数据
不一致性。假设P1和P2的本地缓存Cl、C2中都有某数据X的拷贝,当1/0处理机将一个
新的数据X/写入内存时,就导致了内存和Cache之间的数据不一致性。
5.7分别确定在下列两种计算机系统中,计算表达式所需的时间:s=Al*Bl+A2*B2+…A4*B4。
a)有4个处理器的SIMD系统;b)有4个处理机的MIMD系统。假设访存取指和取数的时间
可以忽略不计;加法与乘法分别需要2拍和4拍;在SIMD和MIMD系统中处理器(机)之间
每进行一次数据传送的时间为1拍;在SIMD系统中,PE之间采用线性环形互连拓扑,即每
个PE与其左右两个相邻的PE直接相连,而在MIMD中每个PE都可以和其它PE有直接的的
通路。
答:假设4个PE分别为PEO,PEI,PE2,PE3o利用SIMD计算机计算上述表达式,4个
乘法可以同时进行,用时=4个时间单位;然后进行PE0到PEI,PE2到PE3的数据传送,
用时=1个时间单位。在PE1和PE3中形成部分和,用时=2个时间单位。接着进行PE1到
PE3的部分和传送,用时•=1*2=2个时间单位。最后,在PE3中形成最终结果,用时=2个时
间单位。因此,利用SIMD计算机计算上述表达式总共用时=4(乘法)+1(传送)+2(加
法)+2(传送)+2(加法)=11个时间单位。而利用MIMD计算机计算上述表达式,除了
在第二次传送节省1个时间单位以外,其他与SIMD相同。因此用时=4(乘法)+1(传送)
+2(加法)+1(传送)+2(加法)=10个时间单位。
5.8假定有一个处理机台数为p的共享存储器多处理机系统。设m为典型处理机每条执行执
行时间对全局存储器进行访问的平均次数。
设t为共享存储器的平均存储时间,x为使用本地存储器的单处理机MIPS速率,再假
定在多处理机上执行n条指令。
现在假设p=32,m=0.4,t=lus,要让多处理机的有效性能达到56MIPS,需要每台处理机
的MIPS效率是多少?
A.2
B.4
C.5.83
D.40
答:B
5.9试在含一个PE的SISD机和在含n个PE且连接成一线性环的SIMD机上计算下列求内积
的表达式:其中n=2-
s=£4•Bi
i=l
假设完成每次ADD操作需要2个单元时间,完成每次MULTIPLY操作需要4个单位时间,
沿双向环在相邻PE间移数需1个单位时间
(1)SISD计算机上计算s需要多少时间
(2)SIMD计算机上计算s需要多少时间
(3)SIMD机计算s相对于SISD计算的加速比是多少?
答:
(1)4n+2(nT)
(2)4+2k+n—1
(3)4"+2(〃-1)
3+2k+n
5.10如果一台SIMD计算机和一台流水线处理机具有相同的计算性能,对构成它们的主要部
件分别有什么要求?
答:一台具有n个处理单元的SIMD计算机与一台具有一条n级流水线并且时钟周期为前者
1/n的流水线处理机的计算性能相当,两者均是每个时钟周
期产生n个计算结果。但是,SIMD计算机需要n倍的硬件(n个处理单元),而流水线处理
机中流水线部件的时钟速率要求比前者快n倍,同时还需要存储器的带宽也是前者的n倍。
第六章机群系统
6.1试区分和例示下列关于机群的术语:
1)专用机群和非专用机群;
2)同构机群和异构机群;
3)专用型机群和企业型机群。
答:
1)根据节点的拥有情况,分为专用机群和非专用机群,在专用机群中所有的资源是共享的,
并行应用可以在整个机群上运行,而在非专用机群中,全局应用通过窃取CPU时间获
得运行,非专用机群中由于存在本地用户和远地用户对处理器的竞争,带来了进程迁移
和负载平衡问题。
2)根据节点的配置分为同构机群和异构机群,同构机群中各节点有相似的的体系,并且使
用相同的操作系统,而异构机群中节点可以有不同的体系,运行的操作系统也可以不同。
3)专用型机群的特点是紧耦合的、同构的,通过一个前端系统进行集中式管理,常用来代
替传统的大型超级计算机系统;而企业型机群是松耦合的,一般由异构节点构成,节点
可以有多个属主,机群管理者对节点有有限的管理权。
6.2试解释和例示一下有关单一系统映像的术语:
I)单一文件层次结构;
2)单一控制点:
3)单一存储空间;
4)单一进程空间:
5)单一输入/输出和网络。
答:
1)用户进入系统后所见的文件系统是一个单一的文件和目录层次结构,该系统透明的将本
地磁盘、全局磁盘和其他文件设备结合起来。
2)整个机群可以从一个单一的节点对整个机群或某一单一的节点进行管理和控制。
3)将机群中分布于各个节点的本地存储器实现为一个大的、集中式的存储器。
4)所有的用户进程,不管它们驻留在哪个节点上,都属于一个单一的进程空间,并且共享
一个统一的进程识别方案。
5)单一输入/输出意味着任何节点均可访问多个外设。单一网络是任一节点能访问机群中
的任一网络连接。
6.3就SolarisMC系统回答下列问题:
I)SolarisMC支持习题6.2中单一系统映像的哪些特征?不支持哪些特征?
2)对那些SolarisMC支持的特征,解释一下SolarisMC是如何解决的。
答:
1)支持单一文件层次结构、单一进程空间、单一网络和单一I/O空间。不支持单一控制点
和单一的存储空间。
2)Solaris使用了一个叫PXFS的全局文件系统GFS。PXFS文件系统的主要特点包括:单
一系统映像、一致的语义及高性能。PXFS通过在VFS/vnode接口上截取文件访问操作
实现单一系统映像,保证了单一文件层次结构。
SolarisMC提供了一个全局进程标示符pid可定位系统所有进程,一个进程可以迁移到
其他节点,但它的宿主节点中总记录有进程的当前位置,它通过在Solaris核心层上面增
加一个全局进程以实现单一进程空间,每个节点有一个节点管理程序,每个本地进程有
一个虚拟进程对象vproc,vproc保留每个父进程和子进程的信息,实现了全局进程的管
理。
单一网络和I/O空间通过一致设备命名技术和单一网络技术实现。
6.4举例解释并比较以下有关机群作业管理系统的术语:
1)串行作业与并行作业;
2)批处理作业与交互式作业;
3)机群作业和外来作业;
4)专用模式、空间共享模式、时间共享模式:
5)独立调度与组调度。
答:
1)串行作业在单节点上运行,并行作业使用多个节点。
2)批处理作业通常需要较多的资源,如大量的内存和较长的CPU时间,但不需要迅速的
反应;交互式作业要求较快的周转时间,其输入输出直接指向终端设备,这些工作一般
不需要大量资源,用户期望它们迅速得到执行而不必放入队列中。
3)机群作业时通过使用JMS功能分布实现的用户作业,用户服务器位于任一主机节点,资
源管理器跨越所有的机群节点。外来作业在JMS之外生成的,如NOW上的一个工作站
拥有者启动的外部作业,它不提交给JMS。
4)专用模式:任一时候只有一个作业在机群上运行,任一时候也只有一个作业进程分配给
一个节点。空间共享模式:多个作业可以在不重叠的节点区域上运行。时间共享模式:
在专用模式和空间共享模式下,只有一个用户进程分配给一个节点,但是所有的系统进
程或监护程序仍在同一个节点上运行。
5)独立调度:各节点OS进行自己的调度,但这会显著损坏并行作业的性能,因为并行作
业的进程间需要交互。组调度:将并行作业的所有进程一起调度。一个进程激活时,所
有进程都被激活。
6.5针对LSF回答下列问题:
1)对LSF的四种作业类型各举一个例子;
2)举一个例子说明外来作业;
3)对一个有1000个服务器的机群,为什么LSF负载分配机制优于:1整个机群只有一个
L1M或者2所有LIM都是主机?说明原因。
答:
1)交互式:用户使用Ishosts命令就可以列出每个服务器节点的静态资源,实现交互。批处
理:Isbatch实用程序允许通过LSF提交、监控和执行批处理作业。串行:用户一旦进入
Istcshshell,发送的每条命令自动在最适合的节点上执行。并行:Ismake实用程序是UNIX
make实用程序时一个并行版本,允许在多个节点同时处理一个Makefile0
2)不通过LSF执行的称为外来作业。例如执行一些本地作业:字处理,web网络浏览等。
3)机群的服务器数目太多,如果只采用一个LIM会导致LIM的负责过重,不能及时的处
理响应所有服务器的请求和分派所有机群作业;如果采用2会导致LIM之间相互交换负
载信息过多,导致网络通信量过大。
6.6为什么在分布式文件系统中,UNIX语义难以实现?有哪些放松的文件共享语义?采用
放松的文件共享语义会有一些什么缺点?
答:
在UNIX语义中,一个修改过的块应该立刻被所有其他应用程序见到。然而分布式的文件系
统中,多个节点可能存放了同一文件块的拷贝,当其中一个节点修改文件可的拷贝时.,其他
节点不能立刻就知道,这就使得UNIX语义难以实现。放松的文件共享语义有:对话语义、
类事物语义、不可改变的共享文件语义等。采用放松的文件共享语义要求应用程序员修改程
序代码,以适用这种新的语义,这就增加了程序员的负担。
6.7试解释在机群并行文件系统中,为什么采用软件RAID、高速缓存机制和预取能够提高
文件系统性能。
答:
软件RAID是文件系统负责分布数据和维护容错级别,能够和RA1D5有一样的性能,实现
机群磁盘间的数据分布,提高了I/O系统的传输带宽。高速缓存是将应用程序要取的块放在
CACHE中,根据局部性原理,应用程序可以基本上从CACHE中读取数据块,而不要通过
读取内存或硬盘,提高了读取速度。预取是在真正读取数据块之前就将这些数据块读入内存,
这也提高了I/O性能,改善了文件系统性能。
6.8讨论并行文件系统协作化高速缓存的基本技术前提是什么?这个前提有什么意义?
答:
基本技术前提是互联网络的速度很快,一个节点需要的文件块在其他节点的缓存中,那么就
不需要从磁盘读,而是直接从其他节点的缓存中读出。这个前提的意义是可以提高系统的性
能,使得节点间的协作化缓存变得更有意义。
6.9回答以下关于BerkeleyNOW项目的问题:
1)BerkeleyNOW项目支持单一系统映像的哪几个方面?即单入口点、单文件层次结构、单
控制点、单存储空间、单进程空间哪个的哪几项?并解释如何支持。
2)解释BerkeleyNOW项目用来提高性能的四个结构特征。
3)解释BerkeleyNOW项目和SP机群四个体系结构的差异,并讨论各自的优点。
答:
1)通过用户级整个机群软件GLUNIX,提供单一系统映像。开发了一种新的无服务器网络
文件系统xFS,以支持单一文件层次结构。
2)主动消息通信协议,支持有效的通信;机群软件GLUNIX提供单一的系统映像、资源管
理和可用性;xFS支持可扩放性和单一文件层次结构的高可用性;软件框架WebOS构
筑高可用性、渐增可扩放性。
3)SP机群的体系结构特征:每个节点都是RS/600工作站,并有自己的局部磁盘;每个节
点内驻留一个完整的AIX;各节点通过其I/O总线连接到专门设计的多级高速网络;尽
量使用标准工作站部件。这样的优点是简单性和灵活性。
6.10考虑xFS,并回答下列问题:
1)解释xFS和集中式文件服务器的两个不同点,并讨论各自的优点;
2)解释xFS用来提高可用性的主要技术;
3)解释xFS用来减轻小一写问题的主要技术。
答:
1)无服务器文件系统xFS将文件服务的功能分布到机器的所有节点上,xFS中所有的服务
器和客户的功能由分散的所有节点实现之。这与集中文件服务器的中央存储、中央缓存、
中央管理不同。xFS的优点是采用分布式管理和协同文件缓存以及冗余磁盘阵列,这提
高了系统的可用性以及I/O的性能和吞吐量。集中式文件服务器会减少缓存的不一致性,
管理简单。
2)xFS提高可用性的主要技术是采用廉价冗余磁盘阵列RAID。无工作站文件系统能用来
生成软件RAID,以提高性能和高可用性。现在xFS使用单奇偶校验磁盘条。一个文件
数据块在多个存储服务器节点上按条划分,在另一个节点上有奇偶校验块。如果一个节
点失效,失效磁盘的内容,可利用其余盘和奇偶盘之异或操作重建之。
3)xFS使用日志条的方法解决小一写问题:每个用户首先将写接合到各用户的日志上;然
后此日志采用日志段提交给磁盘,每个段系由K-1个日志片组成,它与奇偶校验片以道
送给K个存储服务器。
第七章分布式共享存储系统
7.1什么是分布式共享存储系统,它相对于共享存储系统与分布式系统有哪些优点?
答:分布式共享存储系统,是把共享存储器分成许多模块并分布于各处理机之中。分布式系
统中采用消息传递通信,性能提高了,但多地址空间不利于程序员编程。共享存储系统支持
传统的单地址空间,但共享必然引起冲突,形成瓶颈,于是分布式共享存储系统结合两者的
优点。
7.2释放一致性模型(RC)把处理器一致性(PC)和弱一致性模型(WC)的优点结合在一起了。
试回答下面有关这些一致性模型的问题:
a)比较这三种一致性模型的实现要求。
b)评论每种一致性模型的优缺点。
答:a)处理器一致性要求:①在任一取数操作LOAD允许被执行之前,所有在同一处理器中
先于这一LOAD的取数操作都已完成;②在任一存数操作STORE允许执行之前,所有在同一
处理器中先于这一STORE的访存操作(包括取数操作和存数操作)都己完成。弱一致性模
型要求:①同步操作的执行满足顺序一致性条件:②在任一普通访存操作允许被执行之前,
所有在同一处理器中先于这一访存操作的同步操作都已完成;③在任一同步操作允许被执行
之前,所有在同一处理器中先于这一同步操作的普通访存操作都已完成。释放一致性模型要
求:①在任一普通访存操作允许被执行之前,所有在同一处理器中先于这一访存操作的获取
操作acquire都已完成;②在任一释放操作release允许被执行之前,所有在同一处理器中先于
这一release的普通访存操作都已完成;③同步操作的执行满足顺序一致性条件。
b)三种模型对存储顺序要求逐渐降低,可优化程度逐渐增加,但是对程序员的要求也越
来越高,所以释放性一致性是性能与复杂度的折中。
7.3在DSM系统的顺序一致性存储模型下,有三个并行执行的进程如下所示,试问001110
是不是一个合法的输出?并加以解释。
PlP2P3
A=l;B=l;C=l;
Print(b,c);Print(a,c);Print(a,b);
答:不是一个合法输出。考虑顺序一致性存储模型,每个进程的程序序会被维护,那么无论
哪个进程最后执行Print语句,则之前的A=l,B=1,C=1都已经完成,所以输出的两后两项
必为11,所以001110不是合法输出。
7.4试分类下面来自三个处理器的引用流的高速缓存缺失。假设每一个处理器的高速缓存只
有一个4个字的高速缓存行,字W0到W3、W4到W7分别处于同一个高速缓存行。
如果一行有多个引用,我们假设P1在P2之前发射、P2在P3之前发射内存引用,符号
LD/STWi表示LOAD/STORE字i。
操作序号P1P2P3
1STW0STW7
2LDW6LDW2
3LDW7
4LDW2LDWO
5STW2
6LDW2
7STW2LDW5LDW5
8STW5
9LDW3LDW7
10LDW6LDW2
11LDW2STW7
12LDW7
13LDW2
14LDW5
15LDW2
答:操作序号3、6、8、12-15都是单操作。操作序号1、2、9-11为无关存储操作,由于不
在同一块中。操作序号4、7为对同一缓存块的连续两次LD,需要按序进行。
7.5假设系统中共有512个处理器和1GB主存,每个节点内有8个处理器对目录可见,一个
高速缓存行的大小为64字节,那么在(a)满位向量方案和(b)DnB(i=3)模型下目录的存储成
本各是多少?
答:分别为总容量的12.%和5.47%。
7.6细数一下中心目录与分布式目录方案的实现方法与各自的使用情况。
答:中心目录是用一个中心目录存放所有高速缓存目录的拷贝,中心目录能提供为保证一致
性所需要的全部信息。因此,其容量非常大且必须采用联想方法进行检索,这和单个高速缓
存的目录类似。大型多处理机系统采用中心目录会有冲突和检索时间过长两个跳点。
分布式目录方案是由Censier和Feautrier提出来。在分布式目录中每个存储器模块维护
各自的目录,目录中记录着每个存储器块的状态和当前的信息,其中状态信息是本地的,而
当前信息指明哪些高速缓存中有该存储器块的拷贝。
一般来说,在共享存储上实现中心目录,而在分布式系统上实现分布式目录方案更为合
适一些,但这也并不是绝对的。
7.7在研究DS
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
评论
0/150
提交评论