计算机组成与结构课件 第9章 流水线技术

第9章流水线技术第9章流水线技术9.1

流水线的工作原理9.2流水线的相关问题及其处理9.3流水线的冲突问题及其处理（自学）9.4向量的流水处理机（自学）9.5超标题流水处理机（自学）9.1流水线的工作原理9.1.1指令解释的一次重叠方式取指令是根据指令计数器PC的内容访主存，将指令送入指令寄存器IR的过程取指令分析执行t分析指令是对指令的操作码进行译码，按寻址方式和地址字段形成操作数的有效地址，并根据该地址取得操作数的过程。执行指令是对操作数进行运算、处理或存储的过程。指令的顺序解释与重叠解释优点：控制简单；缺点：速度低，硬件利用率低优点：虽然单条指令的执行速度并没有提高，但硬件利用率提高；缺点：控制复杂重叠分析k和取指k+1的实现方法方法1：让操作数和指令分别存放在两个独立编址且可同时访问的存储器中。方法2：指令和操作数混存，但采用多体交叉主存结构，保证相邻两条指令不同在一个存储体中。方法3：增设指令队列（即指令缓冲器），实现指令预取。重叠执行k和分析k+1的实现方法1.硬件部件设置独立的指令分析部件和指令执行部件，分析部件拥有单独的地址加法器用于地址计算，执行部件拥有单独的加法器实现算逻运算。2.同步控制由于“分析”和“执行”所需时间不同，因此必须保证同步一次重叠工作方式指令分析部件和指令执行部件任何时候都只有相邻两条指令在重叠解释的方式称为“一次重叠”。其优点：控制简单，节省硬件当第k条指令是条件转移时在重叠方式下的条件转移引发的问题9.1.2指令解释的流水方式1.什么是流水线？9.1.2指令解释的流水方式流水处理2.流水线中的时空图3.流水和重叠的区别“一次重叠”把指令的解释过程分解成“分析”和“执行”两个子过程，流水则分成更多个子过程。“一次重叠”同时解释两条指令，流水可同时解释多条指令。流水每个子过程经过的时间Δt越小，流水线的最大吞吐率就越高9.1.3流水线的分类处理机间的流水处理部件级处理机级系统级单功能流水线：只能实现单一功能的流水。多功能流水线：同一流水线的各个段之间有多种不同的联接方式，以实现多种不同功能。ASC机运算器的流水线静态流水线：在某一时间内各段只能按一种功能连接流水，只有等流水线全部完成后，才能切换成按另一种功能流水。动态流水线：在同一段时间内，多功能流水线中的各段可以按照不同方式连接，同时执行多种功能。这种同时实现多种连接方式是有条件的，即流水线中的各个功能部件之间不能发生冲突非线性流水线举例线性流水：流水线各段串行联接，各段只经过一次，没有反馈回路。非线性流水：流水线中存在反馈回路，使任务流水线需多次经过某个段或越过某个段。9.1.4流水线处理机的主要性能吞吐率吞吐率是流水线单位时间里能流出的任务数或结果数。各个子过程经过的时间都是Δt2，满负荷后，流水线每隔Δt2解释完一条指令，其最大吞吐率TPmax为1/Δt2。

实际上，各个子过程进行的工作不相同，所经过的时间也就不一定相同。显然，同步时钟脉冲周期直接影响流水线的最大吞吐率，总希望它越小越好。如果各个子过程所需的时间分别为Δt1、Δt2、Δt3、Δt4，时钟周期应当为max｛Δt1,Δt2,Δt3,Δt4｝，即流水线的最大吞吐率

它受限于流水线中最慢子过程所需要的时间。称流水线中经过时间最长的子过程为瓶颈子过程。最大吞吐率取决于瓶颈段的时间瓶颈子过程再细分消除瓶颈的一种方法就是将瓶颈子过程再细分。瓶颈子过程并联消除瓶颈的第二种方法就是将通过重复设置多套瓶颈段并联，让它们交叉并行。此方法适合子过程不能细分的场合。缺点是控制复杂，需要更多的设备。

设一m段流水线的各段经过时间均为Δt0，则第1条指令从流入到流出需要T0=mΔt0的流水建立时间，之后每隔Δt0就可以流出一条指令。这样，完成n个任务的解释共需时间T=m·Δt0+(n-1)Δt0。在这段时间里，流水线的实际吞吐率从时—空图分析实际的吞吐率

2.效率

流水线的效率是指流水线中的设备实际使用时间占整个运行时间之比，也称流水线设备的时间利用率。由于流水线存在有建立时间和排空时间(最后一个任务流入到流出的时间)，在连续完成n个任务的时间里，各段并不总是满负荷工作的。如果是线性流水线，且各段经过时间相同，则在T时间里，流水线各段的效率都相同，均为η0，即整个流水线的效率式中，分母m·T是时—空图中m个段和流水总时间T所围成的总面积，分子m·nΔt0则是时—空图中n个任务实际占用的总面积。因此，从时—空图上看，效率实际上就是n个任务占用的时—空区面积和m个段总的时—空区面积之比。显然，与吞吐率类似，只有当n>>m时，η才趋近于1。同时还可看出，对于线性流水且每段经过时间相等时，流水线的效率是正比于吞吐率的，即

对于复杂的非线性流水线，实际的吞吐率TP和效率η需要通过画出实际工作时的时—空图，才能分别用下列两个式子求得：图5.23流水线工作举例3.流水线工作举例设A和B向量各有4个元素，计算A·B=

加法流水乘法流水实际吞吐率=7/(15Δt)效率=24

Δt

/(5×15Δt)=32%9.2流水线的相关问题及其处理1.指令相关①如果规定在程序运行过程中不准修改指令，指令相关就不可能发生。不准修改指令还可以实现程序的可再入和程序的递归调用。②为满足程序设计灵活性的需要，在程序运行过程中有时希望修改指令，这时可设置一条“执行”指令来解决。IBM370“执行”指令的执行被修改的指令以“执行”指令的操作数形式出现，从而将指令相关转化成数相关。2.主存相关主存数相关的处理主存空间数相关是指相邻两条指令之间出现对主存同一单元要求先写后读的关联。解决方法：由存控给读数和写数申请安排不同的访存优先级，推后读数操作。

3.通用寄存器组相关的处理设机器的基本指令格式为操作码L1L3B2d2或操作码L1L3L2L1、L2、L3是第1、2个操作数和结果数的通用寄存器号。B2是基址值所在的通用寄存器号，d2是相对位移量。指令解释过程中与通用寄存器内容有关的微操作时间关系“执行k”、“分析k+1”重叠时，访问通用寄存器组的时间关系用相关专用通路解决通用寄存器组的数相关9.2.3非线性流水线的调度1.非线性流水线的表示使用各流水段之间的连接图和一张预约表预约表例9-4本章总结流水线技术在现代计算机设计