组成原理课程第七章(2011版)

1、第七章第七章 流水线流水线计算机组成原理计算机组成原理2 本章知识点本章知识点7.1 7.1 流水线的基本概念和分类流水线的基本概念和分类7.2 7.2 流水线的性能分析流水线的性能分析7.3 7.3 流水线中的相关和冲突问题流水线中的相关和冲突问题计算机组成原理计算机组成原理31.流水线的基本概念流水线的基本概念1)1)实例实例：7.1 流水线的基本概念和分类流水线的基本概念和分类计算机组成原理计算机组成原理4计算机组成原理计算机组成原理5计算机组成原理计算机组成原理62)2)流水线的基本概念流水线的基本概念 流水线方式是把一个复杂的过程分解为若干个子过程，每个子过程流水线方式是把一个复杂的

2、过程分解为若干个子过程，每个子过程与其他子过程同时进行。与其他子过程同时进行。 入 求阶差 对阶 尾数加 规格化 出以下是一个浮点加法器的以下是一个浮点加法器的4 4级流水线，它将浮点加法的全过程分解为级流水线，它将浮点加法的全过程分解为求阶差，对阶，尾数加和规格化求阶差，对阶，尾数加和规格化4 4个子过程，如下图所示：个子过程，如下图所示：计算机组成原理计算机组成原理72.流水线的表示方法流水线的表示方法-时空图时空图 横坐标表示时间，即输入到流水线中各任务在流水线中所经历的时间；横坐标表示时间，即输入到流水线中各任务在流水线中所经历的时间； 纵坐标表示空间，即流水线的各个部件。纵坐标表示空

3、间，即流水线的各个部件。指令分析器指令分析器指令执行器指令执行器空间空间时间时间分析分析K K分析分析K+1K+1分析分析K+2K+2分析分析K+3K+3执行执行K K执行执行K+1K+1执行执行K+2K+2计算机组成原理计算机组成原理83.3.流水线的分类流水线的分类1)1)线性流水线和非线性流水线线性流水线和非线性流水线线性流水线是将流水线的各个段逐个串接起来。线性流水线是将流水线的各个段逐个串接起来。非线性流水线除了有串行的连接外，还有反馈电路。非线性流水线除了有串行的连接外，还有反馈电路。计算机组成原理计算机组成原理2)2)单功能流水线与多功能流水线单功能流水线与多功能流水线 单功能流

4、水线单功能流水线: :各段之间的连接固定，完成固定的功能各段之间的连接固定，完成固定的功能 多功能流水线多功能流水线: :各段在不同的时间或同一时间里按照不同的连接方各段在不同的时间或同一时间里按照不同的连接方式可以实现两种或两种以上的不同的功能式可以实现两种或两种以上的不同的功能 计算机组成原理计算机组成原理103)3)静态静态流水线与流水线与动态动态能流水线能流水线 ( (对多功能流水线对多功能流水线) ) 静态流水线静态流水线同一时间内，各段之间只能按照一种固定的方式连接，只有当前一功能的任同一时间内，各段之间只能按照一种固定的方式连接，只有当前一功能的任务全部流出流水线后，才能切换到另

5、外一种功能；务全部流出流水线后，才能切换到另外一种功能； 动态流水线动态流水线同一时间内，多功能流水线中的各段可以按照不同的方式进行连接，同时执同一时间内，多功能流水线中的各段可以按照不同的方式进行连接，同时执行多种不同的功能，但任何一个功能段在同一时间仅能连接到执行一种功能行多种不同的功能，但任何一个功能段在同一时间仅能连接到执行一种功能的流水线中的流水线中 。计算机组成原理计算机组成原理4)4)顺序流水线和乱序流水线顺序流水线和乱序流水线 顺序流水线顺序流水线: : 指任务输入到流水线的顺序与从流水线中输出的顺序完全一致指任务输入到流水线的顺序与从流水线中输出的顺序完全一致; ; 乱序流水

6、线乱序流水线: : 任务输入到流水线的顺序与从流水线中输出的顺序可以不同任务输入到流水线的顺序与从流水线中输出的顺序可以不同; ; 5)5)功能部件级、处理机级及系统级流水线功能部件级、处理机级及系统级流水线 功能部件级流水线功能部件级流水线( (运算操作流水线运算操作流水线):):把复杂的算术运算操作按流水把复杂的算术运算操作按流水的方式执行，如浮点加运算被分为求阶差、对阶、尾数加和规格化；的方式执行，如浮点加运算被分为求阶差、对阶、尾数加和规格化； 处理机级流水线处理机级流水线( (指令流水线指令流水线):):把一条指令的执行过程分解为若干个把一条指令的执行过程分解为若干个子过程，每个子过

7、程在独立的功能部件中执行；子过程，每个子过程在独立的功能部件中执行； 系统级流水线系统级流水线( (宏流水线宏流水线):):把多台处理机串接起来，对同一数据流进把多台处理机串接起来，对同一数据流进行处理，每台处理机完成整个任务的一部分。前一台处理机的输出结行处理，每台处理机完成整个任务的一部分。前一台处理机的输出结果作为后一台处理机的输入。果作为后一台处理机的输入。计算机组成原理计算机组成原理 7.2 7.2 线性流水线的性能分析线性流水线的性能分析 1.1. 吞吐率吞吐率: : 单位时间内流水线所完成的任务数量或输出的结果数量。单位时间内流水线所完成的任务数量或输出的结果数量。1213214

8、321434234N-1NN-1NN-1NN-1N时间tS1S2S3S4K*D t(N-1)*D tTkN*D t(K-1)*D t12计算机组成原理计算机组成原理13 (1)(1)流水线各段执行时间相等，流水线产生流水线各段执行时间相等，流水线产生n n个结果所需要的时间：个结果所需要的时间：(1)kTknt-D(1 )nT Pknt-D则吞吐率为则吞吐率为: :m a x1(1 )nnT PL imtknt D-D最大吞吐率：最大吞吐率：计算机组成原理计算机组成原理(2)(2)流水线各段的执行时间不等流水线各段的执行时间不等111(1)max(,)kikiTPtntttnD -DDD实际吞

9、吐率实际吞吐率: :11maxmax(,)1kTPtttDDD最大吞吐率最大吞吐率: :计算机组成原理计算机组成原理15 “瓶颈瓶颈”问题及其解决方法问题及其解决方法S1S2S3S4t3ttt计算机组成原理计算机组成原理16 0kTSTm a x*(1 )nknSL imkkn -2.2.加速比加速比不使用流水线所用的时间与使用流水线所用的时间之比，即不使用流水线所用的时间与使用流水线所用的时间之比，即：*(1)1kntknSkntknD-D-实际加速比：实际加速比：最大加速比：最大加速比：计算机组成原理计算机组成原理17 3.3.效率效率: : 流水线各段的利用率流水线各段的利用率*(1)1

10、kntnEkkntknD-D-max11nnELimkn-E E= =n n个任务占用的时空区个任务占用的时空区K K个流水段的总的时空区个流水段的总的时空区计算机组成原理计算机组成原理18 4.4.实例分析实例分析例例1. 1. 用一条用一条4 4段浮点加法器流水线计算段浮点加法器流水线计算 Z=A+B+C+D+E+F+G+HZ=A+B+C+D+E+F+G+H，求流水，求流水线的吞吐率，加速比和效率。线的吞吐率，加速比和效率。 A B C D E F G H+ +分析：已知上表达式，有相关，单功能，分析：已知上表达式，有相关，单功能，k = 4k = 4，n = 7n = 7。要求最少相。要

11、求最少相关，用关，用“二叉树算法二叉树算法”以减少相关。以减少相关。计算机组成原理计算机组成原理19 312132143214423455556666空间空间规格化规格化尾数加尾数加对阶对阶求阶差求阶差时间时间t t1 2 3 4 5 6 7 8 9 10 11 12 13 14 157777TP=N/TTP=N/Tk k=7/15T=0.47/T=7/15T=0.47/TS=TS=T0 0/T/Tk k=4=4* *7T/15T=1.877T/15T=1.87E=TE=T0 0/(K/(K* *T Tk k)=4)=4* *7T/(47T/(4* *15T)=0.4715T)=0.47 A

12、B C D E F G H+ +计算机组成原理计算机组成原理201.51.5段段MIPSMIPS指令流水线指令流水线7.3 7.3 线性流水线的相关和冲突线性流水线的相关和冲突 1)1)取指令周期（取指令周期（IFIF）2)2)指令译码指令译码/ /读寄存器周期（读寄存器周期（IDID） 3)3)执行执行/ /有效地址计算周期（有效地址计算周期（EXEX）4 4) )存储器访问存储器访问/ /分支完成周期（分支完成周期（MEMMEM）5 5) )写回周期（写回周期（WBWB）计算机组成原理计算机组成原理21流水线的另外一种描述方法：数据通路图流水线的另外一种描述方法：数据通路图计算机组成原理计

13、算机组成原理2.2.流水线的相关和冲突流水线的相关和冲突1)1)相关的概念相关的概念流水线中的相关是指相邻或相近的两条指令因存在某种关联，后一条流水线中的相关是指相邻或相近的两条指令因存在某种关联，后一条指令不能在原指定的时钟周期开始执行指令不能在原指定的时钟周期开始执行。 结构相关结构相关: : 硬件资源满足不了同时重叠执行的指令的要求发生资源冲突硬件资源满足不了同时重叠执行的指令的要求发生资源冲突 数据相关数据相关 : : 一条指令需要用到前面某指令的结果而不能重叠执行一条指令需要用到前面某指令的结果而不能重叠执行 控制相关控制相关: : 流水线遇到分支指令和其他能够改变流水线遇到分支指令

14、和其他能够改变PCPC值的指令时值的指令时2)2)相关的分类相关的分类22计算机组成原理计算机组成原理23 结构相关举例：访存冲突结构相关举例：访存冲突当数据和指令存在同一存储器中时，访存指令会导致访存冲突。当数据和指令存在同一存储器中时，访存指令会导致访存冲突。解决办法：解决办法： 插入暂停周期插入暂停周期-“流水线气泡流水线气泡”或或“气泡气泡”）计算机组成原理计算机组成原理24为消除结构冲突而插入的气泡流水线为消除结构冲突而插入的气泡流水线计算机组成原理计算机组成原理25当指令在流水线中重叠执行时，流水线有可能改变指令读当指令在流水线中重叠执行时，流水线有可能改变指令读/ /写操作数的写操作数的顺序，使之不同于它们在非流水实现时的顺序，并导致数据相关。顺序，使之不同于它们在非流水实现时的顺序，并导致数据相关。计算机组成原理计算机组成原理 数据相关举例：数据相关举例：计算机组成原理计算机组成原理27 控制相关举例控制相关举例当流水线遇到分支指令或其它会改变当流水线遇到分支指令或其它会改变PCPC值的指令时，由于分支指令跳值的指令时，由于分支指令跳转是否成功或改变后的转是否成功或改变后的PCPC值要等到存储器访问值要等到存储器访