流水线性能指标课件

一、吞吐率（TP,Thoughputrate）

二、加速比（S，Speedupratio）

三、效率(E，Efficiency)

四、吞吐率、加速比和效率之间的关系五、流水线最佳段数的选择第三节线性流水线的性能分析第三节线性流水线的性能分析一、吞吐率（TP,Thoughputrate）

1.吞吐率的定义流水线的吞吐率是指在单位时间内流水线所完成的任务数量或输出的结果数量。即：

TP=n/Tk

式中：n为任务数，Tk是处理完成n个任务所用的时间，（3.1）式是计算流水线吞吐率最基本公式。

一、吞吐率（TP,Thoughputrate）2.流水线各段的执行时间相等的吞吐率若有一条k段的线性流水线，各段的执行时间相等，均为△t。当n个任务是连续的理想情况下输入到流水线，流水线的时空图如图所示。空间

S4123…n-1nS3123…n-1nS2123…n-1nS1123…n-1n时间

k·△t（n-1）△tn·△t（k-1）△tTk各段执行时间均相等的流水线时空图

2.流水线各段的执行时间相等的吞吐率空间各段执行时

流水线完成n个任务所需要的总时间可从两方面来分析。一是从流水线的输出端看，用k个△t输出第一任务，即k·△t为“装入时间”，其余n-1个任务，每个△t输出一个任务，即用n-1个时期周期输出n-1个任务。二是从流水线的输入端看，用n个△t向流水线输入n个任务，另外还要用k-1个△t作为流水线的“排空时间”。因此，流水线完成n个任务需要的总时间为：

Tk=（n+k-1）·△t

代入式得到流水线各段时间均相等，连续输入n个任务的一条k段线性流水线的实际吞吐率为：

n TP=

（n+k-1）·△t

流水线完成n个任务所需要的总时间可从两方面来分析。一是

3.流水线各段的执行时间不相等的吞吐率若有一条k段的线性流水线，各段的执行时间不相等，且分别为△t1、△t2、…、△tk，即流水线中存在“瓶颈”流水段，连接图如图3.16所示，相应的时空图如图3.17所示。那么，除第一个任务外，其余（n-1）个任务必须按“瓶颈”流水段的时间间隔max｛△t1、△t2、…、△tk｝连续流入流水线。因此，流水线存在“瓶颈”流水段时，连续输入n个任务的一条k段线性流水线的实际吞吐率为：S2S1S4S3输入输出△t3△t△t△t3.流水线各段的执行时间不相等的吞吐率S2S1S4S3输123…n123…

n123

…n123…

nS4S3S2S1时间(n-1)△t2Tk12流水线性能指标课件

4.流水线“瓶颈”问题的两种解决方法（1）分离“瓶颈”流水段将流水线的“瓶颈”功能段部分再细分，分解成几个独立的子功能段，消除执行时间不相等而带来的“瓶颈”段。例如，把图3.16所示的第二个流水段再细分为三个子流水段，分别为S2-1、S2-2和S2-3，如图所示。这样，每个流水段及子流水段的延迟时间均为△t。（2）重复设置“瓶颈”流水段如果由于结构等方面的原因，瓶颈流水段难以再细分，则可以通过重复设置瓶颈流水段，让多个瓶颈流水段并行工作，消除执行时间不相等而带来的“瓶颈”段。例如，把图所示的第二个流水段重复设置，流水线连接图如图所示。但是，采用瓶颈流水段重复设置的方法，其控制逻辑比较复杂。

4.流水线“瓶颈”问题的两种解决方法S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3S4S3S1S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3THANKYOUSUCCESS2022/10/2910可编辑THANKYOUSUCCESS2022/10/22123456789…n-2n-1n123456789…n-2n-1n147…n-2258…n-1

369…n123456789…n-2n-1n123456789

1.加速比的定义流水线的加速比是指完成同样一批任务，不使用流水线即顺序执行所用的时间与使用流水线所用的时间之比。如果不使用流水线所用的时间为T0，使用流水线的执行时间为Tk，则流水线的加速比为：S=T0/Tk

是计算流水线加速比的基本公式。二、加速比（S，Speedupratio）

2.流水线各段的执行时间相等的加速比1.加速比的定义二、加速比（S，Speeduprat3.流水线各段的执行时间不相等的加速比

流水线性能指标课件三、效率(E，Efficiency)

1.效率的定义流水线的效率是指流水线的设备利用率。在时空图上，流水线的效率定义为n个任务占用的时空区与k个流水段占用的总时空区之比。即：

E=n个任务占用的时空区/k个流水段占用的总时空区式是计算流水线效率的基本公式，其分母是n个任务所用的时间与k个流水段所围成的时空总面积，分子是n个任务实际上占用的有效时空面积。因此，流水线的效率包含时间和空间两方面的因素，通过时空图来计算流水线的效率非常方便。三、效率(E，Efficiency)1.效率的定义

2.流水线各段的执行时间相等的效率各段的执行时间相等，均为△t的k段的线性流水线，完成n个连续任务所需要的时间见式，每个功能段在这段时间内都被占用，则时空图的总面积为。一个任务占用的时空区为，n个任务实际占用的有效面积为各段的执行时间相等的流水线效率为：

相应的流水线的最大效率为：

从式中可以看出，当n＞＞k时，流水线的效率达到最大值1。这时，流水线的各段均处于忙碌状态。从时空图中看，每一块都是有效的。2.流水线各段的执行时间相等的效率。一个任务占用的时空

3.流水线各段的执行时间不相等的效率

3.流水线各段的执行时间不相等的效率四、吞吐率、加速比和效率之间的关系

说明流水线的效率是流水线实际加速比S与它的最大加速比Smax=k之比。只有当流水线的效率达到其最大值，即E=1时，才能使实际加速比达到最大，即S=k。

各段的执行时间不相等时，即流水线中存在“瓶颈”流水段，那么，除了瓶颈流水段一直处于忙碌状态之外，其他各个流水段都有空闲时间，这些流水段的效率没有得到充分发挥。因此，整个流水线的吞吐率、加速比和效率也比较低。采用两种提高流水线吞吐率的方法，由于能够使流水线中的各个流水段始终处于忙碌状态，没有空闲时间。因此，流水线的吞吐率、加速比和效率也就显著提高了。四、吞吐率、加速比和效率之间的关系说明流水线的效率是五、流水线最佳段数的选择假设在非流水线的机器上采用顺序执行方式完成一个任务所需要的时间为t，那么，在同等速度的有k段流水线的机器上执行一个任务需要的时间为：t/k+d，其中d为锁存器的延迟时间。流水线的最大吞吐率为：TP=1/(t/k+d)。又粗略地估计流水线的总价格为：C=a+bk。其中，a为所有流水段的总价格，b为每个锁存器的价格。流水线的性能价格比PCR定义为：k0=

目前,一般处理机中的流水线段数在2段至10段之间,极少有超过15段的流水线,一般把8段或超过8段的流水线称为超流水线。五、流水线最佳段数的选择假设在非流水线的机器上采用顺序执行方THANKYOUSUCCESS2022/10/2919可编辑THANKYOUSUCCESS2022/10/22一、吞吐率（TP,Thoughputrate）

二、加速比（S，Speedupratio）

三、效率(E，Efficiency)

四、吞吐率、加速比和效率之间的关系五、流水线最佳段数的选择第三节线性流水线的性能分析第三节线性流水线的性能分析一、吞吐率（TP,Thoughputrate）

1.吞吐率的定义流水线的吞吐率是指在单位时间内流水线所完成的任务数量或输出的结果数量。即：

TP=n/Tk

式中：n为任务数，Tk是处理完成n个任务所用的时间，（3.1）式是计算流水线吞吐率最基本公式。

一、吞吐率（TP,Thoughputrate）2.流水线各段的执行时间相等的吞吐率若有一条k段的线性流水线，各段的执行时间相等，均为△t。当n个任务是连续的理想情况下输入到流水线，流水线的时空图如图所示。空间

S4123…n-1nS3123…n-1nS2123…n-1nS1123…n-1n时间

k·△t（n-1）△tn·△t（k-1）△tTk各段执行时间均相等的流水线时空图

2.流水线各段的执行时间相等的吞吐率空间各段执行时

流水线完成n个任务所需要的总时间可从两方面来分析。一是从流水线的输出端看，用k个△t输出第一任务，即k·△t为“装入时间”，其余n-1个任务，每个△t输出一个任务，即用n-1个时期周期输出n-1个任务。二是从流水线的输入端看，用n个△t向流水线输入n个任务，另外还要用k-1个△t作为流水线的“排空时间”。因此，流水线完成n个任务需要的总时间为：

Tk=（n+k-1）·△t

代入式得到流水线各段时间均相等，连续输入n个任务的一条k段线性流水线的实际吞吐率为：

n TP=

（n+k-1）·△t

流水线完成n个任务所需要的总时间可从两方面来分析。一是

3.流水线各段的执行时间不相等的吞吐率若有一条k段的线性流水线，各段的执行时间不相等，且分别为△t1、△t2、…、△tk，即流水线中存在“瓶颈”流水段，连接图如图3.16所示，相应的时空图如图3.17所示。那么，除第一个任务外，其余（n-1）个任务必须按“瓶颈”流水段的时间间隔max｛△t1、△t2、…、△tk｝连续流入流水线。因此，流水线存在“瓶颈”流水段时，连续输入n个任务的一条k段线性流水线的实际吞吐率为：S2S1S4S3输入输出△t3△t△t△t3.流水线各段的执行时间不相等的吞吐率S2S1S4S3输123…n123…

n123

…n123…

nS4S3S2S1时间(n-1)△t2Tk12流水线性能指标课件

4.流水线“瓶颈”问题的两种解决方法（1）分离“瓶颈”流水段将流水线的“瓶颈”功能段部分再细分，分解成几个独立的子功能段，消除执行时间不相等而带来的“瓶颈”段。例如，把图3.16所示的第二个流水段再细分为三个子流水段，分别为S2-1、S2-2和S2-3，如图所示。这样，每个流水段及子流水段的延迟时间均为△t。（2）重复设置“瓶颈”流水段如果由于结构等方面的原因，瓶颈流水段难以再细分，则可以通过重复设置瓶颈流水段，让多个瓶颈流水段并行工作，消除执行时间不相等而带来的“瓶颈”段。例如，把图所示的第二个流水段重复设置，流水线连接图如图所示。但是，采用瓶颈流水段重复设置的方法，其控制逻辑比较复杂。

4.流水线“瓶颈”问题的两种解决方法S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3S4S3S1S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3THANKYOUSUCCESS2022/10/2929可编辑THANKYOUSUCCESS2022/10/22123456789…n-2n-1n123456789…n-2n-1n147…n-2258…n-1

369…n123456789…n-2n-1n123456789

1.加速比的定义流水线的加速比是指完成同样一批任务，不使用流水线即顺序执行所用的时间与使用流水线所用的时间之比。如果不使用流水线所用的时间为T0，使用流水线的执行时间为Tk，则流水线的加速比为：S=T0/Tk

是计算流水线加速比的基本公式。二、加速比（S，Speedupratio）

2.流水线各段的执行时间相等的加速比1.加速比的定义二、加速比（S，Speeduprat3.流水线各段的执行时间不相等的加速比

流水线性能指标课件三、效率(E，Efficiency)

1.效率的定义流水线的效率是指流水线的设备利用率。在时空图上，流水线的效率定义为n个任务占用的时空区与k个流水段占用的总时空区之比。即：

E=n个任务占用的时空区/k个流水段占用的总时空区式是计算流水线效率的基本公式，其分母是n个任务所用的时间与k个流水段所围成的时空总面积，分子是n个任务实际上占用的有效时空面积。因此，流水线的效率包含时间和空间两方面的因素，通过时空图来计算流水线的效率非常方便。三、效率(E，Efficiency)1.效率的定义

2.流水线各段的执行时间相等的效率各段的执行时间相等，均为△t的k段的线性流水线，完成n个连续任务所需要的时间见式，每个功能段在这段时间内都被占用，则时空图的总面积为