第5讲程序与处理器

1、清华大学清华大学电子工程系电子工程系 电子信息科学与技术导引电子信息科学与技术导引 程序程序与处理器与处理器 电子信息科学与技术知识体系电子信息科学与技术知识体系 2 大纲大纲 历史：计算与计算机历史：计算与计算机1 指令集体系结构指令集体系结构2 程序和程序设计语言程序和程序设计语言3 处理器的工作原理处理器的工作原理4 更快更强更快更强5 3 历史：计算与历史：计算与计算机计算机 以古为镜，可以知兴以古为镜，可以知兴替替 李世民李世民 你对以往知道的愈多，对未来就看得愈远你对以往知道的愈多，对未来就看得愈远 温斯顿温斯顿 丘吉尔丘吉尔 4 什么是计算什么是计算 将将3乘以乘以8（3x8）就

2、是一种简单的计算。数学中）就是一种简单的计算。数学中 的计算有加，减，乘，除，乘方，开方等的计算有加，减，乘，除，乘方，开方等 广义的计算包括逻辑推理，文法的产生式，函数，广义的计算包括逻辑推理，文法的产生式，函数， 组合数学的置换，变量代换，图形图像的变换，组合数学的置换，变量代换，图形图像的变换， 数理统计，人工智能解空间的遍历，问题求解，数理统计，人工智能解空间的遍历，问题求解， 图论的路径问题，网络安全，代数系统理论等图论的路径问题，网络安全，代数系统理论等 5 什么是计算什么是计算 工程中数字系统设计（例如逻辑代数），软件程工程中数字系统设计（例如逻辑代数），软件程 序设计（文法），

3、机器人设计，建筑设计等设计序设计（文法），机器人设计，建筑设计等设计 问题也可以称为计算问题也可以称为计算 经济生活中商品价格的评估也是一种复杂的计算经济生活中商品价格的评估也是一种复杂的计算 从投票意向评估出的选举结果（民意调查）也包从投票意向评估出的选举结果（民意调查）也包 含了计算，但是提供含了计算，但是提供的计算结果的计算结果是是“各种可能性各种可能性 的范围的范围”而不是单一的正确答案而不是单一的正确答案 计算是一种将单一或多个输入值转换为单一或多计算是一种将单一或多个输入值转换为单一或多 个结果的一种过程个结果的一种过程 6 什么是计算什么是计算 计算可以用简单的模型来表示计算可以

4、用简单的模型来表示 例如例如c=a+b，输入数据是，输入数据是a、b，输出数据，输出数据 是是c，运算器执行加法，运算器执行加法 运算器运算器 输入数输入数 据据 输出数输出数 据据 7 人类早期的计算工具人类早期的计算工具 计算程序储存在人的大脑中计算程序储存在人的大脑中 8 Blaise Pascal(1623-1662) 加法机加法机 (1642) 由一系列齿轮组成的纯机械设备。采用十进制运算，能完由一系列齿轮组成的纯机械设备。采用十进制运算，能完 成成8位十进制数的加法和减法运算位十进制数的加法和减法运算 计算程序体现在设备的机械结构中计算程序体现在设备的机械结构中 意义：揭示出用机器

5、代替人类进行计算意义：揭示出用机器代替人类进行计算，完全，完全可以可以做到做到 人类早期的计算工具人类早期的计算工具 9 进位问题：进位问题：采用了一种采用了一种 小爪子式的棘轮装置，小爪子式的棘轮装置， 当个位齿轮朝当个位齿轮朝9 9转动时，转动时， 棘爪便逐渐升高，一旦棘爪便逐渐升高，一旦 齿轮转到齿轮转到0 0，棘爪就跌落，棘爪就跌落 下来，推动十位数的齿下来，推动十位数的齿 轮前进一档轮前进一档 PascalPascal加法机的工作原理加法机的工作原理 人类早期的计算工具人类早期的计算工具 10 人类早期的计算工具人类早期的计算工具 Pascal加法机发明后的加法机发明后的300年间，

6、虽然出现年间，虽然出现 了了Leibniz计算器、计算器、 Babbage分析机等重分析机等重 要的机械计算机，但是发展速度十分缓慢要的机械计算机，但是发展速度十分缓慢 11 由四部分组成：存储部分、计算部分、输入部由四部分组成：存储部分、计算部分、输入部 分、输出部分分、输出部分 存储部分由存储部分由10001000个字组成，每个字为个字组成，每个字为5050位十进位十进 制数；计算部分从存储部分接收操作数，进行制数；计算部分从存储部分接收操作数，进行 加减乘除运算，并将结果存回到存储器；输入加减乘除运算，并将结果存回到存储器；输入 部分从穿孔卡片读取指令；输出部分将计算结部分从穿孔卡片读取

7、指令；输出部分将计算结 果穿孔在卡片上果穿孔在卡片上 分析机分析机(Analytical Engine) (1837)(Analytical Engine) (1837) 历史上的第一台通用计算机历史上的第一台通用计算机 分析机分析机 12 分析机的设计思想与现代分析机的设计思想与现代CPUCPU的的 存储程序原理十分相似，而且程存储程序原理十分相似，而且程 序可以根据条件进行跳转，能在序可以根据条件进行跳转，能在 几秒内做出一般的加法，几分钟几秒内做出一般的加法，几分钟 内做出乘、除法。内做出乘、除法。 不幸的是，分析机的硬件问题一不幸的是，分析机的硬件问题一 直没有解决，原因是直没有解决，

8、原因是1919世纪的世纪的 技术条件无法制造出分析机所需技术条件无法制造出分析机所需 要的成千上万个高精度的齿轮要的成千上万个高精度的齿轮 Charles Babbage Babbage的思 想远远超过了 他的时代 分析机分析机 13 作为通用计算机，分析机在运行时需要软件，作为通用计算机，分析机在运行时需要软件， AdaAda成为人类历史上的第一名程序员成为人类历史上的第一名程序员 现代程序设计语言现代程序设计语言AdaAda就是为纪念她而命名的就是为纪念她而命名的 软件软件 Ada Lovelace(1815-1852) 14 ENIAC 1946年年, ENIAC在美在美 国宾夕法尼亚大

9、学国宾夕法尼亚大学 研制成功，这是世研制成功，这是世 界上第一台现代意界上第一台现代意 义的通用电子计算义的通用电子计算 机机 15 ENIAC 装有装有18,000个电子管，个电子管， 总重量达总重量达30吨，功耗吨，功耗 140kw 有有20个寄存器，每个能个寄存器，每个能 存放存放10位的十进制数，位的十进制数， 运算速度为每秒运算速度为每秒5000次次 加法加法 通过设置分布在各处的通过设置分布在各处的 6000个开关和众多的插个开关和众多的插 头与插座来编程头与插座来编程 16 ENIAC 为为ENIAC编写的编写的“程序程序” 17 电子计算机怎么计算？电子计算机怎么计算？ 作为计

10、算基础的二进制加法 18 更复杂的计算更复杂的计算 假如我们要计算a+bc： ENIAC就是这么做的 加法器 乘法器 b a+b c c a b c 19 如果我们要算另外一道题？如果我们要算另外一道题？ vab-cd v我们就必须重新构造这台计算机 v怎么办？ 20 大纲大纲 历史：计算与计算机历史：计算与计算机1 指令集体系结构指令集体系结构2 程序和程序设计语言程序和程序设计语言3 处理器的工作原理处理器的工作原理4 更快更强更快更强5 21 通用计算机模型通用计算机模型 人类天生具备大局观，最擅长从大到小，人类天生具备大局观，最擅长从大到小， 由表及里的分析问题由表及里的分析问题 能够

11、区分各种行业；深入行业后就以内行方式能够区分各种行业；深入行业后就以内行方式 看门道；最终发现所有的工作都是由最简单看门道；最终发现所有的工作都是由最简单的的 步骤组成，所有步骤组成，所有的物品都是的物品都是由最简单由最简单的部件组的部件组 成成 计算也是如此计算也是如此任何复杂的计算都是由任何复杂的计算都是由 简单的基本计算组合而成的简单的基本计算组合而成的 22 通用计算机模型通用计算机模型 我们换一种方法来计算我们换一种方法来计算a+bc： 第一步：第一步：Temp = bc 第二步：第二步：Result=a+temp 于是我们就可以：于是我们就可以： 当我们需要算另外一道题时，只要将这

12、个过程进当我们需要算另外一道题时，只要将这个过程进 行修改即可行修改即可 a b c 乘法器 temp 第一步 a temp 加法器 result 第二步 23 现代计算机组成现代计算机组成 主机系统主机系统 CPU 存储器存储器 输出输出 设备设备 输入输入 设备设备 运算器运算器 控制器控制器 数据数据通通路 路 控制信号控制信号 24 运算器运算器算术逻辑单元算术逻辑单元 实现基本计算的电路（如加法器、乘法器实现基本计算的电路（如加法器、乘法器 等）可以组合在一起，称为算术逻辑单元等）可以组合在一起，称为算术逻辑单元 ALU 25 存储器存储器 复杂的计算需要大量的输入数据和输出数复杂的

13、计算需要大量的输入数据和输出数 据，因此我们需要一个存储器将其存起来据，因此我们需要一个存储器将其存起来 26 控制器控制器 除了存储器和运算器，还需要一个控制器除了存储器和运算器，还需要一个控制器 控制器控制着将存储器中的数据送到运算控制器控制着将存储器中的数据送到运算 器器(ALU)中进行计算，然后将结果存回到存中进行计算，然后将结果存回到存 储器中储器中 指示输入数据存在何处，做什么运算，结指示输入数据存在何处，做什么运算，结 果存到何处的控制命令称为果存到何处的控制命令称为指令指令 27 控制器控制器 组合逻辑电路与时序电路组合逻辑电路与时序电路 分步进行的程序需要时序逻辑分步进行的程

14、序需要时序逻辑 实现机制实现机制 寄存器堆 算术逻辑部件 AB 控制器 程序 28 输入设备输入设备 return 0; package test.hello; class Hello public static void main(String args) System.out.println(“Hello, world!”); using namespace std; int main() cout Hello, world! endl; return 0; print Hello, world! 53 高级语言高级语言 不同的高级语言具有不同的语法和风格，不同的高级语言具有不同的语法和风

15、格， 适合于不同的应用领域适合于不同的应用领域 高级语言同样不能被计算机所直接执行，高级语言同样不能被计算机所直接执行， 必须通过一个中间过程，可行的中间过程必须通过一个中间过程，可行的中间过程 有编译和解释两种有编译和解释两种 编译（编译（Compile）：一次翻译，重复运行，效）：一次翻译，重复运行，效 率更高率更高 解释（解释（Interpret）：随执行随翻译，更灵活）：随执行随翻译，更灵活 54 大纲大纲 历史：计算与计算机历史：计算与计算机1 指令集体系结构指令集体系结构2 程序和程序设计语言程序和程序设计语言3 处理器的工作原理处理器的工作原理4 更快更强更快更强5 55 处理器

16、处理器 处理器处理器是计算机的核心，它执行算术运算、是计算机的核心，它执行算术运算、 逻辑判断、控制存储器访问、以及激活逻辑判断、控制存储器访问、以及激活I/O 设备等操作设备等操作 处理器包含两个主要的组成部分：处理器包含两个主要的组成部分： 数据通路数据通路 控制器控制器 56 数据通路数据通路 数据通路有两种设计方法：专用通路、总数据通路有两种设计方法：专用通路、总 线线 专用通路是源部件和目标部件之间传送数专用通路是源部件和目标部件之间传送数 据的一组专用信号线据的一组专用信号线 总线总线(bus)是多个源部件和多个目标部件之是多个源部件和多个目标部件之 间按间按分时分时复用的方式传送

17、数据的复用的方式传送数据的一组一组公用公用 信号线信号线 57 控制器控制器 提供控制信号，指挥和控制计算机所有部提供控制信号，指挥和控制计算机所有部 件协调工作，从而使计算机能够按照程序件协调工作，从而使计算机能够按照程序 规定的指令执行次序，自动地连续执行指规定的指令执行次序，自动地连续执行指 令令 58 处理器处理器 32位位 通用通用 寄存器寄存器 R0 R31 PC A C IR MAR MDR A B C ALU 数据通路数据通路 内存内存 控制器控制器 控制信号控制信号控制单元输入控制单元输入 控制器与数据通路的关系控制器与数据通路的关系 59 计算机怎样执行程序计算机怎样执行程

18、序 问题：计算问题：计算1+2=? C程序程序 60 单总线单总线MIPS计算机计算机 61 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 取取指：指： T0 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 0

19、 x20010001 0 x20210002 0 xac011f40 CPU +4 0000 0000 控控 制制 器器 62 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 取指：取指： T1 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 0004 0000 0 x20010001 0 x202100

20、02 0 xac011f40 0 x20010001 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 63 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 取指：取指： T2 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 00

21、04 0000 0 x20010001 0 x20210002 0 xac011f40 0 x20010001 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 0 x20010001 64 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 译码：译码： T3 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 000

22、0 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 0004 0000 0 x20010001 0 x20210002 0 xac011f40 0 x20010001 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 0 x20010001 65 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 执行：执行： T4 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄

23、存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 0004 0000 0 x20010001 0 x20210002 0 xac011f40 0 x20010001 0 0 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 0 x20010001 66 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1 执行：执行： T5 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址

24、寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 0004 0000 0 x20010001 0 x20210002 0 xac011f40 0 x20010001 0 1 1 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 0 x20010001 67 计算机怎样执行程序计算机怎样执行程序 addi $1, $0, 1

25、 执行：执行： T6 CPU内部总线内部总线 内存数据寄存器内存数据寄存器(MDR) 内存地址寄存器内存地址寄存器(MAR) 程序计数器程序计数器(PC) 32位位 通用通用 寄存器寄存器 R0 R31 ALU A C 地地 址址 译译 码码 器器 内存内存 0000 0004 0008 . . . 读控制读控制 写控制写控制 CPU +4 0004 0000 0 x20010001 0 x20210002 0 xac011f40 0 x20010001 0 1 1 指令寄存器指令寄存器(IR) 指令译码器指令译码器(ID) 控制信号发生器控制信号发生器 控制信号控制信号 控控 制制 器器 0

26、 x20010001 68 处理器处理器 处理器是一个复杂的数字系统：处理器是一个复杂的数字系统： ALU实现算术和实现算术和逻辑运算逻辑运算 数据通路数据通路由处理器内部的各种连线和各种由处理器内部的各种连线和各种 辅助性质的寄存器组成辅助性质的寄存器组成 控制器控制器提供控制信号，指挥和控制计算机提供控制信号，指挥和控制计算机 所有部件协调工作所有部件协调工作 ALU一般由组合逻辑电路实现、数据通路一般由组合逻辑电路实现、数据通路 和控制器既包含组合逻辑电路，也包含时和控制器既包含组合逻辑电路，也包含时 序逻辑电路序逻辑电路 69 大纲大纲 历史：计算与计算机历史：计算与计算机1 指令集体

27、系结构指令集体系结构2 程序和程序设计语言程序和程序设计语言3 处理器的工作原理处理器的工作原理4 更快更强更快更强5 70 更快更强更快更强 处理器（处理器（CPU）的性能对于计算机来讲至）的性能对于计算机来讲至 关重要关重要 让让CPU变得更快更强大成为贯穿计算机发变得更快更强大成为贯穿计算机发 展史的重要目标展史的重要目标 ENIAC ： 5000次加法次加法/秒秒 中国国防科技大学的中国国防科技大学的“天河二号天河二号”超级计算机超级计算机 (Top 1，2012) ：33.86PFlop/s 不到不到70年间，年间，6万万7千亿倍千亿倍的计算速度差距，的计算速度差距， CPU的发展功

28、不可没的发展功不可没 怎样提高怎样提高CPU的性能呢？的性能呢？ 71 三总线结构三总线结构 一个简单的例子一个简单的例子 从我们前面的示例从我们前面的示例 处理器开始，通过处理器开始，通过 增加数据通路的方增加数据通路的方 式来提高处理器的式来提高处理器的 性能性能 72 处理器性能公式处理器性能公式 P ICPIT 执行一个执行一个 程序所花程序所花 费的时间费的时间 这个程序这个程序 所需执行所需执行 的总指令的总指令 数数 每条指令每条指令 执行的平执行的平 均周期数均周期数 以毫秒或以毫秒或 毫微秒计毫微秒计 的时钟周的时钟周 期期 73 提高性能的常见手段提高性能的常见手段 减小减

29、小T值值 减小减小CPI值值 减小减小I值值 增强指令集增强指令集 中指令的能中指令的能 力，减小一力，减小一 个程序需要个程序需要 执行的指令执行的指令 数目数目 采用各种技采用各种技 术手段术手段提高提高 处理器的处理器的主主 频，减小一频，减小一 个时钟周期个时钟周期 的时间的时间 增加指令执增加指令执 行的并行程行的并行程 度，减小度，减小 CPI 74 RISC vs CISC CISC RISC vs CISC RISC 增强指令功能增强指令功能 填补高级语言和机器指令填补高级语言和机器指令 之间的间隙之间的间隙 减少需要的指令数目减少需要的指令数目 可变长指令以提高存储器可变长指

30、令以提高存储器 利用率利用率 面向存储器的指令面向存储器的指令 不利于不利于CPU的设计的设计 硬逻辑实现困难，多使用硬逻辑实现困难，多使用 微程序实现微程序实现 80-20原则原则 精简指令集，提高指令集精简指令集，提高指令集 的执行效率的执行效率 定长指令以方便优化定长指令以方便优化 Load/Store结构以方便结构以方便 指令调度和提高效率指令调度和提高效率 有利于有利于CPU的设计的设计 硬连逻辑实现，效率高硬连逻辑实现，效率高 I的少量增加带来的少量增加带来C和和T的的 减小减小 目前目前的处理器基本上的处理器基本上都采用都采用RISC核心，而部分核心，而部分CISC技技 术也被融

31、合进来，形成所谓后术也被融合进来，形成所谓后RISC体系体系 75 流水线流水线 流水线：提高处理器性能的基本途径流水线：提高处理器性能的基本途径 76 流水线带来的性能改进流水线带来的性能改进 N级流水线级流水线 性能分析：性能分析： 每个周期做每个周期做1/N的工作，时间也是整个指令的的工作，时间也是整个指令的 1/N 每个周期有一条指令完成执行每个周期有一条指令完成执行 性能提高性能提高N倍倍 1 2 3N 1 2 3N 1 2 3N 1 2 3N 77 超流水线超流水线 流水线越长，流水线中的流水线越长，流水线中的“气泡气泡”越多，越多， 结果是性能的严重下降结果是性能的严重下降 2级

32、流水级流水 取指取指-执行执行 5级流水级流水 取指取指-译码译码1/2 -执行执行-写回写回 10级流水级流水 2031级级 808680486Pentium IIIPentium 4 78 超标量与流水线超标量与流水线 一条流水线不够用，那就多条吧一条流水线不够用，那就多条吧 超标量流水线结构超标量流水线结构 可是，问题在于可是，问题在于 1 2 3N 1 2 3N 1 2 3N 1 2 3N 1 2 3N 1 2 3N 1 2 3N 1 2 3N 79 指令的相关性指令的相关性 指令之间的相关性造成流水线中的竞争现指令之间的相关性造成流水线中的竞争现 象象 80 当流水线当流水线“流流”

33、不起来不起来 原因 条件转移条件转移 指令之间指令之间 的依赖性的依赖性 指令指令/数据数据 无法供应无法供应 对策 转移预测转移预测 乱序执行乱序执行 Cache 81 转移预测转移预测 静态预测静态预测 动态预测动态预测 “历史记录历史记录”法法 转移预测缓冲（转移预测缓冲（BTB） 转移延迟转移延迟 转移预测和猜测执行转移预测和猜测执行 NNNT TTTN T T N N N T N T 说明：说明： T转移取转移取 N转移不取转移不取 NN前两次转移不取前两次转移不取 NT前两次转移不取、取前两次转移不取、取 TN前两次转移取、不取前两次转移取、不取 TT前两次转移取前两次转移取 除除NN预测不转移外，其它情况均预测转移。预测不转移外，其它情况均预测转移。 82 相关性相关性 寄存器相关性：寄存器相关性： 包括数据相关性包括数据相关性 和名字相关性；和名字相关性； Load/Store相关相关 性：包括数据相性：包括数据相 关性和名字相关关性和名字相关 性；性； 控制相关性，又控制相关性，又 称转移相关性称转移相关性 假相关与寄存器假相关与寄存器 重命名重命名 三种相关性三种相关性 乱序执行乱序执行 I-C