44提高存储器访问速度的方法

1、七、提高访存速度的措施 采用高速器件 调整主存结构1. 单体多字系统 W位W位W位W位W位地址寄存器主存控制部件. . . . . . . . . . .单字长寄存器 数据寄存器 存储体 采用层次结构 Cache 主存 增加存储器的带宽 12. 多体并行系统(1) 高位交叉 M0M1M2M3体内地址体号体号地址00 000000 000100 111101 000001 000101 111110 000010 000110 111111 000011 000111 111122. 多体并行系统(1) 高位交叉 各个体并行工作M0地址01n1M1nn+12n1M22n2n+13n1M33n3n

2、+14n1地址译码体内地址体号体号32. 多体并行系统(2) 低位交叉 M0M1M2M3体号体内地址地址0000 000000 010000 100000 110001 000001 010001 100001 111111 001111 011111 101111 114(2) 低位交叉M0地址044n4M1154n3M2264n2M3374n1地址译码 体号体内地址各个体轮流编址 体号5低位交叉的特点在不改变存取周期的前提下，增加存储器的带宽时间 单体访存周期 单体访存周期启动存储体 0启动存储体 1启动存储体 2启动存储体 367高速缓冲存储器一、概述1. 问题的提出避免 CPU “空等

3、” 现象CPU 和主存（DRAM）的速度差异缓存CPU主存容量小速度高容量大速度低程序访问的局部性原理82. Cache 的工作原理(1) 主存和缓存的编址主存和缓存按块存储 块的大小相同B 为块长主存块号主存储器012m1字块 0字块 1字块 M1主存块号块内地址m位b位n位M块B个字缓存块号块内地址c位b位C块B个字字块 0字块 1字块 C1012c1标记Cache缓存块号9(2) 命中与未命中缓存共有 C 块主存共有 M 块M C主存块 调入 缓存主存块与缓存块 建立 了对应关系用 标记记录 与某缓存块建立了对应关系的 主存块块号命中未命中主存块与缓存块 未建立 对应关系主存块 未调入

4、缓存10(3) Cache 的命中率CPU 欲访问的信息在 Cache 中的 比率命中率 与 Cache 的 容量 与 块长 有关 一般每块可取 4 至 8 个字块长取一个存取周期内从主存调出的信息长度 CRAY_1 16体交叉 块长取 16 个存储字 IBM 370/168 4体交叉 块长取 4 个存储字（64位4 = 256位）11数据总线Cache替换机构可装进？ 命中？主存Cache 地址映象 变换机构 主 存访问主存替换Cache Cache 存储体块号块内地址直接通路访问主存装入CacheNNYY块号块内地址CPU主存地址地址总线Cache地址3. Cache 的基本结构Cache

5、替换机构由 CPU 完成 Cache 存储体主存Cache 地址映象 变换机构 124. Cache 的 读写 操作 访问Cache取出信息送CPU 访问主存取出信息送CPU将新的主存块调入Cache中执行替换算法 腾出空位 结束命中？Cache满？CPU发出访问地址 开始YNYN写Cache 和主存的一致性 读135. Cache 的改进(1) 增加 Cache 的级数片载（片内）Cache片外 Cache(2) 统一缓存和分开缓存指令 Cache数据 Cache与主存结构有关与指令执行的控制方式有关是否流水Pentium 8K 指令 Cache 8K 数据 CachePowerPC620

6、32K 指令 Cache 32K 数据 Cache14二、Cache 主存的地址映象1. 直接映象每个缓存块 i 可以和 若干 个 主存块 对应每个主存块 j 只能和 一 个 缓存块 对应i = j mod C 字块2m1 字块2c+1 字块2c+11 字块2c +1 字块2c 字块2c1 字块1 字块0主存储体 字块 1标记 字块 0标记字块 2c1标记Cache存储体t位01C1 字块字块地址主存字块标记t 位c 位b 位主存地址 比较器（t位）= 不命中有效位=1？*m位Cache内地址否是命中 字块2c+1 字块2c 字块0 字块 0152. 全相联映象主存 中的 任一块 可以映象到

7、缓存 中的 任一块字块2m1字块2c1字块1 字块0字块2c1字块1字块0标记标记标记主存字块标记字块内地址主存地址m = t + c 位b位m = t+cCache 存储器主存储器 字块016字块2m1字块2c-r+1 字块2c-r + 1 字块2c-r字块2c-r 字块1 字块0 字块 3标记 字块 1标记字块 2c1标记 字块 2标记 字块 0标记字块 2c2标记 字块内地址组地址主存字块标记s = t + r 位q = cr 位b 位组012c-r1主存地址Cache主存储器m 位共 Q 组，每组内两块（r = 1)1某一主存块 j 按模 Q 映射到 缓存 的第 i 组中的 任一块i = j mod Q直接映象全相联映象 字块0 字块 1 字块 0 字块2c-r 字块2c-r+13. 组相联映象17三、替换算法1. 先进先出 （ FI