多级结构的存储器系统

1、存储器概述存储器的作用计算机中用来存放程序和数据的部件，是冯.诺依曼结构计算机的重要组成部分。在现代计算机中，存储器处于全机的中心地位。主存储器存放当前正在执行的程序和数据，CPU从中读取指令和存取数据；随着IO设备的增加，数据传输速度加快，DMA技术和IO通道技术广泛使用，直接在存储器和IO设备间传送数据；共享存储器的多处理机的出现，需要利用存储器存放共享的数据，实现处理机间通信。目前一页\总数七十二页\编于二十一点对存储器系统的要求存储器系统的设计目标尽可能快的存取速度：应能基本满足CPU对数据的要求尽可能大的存储空间：可以满足程序对存储空间的要求尽可能低的单位成本：（价格/位）应在用户能够承受范围内目前二页\总数七十二页\编于二十一点CPU与DRAM性能比较目前三页\总数七十二页\编于二十一点

计算机硬件系统的组成输入设备输出设备入出接口和总线虚拟存储主存储器高速缓存控制器运算器目前四页\总数七十二页\编于二十一点以存储器为中心的计算机结构框图程序存储器输出设备输入设备运算器控制器数据结果计算目前五页\总数七十二页\编于二十一点多级结构存储器系统实现存储器系统的多个目标采用多级结构的存储器系统基本思想选用生产与运行成本不同的、存储容量不同的、读写速度不同的多种存储介质，组成一个统一的存储器系统，使每种介质都处于不同的地位，发挥不同的作用，充分发挥各自在速度、容量、成本方面的优势，从而达到最优性能价格比，以满足使用要求。目前六页\总数七十二页\编于二十一点多级结构存储器系统典型多级存储器系统的层次使用容量较小但速度最快的SRAM芯片组成高速缓存存储器CACHE；使用容量较大速度适中的DRAM芯片组成主存储器MAINMEMORY；使用容量特大但速度较慢的磁盘设备构成虚拟存储器VIRTUALMEMORY。三级存储系统目前七页\总数七十二页\编于二十一点现代计算机中的存储层次利用程序运行的局部性原理以最低廉的价格提供尽可能大的存储空间以最快速的技术实现高速存储访问目前八页\总数七十二页\编于二十一点程序运行的局部性原理什么是程序运行的局部性原理？是指CPU对存储器中程序和数据的访问，在一小段时间内，总是集中在一小块存储空间。程序运行的局部性原理表现方面时间方面：在一小段时间内，最近被访问过的程序和数据很可能再次被访问，例如：程序循环空间方面：在空间上这些被访问的程序和数据往往集中在一小片存储区，例如：数组存放指令执行顺序方面：在访问顺序上，指令顺序执行比转移执行的可能性大(大约5:1)目前九页\总数七十二页\编于二十一点多级结构存储器之间应满足的原则一致性原则同一个信息可以处在不同层次存储器中，此时，这一信息在几个级别的存储器中应保持相同的值。包含性原则处在内层存储器中的信息一定被包含在其外层的存储器中，反之则不成立。即内层存储器中的全部信息是其相邻外层存储器中一部分信息的复制品。目前十页\总数七十二页\编于二十一点2、主存储器与CPU的连接计算机中存储正处在运行中的程序和数据(或一部分)的部件，通过地址、数据、控制三类总线与CPU等其他部件连通。地址总线AB的位数决定了可寻址的最大内存空间数据总线DB的位数与工作频率的乘积正比于最高数据吞吐能力控制总线CB

指出总线周期的类型和本次读写操作完成的时刻READYWRITEREADMainMemoryABk位（给出地址）DBn位（传送数据）例如：k=32位n=32位CPUARDR目前十一页\总数七十二页\编于二十一点主存储器的读写过程主存储体数据寄存器地址寄存器/WE/CS0/CS1读过程：给出地址给出片选与读命令保存读出内容写过程：给出地址给出片选与数据给出写命令主存储体目前十二页\总数七十二页\编于二十一点主存储器主要技术指标存取时间通常用读写一个存储单元所需时间度量，即读写速度存储周期连续两次读写存储单元所需的时间间隔一般大于读写一次存储单元的存取时间存储容量通常用构成存储器的字节（8位）或者字数（2、4、8个字节）表述多数计算机能在逻辑上同时支持按字节或者按字读写存储器（按字节编址）目前十三页\总数七十二页\编于二十一点构成的主存储器的半导体芯片目前十四页\总数七十二页\编于二十一点芯片容量译码驱动存储矩阵读写电路1K×4位16K×1位8K×8位片选线地址线……读/写控制线数据线……地址线（单向）数据线（双向）104141138半导体存储芯片的基本结构目前十五页\总数七十二页\编于二十一点3、存储器的容量扩展存储器芯片的容量是有限的，为了满足实际存储器的容量要求，需要对存储器进行扩展。存储器容量扩展的主要方法有：

位扩展法：只加大字长，而存储器的字数与存储器芯片字数一致，对所有片子使用共同片选信号；字扩展法：仅在字向扩充，而位数不变。需由片选信号来区分各片地址。

字位同时扩展法：一个存储器的容量假定为M×N位，若使用l×k位的芯片(l＜M，k＜N)，需要在字向和位向同时进行扩展。此时共需要(M/l)×(N/k)个存储器芯片。

目前十六页\总数七十二页\编于二十一点

(1)位扩展（增加存储字长）用2片1K

×

4位存储芯片组成1K

×

8位的存储器10根地址线8根数据线DD••••D0479AA0•••21142114CSWE目前十七页\总数七十二页\编于二十一点

(2)字扩展（增加存储字的数量）用2片1K

×

8位存储芯片组成2K

×

8位的存储器11根地址线8根数据线1K

×

8位1K

×

8位D7D0•••••••••••••••••WEA1A0•••A9CS0A10

1CS1目前十八页\总数七十二页\编于二十一点(3)字、位扩展用8片1K

×

4位存储芯片组成4K

×

8位的存储器8根数据线12根地址线WEA8A9A0...D7D0……A11A10CS0CS1CS2CS3片选译码................1K×41K×41K×41K×41K×41K×41K×41K×4目前十九页\总数七十二页\编于二十一点教学计算机的内存储器实例设计基本要求需要ROM来存放监控程序需要RAM供用户和监控程序使用能够让用户进行扩展地址总线：16位数据总线：16位控制总线：时钟信号：与CPU时钟同步，简化设计读写信号：由/MIO，REQ和/WE译码生成内存和IO读写信号目前二十页\总数七十二页\编于二十一点教学机静态存储器字位扩展为访问8192个存储单元，需要使用13位地址，应把地址总线的低13位地址送到每个58C65存储器芯片的地址引脚；为访问2048个存储单元，需要使用11位地址，应把地址总线的低11位地址送到每个6116存储器芯片的地址引脚；对地址总线的高3位译码，产生的译码信号送相应的存储器芯片的片选信号引脚/CS，用于选择让哪一个地址范围的存储器芯片工作。还要向存储器芯片提供读写控制信号/WE，以区分是读、还是写操作，/WE信号为高电平是读，为低是写。目前二十一页\总数七十二页\编于二十一点教学机静态存储器字位扩展地址总线低13位高位地址译码给出片选信号/CS0/CS1高八位数据低八位数据/WE

2K*8bit

8K*8bit

8K*8bit

2K*8bit

译码器13113110－1FFF2000－27FF目前二十二页\总数七十二页\编于二十一点7.4高速缓冲存储器（Cache）用途：设置在CPU和主存储器之间，完成高速与CPU交换信息，尽量避免CPU不必要地多次直接访问速度要慢一些的主存储器，从而提高计算机系统的运行效率。实现：这是一个存储容量很小、但读写速度更快、以关联存储器方式运行、用静态存储器芯片实现的存储器。要求：有足够高的命中率，既当CPU需用主存中的数据时，多数情况可以直接从Cache中得到，称二者之比为命中率。目前二十三页\总数七十二页\编于二十一点微电子技术发展趋势CPU与DRAM性能比较目前二十四页\总数七十二页\编于二十一点程序的局部性原理程序在一定时间段内通常只访问较小的存储空间两种局部性：时间局部性和空间局部性时间局部性：最近被访问的信息很可能还要被访问。将最近被访问的信息项装入到Cache中。空间局部性：最近被访问的信息临近的信息也可能被访问。将最近被访问的信息项临近的信息一起装入到Cache中。地址空间访问概率目前二十五页\总数七十二页\编于二十一点CACHE的基本运行原理Cache存储单元的组成部分数据字段：保存从主存单元复制过来的数据标志字段：保存相应主存单元的地址信息有效位字段：标识本cache项中信息（数据和标志）的有效性有效位CACHE标志数据目前二十六页\总数七十二页\编于二十一点TAGDATACACHECACHE的基本运行原理MEMORY数据总线译码选一单元比较选一行读过程为例地址总线TAGDATA

CPU

CPU送出地址读出主存一个单元的数据，用时会比较长。若在主存和CPU之间增加一个速度更快的存储器，可否让CPU直接从这个快速存储器中读出数据呢？当然读的必须是原来主存地址选中的那个主存单元的内容。怎么实现这个功能？只有把那个主存单元的内容先复制到快存中才有可能，但读快存的那个单元呢？这必和原主存地址相关若复制数据时把地址也一起复制过来当标志，使其结成地址_数据联合体，则可能解决问题。有效位目前二十七页\总数七十二页\编于二十一点提高Cache性能并降低成本Cache单元的大小：cachelinesize（几个主存字，减少标志位位数，从而减少Cache的总容量）Cache与主存交换数据的单位：cachelinesize（充分利用空间局部性）Cache单元与主存单元的对应关系，例如：完全随意对应一对多硬性对应多对多有限随意对应Cache的容量、分层组织、接入方式等方面目前二十八页\总数七十二页\编于二十一点CACHE的3种映像方式地址映像：把一主存单元的数据复制到Cache中时，还要把该主存单元的地址，经过某种函数关系处理后写进Cache的标志字段，这一过程被称为Cache的地址映像。地址变换：在程序执行时，需要把主存地址变换为访问Cache的地址，这一过程被叫做Cache的地址变换。Cache存储器通常使用３种映像方式，它们是全相联映像方式、直接映像方式、多路组相联映像方式，3种映像方式有各自的优缺点。目前二十九页\总数七十二页\编于二十一点全相联映像方式全相联映像方式：是指主存的一个字块可以映像到整个CACHE中的任何一个字块中。全相联映像方式特点：主存的字块可以和Cache的任何字块对应，利用率高，方式灵活。标志位较长，比较电路的成本太高。如果主存空间有2m块，则标志位要有m位。同时，如果Cache有n块，则需要有n个比较电路。比较电路复杂，使用成本太高目前三十页\总数七十二页\编于二十一点全相联映像方式CPU数据主存字块标记有效位主存储器CACHE比较译码标志数据主存字块标记块内地址主存地址目前三十一页\总数七十二页\编于二十一点全相联硬件实现举例目前三十二页\总数七十二页\编于二十一点直接映像方式直接映像方式：是指主存的一个字块只能映像到Cache中确定的一个字块。按照Cache的字块数把主存分区，则每个主存区中的第０个字块只能映像到Cache的第０个字块中。直接映像方式特点：主存的字块只可以和固定的Cache字块对应，方式直接，利用率低。标志位较短，比较电路的成本低。如果主存空间有2m块，Cache中字块有2c块，则标志位只要有m-c位。而且在访问Cache时候仅需要比较一次。利用率低，命中率低，效率较低目前三十三页\总数七十二页\编于二十一点直接映像方式CPU数据有效位主存储器CACHE比较译码译码cache字块地址主存字块标记标志数据主存字块标记块内地址主存地址cache字块地址目前三十四页\总数七十二页\编于二十一点直接映像硬件实现举例目前三十五页\总数七十二页\编于二十一点多路组相联映像方式多路组相联映像方式：是对全相联映像和直接映像的一种折衷的处理方案。既不在主存和Cache之间实现字块的完全随意对应，也不在主存和Cache之间实现字块的多对一的硬性对应，而是实现一种有限度的随意对应。多路组相联映像方式特点：折衷方案：组间为全相连，组内为直接映像；集中了前面两种方式的优点，成本也不太高。最常用的CACHE映像方式目前三十六页\总数七十二页\编于二十一点组地址两路组相联映像方式CPU数据有效位主存储器CACHE译码比较比较译码译码标志数据主存地址主存字块标记块内地址组地址主存字块标记目前三十七页\总数七十二页\编于二十一点４路组相联硬件实现举例目前三十八页\总数七十二页\编于二十一点三种映像方式比较全相联映像主存中的一块可以映射到Cache中任何一个位置直接映像主存中的一块只能映射到Cache中唯一的一个位置访问Cache进行定位时，不需要判断，只需替换多路组相联映像主存中的一块可以选择映射到Cache中有限的多个位置全相联映像和多路组相联映像的失效处理在Cache中没有找到需要数据，从主存中取出新块为了腾出Cache空间，需要替换出一个Cache块不唯一，则需要判断应替出哪块目前三十九页\总数七十二页\编于二十一点目前四十页\总数七十二页\编于二十一点Cache使用中的几个问题CACHE的重要技术指标：命中率影响CACHE命中率的因素CACHE的容量，大一些比较好CACHE与主存每次交换的信息量要适中CACHE不同的组织方式，多路组相联更好CACHE的多级组织可提高命中率CACHE装满后的替换算法（全相联、多路组相联）目前四十一页\总数七十二页\编于二十一点cache的容量与命中率的关系

CacheSizeinKBHitRate目前四十二页\总数七十二页\编于二十一点cachelinesize、cache容量与缺失率的关系

目前四十三页\总数七十二页\编于二十一点多级的Cache结构与命中率的关系

为增加计算机系统中的cache容量，通常可以在已有的cache存储器之外，再增加一个容量更大的cache。此时原有cache为第一级（例如奔腾机微处理机芯片内的cache），新增加的cache为第二级。第二级cache的容量比第一级cache的容量要大得多,在第一级cache中保存的信息也一定保存在第二级cache中，但保存有比第一级cache中更多的信息。当CPU访问第一级cache出现缺失情况时，就去访问第二级cache。若第一级、第二级cache的命中率为90%，则它们总的命中率为：１-(1-90％)×(1-90％)=99％。目前四十四页\总数七十二页\编于二十一点Cache替换算法随机替换（RAND）随机找一个Cache块进行替换，比较盲目。先进先出算法（FIFO）将最早调入Cache的字块替换出去，采用循环电路容易实现，开销小。最近最少使用算法（LRU）需要计算字块的使用次数，开销大，但平均命中率比FIFO要高。目前四十五页\总数七十二页\编于二十一点改写主存储器的策略若CPU改写了Cache一单元内容（写命中）后且尚未改变主存相应单元内容，则出现数据不一致性。有两种解决办法：直接改写主存单元内容（WriteThrough）：

简便易行，数据一致性容易保证，但可能带来系统运行效率不高的问题，Cache对写操作没有提高性能。拖后改写主存单元内容（WriteBack）：一直拖到有另外的设备要读该内容过时的主存单元时，则首先停止这一读操作，接下来改写主存内容，之后再起动已停下来的读操作。控制虽然复杂些，但可以提供更高的系统运行效率。目前四十六页\总数七十二页\编于二十一点7.5外部辅助存储设备概述主要技术指标存储密度：单位长度或单位面积上存储的二进制信息数量。存储容量：一台设备能存储的总信息量，一般以字节为单位。寻址时间：直接存取方式访问（如磁盘）

顺序存取方式访问（如磁带）数据传输率：单位时间内传送数据的数量，单位bps或者Bps。误码率：出错信息位数与读出信息的总位数之比。价格：总价格和存储单位信息的平均价格。目前四十七页\总数七十二页\编于二十一点磁记录原理磁表面记录设备，是在磁头和磁性材料的记录介质之间有相对运动时，通过一次电磁转换完成一次读写操作。磁头：通常由软磁材料（外界磁场的作用消失后，该磁性材料的磁性容易消失）做成。磁记录介质：在刚性或柔性载体上涂有薄磁材料的物体，记录以磁状态表示的信息。一般选用硬磁材料（外界磁场的作用消失后，该磁性材料的磁性尽量多的保留）。目前四十八页\总数七十二页\编于二十一点磁记录原理前间隙后间隙铁氧体线圈电流磁记录介质磁头结构和电磁转换示意图磁头，软磁材料导磁率高，饱和磁感应强度大矫顽力小，剩余磁感应强度小

磁记录材料，硬磁材料记录密度高，记录信息时间长输出信号幅度大，噪声低表面组织紧密、光滑、无麻点薄厚均匀，温度、湿度影响小目前四十九页\总数七十二页\编于二十一点磁记录方式磁记录方式：是指一种编码方法，即如何将一串二进制信息，通过读写电路变换成磁层介质中的磁化翻转序列.编码方法要求：更高的编码效率：编码效率：指记录密度与最大磁化翻转密度之比，即为记录一位信息所用的最多磁化翻转次数的倒数；FM、PM编码效率50％，MFM、NRZ、NRZ1编码效率100％更高的自同步能力：自同步能力：指从读出的数据信息中提取出同步时钟信号的难易程度，可以用最小磁化翻转间隔与最大翻转间隔的比值来衡量；NRZ、NRZ1没有自同步能力，PM、FM、MFM有自同步能力更高的读写可靠性：采用能检查错误，甚至自动纠正错误的措施目前五十页\总数七十二页\编于二十一点磁盘设备组成与运行原理磁盘设备的组成磁盘驱动器：通常是一个完整独立的设备，包括作为磁记录介质使用的磁盘和驱动磁盘匀速旋转的动力与驱动部件，完成读写功能的磁头和驱动磁头沿磁盘径向方向运动和准确定位的部件，以及其它一些控制逻电路等部件。磁记录介质：单独的、可以和磁盘驱动器分开保存的硬磁盘片、磁盘组、软磁盘片等。磁盘接口电路：是插在主机总线插槽中的一块电路卡，用于把磁盘驱动器与计算机主机连接为一体系统，接收主机发给磁盘的操作命令，实现数据缓冲与格式变换，处理主机与磁盘之间的其它交互作用与时间上的同步等。

目前五十一页\总数七十二页\编于二十一点硬磁盘驱动器结构示意图磁头磁盘组主轴通风机取数臂定位驱动器速度传感器小车主电机传动皮带滤尘器密封罩目前五十二页\总数七十二页\编于二十一点磁盘结构与参数磁盘结构（典型数据与磁盘容量相关）磁道：每个盘片每面500至2000磁道扇区：扇区是磁盘访问的最小单位，每个磁道32至128个扇区某些硬盘上每个磁道上的扇区数相同，位密度不同，读写信号控制复杂一些为增加容量，位密度恒定，外磁道比内磁道扇区数多一些，信息管理复杂一些柱面：位于同一半径的磁道集合读写磁盘数据的三个步骤所用时间寻道时间：将磁头移动到正确的磁道上所用时间旋转延迟：等待磁盘上扇区旋转到磁头下所用时间传输时间：真正的数据读写时间（1个或多个扇区）目前五十三页\总数七十二页\编于二十一点磁盘结构与参数寻道时间：一般为8至12ms旋转延迟：旋转速度：3600至7200RPM旋转时间：16ms至8ms每转平均寻址时间8ms至4ms访问速度：数据量（通常为1个扇区）：1KB/扇区旋转速度：3600RPM至7200RPM存储密度：磁道上单位长度存储的位数磁盘直径：2.5至5.25in一般为：2至15MB每秒SectorTrackCylinderHeadPlatter目前五十四页\总数七十二页\编于二十一点磁盘访问时间举例磁盘访问时间=寻道时间+旋转延迟+传输时间+磁盘控制器延迟举例：平均寻道时间=12ms旋转速度=5400rpm磁盘控制器延迟：2ms传输速度=5MBps扇区大小=512bytes读取一页（8KB）需要多少时间？旋转延迟：平均旋转延迟应为磁盘旋转半周的时间。旋转1周=1/5400minutes=11.1ms=>½周：5.6ms读1个扇区时间=12ms+5.6ms+0.5KB/5MBps+2ms=12ms+5.6ms+0.1ms+2ms=19.7ms读1页的时间==12ms+5.6ms+8KB/5MBps+2ms=12ms+5.6ms+1.6ms+2ms=21.2ms目前五十五页\总数七十二页\编于二十一点对例子的思考页容量大，为什么扇区却如此小呢？理由#1：可用性。可以在扇区物理损坏时不再使用该扇区。理由#2：还是可用性。检错纠错码分布在每个扇区，扇区容量小，检错速度快，效率高。理由#3：灵活性。使用不同的操作系统，不同的页面大小。采用并行方式和大容量传输方式克服磁盘控制器延迟大容量传输：每次读取多个扇区，可以节约时间，也可以分担部分总线延迟。并行方式：并行#1：并行读多个层面并行#2：并行读多个磁盘两点结论额外开销在总开销中比例较大

=>一次传输大量数据比较有效将页面存放在相邻扇区中可以避免额外的寻道开销目前五十六页\总数七十二页\编于二十一点光盘设备组成与运行原理光盘特点存储密度高，容量大，非接触式读写可靠性好，价格便宜，广泛使用光盘类型只读型光盘CD-ROM(CD-ReadOnlyMemory)标准容量650M写一次型光盘WORM(writeonce,readmany)CD-R(CD-Recordable)可擦写型光盘CD-RWCD-RW(CD-ReWritable)目前五十七页\总数七十二页\编于二十一点光盘的读写原理利用激光束在记录表面上存取信息：根据激光束以及反射光的强弱不同，可以完成信息的读写形变：将激光束聚集成直径为小于1微米的光点，以其热作用，融化盘表面上的光存储介质薄膜，形成小洞（凹坑），有洞的位置表示记录了“1”，没有洞的位置表示“0”。读出时，在读出光束的照射下，有凹坑和无凹坑处反射的光强不同，从而区别读出的是“1”还是“0”。主要用于只读型和写一次型光盘。相变：有些光存储介质在激光照射下，晶体结构会发生变化，利用介质处于晶态和非晶态区域的不同反射特性来记录和读取信息。主要应用于可擦写光盘。磁光存储：利用激光在磁性薄膜上产生热磁效应来记录信息。主要应用于可擦写光盘。目前五十八页\总数七十二页\编于二十一点写一次型光盘光学系统示意图光盘旋转台He-Ne激光器10%光束分离器90%调制器光束分离器调制信号聚焦系统，物镜径向跟踪反射镜写光束读出信号光敏管目前五十九页\总数七十二页\编于二十一点CD-RW存储原理用银、铟、锑和碲组成的合金做记录层。这种合金有两个稳定态：晶态和非晶态，两个状态有不同的反射特性。CD-RW的驱动器使用三种不同能量的激光。在高能激光照射下，合金熔化并从高反射性的晶态转化为低反射性的非晶态，表示凹区。在能量中等的激光束照射下，合金熔化并重新转化为本来的晶态，又成为凸区。低能激光可以感知材料的状态（用来读盘），但不会导致状态转换。目前六十页\总数七十二页\编于二十一点光盘设备组成与运行原理DVD简介DVD：数字多用途盘（DigitalVersatileDisk）DVD的容量比普通光盘提高了7倍，达到4.7GB单速DVD驱动器的工作速度为1.4MB/秒（而CD为150KB/秒）DVD的4种标准单面单层（4.7GB）单面双层（8.5GB）双面单层（9.4GB）双面双层（17GB）目前六十一页\总数七十二页\编于二十一点光盘设备组成与运行原理DVD存储原理DVD的基本设计和CD相同，也是120mm直径的注入碳酸盐的盘模，由激光二极管照射的凸区和凹区组成，通过光接收器读入信息。使用红色激光（DVD激光的波长为0.65微米，而CD的为0.78微米）；凹区更小（DVD为0.4微米，而CD为0.8微米）；螺旋线更紧凑（DVD道间距为0.74微米，而CD的道间距为1.6微米）。其他的新标准HVD、EVD、蓝光DVD……目前六十二页\总数七十二页\编于二十一点7.6虚拟存储器概述虚拟存储器是指用磁盘的一片存储空间来弥补主存空间的不足，使得程序人员能够使用比主存实际空间更大的存储空间来编写和运行程序。根据“程序运行的局部性原理”，只把一小段时间内用到的程序和数据装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间按程序运行的需要自动成批地完成交换。虚拟存储器经常使用两种基本管理技术，核心问题都在于处理数据的存放与调度。段式存储管理页式存储管理结合起来：段页式存储管理目前六十三页\总数七十二页\编于二十一点段式存储管理段是程序模块化设计的结果，即把程序中逻辑上相对独立的部分设计为不同的段，再经过连接程序连接成更大的程序。此时用段作为信息调入主存的单位是合适