在同一台计算机中，有各种工作速度，存储容量，访问方式，用途等均不相同的存储器，这些存储器构成一个层次结构，如图5.5所示。从上到下，各种存储器的存储容量越来越大，每位的价格越来越便宜，但存储周期越来越长。

图 5.5 存储系统的层次结构

通用寄存器堆、指令和数据缓冲栈、一级Cache是在CPU芯片内部的，它们的工作速度比较高。从二级Cache以下，是在CPU外部的，工作速度逐级明显降低。如果用i表示层数，则有工作速度：Ti＜Ti+1；存储容量：Si＜Si+1；价格：Ci＞Ci+1； 　　因为存放在各种存储器中的程序和数据，最终都要送到CPU中进行处理，CPU的速度很高，因此，希望各层次存储器的工作速度要尽量往上面靠近，而存储容量和价格尽量往下面靠近。 　　各级存储器的主要性能指标见表5.1所示。这些指标仅供参考，因为随着时间的推移，有些指标在不断变化。

各种存储器的主要性能特性

1955年，IBM公司推出的第一台大型计算机IBM704，CPU和主存储器的工作周期均为12微秒，两者恰好能匹配工作。到了40多年后的今天，CPU的工作速度提高了4个数量级以上，而主存储器的工作速度仅提高两个数量级，两者根本不能匹配工作。因此，计算机系统结构的设计者们必须面对这一现实，找出解决的方法。以下将介绍解决这一问题的一些主要方法。