一、起源:软件工程师为什么要理解计算机组成
日常开发中出现的许多"反常"现象,根因不在语言与框架层面,而在硬件执行方式上:
- 同为 O(n) 遍历,实测差一个数量级。数组顺序扫描与链表遍历的复杂度相同,耗时却可能相差近十倍,原因是缓存行与预取机制。
- 有序数据比随机数据更快。同一段比较逻辑,输入有序与随机时耗时不同,原因是分支预测的命中率差异。
- 两个线程各写各的变量仍互相拖慢。逻辑上互不干扰的两个字段,并发写入却引发剧烈抖动,原因是伪共享——它们落在同一条缓存行上。
- 浮点数相加不满足直觉。
0.1 + 0.2 != 0.3、1e16 + 1 == 1e16,原因在 IEEE 754 的二进制表示与精度边界。 - 加了 volatile 仍可能读到乱序结果。可见性与重排序涉及 CPU 的存储缓冲、指令乱序执行与缓存一致性协议。
这些现象的共同点是:它们由 CPU、缓存、内存、指令执行这些硬件层机制决定,理解机制才能解释现象、正确优化、避开陷阱。本目录以软件工程师视角组织计算机组成,覆盖数据表示、指令系统、CPU 执行、存储层次与 IO,侧重"机制如何影响程序行为",弱化纯电路细节。
二、原理
1. 冯诺依曼结构与存储程序思想
现代通用计算机的核心思想是存储程序(Stored Program):程序与数据都以二进制形式存放在同一块存储器中,CPU 按地址依次取出指令执行。这一思想把"改变计算机行为"从"改变硬件接线"简化为"改变存储器中的内容",是软件能够独立于硬件存在的前提。
由此确定计算机的五大部件:
| 部件 | 作用 | 软件视角的对应物 |
|---|---|---|
| 运算器(ALU) | 算术与逻辑运算 | 加减乘除、位运算、比较 |
| 控制器(CU) | 取指令、译码、控制各部件 | 决定执行流程与跳转 |
| 存储器(Memory) | 存放程序与数据 | 内存、缓存、寄存器 |
| 输入设备(Input) | 数据进入计算机 | 键盘、网卡、磁盘读 |
| 输出设备(Output) | 结果送出计算机 | 显示器、网卡、磁盘写 |
运算器与控制器合称中央处理器(CPU),它们构成执行主体;存储器与 IO 设备构成数据主体。这一划分是后续所有专题的骨架:数据如何表示(存储器中的位)、指令如何编码(控制器识别的语言)、CPU 如何执行(流水线与乱序)、数据如何流动(存储层次与 IO)。
2. 数据通路:一条指令的旅程
程序在硬件上的执行是一条流水般的路径,理解它就能把编译、加载、运行串成一个整体:
- 编译:源代码经编译器与汇编器生成机器码,存为可执行文件。
- 加载:操作系统把可执行文件装入内存,设置程序计数器(PC)指向第一条指令。
- 取指:CPU 按 PC 的地址从内存取出一条指令,PC 自动递增。
- 译码:控制器把机器码解析为"要做什么 + 操作数在哪"。
- 执行:运算器完成运算,或由存储单元完成读写,或跳转更新 PC。
- 回写:结果写回寄存器或内存。
取指、译码、执行、回写构成指令周期。CPU 每秒重复这一周期数十亿次,程序的一切行为最终都归结为这一循环的重复。指令周期是理解 CPU 篇的起点——流水线、乱序、分支预测都是对这一朴素循环的工程化改造。
3. 存储层次:速度与容量的折中
CPU 速度远超内存,内存速度远超磁盘,差距可达数量级。单一存储器无法同时满足"快"与"大",于是按"越快越贵、越贵越小"的原则分层:
| 层次 | 容量量级 | 延迟量级 | 说明 |
|---|---|---|---|
| 寄存器 | 数百字节 | 亚纳秒 | CPU 内部,指令直接操作 |
| L1 缓存 | 数十 KB | 约 1 纳秒 | 每核心独立 |
| L2 缓存 | 数百 KB | 数纳秒 | 每核心独立 |
| L3 缓存 | 数 MB | 十余纳秒 | 多核心共享 |
| 主存 | 数 GB | 约百纳秒 | DRAM |
| 磁盘/SSD | 数百 GB 到 TB | 微秒到毫秒 | 持久化 |
层次存在的依据是局部性原理:
- 时间局部性:刚访问过的数据,短时间内很可能再次访问。
- 空间局部性:刚访问过的数据附近,很可能马上被访问。
缓存靠这两个性质工作:把可能用到的数据提前搬到更快、更小的层次,用低延迟命中换取整体加速。这一原理直接解释了数据结构与算法的常数因子差异(详见存储层次篇)。
4. 与并发、性能的关联
硬件机制对软件行为的约束,集中在三个方向:
- 性能:缓存命中率决定内存访问的实际代价,分支预测命中率决定流水线是否被冲刷,二者构成常数因子的主要来源。复杂度分析给出的量级相同,实测差距常由此而来。
- 并发正确性:多核 CPU 各自持有缓存,缓存一致性协议决定一个核心的写何时被另一个核心看到;指令乱序与存储缓冲决定"逻辑顺序"与"实际顺序"的差异。volatile、内存屏障、原子操作的语义都建立在这些机制之上。
- 数据正确性:整数溢出、浮点精度、字节序这些"语言特性"的根因在数据表示层。
三、实现:本目录的阅读路径
本目录按"从数据到执行"的顺序组织,各篇之间以交叉引用衔接:
- 数据表示:位与字节如何编码整数、浮点、字符,溢出与精度的根因。
- 指令系统:机器码如何编码操作与寻址,高级语言如何映射为指令。
- CPU 执行:流水线、分支预测、乱序执行、超标量与超线程。
- 存储层次与缓存:局部性、缓存行、映射与替换、一致性协议、伪共享。
- 存储与 IO:磁盘与 SSD、总线、DMA 与中断,以及持久化 IO 的代价。
阅读顺序上,若只关心性能,可从存储层次篇与 CPU 篇切入;若需理解并发正确性,先读存储层次篇的缓存一致性,再读 CPU 篇的乱序与存储缓冲;数据表示篇与指令系统篇构成理解前两者的基础。
总结
- 存储程序思想让软件独立于硬件,是通用计算机的前提,也划定了五大部件的分工。
- 程序执行归结为"取指—译码—执行—回写"这一指令周期的循环,CPU 篇是对它的优化改造。
- 存储层次以局部性原理为依据,用"快且小"的多级缓存换整体性能,是常数因子差异的主要来源。
- 硬件机制通过性能、并发正确性、数据正确性三个方向影响软件行为,理解机制才能解释现象、正确优化。