一、起源:一切数据都是位

计算机存储器只认两种状态,因此所有数据——整数、浮点、字符、指针——最终都被编码成二进制位序列。软件工程师看到的是 int、double、String,硬件看到的是固定长度的 01 串。这一差异带来三类问题:

  • 解释歧义:同一串位,按有符号整数、无符号整数、浮点解读会得到完全不同的值。
  • 长度边界:整数定长,超出范围就溢出回绕;浮点定长,超出有效位就丢精度。
  • 跨端不一致:多字节数据在内存中的存放顺序(字节序)因平台而异,跨机器传输时可能读反。

这些问题不在语言层面报错,而是静默地产生错误结果,根因在数据的二进制编码方式。

二、原理

1. 整数与补码

1.1 原码、反码与补码

整数按固定位数(如 32 位)存储,最高位约定为符号位(0 正 1 负)。负数有三种编码方式:

编码 规则 问题
原码 符号位 + 绝对值 0 有两种表示(+0 / -0),加减法符号位需单独处理
反码 负数各位取反 仍存在 +0 / -0,减法仍需借位处理
补码 反码 + 1 0 只有一种表示,减法化为加法

补码成为主流,核心原因是减法化为加法:A - B 等于 A + (B 的补码),运算器只需一套加法电路。补码的数学本质是模运算——在固定位数下,加一个数的补码等价于减去这个数,超出范围的部分自然溢出丢弃。

1.2 取值范围与溢出

32 位有符号整数范围是 -2^31 到 2^31 - 1(约 -21 亿到 21 亿),无符号范围是 0 到 2^32 - 1。超过上限或低于下限时发生回绕(wrap-around):结果按模 2^n 截断,不报错。

典型表现:

int max = Integer.MAX_VALUE;      // 2147483647
int overflow = max + 1;           // 结果 -2147483648,而非报错

溢出在金额、计数、数组下标、时间戳等场景会静默产生错误。规避方式包括:用更大的类型(long)、用无符号语义(Java 通过 Integer.toUnsignedString 等方法)、显式检查边界、或使用不会静默溢出的库。

2. 浮点与 IEEE 754

2.1 结构

浮点数按科学计数法拆成三部分存储:符号位、指数、尾数(有效数字)。以 32 位单精度为例:1 位符号 + 8 位指数 + 23 位尾数;64 位双精度为 1 + 11 + 52。

  • 符号位:决定正负。
  • 指数:用偏移量存储,避免负指数需要符号位。
  • 尾数:存储有效数字,隐含一个前导 1(规格化数),因此 23 位尾数实际表示 24 位精度。

2.2 精度与误差来源

尾数位数决定有效数字的个数。单精度约 7 位十进制有效数字,双精度约 15-16 位。两个层面的误差:

  • 无法精确表示:十进制小数(0.1、0.2)在二进制中是无限循环小数,只能截断近似。
  • 有效位截断:绝对值差距悬殊的两个数相加,较小的数可能被完全舍去(1e16 + 1 == 1e16),因为尾数没有足够位同时容纳两者。

浮点的比较因此不能直接用 ==,而应比较差值与容差。金额计算等需要精确十进制的场景应使用定点表示(如 Java 的 BigDecimal),完整讨论见 数值精度与金额处理。

3. 字节序

多字节数据在内存中的存放顺序有两种约定:

  • 大端(Big-endian):高位字节存放在低地址,符合"从左到右"的直觉。
  • 小端(Little-endian):低位字节存放在低地址,x86 平台默认。

例如 32 位整数 0x12345678,大端在内存中为 12 34 56 78,小端为 78 56 34 12。

字节序影响跨平台交互:网络协议统一使用大端(网络字节序),文件格式、序列化协议会显式声明字节序。发送方与接收方约定不一致时,数值被读反。单机内程序通常感知不到字节序,只在跨字节序平台解析裸字节时暴露。

4. 字符编码

字符同样编码为位。ASCII 用 7 位表示英文字符;UTF-8 是变长编码,兼容 ASCII 且能表示 Unicode 全集。编码的关键约束是编解码一致:用 A 编码写入、用 B 编码读取,字节序列会被错误解释为乱码。字符编码与区域差异的完整讨论见 时间与字符编码。

三、实现:开发中的落地

现象 根因 规避
0.1 + 0.2 != 0.3 二进制无法精确表示十进制小数 用容差比较;金额用定点表示
1e16 + 1 == 1e16 尾数有效位不足,小量被舍去 避免悬殊量级相加;重新组织计算顺序
Integer.MAX_VALUE + 1 变负数 定长整数回绕 更大类型、边界检查、无符号语义
跨机器数据读反 字节序不一致 协议显式声明字节序,用网络字节序
文件打开乱码 编解码不一致 统一编码并显式声明

总结

  • 一切数据都是定长位序列,同一串位按不同编码解释得到不同值,编码方式是数据正确性的根基。
  • 补码用模运算把减法化为加法,换来 0 的唯一表示与单一加法电路。
  • 浮点用"符号 + 指数 + 尾数"存储,精度受尾数位数限制,无法精确表示部分十进制小数。
  • 字节序与字符编码是跨平台、跨语言交互的一致性问题,单机内通常被隐藏。