一、起源:单体应用的边界

单体应用的问题不是"代码写得不好",而是部署形态与组织形态在规模增长后与业务需求不再匹配。判断是否需要拆分,先要明确单体在哪几个维度上触及了边界。

1.1 单体应用的四种边界

边界 具体表现 触发的业务后果
部署耦合 所有模块编译进同一个部署包,任一模块的改动都需要全量构建、全量回归、整体发布 发布窗口互相阻塞,一个低风险改动要承担全模块的回归范围,发布频率被最低频模块限制
扩展受限 扩容以整个进程为单位,热点模块无法单独扩容 为支撑下单模块的峰值,需要整体复制实例,非热点模块的 CPU 与内存随之一并复制,资源利用率下降
故障扩散 所有模块共享同一进程的堆内存、线程池、连接池与类加载空间 一个模块的内存泄漏、死循环或线程池耗尽会导致整个应用不可用,故障域等于整个系统
团队协作成本 代码库、构建流水线、发布节奏、依赖版本全部共享 提交互相等待,构建排队,模块边界只能靠约定维持,人员规模上升后边界逐渐模糊

这四条边界的共同特征是:它们都无法通过"把代码写得更规范"来消除,只能通过改变部署形态来化解。

1.2 拆分带来的一批新问题

把单体拆成多个独立部署的服务,化解了上述边界,同时在新的维度上引入了新的约束。这些约束不是拆分方式的缺陷,而是分布式部署的固有代价,需要用对应的治理能力承接。

新问题 表现形式 承接该问题的治理能力
实例地址不再固定 实例按需扩容、重启、漂移,调用方无法再通过配置文件写死 IP 与端口 服务注册与发现
配置分散 同一份配置散落在 N 个部署单元中,修改配置需要逐个发布 配置中心
调用链路变长 一次用户请求跨越多个进程,鉴权、限流、协议适配若在各服务内重复实现则无法统一 网关
单点故障面扩大 一次请求依赖多个服务,任一环节抖动都会沿调用链向上放大 客户端负载均衡、熔断、限流、降级、舱壁隔离
定位困难 一次失败请求的日志分散在多个进程,无法通过单机日志还原完整路径 链路追踪与统一的可观测性体系
跨服务写操作失去原子性 本地事务只覆盖本库,业务操作需要多个服务同时写入时无法自动回到一致状态 分布式事务与最终一致性方案
版本共存 上下游发布节奏独立,旧版本调用方与新版本提供方同时在线 灰度发布、标签路由、接口版本与兼容策略

上述问题的出现顺序即治理能力的建设顺序。在与架构演进脉络中的定位对照上,微服务所化解的问题与引入的新约束已在 软件架构演进的问题脉络 第九章与第十五章展开,本文不再重复演进逻辑。

1.3 本文的定位与引用关系

Spring 容器、AOP、事务抽象与 Spring Cloud 在生态中的位置,见 Spring Framework 核心体系 第十一章;脚手架层的自动装配、外部化配置、Profiles 与启动事件,见 Spring Boot。本文承接这两层,只讨论治理能力的原理与落地,以及组件选型、参数配置、故障排查这些工程决策。


二、原理

2.1 微服务的核心要素

2.1.1 拆分粒度与边界

拆分的依据是业务能力与领域边界,而不是代码分层或代码行数。可操作的判据有三条:

  1. 数据所有权唯一:一个业务实体(如订单、库存)的写入只允许一个服务负责。如果两个服务都需要写同一张表,边界就切错了,会直接制造跨服务一致性问题;
  2. 变更节奏一致:经常需要一起改动的功能应放在同一个服务内。如果一次业务需求必须同时修改三个服务并同时发布,这三个服务实际上是同一个部署单元,只是被拆开了;
  3. 团队所有权对应:服务与团队一一对应,一个服务只由一个团队负责。需要多个团队协商才能发版的服务,边界需要重新划分。

领域边界的理论来源是限界上下文与聚合根,其在代码组织层的对应形态(按领域拆分的多模块结构)见 企业级项目实践指导手册 第 1.2.2 节。

2.1.2 自治与契约

微服务的"自治"包含三个层次:

层次 含义 违反后的后果
部署自治 服务可独立构建、发布、回滚,不要求其他服务同步发布 发布变成跨团队协同作业,微服务的收益被抵消
数据自治 服务独占自己的数据存储,其他服务只能通过接口访问 数据库成为隐式集成点,表结构变更即破坏性变更
契约自治 服务对外的接口契约稳定,内部实现可自由替换 上游的每次重构都变成下游的破坏性变更

契约是自治的边界。接口一旦发布,就构成对外承诺,内部实现(框架升级、表结构调整、算法替换)不应对契约产生可见影响。

数据自治要求服务独占存储、其他服务只能通过接口访问,跨服务的写操作因此失去本地事务的原子性;持久层侧的事务与连接绑定机制、多数据源下的事务边界见 Java 持久层。

2.1.3 版本与兼容

独立发布意味着任意时刻都存在多个版本共存,兼容策略必须在设计阶段确定而不是故障后补救:

  • 新增字段:调用方对未知字段应忽略而不是报错,这是兼容演进的基础前提;
  • 删除字段:先停止写入、观察调用方读取情况,确认无调用后再删除,禁止直接删除;
  • 枚举扩展:调用方对未知枚举值需要有兜底分支,否则提供方新增一个状态就可能导致上游解析失败;
  • 接口签名变更:通过新增接口而非修改既有接口完成,旧接口在确认无调用方后下线。

2.1.4 拆分的常见误判

误判 表现 造成的实际后果
按技术分层拆分 拆出统一的数据访问服务、公共的 Controller 层服务、独立的鉴权服务 每次业务变更仍需同时修改多个服务并同步发布,形成"分布式单体":付出了分布式的全部代价,却没有得到独立的部署能力
过细拆分 把单个聚合内的实体各自拆成服务,如订单主表服务与订单明细服务 调用链长度与运维对象数量随实体数量增长,原本一次本地事务能完成的操作变成跨服务写,一致性成本急剧上升
按部门拆分 以组织结构而非业务边界划分服务 组织调整时服务边界失效,服务成为组织的映射而非业务的映射
共享数据库拆分 多个服务连接同一个库、写同一批表 数据库成为隐式耦合点,表结构变更需要多团队协同,服务自治不成立

判断拆分是否合理的实用方法:统计一次典型业务变更涉及的服务数量与发布次数。若多数需求都要跨三个以上服务同时发布,说明拆分粒度过细或边界切在了变更频繁的位置。

2.2 服务注册与发现

2.2.1 注册中心的作用与数据模型

注册中心维护的核心数据是一张映射表:服务名 → 该服务当前可用的实例列表。

数据项 含义 用途
服务名 逻辑服务标识,调用方按此名称发起调用 调用方与服务实例解耦,不感知 IP
实例地址 IP 与端口 建立连接的目标
元数据 版本号、机房、分组、区域、灰度标签、权重 标签路由、灰度发布、同机房优先
健康状态 健康、不健康、已摘除 过滤不可用实例
临时与持久实例 临时实例随心跳失联被剔除,持久实例只能显式注销 长期固定节点与弹性实例的区分

数据模型决定了一个关键设计:调用方拿到的是实例列表,因此列表的准确性与新鲜度直接决定调用成功率。注册中心不转发请求,它只提供地址信息,实际的请求路径不经过注册中心。

2.2.2 注册、续约与健康检查

实例的生命周期由三组动作维护:

实例启动
  → 向注册中心注册(写入服务名、地址、元数据)
  → 周期性心跳续约(如每 5 秒一次)
  → 心跳正常:实例保持健康状态
  → 心跳超时:先标记不健康(如 15 秒未收到心跳)
  → 持续失联:从实例列表中剔除(如 30 秒未收到心跳)
实例关闭
  → 主动发送注销请求,立即从列表移除
  → 若未发送注销(进程被强杀):由心跳超时机制兜底剔除

健康检查有两种模型,差异在于判定由谁执行:

模型 判定方 特点
客户端心跳 实例主动上报 实现简单;只能证明进程存活,无法证明服务真的可处理业务请求
服务端主动探活 注册中心或平台发起探测 可探测端口、HTTP 路径甚至业务健康接口,判定更接近真实可用性;需要协议支持

两种模型都不能覆盖"进程存活但业务不可用"的情形(如依赖的数据库不可达、线程池已满)。这类情形需要由就绪探针与业务健康接口补充,见本文第 3.5 节。

2.2.3 剔除与保护机制

剔除动作的两个参数直接决定故障时的行为:

  • 剔除阈值:过短会把网络抖动误判为故障,造成实例被批量摘除;过长会让调用方持续把流量打到已宕实例,依赖客户端重试兜底;
  • 保护阈值(自我保护):当短时间内失联实例比例超过阈值(如 85% 的健康实例),注册中心判定为自身网络异常而非实例批量宕机,停止剔除并保留失联实例。代价是调用方会拿到已宕实例,由客户端容错吸收。

调用方侧的兜底同样必要:注册中心不可用时,客户端使用本地缓存的实例列表继续工作,避免注册中心故障直接升级为业务全不可用。这一层设计属于单点治理范畴,检测与接管的通用机制见 高可用与集群 第 1.1 节与第 2.6 节。

2.2.4 客户端发现与服务端发现

维度 客户端发现 服务端发现
实现方式 调用方从注册中心拉取实例列表,自行选择实例并直连 调用方只访问固定入口,由负载均衡器或平台组件完成实例选择与转发
代表实现 Spring Cloud LoadBalancer 配合 Nacos、Eureka、Consul Kubernetes Service 配合 kube-proxy、Ingress、云负载均衡
调用方感知 感知实例列表,可基于元数据做标签路由、灰度、同机房优先 不感知实例,标签路由能力受平台模型限制
额外网络跳转 无 多一跳转发,通常在节点本地完成,开销可控
治理逻辑位置 位于应用进程内,需要各语言分别实现 位于基础设施层,与语言无关

两种模型并非互斥。常见形态是南北向流量(外部进入)走服务端发现,东西向流量(服务之间)走客户端发现,以便在调用方实现基于元数据的细粒度路由。

2.2.5 注册中心自身的高可用

注册中心是整个调用链路的前置依赖,其自身设计需要回答三个问题:

  1. 集群与一致性模型:注册中心在多节点部署时,需要选择 AP(优先可用,允许短暂读到过期列表)或 CP(优先一致,网络分区时拒绝写入以保证列表正确)。以可用性优先的注册中心在网络分区期间可能返回过期实例,由客户端容错吸收;以一致性优先的注册中心在分区期间可能拒绝注册,导致新实例无法上线。选择依据是"过期实例"与"无法上线"哪一个影响更大;
  2. 客户端缓存:调用方在本地持久化最近一次成功获取的实例列表,注册中心不可用期间继续使用缓存;注册中心恢复后自动重新同步;
  3. 注册中心的依赖:注册中心自身不应依赖被它管理的业务服务。若注册中心需要查询某个业务接口才能启动,则注册中心与业务服务形成循环依赖,故障时无法独立恢复。

2.3 配置中心

2.3.1 集中配置与配置模型

配置中心把配置从部署包中剥离,形成"应用 + 环境 + 分组"的组织结构:

维度 作用 典型用法
命名空间 环境或租户隔离,权限控制的最小单位 dev、test、prod 各一个命名空间,生产命名空间仅运维与负责人有写权限
分组 同一命名空间内的业务分组 按服务名或业务域分组,便于按业务批量管理
Data ID / 配置集 一份具体配置,通常对应一个配置文件 order-service-prod.yml
配置类型 yml、properties、json、纯文本 结构化配置用 yml,脚本类内容用纯文本

远程配置与本地配置的优先级关系需要在接入前明确:通常做法是本地保留可独立启动的最小配置(端口、注册中心地址、日志级别),业务配置全部来自配置中心。本地配置的加载顺序与优先级链见 Spring Boot 第五章,Profiles 的加载与覆盖规则见 Spring Boot Profiles 环境隔离 第四章。

2.3.2 动态刷新

动态刷新的机制分三个环节:

1. 变更感知
   客户端长轮询(保持连接,配置变更时立即返回并携带变更的 Data ID)
   或由服务端/消息总线推送变更事件
2. 属性更新
   重新拉取变更的配置内容,合并进 Environment 的属性源
3. Bean 刷新
   仅销毁并重建标注了刷新作用域(@RefreshScope)的 Bean,
   使其重新绑定配置值;未标注的 Bean 保持原值

第三环节是刷新行为的关键约束:Spring 容器中绝大多数 Bean(数据源、连接池、线程池、Feign 客户端、注册中心客户端)在启动时完成初始化,配置值已被注入。刷新配置只会重建声明了刷新作用域的 Bean,未被标注的 Bean 仍持有旧值。

这带来两个后果:

  • 需要动态生效的配置项,其绑定的 Bean 必须标注刷新作用域;
  • 修改连接池大小、线程池参数、注册中心地址这类需要重建底层资源的配置,实际效果是重建 Bean 与底层资源,可能伴随连接中断与瞬时请求失败。

高危 提醒:全量推送配置或对整个命名空间执行批量刷新,会触发所有实例在相近时刻重建刷新作用域 Bean 与底层连接资源,可能造成瞬时请求失败、连接风暴与下游雪崩。影响范围覆盖该命名空间下的全部实例,且无法预先限定生效顺序。兜底方式:变更按配置项维度发布而非整份配置发布;先在一个实例或一个分组灰度验证;刷新前确认目标配置项是否绑定了需要重建连接的 Bean;回滚方式为在配置中心的配置历史中回滚到上一版本,回滚同样属于全量操作,应避开业务高峰。

2.3.3 版本与回滚

配置中心的配置历史与版本管理承担两个职责:

  1. 变更留痕:记录每次修改的提交人、时间、前后内容,作为审计与责任界定的依据;
  2. 快速回滚:发生配置引发的故障时,回滚到上一已知可用版本。回滚是配置发布链路中必须演练的路径,未演练过的回滚在故障时往往不可用。

配置的发布应遵循与代码发布相同的流程约束:变更评审、灰度、可回滚、有观察期,通用要求参见 变更与发布管理。

2.3.4 敏感配置的加密与权限

手段 适用 注意事项
配置中心自带加密 配置中心的托管能力 密钥的管理方式需与配置本身分离,避免密钥与密文同库
本地加密后提交 需要把配置文件纳入代码仓库的场景 解密密钥通过环境变量或密钥管理服务注入,不写入代码库
密钥管理服务 高安全要求场景 应用启动时拉取,需要处理密钥服务不可用时的启动策略
环境变量注入 容器化部署 注意环境变量会出现在进程信息、崩溃转储与诊断接口中

权限方面需要区分读写权限与可见权限:生产环境的配置读权限应限定到具体服务,避免任何服务都能读取全环境配置;敏感配置的明文查看权限应单独控制。配置项本身也需分级,密码类的配置不应出现在日志、配置快照接口与异常堆栈中。

2.4 网关

2.4.1 统一入口的职责

网关是所有外部请求进入系统的唯一入口,承担跨服务共性的横切职责:

职责 说明
路由 按路径、域名、请求头、查询参数把请求转发到目标服务,路由规则动态可改
鉴权 校验令牌、解析用户身份并注入下游请求头,避免每个服务重复实现
限流 在入口处按 IP、用户、接口、租户等维度限流,保护后端整体容量
灰度 按请求头、用户标识、比例把部分流量导向新版本实例
协议转换 对外提供 HTTP/REST,对内可转 gRPC、WebSocket,或适配旧接口协议
请求与响应改写 路径前缀剥离、请求头增删、响应体包装与错误码统一
可观测性入口 生成或透传追踪上下文,记录访问日志,作为调用链的起点

网关是横切逻辑的集中点,其价值在于"一处实现、全局生效"。这一点与 Filter、Interceptor、AOP 在单个应用内的分工是同构的,分层机制见 Java Web 技术体系 第 5.4 节。

2.4.2 与反向代理的边界

反向代理与网关在功能上有重叠,但设计目标不同:

维度 反向代理(如 Nginx) API 网关
关注点 连接管理、转发性能、静态资源、TLS 卸载、缓存 业务身份、动态路由、灰度、限流规则、协议适配
配置变更 通常需要重载进程(平滑重载)生效 通过配置中心或管理接口动态生效,不重启
扩展方式 配置文件与模块,自定义逻辑需要 Lua 或第三方模块 以插件或过滤器形式扩展,可按路由维度挂载
与业务的关系 不感知业务身份与业务规则 理解用户、租户、接口语义

反向代理的配置模型、负载均衡与限流能力见 Nginx 配置详解 第三章与第 4.6 节。常见部署形态是两层叠加:

客户端
  → 反向代理(TLS 卸载、静态资源、粗粒度限流、四层转发)
    → API 网关(鉴权、精细路由、灰度、业务级限流、追踪起点)
      → 业务服务(只处理业务逻辑)

两层的边界划分原则是:与业务无关的连接层能力放在反向代理,与业务身份和业务规则相关的能力放在网关。网关自身必须无状态,配置集中在配置中心或数据库,才能横向扩容。

2.5 客户端负载均衡

2.5.1 服务端负载均衡与客户端负载均衡

维度 服务端负载均衡 客户端负载均衡
决策位置 独立组件(反向代理、平台组件、硬件设备) 发起调用的应用进程内
调用方感知 只感知统一入口地址 感知实例列表与元数据
路由粒度 受组件配置能力限制 可基于调用方上下文(用户、灰度标签、重试次数、地域)选择实例
与注册中心的关系 通常由组件自行探测后端健康状态 直接消费注册中心的实例列表
变更生效 依赖组件重载配置 实例列表变化随注册中心推送自动生效
额外跳转 多一跳 直连目标实例

2.5.2 实例选择策略

策略 适用场景 局限
轮询 实例规格一致、请求耗时相近 慢实例会积压请求
随机 实例数量较多、请求耗时差异大 短窗口内分布不均匀
加权 实例规格不一致、需要按容量分配流量 权重需人工维护
最少连接 请求耗时差异大 需要额外的状态统计与同步
一致性哈希 需要请求与实例的稳定映射(如本地缓存、会话粘滞) 实例增减时需处理映射漂移
同区域优先 跨区域调用延迟敏感 需实例带有区域元数据

所有策略都建立在同一前提上:实例列表中的实例都可用。因此"实例健康"的判定不能只依赖注册中心的状态,还需要调用方在实例选择时跳过连续失败的实例。

2.5.3 与注册中心的配合

注册中心(实例列表变更)
  → 客户端监听并刷新本地实例列表缓存
    → 负载均衡器从缓存中按策略选取实例
      → 发起调用;失败时按策略换实例重试或返回失败

两个工程要点:

  1. 缓存刷新延迟:实例上线到调用方可感知之间存在窗口(注册推送延迟 + 客户端缓存刷新周期)。这个窗口决定了新实例的预热时间与摘除后的残余流量;
  2. 元数据驱动路由:灰度发布、同机房优先、多环境隔离都通过在实例元数据上打标签,并由调用方在实例选择阶段过滤实现,见本文第 2.9 节。

2.5.4 重试与超时的相互作用

重试与超时是一组必须同时设计的参数,单独调优任意一个都会引入新问题。

重试放大

调用链:网关 → 服务 A → 服务 B → 服务 C

若每一层都配置"重试 3 次":
  最坏情况下,一次入口请求在服务 C 上产生的调用量为 3 × 3 = 9 次
  若链路上有 4 层,则为 3³ = 27 次

下游故障时,重试把放大的流量持续打在已经过载的下游上,
形成"越失败越重试、越重试越失败"的正反馈。

约束原则:

  1. 重试只允许出现在调用链的一层(通常是离用户最近、可判定幂等的那一层),不能层层重试;
  2. 重试次数按"最坏放大倍数 = 重试次数 ^ 链路层数"评估,确保放大后的流量在下游容量范围内;
  3. 重试需要退避与随机抖动,避免所有调用方在同一时刻集中重试。

超时预算逐层递减

上游超时必须大于下游超时与重试所需时间的总和,否则上游已经超时返回,下游仍在继续处理,造成无用负载与状态不一致。

网关超时 3000ms
  └── 服务 A 单次调用超时 1000ms,重试 1 次 → 最坏耗时 2000ms + 处理耗时
        └── 服务 B 单次调用超时 500ms
              └── 服务 C 单次调用超时 200ms

每一层的超时都应明显小于上游剩余的预算,留给重试与自身处理。超时设置过大,会把上游线程长时间占用,在故障时快速耗尽线程池。

重试的前提是幂等

重试会产生重复请求,只有幂等操作才可以重试。查询类与赋值类操作天然幂等;扣减、追加、扣款类操作必须通过幂等键或状态机约束后才允许重试。幂等实现手段与重试的去重配合见 消息可靠性与幂等设计 第 2.5 节与第 3.4 节。

2.6 熔断、限流与降级

2.6.1 熔断器状态机

熔断器的目标是在下游已经不可用时,快速失败而不继续消耗自身资源(线程、连接、队列)。其状态机由三个状态与两条转移路径构成:

                失败率 / 慢调用比例超过阈值
                    且样本数达到最小请求数
     ┌────────┐ ─────────────────────────
     │ CLOSED │                          ▼
     │ 关闭   │                     ┌────────┐
     │ 正常放行│ ◄────────────────── │  OPEN  │
     └────────┘   半开期间探测请求    │ 打开   │
          ▲        全部成功           │ 直接拒绝│
          │                           └────────┘
          │                                │
          │                          等待熔断时长
          │                                ▼
     ┌──────────┐   探测请求出现失败  ┌──────────┐
     │  HALF_OPEN│ ─────────────────► │ 重新打开  │
     │  半开     │                    └──────────┘
     │ 放行少量  │
     │ 探测请求  │
     └──────────┘

三个状态对应的关键参数:

状态 关键参数 含义
CLOSED 统计窗口类型与大小、失败率阈值、慢调用时长阈值与比例、最小请求数 统计窗口决定判定的灵敏度;最小请求数避免低流量下用极少样本误判
OPEN 熔断时长 打开后直接拒绝请求,不发起真实调用;时长应覆盖下游典型恢复时间
HALF_OPEN 半开探测请求数 放行少量请求探测下游;全部成功则关闭,出现失败则重新打开

熔断与重试的组合需要额外注意:熔断打开时重试会立刻失败,不产生流量;但若熔断的半开探测与重试同时触发,可能把探测流量放大。通常将重试限定在熔断关闭状态下生效。

2.6.2 限流的维度与位置

限流的目标是保护容量,与熔断(保护调用方自身)不同:熔断处理"下游已坏",限流处理"请求超出容量"。

位置 维度 保护对象
入口(网关) 全局 QPS、按 IP、按用户、按接口、按租户 保护整个后端集群
服务间(调用方) 对特定下游的并发数或 QPS 保护某个下游不被单一调用方打满
资源(服务内) 线程池并发、信号量、数据库连接数、缓存操作 QPS 保护服务自身的稀缺资源

常见限流算法与取舍:

算法 特点 适用
固定窗口计数 实现简单,窗口边界存在瞬时双倍放行 精度要求不高的粗粒度限流
滑动窗口 把窗口切分为多个小格,判定更平滑 通用限流
令牌桶 允许短时突发(桶内积压的令牌) 允许一定弹性的接口
漏桶 输出速率恒定,削峰效果明显 需要严格匀速处理的场景
并发数限制 直接限制同时在处理的请求数 保护线程池与连接池

限流拒绝后的行为需要明确设计:返回特定错误码(如 429)并携带重试建议,而不是与业务错误混用同一个错误码,否则调用方与运维无法区分"容量不足"与"业务失败"。

2.6.3 降级策略设计

降级是限流或熔断触发后返回什么的问题,需要与业务方共同确认,而不是技术侧单方面决定。可用的策略有四类:

策略 实现 适用
返回兜底数据 返回默认值、空列表、缓存的历史值 展示类、推荐类、非核心查询
快速失败 立即返回明确错误,不占用资源 涉及金额与状态的写操作,宁可失败不可返回错误结果
排队等待 超出容量后进入队列,限定等待时长 允许短时延迟的异步任务
功能降级 关闭非核心功能,把资源让给核心链路 大促、故障期间的主动切换

降级的关键判断是"返回兜底数据是否会造成更严重的问题"。对于金额、库存、状态流转这类操作,返回兜底值会产生错误业务结果,必须选择快速失败。

2.6.4 舱壁与隔离

舱壁隔离的目的是让一个下游的故障不耗尽调用方的全部资源。实现方式有两类:

方式 机制 特点
线程池隔离 每个下游使用独立线程池,请求在独立线程中执行 隔离彻底,支持超时中断;线程上下文切换有开销,线程数随下游数量增长
信号量隔离 用计数器限制对某个下游的并发数,在调用线程内同步执行 开销小;无法主动超时中断,调用线程被阻塞时无法释放

隔离的粒度包括:按下游服务隔离线程池、按下游服务隔离 HTTP 连接池、把核心链路与非核心链路拆分为不同的线程池与连接池。隔离资源总量必须小于进程总容量,否则隔离只是重新分配了竞争。

高危 提醒:修改熔断阈值(失败率、慢调用比例、最小请求数、熔断时长)与限流阈值(QPS、并发数、桶容量)会直接改变系统在故障时的行为。阈值放宽会使下游故障时的放大流量回升,可能击穿下游;阈值收紧会使正常波动被判定为故障,产生大面积熔断与限流拒绝,影响范围覆盖该规则作用的所有调用方与接口。兜底方式:变更前先确认当前真实流量与错误率基线;按最小作用范围(单接口、单调用方)逐步调整;保留原规则用于对比;变更后观察拒绝率与熔断打开次数;回滚方式为恢复原阈值并确认熔断状态已回到关闭、限流拒绝数回落到基线。

2.7 链路追踪与可观测性

2.7.1 Trace、Span 与上下文传播

链路追踪把一次请求在多个进程中的处理过程串成一条树形结构:

概念 含义
Trace 一次完整请求的调用链,由全局唯一的 Trace ID 标识
Span 调用链中的一个工作单元,对应一次服务调用、一次数据库操作或一次消息发送
Parent Span 当前 Span 的父节点,用于还原调用层级
Span 内容 起止时间、耗时、状态(成功/失败)、标签(服务名、接口、状态码)、事件
上下文传播 跨进程传递 Trace ID 与 Parent Span ID 的机制,通常通过 HTTP 请求头或消息属性承载

上下文传播的载体需要在系统内统一。常见的两套规范是 W3C Trace Context(traceparent 请求头)与 B3(X-B3-TraceId 等请求头)。链路跨越不同技术栈时(Java 服务调用 Go 服务、HTTP 调用消息队列),传播格式不统一会导致链路在边界处断裂。

2.7.2 采样策略

全量采集的成本随调用量线性增长,因此需要采样。常见策略:

策略 说明 取舍
头部采样(按比例) 在链路的第一个节点决定是否采样,后续节点跟随该决定 保证链路完整;低比例下小概率问题易被漏采
尾部采样 先采集全部数据,在链路结束后按条件决定保留 可保留全部异常链路;需要额外的缓冲与处理资源
按错误加权采样 错误链路全采或少采、正常链路低比例采样 适合以排障为主要目的的场景
按接口差异化采样 核心接口高比例、非核心接口低比例 需要维护接口清单

采样率的设定原则是保证"单位时间内被采样的异常链路数量足以支撑定位",而不是追求一个固定的百分比。

2.7.3 日志、指标与追踪的关联

三类可观测数据各有不可替代的用途,必须能被互相定位:

数据 回答的问题 关联方式
指标 是否异常、程度如何、影响多少请求 指标上带 Trace ID 样本(exemplar)可直接跳到具体链路
追踪 请求为何变慢、失败发生在哪一跳 链路中标记服务名、接口、错误信息,可定位到具体实例
日志 具体处理过程中的细节与中间数据 日志中携带 Trace ID 与 Span ID,可按 Trace ID 检索全部相关日志

关联的实现要点是在日志上下文中统一放置 Trace ID(如放入 MDC),并在日志格式中输出,相关配置见 企业级项目实践指导手册 第 4.1 节。指标类型、采集模型与日志和指标的分工见 监控与告警 第 2.1 节与第 2.7 节。

2.7.4 与告警的衔接

追踪数据本身不直接产生告警,它承担的是"告警之后定位"的职责。告警的输入应来自指标,而指标需要围绕用户可感知的结果定义(SLI),并按错误预算决定告警级别,方法见 SLO 与告警设计 第 2.1 节与第 2.3 节。两侧衔接的方式是:告警通知中带上服务名、接口与时间窗,从指标跳转到链路,再从链路中的 Trace ID 跳转到日志。

2.8 分布式事务与一致性

跨服务写操作的原子性缺口来自两个客观事实:本地事务的作用域不覆盖远程调用,消息发送的结果也无法纳入本地事务的提交与回滚。该缺口的成因、方案谱系(两阶段提交、TCC、本地消息表、事务消息、最大努力通知)、回查与对账要求已在 消息一致性:事务消息与最终一致性 第 2.1 节与第 3.5 节完整展开,本节只给出微服务场景下的选择顺序。

选择顺序按四步判断:

  1. 能否规避:优先通过业务设计消除跨服务写。可行手段有三种:把必须原子完成的操作收敛到同一个服务内;把双向依赖改为单向流程,配合幂等与状态机驱动;把同步写改为"受理 + 异步推进",由下游按幂等消费。多数原本被认为需要分布式事务的场景,可以通过这三种方式规避;
  2. 容忍度是多少:账务类不允许账目不平,订单与库存允许短时不一致但不允许永久不一致,通知类允许少量丢失。容忍度决定方案的强度,也决定是否必须叠加对账;
  3. 中间件是否具备能力:需要低延迟且消息量大时选择事务消息(依赖半消息与回查能力),消息量中等且希望实现简单时选择本地消息表;
  4. 接收方是否可控:外部系统与第三方无法要求其改造时,选择最大努力通知并同步建设对账与主动查询能力。

微服务场景下的三条工程约束:

  • 无论选择哪种方案,消费端幂等都是前提。方案负责不丢,幂等负责不重复,两者缺一不可;
  • 分布式事务方案不能替代对账。自动链路会因跨系统故障、人工干预、数据修复产生差异,账务类系统必须保留日终对账与人工处置入口;
  • 跨服务写操作的调用方必须能查询"业务真实状态",而不是依据调用是否成功推断结果。这一查询接口是所有补偿与对账的权威依据。

2.9 配置与版本治理

2.9.1 多环境配置

多环境隔离的目标是"同一份构建产物在不同环境运行",环境差异只来自配置注入。配置的分层组织方式、激活方式的优先级、以及 profile 分组,见 Spring Boot Profiles 环境隔离 第 2 节与第 4 节。接入配置中心后的分工建议是:

配置类型 存放位置 理由
端口、日志级别、应用名 镜像内默认配置 与运行形态绑定,通常不需要跨环境变动
环境差异项(数据库地址、下游地址) 配置中心按环境命名空间 需要集中管理与审计
敏感信息(密码、密钥) 密钥管理服务或配置中心加密项 需要独立权限与轮换机制
灰度开关与限流阈值 配置中心,支持动态刷新 需要在不重启的情况下调整

2.9.2 灰度发布与标签路由

灰度发布的能力由三处配合实现:

1. 路由决策:网关按请求头、用户标识、比例决定本次请求走哪个版本
2. 实例选择:调用方按实例元数据中的版本标签(如 version=v2)过滤实例
3. 元数据来源:新版本实例在注册时携带标签,注册中心把标签分发给调用方

三种常见的灰度维度:

维度 实现方式 适用
白名单 按用户 ID、设备、租户指定 内部验证与小范围试用
比例分流 按请求的稳定哈希值取模 逐步放大流量
标签路由 按请求头中的标签匹配实例标签 全链路灰度,要求标签在整条链路透传

全链路灰度的难点不在第一跳,而在标签的透传与各层的一致性:网关识别的标签需要沿调用链传递到每个下游,每一层在实例选择时都要使用同一标签。标签缺失时的默认行为(回退到稳定版本还是报错)需要明确定义。

2.9.3 接口版本与兼容策略

版本表达方式 形式 特点
URI 版本 /api/v1/orders 直观、易调试;版本出现在路径中,路由与文档都需按版本维护
请求头版本 Accept-Version: 1 路径稳定;调试与缓存策略稍复杂
媒体类型版本 Accept: application/vnd.api.v1+json 语义规范;对客户端要求较高
参数版本 查询参数携带版本 实现简单;容易与业务参数混用

无论采用哪种方式,兼容演进的规则是一致的:新增字段与新增枚举值属于兼容变更(调用方需具备忽略未知字段与兜底未知枚举值的能力);删除字段、修改字段语义、变更必填性、修改错误码含义属于破坏性变更,必须通过新版本接口承载。接口契约的完整规范要求见 HTTP API 设计。

接口变更是否破坏调用方,可以通过消费者驱动契约在提供方的构建阶段自动校验,契约测试的流程与兼容检查清单见 Java 测试体系。

2.9.4 服务依赖拓扑

依赖拓扑是评估变更影响范围的基础,需要两份数据:

  1. 静态拓扑:由代码中的调用关系得出(声明式客户端接口、消息订阅关系、配置中的下游地址),用于发布前的影响分析;
  2. 动态拓扑:由链路追踪数据统计得出(服务之间的实际调用量、错误率、延迟),用于发现静态分析遗漏的依赖与隐式依赖(如共享数据库、共享缓存、共享消息主题)。

两份数据需要交叉核对:静态存在而动态无流量的依赖可能是废弃依赖,可以下线;动态有流量而静态缺失的依赖说明存在未被记录的耦合,是变更事故的高风险点。拓扑直接决定三件事:发布顺序(先下游后上游)、爆炸半径评估、以及熔断与隔离的配置粒度。


三、实现

3.1 组件选型与组合

3.1.1 云原生体系与开源体系的差别

两套体系的差异不在功能多少,而在治理能力的归属层次:

维度 Kubernetes 原生体系 开源微服务组件体系
服务发现 Service 与集群 DNS,依赖平台网络模型 独立注册中心,支持元数据、权重、临时实例
配置管理 ConfigMap 与 Secret,变更触发滚动更新,缺少应用级动态刷新 配置中心,支持长轮询推送、配置历史、命名空间权限
网关 Ingress,路由以路径与域名为主,业务级鉴权与灰度依赖注解或额外组件 API 网关,路由断言与过滤器模型,支持请求头路由与动态规则
负载均衡 Service 层转发,调用方不感知实例 客户端负载均衡,支持元数据路由与调用方上下文
限流熔断 依赖第三方或服务网格实现 组件内置,规则可动态下发
多语言支持 与语言无关 治理逻辑随语言重复实现

两套体系可以共存:平台层负责部署、网络、探针与配置挂载,应用层负责元数据驱动的路由、动态规则与业务灰度。需要在接入前明确的边界是"哪些能力由平台承担,哪些由应用承担",避免同一能力两处配置且互相覆盖。

3.1.2 组件选型对照表

治理能力 Spring Cloud Alibaba 体系 Spring Cloud 官方/Netflix 体系 Kubernetes 原生 Service Mesh
注册中心 Nacos、Consul Nacos、Consul、Eureka(进入维护) Service 与 DNS 控制平面下发(Istio 使用平台服务发现)
配置中心 Nacos、Apollo Spring Cloud Config(需配合消息总线推送刷新) ConfigMap 与 Secret 平台配置或网格配置
网关 Spring Cloud Gateway Spring Cloud Gateway、Zuul(旧) Ingress Controller Ingress Gateway(如 Envoy)
客户端负载均衡 Spring Cloud LoadBalancer、Dubbo 内建 Spring Cloud LoadBalancer 不适用(转发在平台侧) Sidecar 承担
熔断降级 Sentinel Resilience4j、Hystrix(停止维护) 无原生能力 网格侧熔断与重试策略
链路追踪 Micrometer Tracing、SkyWalking Micrometer Tracing、Zipkin 需部署采集组件 Sidecar 上报,无需改代码
分布式事务 Seata Seata 无 无
治理逻辑位置 应用进程内 应用进程内 平台层 基础设施层
迁移成本 引入依赖与配置,改造成本低 与 Alibaba 体系接近,但部分组件已停止演进 需要平台能力与部署模型改造 需要网格基础设施与流量接管,改造成本最高

选型判断依据:

  1. 部署在 Kubernetes 上且团队规模较小,优先使用平台提供的能力(发现、配置、探针、发布),只对平台不覆盖的能力(业务灰度、动态限流、元数据路由)引入应用层组件;
  2. 治理规则需要频繁动态调整(限流、熔断、灰度),选择支持规则动态下发的组件,避免每次调整都重启应用;
  3. 多语言技术栈且希望治理能力与语言解耦,评估服务网格,同时评估 Sidecar 带来的资源开销与新增运维对象;
  4. 引入了已停止演进的组件(如 Hystrix),需要规划替代路径,避免在安全漏洞与兼容性问题上积累风险。

3.1.3 依赖引入示例

<!-- 服务注册与发现 + 配置中心 -->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-config</artifactId>
</dependency>

<!-- 网关:基于 WebFlux,不可与 spring-boot-starter-web 同时引入 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>

<!-- 客户端负载均衡 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-loadbalancer</artifactId>
</dependency>

<!-- 声明式 HTTP 客户端 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>

<!-- 熔断限流 -->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

<!-- 链路追踪:桥接实现 + 上报实现 -->
<dependency>
    <groupId>io.micrometer</groupId>
    <artifactId>micrometer-tracing-bridge-brave</artifactId>
</dependency>
<dependency>
    <groupId>io.zipkin.reporter2</groupId>
    <artifactId>zipkin-reporter-brave</artifactId>
</dependency>

版本由 Spring Cloud BOM 统一约束,引入时不需要指定 <version>,依赖版本管理机制见 Spring Boot 第 4.2 节。

网关基于 WebFlux 实现,其依赖路径包含响应式 Web 运行时;如果同一模块内引入了 Servlet 栈的 Web Starter,会在启动时因 Web 应用类型推断冲突而失败。网关应作为独立模块部署,不与其他 Web 服务合并到一个进程。

3.2 关键配置实践

3.2.1 注册与发现的配置要点

spring:
  application:
    name: order-service          # 服务名,注册与发现的唯一标识,也是配置中心 Data ID 的前缀
  profiles:
    active: ${SPRING_PROFILES_ACTIVE:dev}
  cloud:
    nacos:
      discovery:
        server-addr: ${NACOS_ADDR}
        namespace: ${NACOS_NAMESPACE}        # 环境隔离,dev/test/prod 各自独立
        group: DEFAULT_GROUP
        metadata:
          version: v2                        # 灰度路由与版本治理依赖该标签
          zone: cn-east-1                    # 同区域优先策略依赖该标签
        register-enabled: true
        # 心跳与剔除参数使用注册中心默认值,调整前需评估误判风险

配置要点:

  1. 服务名稳定:服务名是注册、发现、配置、监控、告警的统一标识,一旦上线不应随意更改,更改会导致注册列表、配置映射、监控面板同时失效;
  2. 命名空间与环境对齐:注册与配置使用同一命名空间,避免测试实例注册到生产命名空间的严重问题;
  3. 元数据承担路由依据:版本、区域、权重等标签写入元数据,供调用方与网关做实例过滤;
  4. 注册开关可控:本地开发应关闭注册或使用独立命名空间,避免开发实例被生产调用方发现。

3.2.2 超时与重试的参数组合

# 声明式客户端的超时配置(按客户端名或 default 全局生效)
feign:
  client:
    config:
      default:
        connectTimeout: 1000        # 建立连接超时,短于读超时
        readTimeout: 2000           # 读取响应超时,需小于上游剩余预算
      inventory-service:            # 按下游单独覆盖
        connectTimeout: 500
        readTimeout: 1000
  httpclient:
    enabled: true                   # 使用连接池实现,避免每次调用新建连接
  compression:
    request:
      enabled: true
      min-request-size: 2048        # 超过该大小才压缩,避免小报文付出压缩开销
    response:
      enabled: true

# 客户端负载均衡的重试策略(只允许在链路的某一层开启)
spring:
  cloud:
    loadbalancer:
      retry:
        enabled: true
        max-retries-on-same-service-instance: 0   # 不向同一实例重试
        max-retries-on-next-service-instance: 1   # 只换实例重试一次

参数设计的三条规则:

  1. 超时按调用链逐层递减,每一层超时明显小于上游剩余预算,并预留重试时间;
  2. 重试只在链路的一层开启,且重试只针对连接失败、连接超时、可判定的服务端瞬时错误(如 502、503),不对业务错误码(如参数错误、余额不足)重试;
  3. 重试必须与幂等成对出现,写操作未实现幂等时禁止开启重试。

高危 提醒:调整超时与重试参数会改变整个调用链的流量放大倍数与线程占用时长。调大重试次数会按下式放大下游流量(最坏放大倍数 = 重试次数 ^ 链路层数),在依赖抖动时造成流量自激;调大超时会延长调用方线程与连接的占用时间,在依赖变慢时加速线程池耗尽;调小超时会把正常的慢响应误判为失败,触发不必要的重试与熔断。影响范围覆盖该配置作用的所有调用方与下游。兜底方式:变更前先测量下游耗时分布(P50、P95、P99)与当前线程池使用率;一次只调整一个参数;先在非核心接口验证;变更后观察超时率、重试率与线程池排队情况;回滚方式为恢复原参数,并确认下游流量已回落到变更前水平。

3.2.3 熔断阈值与半开策略

# Resilience4j 熔断配置(参数含义与 Sentinel 的降级规则一一对应)
resilience4j:
  circuitbreaker:
    instances:
      inventory-service:
        sliding-window-type: COUNT_BASED      # 也可用 TIME_BASED 按时间窗口统计
        sliding-window-size: 100              # 统计窗口内至少 100 次调用才做判定
        minimum-number-of-calls: 50           # 样本不足时不触发熔断,避免低流量误判
        failure-rate-threshold: 50            # 失败率超过 50% 打开
        slow-call-duration-threshold: 1s      # 超过 1s 视为慢调用
        slow-call-rate-threshold: 80          # 慢调用占比超过 80% 打开
        wait-duration-in-open-state: 10s      # 熔断时长
        permitted-number-of-calls-in-half-open-state: 5   # 半开探测请求数
        automatic-transition-from-open-to-half-open-enabled: true

设计要点:

  1. 最小请求数是防误判的关键参数。缺省值过小会让低流量时段的一次偶发失败直接触发熔断;取值应参考接口的正常流量水平,保证判定基于有效样本;
  2. 慢调用比例比失败率更敏感。依赖未完全不可用但明显变慢时,失败率可能仍然正常,此时应通过慢调用阈值提前熔断,避免调用方线程被慢请求占满;
  3. 熔断时长与下游恢复时间匹配。过短会导致反复打开与探测,形成持续冲击;过长会延长恢复时间。半开探测请求数应足够小以控制风险,又足以判断下游已恢复;
  4. 熔断规则按下游粒度配置。核心下游与非核心下游使用不同阈值,避免用统一阈值同时约束所有依赖。

3.2.4 限流规则定义

入口限流(网关侧,按路由或接口维度):
  接口:POST /api/orders
  维度:按用户 ID(避免单一用户占满容量)
  阈值:单用户 10 QPS,全局 2000 QPS
  拒绝行为:返回 429,携带 Retry-After 建议,区别于业务错误码

服务间限流(调用方对下游):
  被保护下游:inventory-service
  维度:并发数
  阈值:50(按下游可承受并发与调用方实例数计算)
  拒绝行为:快速失败,进入降级逻辑

资源限流(服务内):
  资源:数据库连接池、外部接口调用线程池
  维度:并发数
  阈值:与连接池上限一致,超出时排队并设等待上限

规则定义的三条约束:

  1. 阈值来源必须是测量的数据,而不是估计值。阈值上限参考下游的实测容量,下限参考正常流量的峰值;
  2. 不同位置的限流阈值必须自洽。网关限流总量应小于后端总容量;调用方对下游的并发限制之和,应小于下游容量;
  3. 限流拒绝必须可观测。拒绝数、拒绝率需要单独统计并纳入告警,否则容量不足会被误判为业务失败。

3.2.5 灰度路由规则

spring:
  cloud:
    gateway:
      routes:
        - id: order-service-gray
          uri: lb://order-service
          predicates:
            - Path=/api/orders/**
            - Header=X-Gray-Tag, v2        # 命中灰度标签的请求走灰度实例
          filters:
            - StripPrefix=1
        - id: order-service-stable
          uri: lb://order-service
          predicates:
            - Path=/api/orders/**
          filters:
            - StripPrefix=1

灰度规则的三条约束:

  1. 匹配顺序决定优先级。灰度路由必须排在稳定路由之前,否则请求会先命中稳定路由,灰度规则不生效;
  2. 标签需要全链路透传。网关识别标签后注入下游请求头,每一跳的调用方在实例选择时使用同一标签,标签缺失时的默认行为需要明确定义;
  3. 灰度实例必须具备回滚路径。灰度新版本出现问题时,回滚方式是调整网关路由指向稳定实例并摘除灰度实例的注册状态,不需要重新发布。

3.3 服务间调用实践

3.3.1 声明式客户端的用法要点

@FeignClient(
        name = "inventory-service",                 // 服务名,与注册中心中的名称一致
        path = "/internal/inventory",
        configuration = InventoryClientConfig.class, // 该客户端专属的超时与拦截器配置
        fallbackFactory = InventoryClientFallbackFactory.class)
public interface InventoryClient {

    @PostMapping("/deduct")
    DeductResult deduct(@RequestBody DeductRequest request);
}

使用要点:

要点 说明
接口与实现分离 客户端接口定义契约,提供方接口变更时先改契约并评估兼容性
独立配置 每个下游单独配置超时与重试,不使用全局默认值一刀切
明确的降级实现 使用工厂形式的降级实现,便于在降级时获取触发原因并记录日志
错误解码 通过错误解码器把下游的错误响应转换为本服务可识别的异常,避免把 HTTP 细节透传到业务层
连接池 启用连接池实现并设置合理的最大连接数,避免每次调用新建连接
日志级别 客户端日志级别设为 BASIC 即可,FULL 会输出完整请求体,在大报文场景下显著增加日志量并可能记录敏感数据
超时与重试 由客户端配置承担,不在业务代码中重复设置

降级实现需要区分"降级返回"与"降级失败"两种结果。降级返回兜底值时业务需要能接受,否则应让异常向上抛出并由上层处理。

3.3.2 幂等与重试的配合

重试与幂等必须成对设计,组合方式有三种:

操作类型 重试策略 幂等保障
查询类 可自动重试(含换实例重试) 天然幂等,无需额外机制
赋值类写操作(把状态置为固定值) 可重试 天然幂等
扣减、追加、扣款类写操作 仅在幂等实现就位后允许重试 幂等键唯一约束或状态条件更新
/**
 * 跨服务写操作:本地执行业务并记录待发送消息,由中继任务投递。
 * 调用方重试时复用同一幂等键,接收方据此去重。
 */
@Transactional(rollbackFor = Exception.class)
public void createOrder(CreateOrderCommand command) {
    // 幂等键在业务入口生成一次,重试时不得重新生成
    String idempotentKey = command.getBizNo() + ":CREATE";

    orderMapper.insert(command.toOrder(idempotentKey));
    // 与业务变更处于同一本地事务,保证"业务已变更"与"消息已记录"原子
    localMessageMapper.insert(idempotentKey, "ORDER_CREATED", command.toPayload());
}

幂等键必须在业务入口生成并在整个重试链路中保持不变。若每次重试都生成新的幂等键,接收方的去重表会把重试识别为新请求,幂等失效。幂等键的粒度选择(消息 ID、业务单号、业务单号加动作、业务单号加动作加版本)见 消息可靠性与幂等设计 第 2.5 节。

3.3.3 请求头透传与上下文传递

跨服务调用需要透传的上下文有四类,都需要统一的透传机制而不是在业务代码中逐个手动设置:

上下文 内容 透传要求
追踪上下文 Trace ID、Span ID 由追踪组件自动注入与提取,不手动处理
身份上下文 用户标识、租户标识、角色 由网关校验后注入,内部服务只读取,不信任客户端直接传入的同名请求头
灰度与路由标签 版本标签、灰度标签 由网关注入并逐层透传,供每一跳做实例过滤
业务上下文 语言、时区、调用来源 按需透传,需限定白名单
/**
 * 请求头透传:只透传白名单内的请求头,避免把客户端伪造的身份头带入内部调用。
 */
public class HeaderRelayInterceptor implements RequestInterceptor {

    private static final Set<String> RELAY_HEADERS =
            Set.of("X-Gray-Tag", "X-Tenant-Id", "Accept-Language");

    @Override
    public void apply(RequestTemplate template) {
        RequestAttributes attributes = RequestContextHolder.getRequestAttributes();
        if (attributes == null) {
            return;
        }
        HttpServletRequest request =
                ((ServletRequestAttributes) attributes).getRequest();
        RELAY_HEADERS.forEach(name -> {
            String value = request.getHeader(name);
            if (value != null) {
                template.header(name, value);
            }
        });
        // 身份信息从当前认证上下文中读取,不使用请求头中的值
        SecurityContextHolder.getContext().getAuthentication();
    }
}

透传的安全约束:允许外网客户端直接指定身份类请求头的做法会形成越权通道,身份信息必须由网关校验令牌后重新写入,内部服务只信任来自网关的调用。

3.3.4 大报文与超时设置

大报文会同时放大序列化开销、网络耗时、内存占用与超时概率,处理方式有三类:

场景 处理方式 注意
批量数据同步 分页传输,按批次控制单次报文大小与并发 批次大小与下游写入能力匹配,避免单批过大导致超时
文件与图片 通过对象存储中转,接口只传递引用地址 避免把二进制内容放入请求体,它会使网关、日志、链路追踪全部受影响
大结果集查询 流式返回或异步导出 流式返回需要网关与客户端同时支持,且不能被中间层的响应缓冲破坏

超时设置需要与报文大小联动:大报文的序列化与传输耗时显著高于小报文,若共用同一读超时,大报文请求会持续超时。可用的做法是按接口维度配置超时,或对批量接口单独设置较大的超时并要求其异步化。日志与追踪在大报文场景下需要显式降噪,避免把完整请求体写入日志。

3.4 可观测性落地

3.4.1 追踪数据的采集与存储

应用进程(埋点或字节码增强)
  → 生成并传播追踪上下文(HTTP 请求头、消息属性)
  → 异步上报到采集端(批量上报,不阻塞业务线程)
    → 传输到存储(列式存储或专门的追踪存储)
      → 查询界面按 Trace ID、服务、接口、耗时、错误状态检索

落地要点:

  1. 上报必须异步且可丢弃。追踪上报不能阻塞业务请求,采集端不可用时本地缓冲并丢弃,不能反向影响业务;
  2. 存储保留期按排障需求设定。全量长期存储的成本随调用量增长,通常按"近期全量 + 历史按需"的方式分层;
  3. 上下文传播的载体要统一。跨语言、跨协议(HTTP 与消息队列)时传播格式不一致会导致链路断链,接入前需要确认各技术栈的格式;
  4. 采样率与告警联动。以排障为目的时错误链路应保证被采集到,采样策略见本文第 2.7.2 节。

3.4.2 关键指标清单

分类 指标 用途
调用量 入口 QPS、各接口 QPS、服务间调用量 容量评估与流量变化识别
错误率 入口错误率、接口错误率、下游调用错误率、按错误码细分 故障判定与影响面统计
延迟 P50、P95、P99 分位耗时,按接口与下游维度 区分全局变慢与局部变慢;平均值会掩盖长尾
熔断 熔断状态(关闭/打开/半开)、状态切换次数、被熔断拒绝的请求数 判断熔断是否误触发或未生效
限流 各维度限流拒绝数、拒绝率 判断阈值是否过严或容量确实不足
注册 在线实例数、实例上下线次数、心跳失败数 判断实例漂移与注册中心健康度
配置 配置拉取成功率、刷新次数、刷新失败数 判断配置链路是否正常
资源 线程池活跃数与队列长度、连接池使用率、JVM 堆与 GC 定位资源瓶颈,区分"下游慢"与"自身资源不足"

指标需要带有统一的维度标签(服务名、实例、接口、下游服务、状态码),否则无法按维度下钻。指标类型与采集模型见 监控与告警 第 2.1 节与第 2.2 节,告警规则的构成与抑制机制见同文档第 2.5 节与第 2.6 节。

3.4.3 日志规范与关联 ID

规范项 要求
结构化输出 使用 JSON 或固定字段格式,便于集中采集与按字段检索
关联 ID 每条日志携带 Trace ID、服务名、实例标识;错误日志另带下游服务与接口
级别使用 业务可预期异常用 WARN,系统异常与影响业务的失败用 ERROR,关键状态变更用 INFO,生产环境关闭 DEBUG
敏感信息 密码、令牌、证件号、银行卡号脱敏或不输出,日志中不得出现完整请求体中的敏感字段
上下文清理 请求结束后清理日志上下文(如 MDC),避免线程复用导致 ID 串号

关联 ID 的实现方式与日志格式配置见 企业级项目实践指导手册 第 4.1 节。日志、指标、追踪三者的分工与衔接见 监控与告警 第 2.7 节。

日志门面与实现的绑定、级别语义、MDC 在线程池中的污染与清理,以及日志量估算与集中采集的衔接,见 Java 日志与常用类库规范。

3.4.4 与 SLO 的衔接

可观测性建设的终点是"故障能被自动发现且能快速定位",而不是"数据齐全"。衔接方式:

  1. 以用户可感知的成功率与延迟定义 SLI,围绕 SLI 设定 SLO 与错误预算,避免直接对底层技术指标(CPU、GC 次数)告警;
  2. 告警按错误预算的消耗速度分级,消耗快则高优先级,消耗慢则低优先级;
  3. 告警通知携带服务、接口、时间窗与当前值,运维据此从指标下钻到链路与日志;
  4. 长期无动作的告警需要治理,避免噪声掩盖真实故障。

SLI 的选取、错误预算的用法与告警分级见 SLO 与告警设计 第 2.1 节、第 2.2 节与第 2.3 节。

3.5 部署与运维

3.5.1 配置与镜像的对应关系

镜像应保持不可变,同一构建产物在所有环境使用同一镜像,环境差异只能来自配置注入:

内容 位置 变更方式
应用代码与依赖 镜像 重新构建并发布新镜像
环境无关默认配置 镜像内默认配置文件 随镜像发布
环境差异配置 配置中心或 ConfigMap 动态刷新或滚动更新
敏感配置 密钥管理服务或加密配置项 独立轮换,不随镜像

镜像中不应包含环境专属的配置与凭据。这样做的目的是保证"测试环境验证过的镜像可以原样部署到生产",避免出现"因镜像内容不同而行为不同"的问题。Kubernetes 中配置与密钥的挂载方式与更新行为见 Kubernetes 运维 第 3.5 节。

3.5.2 健康检查与就绪探针

# 应用侧:暴露存活与就绪状态端点
management:
  endpoint:
    health:
      probes:
        enabled: true
      show-details: when-authorized
  health:
    livenessstate:
      enabled: true
    readinessstate:
      enabled: true
# 平台侧:探针配置
livenessProbe:
  httpGet:
    path: /actuator/health/liveness
    port: 8080
  initialDelaySeconds: 60      # 覆盖 JVM 启动与容器初始化时间
  periodSeconds: 10
  failureThreshold: 3
readinessProbe:
  httpGet:
    path: /actuator/health/readiness
    port: 8080
  initialDelaySeconds: 30
  periodSeconds: 10
  failureThreshold: 2
startupProbe:
  httpGet:
    path: /actuator/health/liveness
    port: 8080
  failureThreshold: 30
  periodSeconds: 5             # 启动慢的应用用启动探针替代调大 initialDelaySeconds

探针的语义边界必须严格遵守:

探针 判定内容 不可包含
存活探针 进程是否存活、内部是否死锁 下游依赖可用性;把下游状态纳入存活判定会导致下游故障时本服务被反复重启,故障被放大
就绪探针 是否可接收新流量:应用已启动完成、注册已完成、必要的初始化已完成 非必要的下游依赖;核心依赖不可用时是否摘除流量需按业务判断
启动探针 启动是否完成 业务依赖

优雅停机的应用侧配置(等待处理中请求完成)见 企业级项目实践指导手册 第 6.2 节,平台的探针与终止流程见 Kubernetes 运维 第 3.4 节。

3.5.3 优雅上下线与流量摘除

下线一个实例的正确顺序:
  1. 把实例标记为未就绪(就绪探针失败)
     → 平台从负载均衡后端移除该实例
  2. 从注册中心注销该实例
     → 调用方停止把新请求路由到该实例
  3. 等待"存量流量窗口"(> 调用方实例列表缓存刷新时间 + 最长请求耗时)
  4. 停止接收新请求,等待处理中的请求完成(优雅停机)
  5. 进程退出

常见错误顺序:
  直接终止进程
  → 调用方实例列表尚未刷新,持续把请求打到已退出实例
  → 表现为发布期间的少量 5xx 与超时,常被误判为网络抖动

等待时间是关键参数:等待时间必须大于"调用方实例列表缓存刷新周期 + 单请求最长处理时间",否则摘除动作完成后仍有请求在途。滚动发布的批次大小与间隔也应据此设置。

发布与摘流量过程中的常用核对命令:

# 查看滚动发布进度与各实例就绪情况;输出阻塞直到发布完成或超时
kubectl -n prod rollout status deployment/order-service

# 按当前配置重建实例(滚动更新);分批间隔由 Deployment 的滚动策略决定
kubectl -n prod rollout restart deployment/order-service

# 回滚到上一版本(回滚对象是 Deployment 的模板,不包含配置中心中的配置)
kubectl -n prod rollout undo deployment/order-service

# 查询注册中心中该服务的实例列表,核对元数据标签与实例数量
curl -s "http://nacos:8848/nacos/v1/ns/instance/list?serviceName=order-service"

# 分别核对实例的存活与就绪状态
curl -s http://order-service:8080/actuator/health/liveness
curl -s http://order-service:8080/actuator/health/readiness

命令使用约束:回滚 Deployment 模板不会回滚配置中心的配置与下游的接口契约,发布失败时需同时核对配置版本;核对注册实例列表应同时检查实例数量与元数据标签,仅看数量无法发现标签错误导致的灰度或路由异常。

高危 提醒:切断注册中心(关闭注册中心、清空实例列表、批量注销实例、修改命名空间使实例全部失联)会直接改变全系统的调用目标。影响范围是该注册中心承载的全部服务:调用方在缓存过期后将无可用实例,调用直接失败;若实例列表被清空后重新注册,还可能出现流量瞬时集中到少数实例。兜底方式:操作前确认目标命名空间与集群,避免误操作到生产;保留客户端本地缓存以保证注册中心短暂不可用时调用仍可继续;如需停止某个服务对外提供服务,使用逐个实例摘除而非批量注销;回滚方式为恢复注册中心服务并确认实例重新注册、调用方实例列表已刷新、错误率回到基线,同时核对是否有实例因长时间未注册需要重启。

3.5.4 服务依赖与启动顺序

微服务之间不应存在强启动依赖。若服务 A 启动时必须成功调用服务 B,则 B 的故障会导致 A 无法启动,故障沿依赖链传播,恢复顺序被强绑定。

推荐的处理方式:

场景 处理方式
启动时需要下游数据(如配置、字典) 允许启动成功但标记为未就绪,由后台任务重试拉取,拉取成功后再暴露流量
启动时需要注册到注册中心 在启动完成回调中注册,注册失败不阻止进程启动,由重试机制补齐
缓存预热 异步预热,预热未完成时允许流量进入但走数据库兜底
强依赖的初始化数据 通过数据初始化脚本或独立的初始化任务完成,不放在应用启动路径上

应用侧的启动事件与注册时机见 Spring Boot 第八章与第十二章。发布顺序的一般规则是"先发布下游、再发布上游",兼容性变更可以按任意顺序发布,破坏性变更必须严格按顺序并配合灰度。

3.6 故障排查

微服务故障的共同特征是现象出现在调用方,根因往往在被调用方或基础设施。排查顺序遵循"先确认影响面,再沿调用链下钻"的原则。

3.6.1 服务间调用超时

现象:上游接口大面积超时,错误处出现连接超时或读超时。

定位顺序:
  1. 确认影响面:是单个接口还是全部接口?是单个调用方实例还是全部实例?
     全部接口且全部实例 → 优先怀疑下游服务整体不可用或网络问题
     单个接口 → 优先怀疑该接口的处理逻辑或其所依赖的资源
  2. 看下游服务的指标:错误率、延迟分位、线程池活跃数与队列长度、连接池使用率
     下游延迟升高且资源饱和 → 下游自身过载或依赖变慢
     下游延迟正常 → 检查网络路径、DNS 解析、连接建立耗时
  3. 看调用方指标:线程池是否被占满、连接池是否耗尽
     调用方资源耗尽可能不是下游的问题,而是重试放大或超时设置过长
  4. 看链路追踪:定位耗时集中在哪一跳
     集中在某一跳 → 该跳的下游或该跳自身的序列化/网络
     均匀分布 → 全局性问题(网络、时钟、平台层)
  5. 检查近期变更:超时与重试参数、限流阈值、实例数量、下游版本

常见根因包括:下游慢查询或资源竞争、重试放大导致下游过载、超时设置大于上游预算导致无效等待、连接池过小造成排队、DNS 解析慢或失败。

3.6.2 注册中心不可用

现象:新实例无法注册、调用方实例列表不更新、调用出现"无可用实例"。

定位顺序:
  1. 确认注册中心自身状态:集群节点是否存活、是否发生选主、存储是否正常
  2. 确认网络可达性:实例到注册中心的连接、端口、DNS 解析
  3. 确认客户端行为:是否在使用本地缓存、缓存上次刷新时间、心跳是否在报错
  4. 确认命名空间与分组:实例注册到的命名空间与调用方查询的是否一致
  5. 确认保护机制:是否因失联实例比例超过保护阈值而停止剔除,导致列表包含已宕实例

处置要点:
  注册中心短暂不可用不应导致业务不可用(客户端缓存兜底);
  注册中心长时间不可用会造成新实例无法上线、摘除后的实例无法被感知,
  需要在恢复后核对实例列表与实际实例的一致性。

3.6.3 配置未刷新

现象:配置中心已修改配置,应用实际行为仍是旧值。

定位顺序:
  1. 确认配置中心的变更是否已发布(编辑与发布是两个动作)
  2. 确认应用读取的是否为配置中心的配置,以及命名空间、分组、Data ID 是否匹配
     Data ID 通常由应用名与 profile 组合而成,与实际读取的标识不符是常见原因
  3. 确认配置生效范围:本地配置的优先级是否高于远程配置
  4. 确认绑定该配置的 Bean 是否具备刷新能力
     未声明刷新作用域的 Bean 不会随配置刷新而重建,
     依赖底层资源重建的配置项必须重建 Bean 才会生效
  5. 确认刷新是否被触发:客户端长轮询是否正常、是否需要重启才能生效

处置要点:
  判断"配置未生效"之前,先区分"配置未下发"与"配置已下发但对象未重建",
  两者的处置方式不同:前者查配置链路,后者需要重建 Bean 或滚动重启。

3.6.4 熔断误触发

现象:下游实际可用,但调用方大量快速失败,熔断处于打开状态。

定位顺序:
  1. 确认熔断的判定依据:失败率、慢调用比例,还是异常数
     慢调用触发熔断时,下游可能只是响应变慢而完全可用
  2. 确认统计窗口与最小请求数:窗口过小或最小请求数过低会放大偶发失败
  3. 确认失败定义:是否把业务错误(如参数错误、资源不存在)也计入了失败
     业务错误反映的是调用方问题,不应触发熔断
  4. 确认超时阈值是否过小:把正常慢响应判定为失败是误触发的常见原因
  5. 确认是否有单实例异常:个别实例慢会拉高整体统计,需要按实例维度查看指标

处置要点:
  短期恢复可通过放宽阈值或临时关闭熔断;
  根因修复需要调整判定口径(区分业务错误与系统错误)、修正超时阈值、
  或排除异常实例,并在修复后核对熔断打开次数回到正常水平。

3.6.5 限流过严

现象:正常流量被拒绝,出现大量限流错误码。

定位顺序:
  1. 确认拒绝的来源位置:网关限流、调用方限流,还是服务内资源限流
  2. 确认限流维度与阈值:按 IP 限流在网关后存在代理时会因代理 IP 相同而误伤;
     按用户维度限流时未登录用户可能共用同一标识
  3. 确认阈值与当前流量的关系:是阈值过低,还是流量确实超过了容量
  4. 确认总阈值与后端容量的关系:网关阈值之和是否超过后端总容量
  5. 确认拒绝行为是否符合设计:错误码是否与业务错误混用

处置要点:
  先判断"容量不足"还是"规则过严":若后端资源使用率低而拒绝率高,是规则问题;
  若后端资源已饱和,则不能只放宽阈值,需要先扩容或降级非核心功能。

3.6.6 链路追踪断链

现象:追踪系统中链路不完整,中间某段缺失或跨服务后 Trace ID 变化。

定位顺序:
  1. 确认传播格式是否统一:跨语言、跨协议(HTTP 与消息队列)的传播头是否一致
  2. 确认是否存在未埋点的通道:异步线程池、定时任务、消息消费、数据库触发器
     跨越线程与消息边界时上下文不会自动传播,需要显式传递
  3. 确认中间组件是否透传请求头:网关、反向代理、服务网格是否剥离了追踪头
  4. 确认采样决策是否一致:链路上各节点的采样策略不一致会导致部分节点未采集
  5. 确认上报链路是否正常:采集端是否可用、上报队列是否积压、上报是否被限流

处置要点:
  断链最常见的原因是按线程与消息边界传递上下文的实现缺失;
  排查时先用单条已知 Trace ID 在各服务的日志中检索,确认是"未采集"还是"未关联"。

3.7 治理与演进

3.7.1 从单体到微服务的迁移路径

迁移的推荐模式是绞杀者模式:在不停止业务的前提下,逐个剥离功能,新功能用新服务承载,旧功能逐步下线。

阶段一:边界识别
  梳理业务域与数据所有权,确定拆分顺序;
  优先选择"变更频繁、资源消耗大、故障影响面大"的模块,
  保留"变更很少、与核心强耦合"的模块在单体中。

阶段二:双向可达
  在单体与网关之间建立流量切换通道(路由可按路径或灰度标签切换);
  建立统一的认证与上下文透传,保证单体与新服务使用同一套身份体系。

阶段三:逐个剥离
  新服务上线 → 灰度小流量 → 比对结果(双跑或对比日志)→ 全量切换 → 单体中旧代码下线。
  数据层面按"先双写后切换读取,最后停止旧写入"的顺序处理,
  跨服务一致性按本文第 2.8 节的顺序选择方案。

阶段四:单体收缩
  剥离后的模块从单体中删除,直到剩余部分无法再拆或已无拆分价值;
  单体可以长期保留,不作为必须消除的形态。

阶段五:治理补齐
  补齐限流、熔断、追踪、告警、灰度、
  以及服务与接口的规范清单,并建立发布与回滚流程。

反模式需要明确避免:一次性重写("推倒重来")会同时承担业务不确定性与技术不确定性;按技术分层切分迁移顺序(先搬数据访问层、再搬业务层)会产生分布式单体;迁移与业务需求同时进行且没有灰度与回滚路径,会使故障定位无法区分是迁移引入还是需求引入。

3.7.2 服务与接口规范化清单

类别 规范项 要求
服务 命名 统一前缀与语义,服务名与仓库名、监控面板、配置标识保持一致
服务 元数据 版本、区域、分组等标签齐备,作为路由依据
服务 数据所有权 每个数据实体只有一个写入方,禁止跨服务写同一批表
接口 路径与命名 资源化命名,版本表达方式统一
接口 错误码 全局错误码体系,容量类错误(限流、熔断)与业务错误分开
接口 超时与重试 每个下游单独配置,超时逐层递减,重试只在链路一层开启
接口 幂等 写操作声明幂等键,重试与消息消费共用同一幂等机制
接口 兼容性 兼容变更与破坏性变更的判定规则明确,破坏性变更走新版本
治理 限流熔断 每个下游配置规则,阈值有实测依据,拒绝数纳入监控
治理 可观测性 统一日志格式与关联 ID,核心指标与 SLO 齐备
治理 发布 灰度与回滚路径明确,优雅上下线参数经演练验证
治理 文档 接口契约与依赖拓扑可查,拓扑包含静态与动态两份数据

3.7.3 何时不该拆分为微服务

场景 判断依据
团队规模小于两个"两个披萨团队" 服务的运维成本(部署、监控、告警、排障)由同一批人承担,拆分后人均负担上升
业务边界尚未稳定 边界未定就拆分,后续业务调整会导致频繁的跨服务重构,成本高于在单体内部调整包结构
数据强耦合、无法拆分数据所有权 核心业务流程需要在同一事务内写多个实体,强行拆分会把本地事务变成分布式事务
请求量小、性能无压力 拆分带来的性能收益为零,只增加网络开销与运维复杂度
缺少必要的治理与运维能力 没有配置中心、日志采集、链路追踪、自动化发布时,拆分会显著降低可运维性
变更频率低、长期稳定 单体的部署耦合成本极低,拆分收益无法覆盖成本

架构选型的判断依据是问题与代价的匹配,而不是形态的先进程度,通用取舍思想见 软件架构演进的问题脉络 第十六章。


四、总结

  • 单体应用的边界体现在部署耦合、扩展受限、故障扩散与协作成本四处,这些边界无法通过编码规范消除,只能通过改变部署形态化解
  • 拆分在化解旧问题的同时引入新问题:实例地址动态变化、配置分散、调用链变长、故障面扩大、定位困难、跨服务写失去原子性、多版本共存,治理能力就是承接这批新问题的手段
  • 拆分依据是业务能力与领域边界,可操作判据是数据所有权唯一、变更节奏一致、团队所有权对应;按技术分层拆分与过细拆分都会产生分布式单体,付出分布式代价却得不到独立部署能力
  • 注册中心维护"服务名到实例列表"的映射,其数据模型中的元数据承担灰度、区域与权重路由;健康检查分心跳与主动探活两类,都不能覆盖"进程存活但业务不可用",需要就绪探针补充;注册中心自身要选择一致性模型并提供客户端缓存兜底
  • 配置中心解决配置的集中管理与审计,动态刷新只重建刷新作用域内的 Bean,依赖底层资源的配置项刷新伴随连接重建;配置的版本与回滚是配置发布链路的必备环节
  • 网关是横切逻辑的集中点,承担路由、鉴权、限流、灰度、协议转换与追踪起点;与反向代理的分工是连接层能力归代理、业务身份与动态规则归网关
  • 客户端负载均衡把实例选择下沉到调用方,换取基于元数据的细粒度路由;其与注册中心的配合决定了新实例的预热时间与摘除后的残余流量
  • 重试与超时必须成对设计:重试按"重试次数 ^ 链路层数"放大流量,只能出现在链路一层;超时逐层递减,重试的前提是幂等
  • 熔断器的三个状态与统计窗口、最小请求数、熔断时长、半开探测数共同决定其灵敏度;限流按入口、服务间、资源三个位置部署,阈值必须来自实测并与后端容量自洽;降级策略需要与业务共同确认,金额与状态类操作必须快速失败
  • 链路追踪的关键是上下文传播载体统一与采样策略合理;日志、指标、追踪三者需能互相定位,告警从指标发出、经追踪定位、由日志确认细节
  • 分布式事务的选择顺序是"先判断能否规避、再看业务容忍度、再看中间件能力、最后看接收方是否可控";所有方案都必须叠加消费端幂等,且不能替代对账
  • 灰度发布依赖标签在整条链路的透传与实例元数据的配合;版本治理的核心是区分兼容变更与破坏性变更,破坏性变更必须走新接口
  • 落地阶段的关键决策是组件选型组合与参数配置:平台层与应用层的治理边界需提前划分,超时、重试、熔断、限流参数必须有实测依据并保留回滚路径
  • 部署运维的三个要点是镜像不可变、探针语义严格区分、优雅上下线按"先摘流量后停进程"的顺序执行;等待时间必须覆盖实例列表缓存刷新周期
  • 故障排查遵循"先确认影响面、再沿调用链下钻、最后核对近期变更"的顺序;六类高频故障中,配置未刷新要先区分"未下发"与"未重建 Bean",熔断误触发要先区分业务错误与系统错误,限流过严要先区分规则过严与容量不足
  • 从单体迁移推荐绞杀者模式,按边界识别、双向可达、逐个剥离、单体收缩、治理补齐推进;架构形态的选择依据是问题与代价的匹配,边界未稳定、团队规模小、缺少治理能力或数据强耦合时,单体是更合适的选择