一、起源
1.1 默认选择为什么是合理选择
Servlet 容器属于成熟的基础设施,三款主流实现在规范兼容性上差异很小,在常规业务负载下的性能差异也远小于数据库、缓存与网络带来的差异。因此在没有明确约束时,选择默认容器并沿用团队既有经验,是成本最低的方案。
默认选择背后的收益是隐性的,但会直接影响故障处理效率:
- 问题资料最完整,异常信息可以直接检索到解释与处置方式。
- 团队成员的既有经验可以直接复用,不需要重新建立排障直觉。
- 各类监控系统、日志采集规则与部署模板已经适配。
1.2 触发比较的三种情形
只有在以下情形下,比较容器才有实际收益:
| 情形 | 触发条件 | 比较的重点 |
|---|---|---|
| 资源约束 | 内存或启动时间成为硬约束,如边缘节点、大量小实例 | 内存占用与启动耗时 |
| 形态约束 | 需要把容器嵌入到非常规运行环境,或需要定制协议与处理链 | 嵌入式易用性与可扩展点 |
| 特定能力 | 需要容器提供特定能力,如更新的协议版本支持 | 协议与规范支持范围 |
判断标准:能否用一句话说清"当前容器在哪个维度上不满足要求"。如果只能说"听说另一个更快",则尚未构成更换的理由。
1.3 取舍
| 选择 | 获得 | 付出 |
|---|---|---|
| 沿用默认容器 | 资料、经验、模板可直接复用 | 在特定约束下可能不是最优 |
| 更换容器 | 在目标约束上更契合 | 参数、扩展点、观测、脚本与部署流程需要重新核对 |
二、原理
2.1 选型维度
| 维度 | 需要确认的内容 | 判断方式 |
|---|---|---|
| 规范与协议支持 | 所需 Servlet 规范版本、HTTP/2 与 WebSocket、是否需要更新的协议版本 | 对照目标容器的版本说明 |
| 线程模型 | 是否存在 IO 线程与业务线程的分离、线程参数的作用范围 | 阅读容器文档中的线程模型说明 |
| 内存与启动 | 空载内存占用、启动耗时、是否适合大量小实例 | 以相同应用实测,不参考通用基准 |
| 配置方式 | 配置文件与编程式配置的支持程度 | 评估现有配置的迁移工作量 |
| 嵌入式易用性 | 能否在代码中完整声明容器行为 | 评估是否需要在代码中定制处理链 |
| 扩展点 | 提供哪些拦截与定制机制,是否为容器专有 | 评估现有代码是否依赖专有扩展点 |
| 生态与资料 | 问题资料的完整度与团队熟悉程度 | 评估排障成本 |
| 运维适配 | 日志文件、指标、管理入口、优雅停机机制 | 评估监控与部署模板的改造量 |
其中"扩展点是否为容器专有"是迁移成本的主要决定因素:Servlet 规范定义的组件(Servlet、Filter、Listener)在任何容器中都能工作,而容器专有的拦截组件与资源定义方式无法直接迁移。
2.2 三款容器的选型矩阵
| 维度 | Tomcat | Jetty | Undertow |
|---|---|---|---|
| 线程模型 | 接受与事件轮询与业务线程分离,业务线程为线程池 | 多组接受线程与选择器,业务线程为队列线程池 | IO 线程与业务线程分离,业务线程数按 IO 线程数的倍数配置 |
| 规范实现 | 参考实现,规范覆盖最完整 | 完整实现 | 完整实现 |
| 协议支持 | HTTP/1.1、HTTP/2、WebSocket | HTTP/1.1、HTTP/2、WebSocket,较新版本提供更新的协议支持 | HTTP/1.1、HTTP/2、WebSocket |
| 内存与启动 | 相对较重 | 较轻 | 较轻 |
| 配置方式 | XML 为主,结构层次清晰 | 模块化 XML 加启动配置目录,按模块启用能力 | 编程式构建为主,独立安装形态下由应用服务器子系统管理 |
| 嵌入式易用性 | 一般 | 好,处理链可编程组合 | 好,处理链为中间件式组合 |
| 扩展点 | 阀与领域与监听器为专有组件 | 处理器与包装器为专有组件 | 处理链与拦截器为专有组件 |
| 运维与资料 | 最丰富,管理入口与指标体系完整 | 一般 | 相对较少 |
| 默认使用者 | 多数框架的默认选择 | 嵌入式与定制场景 | 应用服务器默认容器 |
| 虚拟线程适配 | 容器执行器可整体替换 | 较新版本支持虚拟线程承载处理器执行 | 虚拟线程作用于业务线程,收益取决于配置 |
| 许可 | Apache 2.0 | Apache 2.0 与 Eclipse 双许可 | Apache 2.0 |
矩阵的读法:三者都不是"更快或更慢",而是在"成熟度与资料"和"轻量与可编程"之间取不同位置。选择依据是当前约束落在哪一端。
2.3 外置容器与内嵌容器的取舍
| 维度 | 外置容器 | 内嵌容器 |
|---|---|---|
| 部署产物 | war 加容器安装 | 可执行包 |
| 资源配置 | 容器级参数统一配置,应用无法单独调整 | 应用自带参数,逐应用可控 |
| 资源隔离 | 多应用共享一个 JVM,故障与资源互相影响 | 一进程一应用,隔离彻底 |
| 容器升级 | 与应用发布解耦,但需重新验证所有应用 | 随应用依赖升级,版本与代码绑定 |
| 类加载 | 分层类加载器与依赖放置需要额外规则 | 使用系统类加载器,规则简单 |
| 适用 | 组织既有运维体系围绕容器建立、需要共享容器资源 | 新建项目、容器化部署、需要精细资源控制 |
结论:新建项目默认选择内嵌形态;只有在组织既有体系或确有共享需求时才使用外置容器。两者不是同一项目的可选配置,而是部署架构的选择,切换成本高于更换容器实现。
2.4 更换容器的四类代价
| 代价 | 具体内容 | 核对方式 |
|---|---|---|
| 参数名称与默认值 | 同类参数在不同容器中命名不同,默认值也不同 | 逐项对照参数映射表,确认默认值差异 |
| 容器专有扩展点 | 阀与领域与监听器、处理器与包装器、处理链拦截器互不通用 | 检索代码与配置中的专有包名 |
| 观测与运维项 | 日志文件名与格式、指标名称、管理入口、优雅停机机制 | 核对监控看板、日志采集规则、部署脚本 |
| 性能特征 | 差异与负载特征相关,连接数、请求体大小与长连接比例都会影响结论 | 以生产等同的负载实测,不使用通用基准 |
第三类代价最容易被低估:迁移完成后应用可以运行,但监控看板空白、日志采集规则失效、优雅停机不再生效,这类问题通常在第一次线上故障时才暴露。
2.5 迁移核对清单
| 核对项 | 内容 | 不核对的后果 |
|---|---|---|
| 依赖与排除 | 引入目标容器依赖并排除原容器 | 两个容器同时存在于类路径 |
| 配置前缀 | 逐项把原容器参数映射到目标容器 | 参数静默失效,容量回到默认值 |
| 专有扩展点 | 清点并重写阀与领域与监听器类组件 | 启动失败或安全阀失效 |
| 协议配置 | 端口、HTTPS、长连接与压缩设置 | 协议降级或连接被提前关闭 |
| 优雅停机 | 确认目标容器的停机机制并验证 | 发布期间出现请求失败 |
| 日志 | 日志文件名与格式、采集规则 | 日志丢失或采集解析失败 |
| 指标 | 指标名称与获取方式、看板与告警 | 监控出现盲区 |
| 脚本与镜像 | 启动脚本、JVM 参数、健康检查探针 | 容器启动参数未生效 |
| 压测对比 | 相同负载下的吞吐与延迟分位 | 性能回归无法发现 |
| 回退方案 | 依赖与配置可快速切回原容器 | 出问题时无法快速恢复 |
2.6 不应更换容器的情形
- 无法说清当前容器在哪个具体维度上不满足要求,只是认为另一个更好。
- 代码或配置依赖容器专有扩展点,且这些扩展点承载了安全或审计职责。
- 团队对目标容器没有排障经验,且没有配套的资料与支持。
- 使用外置容器形态且组织流程围绕其建立,迁移需要改动部署流程而不只是应用配置。
- 当前瓶颈明确在下游(数据库、缓存、外部接口),更换容器不会改变结论。
三、实现
3.1 内嵌形态的容器切换
<!-- 以切换为 Undertow 为例:排除默认容器并引入目标容器 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
<exclusions>
<exclusion>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-tomcat</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-undertow</artifactId>
</dependency>
# 切换前:确认默认容器是否被其他依赖间接引入
mvn -q dependency:tree | grep -iE 'tomcat|jetty|undertow'
# 切换后:确认只存在一个容器实现
mvn -q dependency:tree | grep -iE 'tomcat|jetty|undertow'
# 检索代码与配置中的容器专有包名,评估专有扩展点的迁移工作量
grep -rInE 'org\.apache\.catalina|org\.apache\.coyote|org\.eclipse\.jetty|io\.undertow' \
--include='*.java' --include='*.xml' --include='*.yml' --include='*.properties' .
3.2 参数映射对照
| 语义 | Tomcat | Jetty | Undertow |
|---|---|---|---|
| 业务线程数上限 | server.tomcat.threads.max | server.jetty.threads.max | server.undertow.threads.worker(旧版本为 worker-threads) |
| 业务线程数下限 | server.tomcat.threads.min-spare | server.jetty.threads.min | 无直接对应项 |
| 已接受连接上限 | server.tomcat.max-connections | 由连接器与线程模型决定 | 无直接对应项 |
| 内核等待队列长度 | server.tomcat.accept-count | server.jetty.threads.max-queue-capacity(语义不同) | 由 IO 层控制 |
| 连接建立后等待请求的超时 | server.tomcat.connection-timeout | server.jetty.connection-idle-timeout | 无直接对应项 |
| 长连接空闲超时 | server.tomcat.keep-alive-timeout | server.jetty.connection-idle-timeout | 无直接对应项 |
| 单连接最大请求数 | server.tomcat.max-keep-alive-requests | 由连接器配置决定 | 无直接对应项 |
| 请求头大小上限 | server.max-http-request-header-size | 同名属性 | server.undertow.max-header-size |
| 请求体大小上限 | server.tomcat.max-http-form-post-size | server.jetty.max-form-content-size | server.undertow.max-http-post-size |
| 直接内存缓冲 | 不适用 | server.jetty.use-direct-buffers | server.undertow.direct-buffers |
两点结论:
- 参数并非一一对应,"无直接对应项"表示目标容器中该限制由不同机制承担,需要确认替代机制后再决定是否需要补充其他手段,而不是直接留空。
- 名称相似但语义不同的项最危险,例如队列容量与等待队列长度并不等价,照搬数值会改变排队行为。
3.3 迁移验证步骤
# 1. 启动并确认实际生效的容器
java -jar application.jar --debug 2>&1 | grep -iE 'tomcat|jetty|undertow' | head
# 2. 确认线程模型与线程数(线程名在不同容器中不同)
jcmd $(pgrep -f 'java.*application.jar') Thread.print | grep -oE '^"[^"]*"' | sort | uniq -c | sort -rn | head
# 3. 确认协议与端口
ss -tlnp | grep -E ':8080|:8443'
curl -sI http://localhost:8080/api/ping | head -3
curl -s -o /dev/null -w '%{http_code} %{http_version}\n' http://localhost:8080/api/ping
# 4. 确认长连接与超时行为
curl -sv http://localhost:8080/api/ping 2>&1 | grep -iE 'connection|keep-alive'
# 5. 确认优雅停机仍然生效
kill -TERM $(pgrep -f 'java.*application.jar')
grep -iE 'graceful|shutdown|stopped' /var/log/application/app.log | tail -10
# 6. 相同负载下与迁移前对比
wrk -t4 -c400 -d60s --latency http://localhost:8080/api/orders/1
# 7. 确认监控指标已产出
curl -s http://localhost:8081/actuator/metrics | jq -r '.names[]' | grep -iE 'threads|connections|sessions' | head
3.4 回退方案
| 环节 | 回退方式 |
|---|---|
| 依赖切换 | 保留原容器依赖的提交点,通过回滚提交恢复 |
| 配置切换 | 两套配置前缀并存,通过配置中心或环境变量切换 |
| 部署形态 | 新版本与旧版本同时保留,通过负载均衡灰度切流 |
| 数据与状态 | 会话等状态需放在外部存储,使容器切换不影响登录态 |
判断依据:回退应当只需恢复依赖与配置,而不需要数据迁移。若更换容器涉及会话存储方式变化,则必须先把会话外置,再执行容器切换。
3.5 常见问题对照
| 现象 | 常见原因 | 处理方式 |
|---|---|---|
| 启动时报多个容器实现冲突 | 原容器依赖未排除干净 | 检查依赖树 |
| 某个容量参数未生效 | 参数名属于原容器,未被目标容器识别 | 按映射表逐项核对,并用启动日志确认 |
| 容量回到默认值 | 默认值不同,原配置的数值未显式声明 | 显式声明所有关键参数 |
| 启动失败且报类找不到 | 代码引用了原容器的专有类 | 重写专有扩展点 |
| 安全阀或审计阀失效 | 阀为容器专有组件 | 用目标容器的等价机制重写 |
| 监控看板出现空白 | 指标名称变化 | 更新采集规则与看板 |
| 日志采集解析失败 | 日志文件名或格式变化 | 更新采集规则 |
| 发布期间出现请求失败 | 目标容器的优雅停机机制未配置 | 按目标容器方式配置并验证 |
| 吞吐下降但找不到原因 | 负载特征不同,参数未按新容器语义调整 | 按新容器的语义重新评估参数并压测 |
| 升级后行为与预期不符 | 新版本默认值变化 | 对照版本说明逐项核对默认值 |
四、总结
- 容器的选择通常是成本问题而不是性能问题,默认容器的资料完整度与团队经验构成隐性收益。
- 只有在资源约束、形态约束或特定能力要求三类情形下,比较容器才有实际收益,且必须能说清当前容器的具体不足。
- 选型维度中"扩展点是否为容器专有"决定迁移成本,规范定义的组件可以迁移,容器专有的拦截与资源配置方式不能。
- 三款容器的差异是"成熟度与资料"和"轻量与可编程"之间的不同取舍,不是简单的快慢之分。
- 外置容器与内嵌容器的选择属于部署架构决策,切换成本高于更换容器实现,不应作为同一项目的可调参数。
- 更换容器的四类代价中,观测与运维项的失效最容易被低估,通常在第一次线上故障时才暴露。
- 参数并非一一对应,名称相似但语义不同的项最危险,照搬数值会改变排队与超时行为。
- 迁移必须逐项核对依赖、配置前缀、专有扩展点、协议、优雅停机、日志、指标、脚本与压测对比,并准备不涉及数据迁移的回退方案。
- 若更换容器涉及会话存储方式变化,应先把会话外置,再进行容器切换。
- 当瓶颈明确在下游时,更换容器不会改变结论,属于无效优化。