vLLM 0.34.0rc2 源码标签:调整可扩展 KV Cache 测试内存参数
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
vLLM出现0.34.0rc2候选源码标签,关联提交移除多处可扩展KV Cache测试和基准中的固定gpu_memory_utilization设置,并调整相关文档。当前核验的是标签与代码提交,不能将其当作正式版安装包或全局显存默认值变更。
vLLM出现0.34.0rc2候选源码标签,关联提交移除多处可扩展KV Cache测试和基准中的固定gpu_memory_utilization设置,并调整相关文档。当前核验的是标签与代码提交,不能将其当作正式版安装包或全局显存默认值变更。
标签关联提交时间:2026年11月12日 14:21:02(北京时间)。官方未单独说明安装包公告时刻;本条以源码实质进展为范围。
来源:官方版本记录。
0.34.0rc2 当前确认的发布进展
vLLM仓库出现v0.34.0rc2候选源码标签,所指提交时间为2026年11月12日14:21:02(北京时间),关联PR #67071。提交标题明确范围为文档与测试,处理大部分可扩展KV Cache场景中显式设置gpu_memory_utilization的问题。本轮没有取得同名GitHub正式Release记录,不能据此宣称稳定版已经发布。

哪些文件和参数发生调整
代码差异显示,多处Buildkite性能基准、集成测试和benchmark脚本去掉固定内存比例;部分命令行参数默认值改为None,自动调优脚本也将GPU_MEMORY_UTILIZATION作为可选设置。变更覆盖的是相应测试与基准路径,不是一个足以证明所有生产服务全局默认值已改变的依据。
对基准维护者的实际影响
如果团队复制了这些脚本或使用相同CI参数,升级候选源码后应重新核对实际传入的配置。对照结果应记录是否仍显式指定内存比例、KV Cache配置和运行环境。只比较构建号而忽略脚本参数变化,容易把配置差异误判为性能回退或提升。
普通部署用户应怎样理解RC标签
rc2表示候选版本阶段。当前官方入口可用于审阅源码和关联提交,但本条没有核验PyPI或其他分发渠道中的同名安装包,因此不提供未经确认的安装命令。生产部署可以继续按已有依赖锁和验证流程安排,不应仅凭新标签修改显存配置。
本条没有提供哪些结论
本次代码核验未进行GPU基准、OOM复现或实际模型服务调用。它不能证明某一GPU必定节省多少显存,也不能保证所有模型兼容。新构建的完整发行范围应以之后的正式发布说明和实际分发产物为准。
常见问题
这是0.34.0正式版吗?
不是,本轮确认的是0.34.0rc2候选源码标签。
所有服务的内存默认值都变了吗?
不能从这些测试与基准脚本差异得出该结论。































