AMD 推出 vLLM-ATOM 插件，加速 DeepSeek、Kimi 等 AI 推理性能
AMD推出vLLM-ATOM插件，旨在无缝提升大语言模型在AMDInstinctGPU上的推理效率。该插件兼容现有vLLM框架与工作流，无需开发者修改代码即可自动优化。其三层架构覆盖调度、路由与底层计算内核，支持包括DeepSeek、Kimi在内的多种主流与多模态模型，显著降低了部署门槛。
5月12日，一则来自科技媒体Wccftech的消息引起了业内的注意。报道称，AMD悄然推出了一款名为vLLM-ATOM的插件，其目标直指一个核心痛点：如何在不改变开发者现有习惯的前提下，显著提升大语言模型的推理效率。
这里需要先明确一下vLLM的背景。它并非普通的单次推理工具，而是一个专为高并发服务场景设计的开源推理框架。它的强项在于请求调度、KV缓存管理和连续批处理，旨在优化吞吐量和显存利用率，是企业将大模型部署为长期在线服务的常用选择。
AMD此次的策略相当巧妙。vLLM-ATOM插件本质上是一套为AMD Instinct GPU量身定制的优化方案，但其最大卖点是“无缝衔接”。开发者无需改动现有的vLLM命令、API和端到端工作流，插件会在后台自动接管优化任务，将计算引导至更高效的路径。
三层架构解析
从公布的架构图来看，vLLM-ATOM主要面向Instinct MI350、MI400以及MI355X等系列GPU，其设计清晰地分为三个层次：
最上层是原有的vLLM框架，它继续负责请求调度、KV缓存管理、连续批处理以及维护对OpenAI API的兼容性。中间层则是全新的ATOM插件，扮演着“翻译官”和“调度员”的角色，负责平台注册、模型实现、注意力机制的后端路由以及内核调优。最底层是AITER，它提供了直接运行在GPU上的核心计算内核，包括融合的MoE专家系统、Flash Attention、量化GEMM以及RoPE融合等优化技术。
降低部署门槛是关键
对于企业和开发者而言，这套方案的价值远不止于“速度更快”。其核心吸引力在于大幅降低了部署门槛。AMD将其宣传为“零学习成本”，这意味着那些已经基于vLLM构建了服务流程的团队，理论上可以平滑地将后端迁移到AMD硬件上，无需进行伤筋动骨的重构。
在模型支持方面，该插件展现了良好的兼容性。它覆盖了包括Qwen3、DeepSeek、GLM、gpt-oss、Kimi在内的多个主流模型系列。更重要的是，它支持从稠密模型到混合专家模型，乃至文本加视觉的多模态大模型场景，显示了其架构的灵活性。
具体到一些代表模型，例如Qwen3-235B-A22B-Instruct-2507-FP8、DeepSeek-R1-0528、openai / gpt-oss-120b以及amd / Kimi-K2.5-MXFP4等，都已在其支持列表之中。
正软商城本月促销专区，汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动，提供限时折扣、特价授权和优惠购买信息，活动库存及价格以页面实时展示为准。
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
