AMD 推出 vLLM-ATOM 插件，加速 DeepSeek、Kimi 等 AI 推理性能
AMD推出vLLM-ATOM插件，旨在无缝提升大语言模型在AMDInstinctGPU上的推理效率。该插件兼容现有vLLM框架与工作流，无需开发者修改代码即可自动优化。其三层架构覆盖调度、路由与底层计算内核，支持包括DeepSeek、Kimi在内的多种主流与多模态模型，显著降低了部署门槛。
5月12日，一则来自科技媒体Wccftech的消息引起了业内的注意。报道称，AMD悄然推出了一款名为vLLM-ATOM的插件，其目标直指一个核心痛点：如何在不改变开发者现有习惯的前提下，显著提升大语言模型的推理效率。
这里需要先明确一下vLLM的背景。它并非普通的单次推理工具，而是一个专为高并发服务场景设计的开源推理框架。它的强项在于请求调度、KV缓存管理和连续批处理，旨在优化吞吐量和显存利用率，是企业将大模型部署为长期在线服务的常用选择。
AMD此次的策略相当巧妙。vLLM-ATOM插件本质上是一套为AMD Instinct GPU量身定制的优化方案，但其最大卖点是“无缝衔接”。开发者无需改动现有的vLLM命令、API和端到端工作流，插件会在后台自动接管优化任务，将计算引导至更高效的路径。
三层架构解析
从公布的架构图来看，vLLM-ATOM主要面向Instinct MI350、MI400以及MI355X等系列GPU，其设计清晰地分为三个层次：
最上层是原有的vLLM框架，它继续负责请求调度、KV缓存管理、连续批处理以及维护对OpenAI API的兼容性。中间层则是全新的ATOM插件，扮演着“翻译官”和“调度员”的角色，负责平台注册、模型实现、注意力机制的后端路由以及内核调优。最底层是AITER，它提供了直接运行在GPU上的核心计算内核，包括融合的MoE专家系统、Flash Attention、量化GEMM以及RoPE融合等优化技术。
降低部署门槛是关键
对于企业和开发者而言，这套方案的价值远不止于“速度更快”。其核心吸引力在于大幅降低了部署门槛。AMD将其宣传为“零学习成本”，这意味着那些已经基于vLLM构建了服务流程的团队，理论上可以平滑地将后端迁移到AMD硬件上，无需进行伤筋动骨的重构。
在模型支持方面，该插件展现了良好的兼容性。它覆盖了包括Qwen3、DeepSeek、GLM、gpt-oss、Kimi在内的多个主流模型系列。更重要的是，它支持从稠密模型到混合专家模型，乃至文本加视觉的多模态大模型场景，显示了其架构的灵活性。
具体到一些代表模型，例如Qwen3-235B-A22B-Instruct-2507-FP8、DeepSeek-R1-0528、openai / gpt-oss-120b以及amd / Kimi-K2.5-MXFP4等，都已在其支持列表之中。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端，适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端，并可同时接收和智能排列多个镜像会话。