英伟达开源TwoTower模型：保留98.7%质量，AI生成提速2.42倍
英伟达开源60B参数双塔扩散语言模型Nemotron-Labs-TwoTower，采用冻结的自回归塔与可训练的去噪塔协同架构，每个塔激活3B参数并调度128个专家。综合测试结果显示，该模型保留原模型98.7%质量，生成吞吐量提升2.42倍。
昨天，英伟达悄悄扔出一篇博文——他们发布了一款名为Nemotron-Labs-TwoTower的新模型，核心目标是解决大模型生成Token时那个绕不开的“速度墙”。简单来说，这是一款基于预训练自回归骨干网络的离散扩散语言模型，专为提速而生。
先说开源：模型权重已在Huggingface上以开源形式发布，授权协议用的是NVIDIA Nemotron Open Model License，开发者可以直接拿去用。
参数方面，总规模】60B，采用双塔架构——两个塔各占30B参数。具体拆开看，一个叫自回归塔（AR/context Tower），另一个叫扩散/降噪塔，每个塔都激活3B模型，并且在128个可路由专家之间调度。这个设计思路很有意思：传统的扩散语言模型把所有任务混在一起，TwoTower则把它们拆分到两个独立的神经网络“塔”里。
其中一个塔（上下文塔）是冻结的，专门负责维护文本的自回归上下文；另一个塔（去噪器塔）则负责训练，对噪声块进行去噪。两个塔通过逐层交叉注意力连接协作。这样的分离设计，说白了就是让专业的人干专业的事——一个塔专注记忆上下文，另一个塔专注“擦除噪声”，互不干扰。
性能数据最能说明问题。英伟达给出的综合基准测试结果显示，双塔架构保留了原模型98.7%的质量表现，但实际运行时的吞吐量提升了2.42倍。这意味着你几乎没丢掉多少精度，却换来了两倍多的生成速度，典型的“既要又要还能给”。下面是具体的测试对比结果：
| 任务 | Nemotron-3-Nano-30B-A3B (AR) | Nemotron-Labs-TwoTower (diffusion) |
|---|---|---|
| MMLU (5-shot, acc) | 78.56 | 78.24 |
| MMLU-Pro (5-shot, CoT EM) | 62.59 | 60.93 |
| ARC-Challenge (25-shot, acc_norm) | 91.72 | 92.66 |
| WinoGrande (5-shot, acc) | 76.09 | 76.09 |
| RACE (0-shot, acc) | 88.90 | 88.90 |
| HumanEval (0-shot) | 79.27 | 75.58 |
| MBPP-Sanitized (3-shot) | 74.71 | 74.28 |
| GSM8K (8-shot, acc) | 92.49 | 90.14 |
| MATH-500 (4-shot) | 84.40 | 80.60 |
| MMLU Global Lite (5-shot) | 73.97 | 73.94 |
| MGSM (8-shot, a vg acc) | 80.80 | 80.40 |
| Quality retained | 100% | 98.7% |
| Generation throughput (× AR) | 1.0× | 2.42× |
从表中可以看到，在数学推理（MATH-500、GSM8K）上有所下降，但在ARC-Challenge这种常识推理上反而还涨了一点。整体权衡下来，用不到2%的精度代价换2.42倍的速度提升，对于实际部署场景来说，这笔账怎么算都划算。当然，具体效果还得看落地时怎么调优，至少从架构思路和创新性上看，这个TwoTower值得关注。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端，适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端，并可同时接收和智能排列多个镜像会话。