腾讯大模型开源，Int4对标DeepSeek，谷歌2GB多模态惊艳登场
图片大家好，我是专注AI学习的老章最近除了阿里Qwen3模型上线了图像生成与处理新功能，大家纷纷尝试吉卜力风格创作外，还有几款新发布的开源大模型值得关注：一是腾讯推出了80B规模的混元A13B模型，最大亮点是实现了近乎无损精度的int4量化，性能强劲二是谷歌发布了轻量级多模态模型Gemma3n，主打可在手机端运行，最低仅需2GB内存三是我发现了一个小众但实用的超长上下文模型Jan-nano-128k，仅2.5GB的Q4_K_M版本就支持128K上下文长度腾讯混
图片大家好，我是专注 AI 学习的老章
最近除了阿里 Qwen3 模型上线了图像生成与处理新功能，大家纷纷尝试吉卜力风格创作外，
还有几款新发布的开源大模型值得关注：
一是腾讯推出了 80B 规模的混元 A13B 模型，最大亮点是实现了近乎无损精度的 int4 量化，性能强劲
二是谷歌发布了轻量级多模态模型 Gemma 3n，主打可在手机端运行，最低仅需 2GB 内存
三是我发现了一个小众但实用的超长上下文模型 Jan-nano-128k，仅 2.5GB 的 Q4_K_M 版本就支持 128K 上下文长度
腾讯混元 A13B
官方技术报告已经写得非常详尽，有兴趣的朋友可以深入阅读[1]
试用地址：https://hunyuan.tencent.com/?model=hunyuan-a13b
图片核心优势一览
小模型，大能力：仅激活 130 亿参数（总参数达 800 亿），在多项基准测试中表现媲美更大规模模型
双模式推理：支持“快思考”与“慢思考”两种模式。默认为慢思考输出，若需快速响应，可在输入前加 /no_think
超长文本理解：原生支持 256K 上下文窗口，在处理长文档任务时性能稳定
强化 Agent 能力：在 BFCL-v3、τ-Bench、C3-Bench 等智能体评测中表现领先
高效推理机制：采用分组查询注意力（GQA），支持多种量化格式，显著提升推理效率
我参考的是魔搭社区上的中文解读版技术博客[2]，总结出几个关键点：
腾讯同步开源了两个重要数据集：ArtifactsBench 用于弥补代码评估中的视觉与交互差距[3]，而 C3-Bench 是专为智能体设计的评测集，帮助揭示模型短板并推动可解释性研究[4]
A13B 在数学、科学推理及 Agent 场景下，可与 OpenAI-o1-1217、DeepSeek R1、Qwen3-A22B 正面较量
Agent
图片3. Hunyuan-A13B-Instruct-GPTQ-Int4 量化版本几乎与原版无差，堪称精度无损！
| Bench | Hunyuan-A13B-Instruct | Hunyuan-A13B-Instruct-GPTQ-Int4 |
|---|---|---|
| OlympiadBench | 82.7 | 84.0 |
| AIME 2024 | 87.3 | 86.7 |
| Gsm8k | 94.39 | 94.24 |
| BBH | 89.1 | 87.91 |
| DROP | 91.1 | 91.05 |
这意味着本地部署时，完全可以使用 int4 版本
完整模型约 160GB，int4 版本仅约 44GB，估计 4 张 4090 显卡即可流畅运行
int4 版本部署命令如下：
# 下载模型：# ModelScope: modelscope download --model Tencent-Hunyuan/Hunyuan-A13B-Instruct-GPTQ-Int4# 拉取国内镜像：docker pull docker.cnb.cool/tencent/hunyuan/hunyuan-a13b:hunyuan-moe-A13B-vllm # 使用ModelScope下载的模型启动服务docker run --privileged --user root --net=host --ipc=host \ -v ~/.cache/modelscope:/root/.cache/modelscope \ --gpus=all -it --entrypoint python docker.cnb.cool/tencent/hunyuan/hunyuan-a13b:hunyuan-moe-A13B-vllm \ -m vllm.entrypoints.openai.api_server --host 0.0.0.0 --tensor-parallel-size 4 \ --port 8000 --model /root/.cache/modelscope/hub/models/Tencent-Hunyuan/Hunyuan-A13B-Instruct-GPTQ-Int4/ --trust_remote_code
相比 DeepSeek-R1 较高的运行成本，这款 44GB 的 Hunyuan-A13B-Instruct-GPTQ-Int4 在数学、推理和 Agent 表现上值得进一步实测验证。
谷歌 Gemma 3n
谷歌 Gemma 家族再添新成员——面向端侧部署的轻量多模态模型 Gemma 3n
原生多模态支持：Gemma 3n 支持图像、音频、视频和文本输入，输出为文本结果
专为端侧优化：以高效运行为目标，提供 E2B 和 E4B 两种有效参数规模版本。虽然原始参数为 50 亿和 80 亿，但通过架构创新，实际内存占用相当于传统 20 亿和 40 亿参数模型，最低仅需 2GB（E2B）或 3GB（E4B）即可运行
架构创新亮点：包括 MatFormer 架构（增强计算灵活性）、逐层嵌入 PLE（提升内存效率）、LAuReL 与 AltUp（优化结构效率），以及专为移动端优化的新型音频编码器和基于 MobileNet-v5 的视觉编码器
综合性能出色：在多语言支持（覆盖 140 种文本语言和 35 种多模态语言理解）、数学、代码生成和逻辑推理方面均有显著提升。E4B 版本在 LMArena 基准测试中得分突破 1300，成为首个低于 100 亿参数却达到该水平的模型
图片最吸引人的点在于：极低成本即可实现端侧多模态推理
据网友实测反馈，Gemma 3n 的语音转写与翻译功能表现良好
但更值得关注的是其在移动端的实际运行表现
谷歌已将该模型上架安卓平台的 Edge Gallery 应用，结合其支持 GPU 卸载的特性，可能是目前最佳使用方式
不过有测试显示，在高通骁龙 6 代 4 核处理器（仅 CPU 运行）上每秒仅生成 4-5 个 token，响应较慢，实用性受限
目前建议持续关注，更多资源可自行查阅：
Hugging Face https://huggingface.co/collections/google/gemma-3n-685065323f5984ef315c93f4
Un
Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。
Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境，集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。
Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境，基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。
Xcode 是苹果面向 Mac 提供的官方集成开发环境，将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中，适合开发与维护 iPhone、iPad、Mac、Apple Wa
JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境，可智能理解项目结构，提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。
PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境，可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。
JetBrains PyCharm 是面向 Python 开发者的集成开发环境，提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片，核心功能可免费使用。
IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境，重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具，并可借助插件扩展语言和框架支持。
Visual Studio Code 是微软提供的免费代码编辑器，支持 macOS，并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Pro Tools 是 Avid 推出的专业数字音频工作站，覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。
PixPix 是面向品牌、卖家和内容团队的在线 AI 图片视频创作平台，提供图视频 Agent、无限画布、图片生成、视频生成、自然语言编辑及商品套图、产品精修和带货视频等电商工具。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Docker Desktop 为 Windows 开发者提供集成式容器环境，内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件，可在本机完成镜像构建、容器运行、日志查看和资源管理。
Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境，以 IntelliJ IDEA 为基础，集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具，
WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索，并集成调试、测试、终端、Git 与常用前端工具，
PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境，提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序，
PyCharm 是 JetBrains 推出的 Python 集成开发环境，提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能，
JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境，提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目，
Visual Studio Code 是微软推出的免费代码编辑器，Windows 版集成智能补全、代码导航、调试、终端和版本控制，并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活，
REAPER 是 Cockos 推出的数字音频工作站，适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧，支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展，并提供完整功能的 60 天免费评估期。
Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站，提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理，
Pro Tools 是 Avid 推出的专业数字音频工作站，提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用，并提供免费入门版、订阅方案及永久授权选择。