llama.cpp 后端更新:Adreno 分解注意力、CUDA 空分块修复与 SYCL 缓存
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
llama.cpp b12314为Adreno OpenCL加入分解Flash Attention,b12316修复CUDA MoE空分块路径读取,b12319源码标签改用SYCL线程本地设备ID缓存。三个后端、两种发布阶段需分别核对,不能合并成统一性能提升或全平台安全结论。
llama.cpp b12314为Adreno OpenCL加入分解Flash Attention,b12316修复CUDA MoE空分块路径读取,b12319源码标签改用SYCL线程本地设备ID缓存。三个后端、两种发布阶段需分别核对,不能合并成统一性能提升或全平台安全结论。
公告时间:2026年11月12日 13:22:52(北京时间)。
来源:官方公告或发布说明。
Adreno OpenCL在b12314增加什么
b12314预发布构建的说明包括分解Flash Attention、首次调用构建相关kernel、完全遮蔽行的inf处理、PV矩阵乘法的dp4a支持和小批量直接PV路径。它还调整X2E设备上分解FA的适用条件。相关条件与设备、头维度和批量有关,不能把这项后端改进描述成所有Android或所有模型自动获得相同加速。

CUDA MoE空分块修复为何重要
b12316的MMQ stream-k fixup路径在检查有效范围前读取目标ID,尾部专家的空分块可能越过padding边界。修复在j_sup不大于零时提前返回。官方同时解释,存储前原本已按范围返回,因此结果未受影响;不能把越界读取直接扩写为已经证实的推理错误、远程代码执行或数据泄露。

依据:官方原文;b12316 CUDA修复;b12319源码标签;SYCL关联提交
SYCL的b12319当前是什么阶段
b12319已存在源码标签,关联提交时间为北京时间11月12日14:50:55;本轮GitHub Release API未返回该正式发行记录。代码将每次图计算开始时的设备ID查询改为线程本地缓存,减少早退检查涉及的设备管理器互斥锁与映射查询。它不是已测得的整机性能数字,使用者也不能据此假定同名预编译包已上线。

如何选择需要关注的后端
Adreno OpenCL使用者优先看b12314条件与对应运行库;CUDA MoE项目关注空专家、量化矩阵乘法及原有回归案例;SYCL源码维护者则核对设备选择和多线程图计算。下载或编译仍需匹配操作系统、GPU架构、驱动及后端,不应从同一Release的跨平台资产列表推断每个平台都受同一变更影响。
上线前建议保留哪些对照
记录升级前后的提交或构建号、设备、模型量化、上下文和批量设置,用项目既有输入比较输出正确性、错误日志与资源使用。若要比较速度,应保持环境和输入一致并多次测量,不能将缓存机制解释直接写成实测收益。本文没有运行GPU基准或漏洞利用,仅依据官方变更记录解释适用范围。
与上一轮llama.cpp预警的区别
此前b12307的Metal SOLVE_TRI修复和b12318的CUDA调试缓冲池已提醒,本篇不重复这些事实。本轮新增范围是Adreno、CUDA MoE空分块路径及SYCL设备ID查询,按各自构建或提交时间记录,避免仅因后端名称相似混为同一条更新。
依据:官方原文;b12316 CUDA修复;b12319源码标签;SYCL关联提交
常见问题
b12319可以直接下载正式Release吗?
本轮仅确认源码标签及关联提交,尚未确认该版本正式Release或预编译资产。
CUDA这一修复证明之前结果都不正确吗?
没有。官方说明原路径在存储前已返回,结果未受影响;问题是空分块路径的读取边界。































