llama.cpp b12431代码标签如何判断推理级别是否被模板拒绝
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
llama.cpp b12431通过保存聊天模板明确拒绝的推理级别,让对应请求以400和支持级别提示返回。它修正的是reasoning_effort错误分类:此前三类兼容端点可能把模板拒绝反映为500,不能据此将所有推理失败都归入同一原因。
llama.cpp b12431通过保存聊天模板明确拒绝的推理级别,让对应请求以400和支持级别提示返回。它修正的是reasoning_effort错误分类:此前三类兼容端点可能把模板拒绝反映为500,不能据此将所有推理失败都归入同一原因。

400与500的变化发生在什么条件下
对应提交说明,推理级别探测原本会尝试渲染候选值,但会丢弃那些导致模板抛出异常的级别。随后请求带着同一个被拒绝的值进入模板,便可能在/v1/chat/completions、/v1/responses和/v1/messages上得到500。
b12431保留这些被拒绝的值,在兼容请求参数解析阶段判断请求值是否属于拒绝名单。命中时抛出invalid_argument,由服务端以400应答,并在信息中给出模板支持的级别。这里变化的是已知模板拒绝场景的处理位置及错误分类,而不是把任何失败响应都转换成400。

支持名单与拒绝名单表达不同信息
chat_template_caps中的reasoning_effort_levels列出模板会区别渲染的推理级别,按从低到高排列。新增的reasoning_effort_rejected记录会让模板抛出异常的级别。两项描述的是当前聊天模板的能力,不能把某个模板的名单当成所有模型通用的固定参数表。
请求值进入拒绝名单,意味着模板明确不能接受它;没有出现在区别渲染的名单里,并不自动等于会被拒绝。提交专门说明,别名以及模板忽略的级别不因此被拒绝。因而,不能简单按“没有列在支持名单就一定报400”理解新逻辑,也不能宣称每个字符串都会受到同样检查。
三类兼容端点共享什么修正
提交明确提到Chat Completions、Responses和Messages的旧500行为。新检查放在共同的兼容参数解析环节,针对到达这里的reasoning_effort值进行模板拒绝判断。不同接口的外层请求表示仍有各自结构,修复说明不等于三者所有字段完全相同。
随提交增加的测试使用指定模板验证三类输入计数路径:模板拒绝的级别应返回400,同一模板可接受的级别仍应成功。这是仓库中的回归测试依据,没有在此宣称进行过本地模型部署、实际推理压测或任意用户模型验证。
对错误分类和重试判断有什么意义
在这项已识别的场景中,400表示请求推理级别与当前模板不匹配,支持级别提示提供了进一步解释错误的信息。它与服务端处理意外失败时的500含义不同;如果监控把所有500都计作服务端故障,这项修正可以减少该特定参数问题带来的混淆。
版本变化没有证明网络中断、模型加载错误、资源不足或其他模板问题同时被修复。客户端也不能仅凭升级到b12431便假定所有错误都能自动恢复。实际错误响应与当前模板能力仍是判断依据,固定重试次数、统一参数值或性能提升比例都不在这次提交的结论内。
b12431目前确认的是代码标签
b12431关联提交a946eb541a6d3051496bdcc451a0fa85772b8dfd,标签页面可见Source code归档。已核实的事实是这份代码标签及其请求错误处理变化;它不等于已经验证Windows、macOS、CUDA或其他平台的预编译包发布。
这次内容只对应b12431的推理级别处理。相邻代码标签中的HIP或其他模型变化不能归入本条,也不能用其他标签的下载资源证明b12431二进制发行状态。































