LiteLLM v1.108.10 怎样处理异步文件请求和 Vertex AI Claude 输出上限?
作者:NorthPath
时间:2026-11-18
浏览:0
Air Explorer Pro
Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。
¥99
Windows/macOS
2026-08-22
LiteLLM v1.108.10 将用户消息中的 PDF 下载移至异步路径,也修复了部分兼容接口的文件请求出错和 Vertex AI Claude 的默认输出上限。
本文目录
LiteLLM v1.108.10 将用户消息中的 PDF 下载移至异步路径,也修复了部分兼容接口的文件请求出错和 Vertex AI Claude 的默认输出上限。

文件消息为什么会返回 400
在 lts/1.108.x 分支上,Codestral 通过 OpenAI 兼容路径接收含 file 类型内容的异步聊天请求时,共享转换标志会让消息转换两遍,导致返回 400。v1.108.10 合入的回移补丁去掉该共享标志,消息转换在工作线程只执行一次。

异步 PDF 处理的适用范围
过去流式请求遇到 PDF URL 时,下载可能卡在事件循环里,使并行流互相等待。补丁使用异步客户端预下载用户消息中的 PDF URL,再运行同步转换。对于工具消息,这条长期维护分支沿用上游透传 PDF URL 的处理方式。
Vertex AI Claude 的 4096 从哪里来
使用类似 claude-haiku-4-5@20251001 的版本化模型标识,且请求没有传 max_tokens 时,以前会用 4096 作为默认输出上限。补丁令这个分支改读模型的已映射上限,作用点是缺省值推断。调用方显式传入参数的情况与这一缺省逻辑不同。

作者最新文章
Yandex官网入口及最新搜索平台访问方式
2026-11-12 15:20
Yandex搜索引擎官网入口及登录教程
2026-11-12 13:54
wps office设置在哪 选项入口位置
2026-11-04 15:26
如何通过EMRAI助手查询EMR组件相关问题
2026-11-01 16:16
EndNote Windows版官方下载与安装教程:许可确认到Word插件验证
2026-10-30 09:21
热门文章
更多
精品专题
更多
Mac软件
更多
WINDOWS
更多





























