展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 硬件相关 > 万字解读:为何长上下文治不了多模态 AI 的「健忘症」?丨GAIR Live 031

万字解读:为何长上下文治不了多模态 AI 的「健忘症」?丨GAIR Live 031

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买
立即下载

“多模态长记忆在「看得准、找得到、想得清」三大环节的底层逻辑与工程避坑指南。” 过去一年,大模型技术演进的舞台上,“长上下文”几乎成了资本与技术角力的暴风眼。 从128K到1M,再到号称“无限长”的窗口,数字的跳跃给外界营造了一种“AI已然博闻强识”的错觉。但行业内其实一直藏着一个巨大的认知盲区:拥

“多模态长记忆在「看得准、找得到、想得清」三大环节的底层逻辑与工程避坑指南。”

过去一年,大模型技术演进的舞台上,“长上下文”几乎成了资本与技术角力的暴风眼。

从128K到1M,再到号称“无限长”的窗口,数字的跳跃给外界营造了一种“AI已然博闻强识”的错觉。但行业内其实一直藏着一个巨大的认知盲区:拥有超长上下文,真的就等于拥有了可靠的长程记忆吗?

多模态长程记忆,到底是通往“数字生命”的最后一块拼图,还是当前技术架构下难以逾越的雷区?

最近一期GAIR Live线上圆桌,两位极具代表性的专家——香港科技大学博士生、全球首个多模态长记忆评测标准MemLens的主导作者任玺谕,以及丘脑智能CEO、Omni-Mem框架负责人张源——进行了一场硬核对话。他们一位手握“最严苛的尺子”,对全球27个顶级模型做了深度体检;另一位则扎根长程记忆的产业一线,总结出了最真实的实战药方。这场对话的核心,就是拆解多模态长记忆落地过程中的三道生死关:看得准、找得到、想得清。

“看得准”:从Caption到“证据指纹”的范式重构

讨论中抛出一个关键判断:目前主流的Caption(图像摘要)方案,正是长记忆失效的源头。

任玺谕通过实验证明,Caption方案会无可挽回地丢失登机牌上的日期、票据上的金额等关键细节。更麻烦的地方在于,系统在入库的瞬间,根本预判不了用户三个月后会问什么问题,这种盲目的压缩,导致的信息丧失是不可逆的。

面对这个难题,张源给出的工程解法,是干脆利落地换了一个思路:构建“结构化证据链”。不再存储原始像素或一段文字,而是存储视频的“证据指纹”和高保真记忆单元。这模仿了人类海马体与皮质层的协作方式,把关键视觉特征(比如人脸、属性、空间关系)牢牢锁死在语义空间中。通过“锚定-分级压缩-定期校验”这套体系,才能保证“人生级”的记忆在长达数年的周期里不变形。

“找得到”:检索优先级高于推理,跨模态路由是关键

圆桌讨论中诞生了一个碘伏性的结论:多模态长记忆的瓶颈,压根儿就不在模型的“推理层”,而在“检索层”。

MemLens的实验数据很有说服力:只要人工替模型把证据找对,准确率能直接从30%飙升到90%以上。这说明,问题的核心在于如何识别用户Query中的跨模态线索。

张源分享了丘脑智能的“三级防御体系”:首先,把用户的问题拆解成文本、视觉、时序意图谱;接着,进行“线索模态路由”,定向发送给对应的检索引擎。这套机制不仅把准确率从20%拉到了60%的可用线,更从源头上缓解了长上下文带来的“稀释效应”和“检索过敏”。

“想得清”:终结“过期记忆”的背叛与拒答能力的回归

在长记忆场景下,幻觉呈现出两种更棘手的形态:状态更新失败(KU)与拒答退化(AR)。任玺谕特别指出,经过针对性微调的模型,往往会变得“盲目自信”,即便证据不足,也会为了拿到奖励而强行编造答案。

张源则强调,记忆系统必须“以用户为中心”,而不是“以事实为中心”。丘脑智能的做法,是为每一条记忆打上时间戳、置信度和证据链标签,建立了一套“时序优先”的加权仲裁规则。同时,把检索证据与生成环节解耦——如果检索引擎给出的分值过低,系统必须学会优雅地“说不”。这一步,才是守住用户信任的生命线。

未来展望:2026年的“皮层+海马体”生态

两位嘉宾预判,未来的产业分工将变得极其明确:基座模型(LMM)负责处理瞬时、精细感知的“大脑皮层”工作;而记忆框架厂商,则专门管理长程、结构化信息的“海马体”工作。可以预见,到2026年,行业将诞生标准化的“视觉证据交接接口”。

随着具身智能任务的复杂度不断提升,多模态长记忆将面临从“单帧静态记忆”向“连续动作序列记忆”跨越的尖锐挑战。这要求模型层在时序视觉表示上取得突破,同时也要求工程侧通过Hybrid混合架构,在算力开销与保真度之间找到平衡点。

以下是此次圆桌讨论的精彩分享,内容经过了不改原意的编辑整理:

岑峰:各位观众晚上好,欢迎来到GAIR Live线上圆桌。过去一年,大模型领域最卷的参数之一,就是上下文的长度。然而现实中,我们常常发现,AI虽然“读过”所有书,却仍记不起昨天丢在哪里的钥匙;看遍监控录像,也难以确定特定人物的身份。

在多模态长程记忆领域,我们正处于从实验室Demo向国民级应用跨越的深水区。今天我们讨论的主题是:多模态长程记忆为何落地难?为此我们邀请到了两位代表性专家:

任玺谕,香港科技大学博士生,全球首个多模态长程记忆评测标准MemLens的主导作者;

张源,丘脑智能CEO,曾深耕自动驾驶与具身智能,致力于研发Omni-Mem框架,重塑AI记忆范式。

首先请两位嘉宾介绍一下自己以及该领域的最新进展,并回答:为什么多模态记忆值得作为一个独立命题讨论?

任玺谕:我是任玺谕,研究方向是多模态大模型的长期记忆。我们主导了MemLens评测基准,将27个视觉语言模型与7个记忆智能体放在同一多模态数据维度下,进行了完整的深度对照实验。

MemLens不仅仅是排行榜,更是一次深度诊断,旨在厘清记忆系统失效的具体原因。多模态记忆绝非长文本的简单分支。在日常交互中,用户拍摄的白板、登机牌或体检报告,这些不仅是图片,更是核心证据。纯文字记忆系统在长达数月的对话中,会丢失大部分真实发生过的信息。

多模态记忆的难点在于图像翻译的“有损性”。长文压缩去掉的是冗余,但图像压缩往往会丢掉证据。更要命的是,系统在入库瞬间无法预知用户三个月后会问什么,因此难以决定该保留哪些视觉细节。现有的评测标准(如Locomo或LongMemEval)大多将图像约化为纯文本,而我们认为视觉证据不可被简单文本化——这便是多模态记忆必须作为独立命题研究的原因。

张源:我是张源,丘脑智能CEO。我们是国内目前唯一针对多模态提供长记忆解决方案的公司。

关于多模态长记忆的必要性,我从产业视角给出三个理由:首先,AI进入物理世界的交互入口,不管是具身智能、智能座舱、智能硬件等,所有的交互入口天然是多模态的;其次,AI与人类交互的信息流,以及人类接收到的带宽最高、最接近第一性原理的信息,也是多模态的;最后,AI在执行长程任务时,无法绕开多模态记忆独立存在。我们从产业需求中看到了巨大的机会,因此认为多模态长记忆值得独立深耕。

01
看得准:视觉证据的颗粒度与工程保真

岑峰:感谢张总。刚才玺谕和张总分别从学术与产业视角分享了见解,两位达成了一个核心共识:多模态长记忆已从“可选功能”演变为“刚需底座”。

岑峰:在MemLens的论文中有一个关键发现:基座模型(如Qwen)在被集成进记忆Agent后,性能从49%暴跌至15%,整整损失了34%。这说明许多记忆在存入的瞬间就已经“变质”了。玺谕,你评测了27个模型后,发现这34%的断崖式下跌究竟丢在了哪些环节?

任玺谕:这种大幅度的性能下降并非因为模型变笨了,而是证据在写入阶段就已“蒸发”。问题主要出在写入过程而非后续的推理环节。我认为主要有三个层面:首先,Memory Agent为实现长效存储,在写入时会将图片过度压缩;其次,Caption方案往往只保留了图像大意,丢失了数量、属性、空间关系等细粒度信息;第三,当用户后期追问时,模型无法调取原始像素,此时它已彻底丢失了最初的视觉信息。

最关键的是,这种压缩发生在系统无法预知未来需求的情况下,入库那一刻模型无法断定三个月后用户是否会询问登机牌上的某个具体数字。本质上,信息在被模型“看清”之前,就已经被压缩抹除了。

岑峰:既然Caption方案常丢失登机牌日期、票据金额等细节,你们如何通过“信息提取”这一维度,精准证明视觉证据是在写入环节丢失的?

任玺谕:我们通过三步逻辑将猜测转化为可证明的结论。

第一步是构建“图文依赖”。在MemLens论文中,我们设计了两跳(Two-hop)的逻辑问题,要求模型必须先从图片识别实体,再从文本取回属性。通过高度抽象的描述(如将“金门大桥”写成“图中这座桥”),强制模型结合图文寻找答案。

第二步是设立对照实验。对同一题目,我们分别提供原图和模型生成的Caption。结果显示,纯文本系统使用Caption的表现与多模态系统几乎一致,证明瓶颈确实卡在“压成Caption”这一步。

第三步是错误归因。我们逐条标注了错误原因,发现近90%的错误源于“没看到”而非“没想通”。即便在提供原图的测试中,模型也难以在长上下文中精准检索到票据金额或空间位置关系。因此,长上下文场景下,模型的瓶颈在于“眼睛”而非推理。

岑峰:转向工程视角。张总,丘脑智能提倡“人生级上下文”,面对海量数据,如果无法全量存储原始视频,你们如何在工程上实现证据的保留?

张源:全量存储原始视频在成本和检索效率上都是不可持续的。我们的策略是将证据定义从“原始像素”升级为“结构化证据链”。

首先,我们通过噪声过滤与时空对齐算法处理原始证据。比如监控录像中一小时的静止画面会被压缩为一帧,仅过滤出包含丰富信息的“重点帧”。随后,我们利用强多模态理解模型对核心帧进行无损特征提取,保留颜色、纹理、空间关系、人脸等视觉证据,并将其与原始像素绑定。

其次,我们模仿人类海马体与皮质层的编码、整合方式,将原始信息按认知地图进行语义结构化,转化为可检索的“证据指纹”。例如,系统存入的不是一段票据视频,而是其结构化描述,需要时直接从绑定特征中提取文本,而非回放视频,从而将存储成本降低两个量级。

最后,我们实施记忆分级策略:高频访问的关键证据(如用户偏好、重要票据)进入“热存储”,低频背景数据则进入“冷存储”并只保留索引。这种方案既能保证证据的可追溯性,也实现了人生级上下文的工程落地。

岑峰:任务跨度拉长到“人生级”时,如何防止特征在不断压缩存储中产生语义失效或变形?

张源:这确实是多模态长记忆的核心挑战。我们放弃了“存更多数据”的思维,转而追求“存住有效证据”。

首先,我们引入了状态更新与遗忘机制。例如,我可能一直特别爱吃辣,但是我最近感冒了,嗓子不太舒服,最近不太能吃辣,系统会通过状态更新,让最新的用户偏好覆盖旧状态,并遗忘提及频率极低的非重要信息。

其次,我们研发了E2P(Embedding to Prefix)技术框架。其原理是通过强理解生成高维语义,将关键信息(如机票金额、车牌号)锁死在语义空间中作为锚点。随后的压缩操作不会破坏这些语义锚点,后续检索与推理均以锚点为准,从而绕过传统的Embedding损耗。

在产业化实操中,我们针对不同场景制定了差异化策略。在缺乏图片视频的陪伴场景中,我们以去噪代替压缩,保留80%的原始证据;在复杂多模态场景下,我们采用分级压缩:对核心语义特征进行无损压缩,对次要视觉特征(如背景纹理)进行有损压缩,确保关键证据不变形。

最后,我们建立了语义一致性校验机制去防止特征漂移。系统会定期对记忆单元进行“体检”,利用当前模型重新理解压缩特征。若发现偏差较大,则触发记忆修复流程,重新提取并锚定关键信息,防止特征随时间产生漂移。

也就是说,我们会通过“锚定-分级别压缩-校验”这套工程化体系,让语义特征在整个生命周期里面都保持相对的稳定,不会因为压缩而失效。

02
找得到:跨模态证据的“大海捞针”与检索架构

岑峰:刚才玺谕和张总聊透了存储写入环节的问题。但在工程实现上,下一步面临的情况更为严峻:即使证据被原封不动地存入,当上下文达到“人生级”的海量规模时,AI往往会“看走眼”。玺谕在MemLens中做了一个极具冲击力的实验:只要人工找对证据直接喂给模型,准确率会瞬间拉回到90%以上。

岑峰:这说明模型的推理层基本没有问题,瓶颈在于模型很难在跨模态的数据大海中捞到那根“针”。玺谕,这是否说明行业过去过于迷信长文本推理,而忽视了跨模态检索才是真正的命门?

任玺谕:没错,我们将这一现象量化到了极致。我们得到的结论是,其实模型的推理层并没有问题,有问题的恰恰是检索。

首先,我们的实验结果显示,多模态跨会话推理(MSR)是目前所有系统共同的天花板,绝大多数系统得分低于30%,即便表现最好的Kimi也不过40分。

第二,我们通过系统性诊断发现,只要我们替模型完成找证据这一步,GPT-4o和Gemini Pro 1.5的准确率能立即飙升至90%以上。这有力地证明了行业过去将大量资源砸在提升长文本推理能力上,方向可能产生了偏差。

我们认为真正的挑战在于跨模态检索。我们通过归因分析将检索问题分为两类:一是根本没找到证据(Retrieval Failure),二是找对了证据但依然答错。不同的agent其实会有不同的问题,这说明找得到和想得清这两层是可以被分开诊断的。为了精准诊断,我们在论文中将记忆系统拆解为五大能力维度:

1.信息提取(IE):基础的直接信息检索。

2.跨会话推理(MSR):目前最核心的瓶颈,考察跨Session的逻辑整合。

3.知识更新(KU):基于用户偏好动态管理历史信息。

4.时序推理(TR):处理与时间先后相关的逻辑。

5.拒答能力(AR):检测模型在证据不足时能否正确拒绝,防止自信地胡说(幻觉)。

岑峰:很多人认为只要无限拉长窗口,让模型自己看所有历史就能解决检索问题。但MemLens发现,当历史长达128K时,准确率反而下降了13%。这种“证据稀释”现象为何在多模态场景下更严重?

任玺谕:长窗口是一个陷阱,它解决了“装得下”,却解决不了“找得准”。实验显示,窗口越长,模型反而变得更加“虚假自信(False Confidence)”。特别是在“拒答能力(AR)”上,随着窗口增长,模型在缺乏证据时拒绝回答的比例显著下降,转而自信地答错。

多模态场景下这种现象更严重,原因有二:首先,视觉信息(图片或视频)占用的Token量极大,几张图片就能把信噪比彻底压垮,导致真实证据被淹没。其次,在压缩后的视觉编码上进行检索,本身就比在原始文本上检索更难且更不可靠。文本检索中常见的“Lost in the Middle(迷失中间)”现象,在图文混合场景下被进一步放大了。

岑峰:转向工程落地,张总,既然检索是命门,丘脑智能如何识别用户Query中哪些线索隐藏在文本中,哪些隐藏在图像里?

张源:我非常激动看到MemLens通过科学实验论证了基模与记忆企业的分工。

我们之前在融资或者跟投资人交流的时候,经常被问到,如果基模做这个事,你们会怎么办?Benchmark里对我非常有价值的一个点就是,通过真实的实验证明了基模和记忆企业是有分工的——上下文窗口变长不代表记忆体验变好。如果之后再被问到这个问题,我会把实验结果和结论告诉他们:基模一定会做,上下文窗口一定会越来越长,但不代表他们做了就能解决记忆的问题。

针对跨模态线索识别,我们的解法是在检索前引入“跨模态意图拆解”,将Query从一句话拆解为多模态意图图谱。具体分为三步:

首先,利用多模态理解模型将用户的自然语言拆解为文本线索、视觉线索、时序线索和属性线索。例如,用户问“上次在某咖啡馆拍的穿蓝衣服照片里,我手里拿着什么?”,我们会拆解出地点(文本)、服装(视觉)和时间(时序)。

其次,进行“线索模态路由”,定向到对应的索引引擎。文本线索走语义索引,图像特征走视觉索引,时间属性走时间轴。这避免了盲目遍历所有数据带来的Token浪费,效率提升了一个量级。

最后,在推理前进行“证据融合”。将不同引擎召回的零散片段进行对齐,拼成完整的证据链交给模型。

岑峰:你提到的这个包含地点、服装、时间的问题很有意思。你们的系统遇到过哪些稀奇古怪的测试问题吗?

张源:我们做过一个“找钥匙”的趣味测试。通过一段家里的监控视频,用户问钥匙最后出现在哪。系统识别出钥匙曾出现在一个穿黑衣服女生的手里,随后她坐在沙发上,钥匙不小心滑入了沙发缝。AI最终不仅给出了时间,还建议用户去沙发附近寻找。这种涉及复杂空间互动和时序逻辑的问题,正是我们想攻克的方向。

岑峰:下一个问题:面对长历史带来的“检索过敏”,丘脑智能有什么独特的算法防止模型被无关内容带偏?

张源:我们在做纯文本时经常遇到类似问题:无关信息多、上下文长、模态丰富后噪声更大,容易导致幻觉或答非所问。我们的抗过敏方案是:用高保真的原始证据替代模型抽取后的数据。前面提到,我们没有像其他记忆系统那样大幅压缩原始信息,而是先锚定语义,并保留一些原始证据。

具体做法是:先做意图驱动的多级召回,从源头缩小检索范围。传统检索是全量初筛,比如在图书馆里一本书一本书地遍历。而我们如果是纯文本就做场景整合,多模态则做意图拆解,把用户问题限定在特定时间、场景、主题里,再定向召回。比如用户问去年生日的蛋糕照片,我们就把时间锁定在去年生日前后,只在这个范围内召回相关内容,无关聊天和图片不会进入候选池,从源头减少噪声。

第二,做相关性重排序和负样本对比,剔除似是而非的信息。我们有一个多模态相关模型做重排序,不仅看语义相似度,还对比用户意图和记忆上下文。比如用户要找蓝色衣服,系统可能召回深蓝色外套和蓝色背景,这时就需要做区分,避免背景噪声带偏结果。

第三,证据可信度校验,防止幻觉式引用。模型推理前,我们会给证据一个可信度分数,只有高于阈值才会被引用。如果召回内容中没有可靠证据,就回答不知道,而不是强行编造答案。这和玺谕他们提到的拒答问题有关。拒答在学术上是为了保证可信。总结来说,我们不是多召回再过滤,而是先缩小范围,再精准排序,最后做可信度校验——这样一套三级防御体系。

03
想得清:终结“逻辑雪球”与状态更新的信任挑战

岑峰:拒答与“自信的胡说”是大模型领域讨论极多的痛点。如果说感知层面的问题可以通过“看得准”和“找得到”来缓解,那么最后一关则直指“信任”。

在长记忆场景下,大模型幻觉的形态发生了变化。人类拥有自然的遗忘与更新机制,能以最新知识覆盖旧信息。但AI往往会出现一种尴尬:即便用户的偏好已发生改变(如从喜欢苹果变为喜欢猕猴桃),系统依然固守旧记忆。这种“想不清”导致的自信胡说,是用户最难接受的。

岑峰:玺谕,你在MemLens中定义的“状态更新失败”模式反映了模型训练的哪些偏差?基于事实准确率的训练目标,对长记忆系统会产生哪些负面影响?

任玺谕:“状态更新”考察的是模型追踪多步逻辑状态链的能力。例如,用户在对话中提到偏好经历了从苹果到香蕉再到猕猴桃的演变,模型必须能够准确追溯到链条的最后一环。

实验中我们发现,最常见的失败是“过期检索(Stale Retrieval)”。因为检索算法通常基于语义相似度,当你询问偏好时,系统会将历史中所有提到水果偏好的地方全部召回。模型往往分不清哪条是当下的状态,哪条是三个月前的,从而抓住了最早出现或权重最高的旧信息。

这种现象在真实产品中极具风险。比如用户已搬到上海,AI却依然推荐北京的餐厅;或者用户声明正在吃素,AI却推荐牛排馆。更严重的是,若用户提到某种药物过敏而模型未更新状态,将引发安全隐患。

究其原因,主流模型的训练奖励是“答出通用事实”,追求博学与自信。但在长记忆Agent场景下,用户私有的动态状态才是唯一事实。当用户表达的内容与模型内部的通用常识冲突时,模型会本能地相信常识并试图纠正用户。在记忆系统里,模型的先验知识有时反而是必须克服的“累赘”。

岑峰:模型“想不清”的另一个表现是,接入记忆后其拒答能力(AR)反而退化了。以前不知道会说不知道,现在有了记忆反而开始自信地胡说,这在长记忆场景下会产生怎样的连锁反应?

任玺谕:这是一个非常反直觉的发现。实验显示,针对记忆进行的后训练(如SFT微调或强化学习训练)往往会将模型原有的拒答能力“训没了”。一些记忆系统在使用未经额外训练的底座模型时,拒答率能保持在70%左右;但经过记忆微调后,拒答率普遍跌至9%到22%。更有甚者,拒答率会从80%直线下降到10%。

根源在于,目前的微调只奖励“检索成功”和“答对”,从未设置过“无证据时正确拒答”的奖励。模型因此被训成了一种不惜代价也要给出答案的模式。伴随长上下文带来的证据稀释,模型编造的内容往往有理有据,用户极难分辨。这种对证据的“污染”在工业场景下是致命的。

岑峰:转向工程实践。张总,针对玺谕提到的新旧习惯冲突(如搬家、偏好改变),丘脑智能在Omni-Mem框架中是如何处理这类记忆冲突的?

张源:记忆与基座模型的核心区别在于:基座追求客观认知的最高标准,而记忆系统则必须以用户为中心。

我们早期尝试过维护状态更新词表,试图穷举所有场景,但发现无法覆盖繁杂的长尾情况。目前的方案是为记忆单元打上三类标签:时间戳、置信度和证据链。我始终强调时间的重要性,记忆不能脱离时间维度独立存在。

我们的策略是建立“时序优先”与“证据加权”的仲裁规则:首先,时间戳越新,权重越高;其次,置信度排序上,用户亲口表述(直接证据)优于图片线索,图片线索优于多跳推断。例如,用户直接说“我不爱吃苹果了”,其置信度远高于系统观察到用户很久没吃苹果的间接推断。

在推理阶段,模型会校验记忆状态是否存在新旧冲突。若存在,系统自动选择时间最新、置信度最高的版本并引用对应的证据链。

但这个问题尚未彻底解决。我们需要区分“长期一致性”与“短期波动”。比如我平时极度爱吃辣,但最近感冒必须忌口。如果系统简单地用“最近不吃辣”覆盖了我的长期偏好,感冒痊愈后它依然推荐清淡饮食,这在用户看来也是一种“错误”。我们正利用认知画像映射算法来尝试剥离长期特质与短期波动,也期待学术界在这个方向有更多前瞻性的突破和研究。

岑峰:针对“拒答”这一底线,当你们服务政府或零售大客户这类客户时,如果记忆库中确实缺乏证据,如何确保AI既能“优雅地拒绝”,又不会为了完成任务而编造伪记忆?

张源:目前我们的客户大部分是陪伴机器人和垂类的Agent为主,但对于任何严谨的行业,对幻觉的容忍度几乎都是零。我们的核心解法是将检索证据与模型生成进行解耦:

第一,空结果识别。多模态检索引擎会给每次召回打分,若分数低于阈值,系统直接判定为无有效证据,即“空结果”。

第二,证据驱动生成。模型的推理模式被严格限制在证据链之内,绝不允许脱离检索到的事实进行“自由发挥”。如果没有证据,模型必须触发预设的拒绝话术,引导用户提供更多细节。

第三,审计合规兜底。针对大客户场景,我们计划添加日志,记录每一次检索与回答生成的完整日志。如果模型给出了错误信息,我们可以通过审计日志回溯是哪个环节的证据出了问题。

刚才玺谕提到强化学习(RL)路径可能导致拒答率降低,这让我深有感触。如果模型意识到给出答案就能获得奖励,它就不会诚实地表达无知。因此,我们不能寄希望于模型的“自觉”,而必须靠工程硬约束——用证据绑定推理,用审计确保合规。未来产业需要的不是一个无所不知的聪明模型,而是一个言必有据的可信系统。

04
未来展望:混合架构的产业分工

岑峰:过去一小时,我们深入探讨了多模态长记忆“看得准、找得到、想得清”三大难题。

这场讨论让我感触最深的是:长记忆的落地,绝非靠一个更强的模型或更大的窗口就能解决,其终局必然是长上下文(Long-context)与记忆智能体(Memory Agent)的混合体。基座模型(LMM)如同处理瞬时信息的“大脑皮层”,而记忆框架则是管理长程信息的“海马体”。

岑峰:请问两位,这种“皮层+海马体”的产业分工,在2026年可能会形成怎样的标准或生态?

任玺谕:这个比喻非常贴切。我们的实验数据支持这种分工:长窗口负责处理当下的、精细的视觉对齐(Grounding);而结构化的记忆系统负责长程视觉证据的保留与召回。

我预测2026年将出现清晰的接口分层。基座模型厂商致力于确保窗口内“看得准”,而记忆厂商专注于确保长周期内“存得住、找得回”。目前,这两者之间的“带宽”——即视觉证据如何标准化交接、多模态证据如何跨层级对齐,仍是待填补的技术空白。

张源:我非常认同。基座模型极其聪明,推理能力极强,但它在海量数据面前往往是一个“没有记忆的空白脑袋”。记忆企业的核心使命,是让这些聪明的大脑在处理任务时,能想得清当前动作关联了哪些历史会话或模态,并确保AI始终忠于用户的个人记忆。

岑峰:从学术研究角度看,若要实现从“单帧记忆”向“连续动作序列记忆”的跨越,模型层需要实现怎样的突破?

任玺谕:实际上单帧保真至今未被完美解决,连续动作则会将“压缩与保真”的矛盾在时间维度上放大一个量级。MemLens目前的评测仍停留在静态图,而动作序列是未来的前沿。

我认为模型层需要三方面的突破:首先是时序视觉表示的革新,开发能精准保留动作语义而非全分辨率像素的视频Tokenizer;其次是将动作与事件视为“一等记忆”进行结构化存储,而非孤立的帧堆砌;最后是实现跨帧的实体追踪与状态延续(Object/Actor Permanence)。

虽然工程上可以用关键帧抽取来兜底,但连续语义的无损记忆仍需模型层的根本突破。此外,我们必须警惕,在加强记忆能力的同时,不能以牺牲模型原有的拒答率和安全性为代价。

岑峰:展望未来12个月,有哪些多模态记忆的“坑”最有望通过工程技巧填平?

张源:我认为多模态证据的“对齐与结构化”最具突破希望。这不需要等待模型质变,通过工程体系的成熟即可实现。未来行业将普遍转向“先锚定、再存储”的范式,利用强多模态模型在写入阶段就将关键证据锁死在语义空间,解决有损压缩带来的细节丢失。

其次是“跨模态检索架构”的成熟。通过意图拆解和定向路由,即使基座模型不升级,仅靠工程架构优化,也能将检索准确率从目前的20%-30%提升至60%以上的可用水平。

最后是“记忆冲突与状态更新”的系统化解决,带时间戳、置信度和证据链的结构化记忆单元将成为标配。

岑峰:填平旧坑的过程中,是否会产生新的挑战?

张源:具身智能在长程任务中的落地将使矛盾更加尖锐。具身记忆管理的不再是简单的对话,而是环境观察、动作关键帧和物体的位移轨迹。这对模态间的关联和动作连续性的要求极高。如果记忆问题不解决,物理AI在执行复杂任务时的缺陷将暴露得更加明显。

任玺谕:没错。具身场景下,视觉证据的密度远高于对话场景,状态更新更频繁(物体位置时刻在变),且对拒答和可信度的要求近乎苛刻——一个不会说“我不知道”的机器人,是会出安全事故的。

岑峰:感谢玺谕提供的严苛标尺,也感谢张总分享的实战药方。MemLens将抽象的长记忆量化为可诊断的指标,而丘脑智能则致力于让这些指标在真实场景中生根。多模态长程记忆从Demo走向可靠产品的路线图已愈发清晰。感谢各位收看本期GAIR Live。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
硬件相关 AI
相关文章 更多
精品专题 更多
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

Mac软件 更多
WPS Office macOS版
WPS Office macOS版

WPS Office是一款面向macOS用户的综合办公套件,将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式,支持Intel及Apple芯片Mac,基础功能可免费使用,

Shapr3D macOS版
Shapr3D macOS版

Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核,支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换,并可通过账户在多台设备之间同步项目。

REAPER macOS版
REAPER macOS版

REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

Ableton Live macOS版
Ableton Live macOS版

Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站,提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片,并可连接音频接口、MIDI控制器和第三方插件。

Adobe After Effects macOS版
Adobe After Effects macOS版

Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具,并可与 Premiere Pro、Photoshop、Illustrator

Adobe Audition macOS版
Adobe Audition macOS版

Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站,提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具,并可与 Adobe Premiere 协同完成视频声音制作。

Adobe Bridge macOS版
Adobe Bridge macOS版

Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具,可集中预览照片、视频和 Adobe 项目文件,并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera

Adobe Illustrator macOS版
Adobe Illustrator macOS版

Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件,适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形,并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。

Adobe InDesign macOS版
Adobe InDesign macOS版

Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件,可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。

Adobe Lightroom Classic macOS版
Adobe Lightroom Classic macOS版

Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件,可将原始照片保存在本地硬盘,通过目录、关键词、评分和收藏夹高效整理图库,并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。

Adobe Media Encoder macOS版
Adobe Media Encoder macOS版

Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具,可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出,并与 Premiere Pro、After Effects 等软件紧密协作。

Adobe Photoshop macOS版
Adobe Photoshop macOS版

Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件,提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。

WINDOWS 更多
Adobe Photoshop Windows版
Adobe Photoshop Windows版

Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具,可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权,由 Creative Cloud 管理安装、更新与许

Adobe InDesign Windows版
Adobe InDesign Windows版

Adobe InDesign 是面向印刷与数字出版的专业页面排版工具,可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力,并能与 Photoshop、Illustrator

Adobe Illustrator Windows版
Adobe Illustrator Windows版

Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心,作品放大后仍能保持清晰,并提供画板、文字、渐变、图像描摹及精确变换等功能,适合品牌视觉、印刷物料、数字界面和商业插画创作。

Adobe Bridge Windows版
Adobe Bridge Windows版

Adobe Bridge 是 Adobe 推出的创意资产管理工具,可集中预览、分类和查找照片、视频、PDF及多种设计文件,并支持元数据、关键词、评级、批量重命名和格式导出。它可与 Photoshop、Illustrator 等应用衔接,

Affinity Photo Windows版
Affinity Photo Windows版

Affinity Photo 是一款面向摄影师、修图师和视觉设计人员的桌面图像编辑工具,提供 RAW 显影、多图层合成、蒙版、实时滤镜、批处理和色彩管理等功能。原独立产品已停止销售,其照片编辑能力已延续至免费的新 Affinity 应用;

Adobe Lightroom Classic Windows版
Adobe Lightroom Classic Windows版

Adobe Lightroom Classic 是面向 Windows 桌面摄影工作流的照片管理与无损编辑工具,可通过目录集中整理大型图库,并完成 RAW 显影、局部蒙版、批量调整、打印和多格式导出。它强调本地文件管理与精细控制,

Figma Windows版
Figma Windows版

Figma 是面向产品设计与开发团队的云端协作平台,可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端,多名成员能够同步编辑并共享设计系统;官方同时提供免费 Starter 方案及按席位计

Affinity Designer Windows版
Affinity Designer Windows版

Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具,可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理,并支持常见设计文件的导入及多种印刷、网页格式输出。

Capture One Pro Windows版
Capture One Pro Windows版

Capture One Pro 是面向摄影师和影像团队的专业桌面照片处理工具,提供相机定制色彩配置、RAW转换、图层与蒙版、联机拍摄、目录及会话管理等功能。它适合棚拍、人像、商业产品、婚礼和风光摄影,

Adobe Acrobat Pro Windows版
Adobe Acrobat Pro Windows版

Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案,可在 Windows 中创建、编辑、转换、比较、整理和保护文档,并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力,

Adobe After Effects Windows版
Adobe After Effects Windows版

Adobe After Effects 是面向动态图形、动画与影视视觉特效制作的专业工具,可完成关键帧动画、图层合成、遮罩跟踪、抠像、文字动画和二维三维元素整合。Windows 版通过 Adobe Creative Cloud 安装及更新,

DaVinci Resolve Windows版
DaVinci Resolve Windows版

DaVinci Resolve是Blackmagic Design推出的一体化影视后期工具,将素材管理、非线性剪辑、专业调色、Fusion视觉特效、Fairlight音频处理和成片交付整合在统一工程中。免费版已覆盖多数个人创作需求,

即将离开本站
您即将前往第三方网站,请确认是否继续?