加州大学圣地亚哥分校找到世界模型为何会"说谎"的答案和解决方案

这项来自加州大学圣地亚哥分校的研究，以预印本的形式在2026年6月25日与大家见面了。论文编号是arXiv:2606.27326v1，归类在计算机学习领域（cs.LG）。如果你对细节感兴趣，直接搜这个编号就能在arXiv上找到完整的论文。

一个AI的谎言有多可怕

想象一下，你有一个特别聪明的朋友，他自称能预测未来。你告诉他一盘棋的局势，问他走某一步会怎样。他给出一个头头是道、听起来非常合理的答案——但实际上这个答案完全是编造的，只是一个“感觉上正确”的故事。更糟糕的是，他本人对此毫无察觉，根本不知道自己在撒谎。

这就是当今人工智能领域一个叫“世界模型”的技术所面临的核心难题。世界模型是一类能理解环境、预测未来状态的AI系统，它们被广泛应用于游戏、机器人控制、自动驾驶等场景。给它一张当前画面和一个操作指令，它就能“想象”出下一秒会发生什么。这种能力非常强大——AI不需要真正去尝试每一个动作、经历每一次失败，就能在脑海中模拟成千上万种可能性，从而做出最优决策。

但这类系统有一个隐蔽的毛病：它们会产生“幻觉”。生成的画面看起来流畅、真实、合理，却与真实世界的规律完全脱节。一个球在真实游戏里明明出界了，世界模型却可能“幻觉”出球神奇地传送回来继续比赛；一个从未见过的迷宫布局，模型可能会悄悄把它替换成一个它曾经见过的类似布局……最危险的地方在于，这些错误不会让系统崩溃报错，它们以一种“自信且流畅”的方式出现，几乎无从察觉。

加州大学圣地亚哥分校的研究团队决定系统性地揭开这个谜题：这些幻觉究竟从哪里来？能不能在它发生之前就预测到？又该如何根除？

一、先造一个够用的“练习场”：MMBench2数据集

要研究幻觉，首先得有一个足够大、足够多样、足够真实的实验环境。问题是，已有的数据集要么太小，要么没有配套的真实标准答案，要么任务场景太单一，根本不足以支撑这样的研究。

于是，研究团队动手创建了一个全新的数据集，命名为MMBench2。这个数据集的规模相当惊人：65,600条轨迹数据，换算成视频时长达到427小时，总计2300万帧画面，每帧都是224×224像素的彩色图像，清晰度足以区分细节。这些数据覆盖了210个不同的控制任务——从机器人手臂抓取香蕉，到游戏角色在迷宫中奔跑，再到跷跷板平衡、双足行走……场景之丰富，堪称一个微型的AI训练“联合国”。

更关键的是，这210个任务横跨十个完全不同的领域，包括经典的物理仿真控制套件DMControl、机器人操作环境Meta-World和ManiSkill3、经典物理引擎MuJoCo、2D物理游戏Box2D、桌面操作任务RoboDesk、目标导航环境OGBench、小型街机游戏MiniArcade，以及大家熟悉的雅达利（Atari）电子游戏。每个任务的控制维度从1维到16维不等，有些任务只需前后左右四个方向，有些任务则需要同时控制十几个关节。

数据集的另一个亮点是行为多样性。在大多数AI训练数据集中，数据都来自表现优异的“专家策略”——相当于只拿职业棋手的棋谱来教AI下棋，缺少初学者的犯错过程和各种奇怪尝试。MMBench2则刻意收集了多种行为类型：有专家策略生成的高质量数据，有完全随机乱来的随机策略数据，有全程按零输入的“无操作”数据，有专家策略加上各种噪声和变形的混合数据，还有基于好奇心驱动的探索数据，以及最特别的——真实人类通过键盘界面亲自操作的人类游玩数据，共1400条。

为了让研究更有针对性，研究团队在210个任务中划定了两个区域：200个任务作为训练集，另外10个任务被完全封存，作为测试模型“见到从未见过的场景时会怎样”的专用试炼场。

二、造一个够大的世界模型来研究

有了数据，下一步是训练一个足够强大的世界模型，以便观察幻觉的发生规律。研究团队选择了一个被称为Dreamer 4的架构作为基础——这是当前世界模型领域的先进方案之一——并在此基础上训练出了一个拥有3.5亿参数的视觉世界模型。

这个世界模型由两个核心模块串联构成，整个工作流程就像是一套“压缩—预测—还原”的流水线。

第一个模块叫做“视频分词器”（Tokenizer），它的任务是将一张完整的画面压缩成一段紧凑的“概念编码”。具体来说，一张224×224的图片先被切割成256个小方块（每个方块14×14像素），然后由编码器将这些方块与64个可学习的“查询向量”一起处理，最终把整张图的视觉信息压缩成一个64×64维的紧凑表示，每个数值都被限制在-1到1之间。这个过程就像把一本书压缩成几页摘要——大部分核心信息都保留了，但不常见的细节可能会被模糊处理。解码器则负责根据这份摘要重新还原出一张图片。

训练这个分词器的方式很有意思：每次训练时，系统会随机遮住图片中0%到90%的方块，然后要求模型仅凭剩余的可见方块重建出被遮住的部分。这就像玩拼图游戏时只给你三分之一的碎片，要求你推断出整幅画面——这种强迫推断的训练方式使模型学会了理解图像的深层结构，而不仅仅是记住像素。

第二个模块是“动力学模型”（Dynamics Model），这是整个世界模型的“推理引擎”，参数量高达2.5亿，使用了一种叫做“块因果Transformer”的架构。它的任务是：给定当前的视觉编码和即将执行的动作，预测下一时刻的视觉编码。这个模型采用了一种叫做“快捷流匹配”（Shortcut Flow Matching）的训练技术，使得在推理时只需要4步就能生成下一帧，速度很快。

整个训练过程分两步走：先在200个任务的全量数据上预训练分词器，让它学会压缩各种场景；再在冻结分词器的基础上预训练动力学模型，让它学会在压缩空间中进行动作条件下的动态预测。此外，研究团队还在模型上附加了两个额外的“读数头”：一个奖励预测头，用来估计执行某个动作能获得多少奖励；一个行为克隆头，用来模仿训练数据中的行为策略。

三、幻觉的三张面孔

这是整篇研究最核心的部分。研究团队系统分析了世界模型在哪些地方会出错，并将所有幻觉现象归纳为三种截然不同的类型，每一种都对应着“压缩—预测—还原”流水线中的不同环节。

第一种幻觉叫做“感知幻觉”，问题出在第一步——压缩环节。当模型遇到一个从未见过的场景时，比如一个全新布局的迷宫，编码器会把这个陌生场景强行映射到它记忆中最相似的已知场景上。解码后，迷宫的整体风格可能是对的，角色和目标的位置可能也是对的，但墙壁的布局却变成了一个完全不同的已见过的迷宫。这就好比你向一个只去过北京和上海的人描述杭州西湖，他脑海中浮现的可能是颐和园的画面——大致类似，但细节全错。更危险的是，这种错误发生在流水线的最开始，后续所有的预测都是建立在这个错误基础上的，错误会持续传播和累积。

第二种幻觉叫做“动作边缘化幻觉”（Action Marginalization），问题出在动力学预测环节——模型忽视了动作指令的存在。正常情况下，如果你告诉世界模型“向左走”，它预测的下一帧画面应该明显反映出“向左走”的效果。但动作边缘化幻觉发生时，模型的预测几乎不受动作指令影响，无论你输入什么动作，它都在预测一个“最平均、最可能”的未来。换句话说，这个世界模型退化成了一个普通的视频生成器——它能生成流畅的视频，但失去了“可控性”这一世界模型的核心价值。研究团队通过一个巧妙的测试方法来检验这种幻觉：在评估时随机打乱一批数据中的动作标签，如果模型对这种打乱几乎没有反应，就证明它已经学会了忽视动作。

第三种幻觉叫做“场景发散幻觉”，这是在长序列预测环节出现的问题。当模型连续预测多个时间步时，每一步的小误差都会叠加到下一步——这是所有自回归预测系统都面临的普遍挑战。但场景发散幻觉特指那些特别离谱的失真，比如在乒乓球游戏中，球明明已经出界得分了，模型却在下一帧预测球神奇地传送回了球场中央继续比赛。这种物理上完全不可能发生的事件，往往出现在训练数据中覆盖不足的状态区域。

为了验证这三种幻觉类型，研究团队还专门展示了对比案例。在感知幻觉的对比中，一个见过类似场景的模型能正确重建迷宫布局，而遇到全新布局的模型则把它替换成了已知的旧布局。在动作边缘化的对比中，正常模型的预测画面能清楚反映用户的操作，幻觉模型的画面则完全看不出动作的影响。在场景发散的对比中，正常情况下即使有轻微误差累积也维持着合理的物理画面，而发散幻觉则出现了球瞬移等物理上荒谬的事件。

四、为什么会幻觉？根源是“见识不够”

在揭示了幻觉的三种面孔后，研究团队提出了一个统一的解释框架：这三种幻觉本质上都是同一件事造成的——训练数据在某些区域的覆盖不足。

用一个直观的比方来理解：你要训练一个厨师学生学会做各种菜。如果培训材料里做宫保鸡丁的案例有100个、做麻婆豆腐的有80个、但做新疆大盘鸡的只有3个，那么这位学生在遇到大盘鸡时就会手足无措——他可能会把它做成一道“融合版辣子鸡”，看起来像那么回事，但口味完全不对。这就是覆盖不足导致幻觉的逻辑。

感知幻觉对应的是分词器在某些视觉场景上的覆盖不足——那些陌生的视觉结构在训练数据中太少见，模型不知道如何正确压缩它们。动作边缘化幻觉对应的是动作条件过渡数据的覆盖不足——在某个场景下执行某个特定动作后发生什么，训练数据里几乎没有记录，模型只好忽略动作，退而求其次地预测一个平均化的未来。场景发散幻觉则对应着轨迹中特定状态区域的覆盖不足——模型在那些偏僻的状态空间角落里没有足够的训练样本，预测的可信度极低，各种奇怪的错误就会冒出来。

研究团队通过可视化实验漂亮地证实了这一点。他们将不同任务中的数据分布绘制成“状态密度图”（类似于热力图，颜色越深代表训练数据越密集），同时绘制了模型幻觉程度的分布图。两张图几乎是互补的镜像：数据越稀疏的区域，幻觉越严重；数据越密集的区域，预测越准确。这种规律在他们测试的所有任务中都高度一致。

五、三种信号，提前预知幻觉

发现了根源还不够，研究团队更进一步：他们开发了三种无需额外训练、无需任何标注标签就能在运行时实时预测幻觉的信号。这就像给世界模型安装了一套“自我诊断系统”，让它能在说谎之前先发出警报。

第一种信号叫做“分词器往返残差”（Tokenizer Round-trip Residual）。它的工作原理非常直接：动力学模型预测出下一时刻的视觉编码之后，先用解码器把它还原成图像，再用编码器把这张图像重新压缩一次，看看两次编码之间的差距有多大。如果一切正常，两次编码应该几乎一样，差距极小。但如果动力学模型预测出了一个视觉上不合理的画面——比如一个从未在训练集中间出现过的新场景布局——解码出来的图像就会偏离分词器的“舒适区”，重新编码后的结果会和原始预测相差很远，产生一个大的“残差”。这个残差值就是衡量感知幻觉风险的指标。

第二种信号叫做“流不稳定性”（Flow Instability）。动力学模型使用的流匹配技术在生成预测时会经历多个中间步骤，就像逐渐从模糊到清晰地生成一张图片。如果模型对当前的场景和动作条件非常确定，它的预测会在这些步骤中保持稳定，最终锁定在一个清晰的结果上。但如果条件信息给的信号不够强烈——比如碰到了训练数据中动作覆盖不足的情况——模型在每一步之间的目标预测就会来回摇摆，犹豫不决。测量这种摇摆程度就是流不稳定性信号，它专门针对动作边缘化幻觉。

第三种信号叫做“跨种子方差”（Inter-seed Variance）。流匹配生成过程从随机噪声开始，不同的随机起点（种子）理论上应该最终收敛到同一个“正确”的预测结果。如果在同一场景和同一动作条件下，用不同的随机种子运行多次，结果却大相径庭，说明模型对这个情况的“认知”极不确定——不同的随机路径会把它引向完全不同的预测，这正是场景发散幻觉即将发生的前兆。

当然，在实际使用时，研究团队发现了一个小问题：场景中运动越剧烈，这三个信号就越容易被“虚假地”拉高，因为激烈的运动本身就会导致画面变化大。为了消除这种干扰，他们设计了一种归一化处理——用场景的实际运动幅度去除以上面的信号值，得到“运动归一化版本”。经过归一化后，三个信号都变成了“相对于场景复杂度的模型不确定性”，更加精确可靠。

为了验证这三个信号确实有预测能力，研究团队在9000个保留的测试序列上做了严格的相关性分析。结果显示，三个信号与实际的预测误差（用图像质量指标PSNR衡量）之间的斯皮尔曼相关系数均约为-0.80。这是一个相当强的负相关——信号越高，预测质量越低，两者之间的关系远不是偶然。此外，在针对两种二元幻觉标签（动作是否被忽视、场景是否发散）的分类准确率（AUROC）测试中，三个信号的表现也都超过了0.87，远优于仅依靠帧数量、场景运动量等简单基线指标。

六、如何治好幻觉：两条路径

找到了病根，检测到了病症，接下来就是治疗。研究团队提出了两种互补的干预方案，分别针对“训练时”和“运行时”两个阶段。

第一条路径叫做“覆盖感知训练”。既然幻觉来自数据覆盖不足，那么调整训练时采样数据的方式就能直接填补这些空白。原有的训练数据采样方式是按帧数均匀采样——帧数多的任务自然获得更多训练机会。研究团队发现，这导致了严重的不均衡：Atari游戏因为每局时间很长，一个任务就能贡献上百万帧，而某些ManiSkill3的短任务每局只有25帧，在整个数据集中的存在感微乎其微。把采样方式改成“按任务均匀采样”之后，每个任务获得的训练机会大体相当，那些原本被淹没的稀有任务也有了足够的曝光量。

这个看起来极为简单的改动带来了令人欣喜的结果。研究团队对分词器和动力学模型分别做了30k步的额外训练，并对两者都采用覆盖感知采样。结果显示：重建图像质量PSNR提升了0.44 dB，动作敏感度（衡量模型是否真正响应动作指令的指标）提升了0.29，多步预测质量提升了0.88 dB，三个幻觉信号全部显著下降。这是用完全相同的数据、仅仅改变了采样策略就获得的免费提升。

第二条路径叫做“针对性数据收集”，适用于模型面对全新环境的情况。当面对10个完全未见过的测试任务时，仅靠重新采样是不够的——那些任务在训练数据中根本不存在，重新采样也无济于事。这时，幻觉预测信号就有了第二个用途：充当“好奇心奖励”，引导AI主动去探索那些它最不确定的区域，主动收集最有价值的新数据。

具体做法是：在新任务的环境中运行时，让AI用世界模型在脑海中想象多条可能的行动轨迹，然后用信号给每条轨迹打分，选择幻觉风险最高的那条轨迹实际执行。这样，AI就会倾向于主动走向那些它最陌生、模型最容易出错的区域，并把这些稀缺的经验数据收集回来用于微调。

研究团队将这种好奇心驱动的数据收集与其他几种方案进行了直接对比：随机行动、全程不动（零输入）、专家策略，以及最重要的——人类亲自上手游玩。结果非常有说服力：以专家策略收集的50条轨迹微调后，模型在10个未见任务上的归一化得分达到0.362；用好奇心驱动收集的50条轨迹微调后，模型得分达到了0.325，约为专家策略的90%，却完全不需要任何预先设计的任务特定专家策略。相比之下，随机策略只能达到0.228，零输入策略只有0.163。

如果把所有类型的数据组合在一起，效果还能进一步提升至0.390，超过了单独使用专家策略的表现。这说明数据的多样性本身就有价值，不同策略收集的数据互补性很强。

七、还要过“分词器”这一关

研究还顺带探讨了一个实际工程中会遇到的问题：能不能直接用现成的、在海量网络视频上训练好的通用视频分词器来替代专门训练的分词器？毕竟训练一个分词器需要相当多的计算资源。

研究团队将自己训练的分词器与四个通用方案进行了比较，包括Stable Diffusion使用的SD-VAE-MSE、NVIDIA的Cosmos视频模型的分词器、阿里巴巴发布的Wan 2.1视频模型的分词器，以及DC-AE。评估分别在200个已见任务和10个未见任务上进行，用图像重建质量作为指标。

结果显示出了有趣的对立：在已见任务上，自己训练的专用分词器表现远优于所有通用分词器——其中最强的Wan 2.1 VAE重建PSNR约为36.45 dB，而专用分词器在未微调时已达38.29 dB，微调后更是提升至39.66 dB。但在未见任务上，情况翻转了——未经微调的专用分词器在未见任务上的PSNR只有17.34 dB，表现极差，而Wan 2.1 VAE则稳定在36.62 dB，因为它在更广泛的互联网视频数据上训练，具有更强的泛化能力。一旦对专用分词器进行针对性微调，情况又翻转回来：微调后的专用分词器在未见任务上达到38.04 dB，再次超越所有通用方案。

这个发现给出了一个实践性的工程建议：通用分词器是一个很好的“保底方案”，尤其是当没有条件收集新任务数据时；但只要有哪怕少量的目标领域数据用于微调，专用分词器的表现就会更好。

八、研究局限与未来展望

研究团队对自己工作的边界做了清醒的表述。这项研究在3.5亿参数规模的模型上取得了可靠的结论，但更大规模的模型（比如数十亿参数的系统）是否遵循同样的规律，目前还是一个开放问题。此外，所有实验都在计算机仿真环境中进行，真实世界中的机器人任务还面临传感器噪声、部分可观测性、真实物理摩擦等额外挑战，这些因素是否会改变研究结论，还需要进一步验证。另外，训练大型世界模型的计算成本相当可观——仅预训练阶段就需要消耗8块顶级GPU（NVIDIA H100）运行约38天。

说得再远一些，这项研究最引人深思的地方在于它对“幻觉问题”的重新定性。它改变了一个在AI领域普遍存在的直觉：当模型出错时，人们习惯性地认为这是架构不够大、算法不够好的问题，解决方案是继续堆叠更多参数、设计更复杂的网络结构。但这项研究给出了一个不同的答案：至少对于世界模型的幻觉问题，根源不在于模型本身，而在于数据的覆盖范围。一个在某个区域没见过足够多例子的模型，无论参数有多少，都会在那个区域失去可靠性。

这意味着，与其花大量资源设计更复杂的模型，不如把注意力放在“让模型见识足够广”上——通过更聪明的采样策略、更有针对性的数据收集，用相对低廉的成本就能获得可观的性能提升。那个好奇心驱动探索的结果尤其令人印象深刻：一个从未见过某个任务的模型，仅靠自主探索收集50条轨迹，就能达到有人类专家示范90%的性能水平。这背后有一个更深的含义：知道自己不知道什么，并主动去填补空白，或许比单纯知道更多事情更有价值。

对于未来想要部署世界模型的研究者和工程师来说，这项研究提供了几个可以直接使用的工具：三个轻量级的幻觉检测信号，一个无需额外数据的免费训练改进方案，以及一套针对新环境的高效数据收集框架。

Q&A

Q1：世界模型的幻觉和大语言模型的幻觉有什么区别？

A：大语言模型的幻觉是生成了事实错误的文字，比如编造了不存在的历史事件。世界模型的幻觉则是生成了物理规律错误的视频画面，比如预测球在出界后神奇传送回来。世界模型的幻觉危害更大，因为这些错误预测会直接输入给机器人或游戏AI来指导它们的行动决策，错误的预测会导致错误的真实行为。

Q2：MMBench2数据集的“未见任务”是做什么用的？

A：在MMBench2的210个任务中，有200个用于训练世界模型，另外10个被完全封存，从不参与训练。这10个未见任务专门用来测试世界模型在完全陌生环境中的表现，相当于用一套从未见过的考题来测试模型的真实泛化能力，而不是死记硬背的能力。研究团队正是通过这10个未见任务来评估好奇心驱动探索的效果。

Q3：好奇心驱动数据收集怎么做到不需要人类示范就能接近专家水平？

A：好奇心驱动的核心思路是让AI主动去探索它最不确定的区域，也就是世界模型幻觉风险最高的地方。它用自己训练好的世界模型在脑海中模拟多条轨迹，专门选择那些让模型最困惑的轨迹去真实执行，从而收集到最有价值的新数据。这种方式不需要知道任务目标是什么，只需要知道“哪里最陌生”，所以也不需要任何人类示范。50条轨迹就能达到专家水平的90%，正是因为这种精准的“哪里弱补哪里”策略。