复旦邱锡鹏团队提出「上下文世界建模」：无需微调，VLA即可适应新环境
复旦大学邱锡鹏团队提出上下文世界建模（ICWM），让机器人在任务前执行随机探测动作，将交互上下文作为输入，无需微调和额外示范即可适应新环境。实验表明，该方法在跨视角和真实机器人场景中显著优于基线，有效提升泛化能力。
ICWM 是如何设计的？
与传统 VLA 模型相比，ICWM 的核心变化在于：它先根据交互上下文判断当前系统配置，然后再生成后续动作。整个流程分训练和推理两个阶段。 **训练阶段**：团队在每个任务样本前面拼接一段与任务无关的交互片段，作为上下文输入。模型根据交互带来的画面变化，推断当前系统的配置。有意思的是，ICWM 没有单独搞一个独立的世界模型，而是直接用 VLA 主干来处理这段交互历史。这么做既简化了结构，也让信息能直接为动作预测服务。 **推理阶段**：机器人不急着干活，先做一轮主动探测——记录动作前后的观测变化，形成所谓的“交互上下文”。然后模型把当前看到的上下文、画面和任务指令一起作为输入，判断接下来该怎么做。 
图｜ICWM 的训练与推理流程概览。
实验结果
团队在跨视角、真实机器人和多种分布外扰动场景上都做了实验。结果表明，ICWM 借助交互上下文大幅提升了对新环境的适应能力，并且展现出向语义变化和机器人形态变化等场景扩展的潜力。1. 仿真结果
在 LIBERO 仿真基准上的跨视角实验中，ICWM 在已见视角和新视角下都优于基线。相比单纯靠多视角训练的方法，它在已见视角下平均高出 8.1%，在新视角下平均高出 13.0%。即使直接把真实相机参数输给模型，它的泛化表现仍然不如 ICWM。在长时序任务上，ICWM 对累积误差的控制也更出色。 
图｜在 LIBERO 基准上，已见视角与未见视角的成功率（%）。
2. 真实机器人实验
在 UR5e 真实机器人平台上，ICWM 同样明显优于基线。团队用了一套 12 相机的多视角系统评估，任务覆盖堆叠、抓取和拾取、放置等操作。标准 VLA 对视角变化相当敏感——从训练视角切换到测试视角后，平均成功率从 68% 骤降到 17%，而 ICWM 的表现稳定得多。 
图｜在 UR5e 平台上的真实世界评测。
定性结果也很有意思：切换到新环境后，普通模型容易出现位置偏移、过早闭合夹爪等问题，ICWM 则基本保持稳定。 
图｜定性对比。
3. 消融与分析
消融实验证实，ICWM 的性能提升确实来自交互上下文，而不是简单的模式匹配。去掉图像信息后，模型表现下降最明显——平均成功率从 25.0% 降到 10.9%；去掉动作信息，或者不提供交互上下文，模型表现也会下降。更有意思的是，如果给一段错误的上下文，模型表现甚至比没有上下文时还差。对照实验还表明，模型必须经过专门训练才能利用交互上下文适应环境；否则，就算在测试时提供同样的信息，性能也几乎为零。 
图｜交互上下文消融实验。
从可视化结果来看，模型已经能区分不同视角和配置：相同视角下的数据分布更集中，不同视角之间的区分也更清晰。 
图｜不同分布外（OOD）视角下的 Ψ(T) 的 t-SNE 可视化。
团队还发现，ICWM 的效果并不依赖某一种特定的探测方式。无论采用随机探测，还是仅沿 XY、Z 或旋转方向运动，ICWM 都稳定优于对照方法，成功率提升约 15% 到 27%。泛化实验也显示，ICWM 对机器人形态变化有较强的适应性，在语义扰动场景下同样有一定提升。 
图｜分布外（OOD）视角下，不同探测策略的成功率（%）。
图｜对语义场景变化和机器人形态变化的鲁棒性。
不足与未来方向
ICWM 虽然显著提升了 VLA 在新环境中的适应能力，但团队也指出了几个短板。 首先是极端视角问题。在部分极端视角条件下，ICWM 的性能提升仍然有限。原因是这些视角往往伴随更严重的遮挡，操作目标在执行过程中也更容易短暂移出相机视野。后续需要结合多视角感知、主动视角调整以及更强的遮挡建模能力来突破。 其次是语义扰动场景。目前 ICWM 在这类场景下的提升仍比较有限——训练数据中的场景语义和组合配置还不够丰富。如果能进一步扩充场景语义和组合配置更丰富的训练数据，ICWM 在语义扰动场景中的表现有望继续提升。 更多技术细节，详见原论文。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。