展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 硬件相关 > 复旦邱锡鹏团队提出「上下文世界建模」:无需微调,VLA即可适应新环境

复旦邱锡鹏团队提出「上下文世界建模」:无需微调,VLA即可适应新环境

复旦大学邱锡鹏团队提出上下文世界建模(ICWM),让机器人在任务前执行随机探测动作,将交互上下文作为输入,无需微调和额外示范即可适应新环境。实验表明,该方法在跨视角和真实机器人场景中显著优于基线,有效提升泛化能力。

本文目录
    视觉-语言-动作(VLA)模型有个老毛病:部署时只要相机角度、安装位置或者机器人本体稍微变一变,性能就可能直线下滑。过去常用的“上下文学习”多半是把上下文当示范用——让机器人看人类做一遍任务,但它并不清楚整套系统到底怎么运作的。一旦环境变了,研究人员只能回头重新收集数据、重新调模型,又费时间又费力气。 针对这个问题,复旦大学邱锡鹏团队拿出了一个新方案——“上下文世界建模”(In-Context World Modeling,ICWM)。核心思路很简单:在任务执行之前,让机器人先来一段跟任务无关的随机探测动作,然后把这段交互过程作为上下文喂给模型,让它自己判断当前系统的配置。这样一来,后续的动作生成就不用重新示范,也不用调整模型参数。


    论文链接:https://arxiv.org/abs/2606.26025 仿真和真实机器人实验都显示,ICWM 的整体表现显著优于现有方法。它只需要少量随机探测动作,就能在零额外示范、零参数更新的情况下适应新环境,跨视角和跨配置的泛化能力也明显提升。

    ICWM 是如何设计的?

    与传统 VLA 模型相比,ICWM 的核心变化在于:它先根据交互上下文判断当前系统配置,然后再生成后续动作。整个流程分训练和推理两个阶段。 **训练阶段**:团队在每个任务样本前面拼接一段与任务无关的交互片段,作为上下文输入。模型根据交互带来的画面变化,推断当前系统的配置。有意思的是,ICWM 没有单独搞一个独立的世界模型,而是直接用 VLA 主干来处理这段交互历史。这么做既简化了结构,也让信息能直接为动作预测服务。 **推理阶段**:机器人不急着干活,先做一轮主动探测——记录动作前后的观测变化,形成所谓的“交互上下文”。然后模型把当前看到的上下文、画面和任务指令一起作为输入,判断接下来该怎么做。


    图|ICWM 的训练与推理流程概览。

    实验结果

    团队在跨视角、真实机器人和多种分布外扰动场景上都做了实验。结果表明,ICWM 借助交互上下文大幅提升了对新环境的适应能力,并且展现出向语义变化和机器人形态变化等场景扩展的潜力。

    1. 仿真结果

    在 LIBERO 仿真基准上的跨视角实验中,ICWM 在已见视角和新视角下都优于基线。相比单纯靠多视角训练的方法,它在已见视角下平均高出 8.1%,在新视角下平均高出 13.0%。即使直接把真实相机参数输给模型,它的泛化表现仍然不如 ICWM。在长时序任务上,ICWM 对累积误差的控制也更出色。


    图|在 LIBERO 基准上,已见视角与未见视角的成功率(%)。

    2. 真实机器人实验

    在 UR5e 真实机器人平台上,ICWM 同样明显优于基线。团队用了一套 12 相机的多视角系统评估,任务覆盖堆叠、抓取和拾取、放置等操作。标准 VLA 对视角变化相当敏感——从训练视角切换到测试视角后,平均成功率从 68% 骤降到 17%,而 ICWM 的表现稳定得多。


    图|在 UR5e 平台上的真实世界评测。

    定性结果也很有意思:切换到新环境后,普通模型容易出现位置偏移、过早闭合夹爪等问题,ICWM 则基本保持稳定。


    图|定性对比。

    3. 消融与分析

    消融实验证实,ICWM 的性能提升确实来自交互上下文,而不是简单的模式匹配。去掉图像信息后,模型表现下降最明显——平均成功率从 25.0% 降到 10.9%;去掉动作信息,或者不提供交互上下文,模型表现也会下降。更有意思的是,如果给一段错误的上下文,模型表现甚至比没有上下文时还差。对照实验还表明,模型必须经过专门训练才能利用交互上下文适应环境;否则,就算在测试时提供同样的信息,性能也几乎为零。


    图|交互上下文消融实验。

    从可视化结果来看,模型已经能区分不同视角和配置:相同视角下的数据分布更集中,不同视角之间的区分也更清晰。


    图|不同分布外(OOD)视角下的 Ψ(T) 的 t-SNE 可视化。

    团队还发现,ICWM 的效果并不依赖某一种特定的探测方式。无论采用随机探测,还是仅沿 XY、Z 或旋转方向运动,ICWM 都稳定优于对照方法,成功率提升约 15% 到 27%。泛化实验也显示,ICWM 对机器人形态变化有较强的适应性,在语义扰动场景下同样有一定提升。


    图|分布外(OOD)视角下,不同探测策略的成功率(%)。


    图|对语义场景变化和机器人形态变化的鲁棒性。

    不足与未来方向

    ICWM 虽然显著提升了 VLA 在新环境中的适应能力,但团队也指出了几个短板。 首先是极端视角问题。在部分极端视角条件下,ICWM 的性能提升仍然有限。原因是这些视角往往伴随更严重的遮挡,操作目标在执行过程中也更容易短暂移出相机视野。后续需要结合多视角感知、主动视角调整以及更强的遮挡建模能力来突破。 其次是语义扰动场景。目前 ICWM 在这类场景下的提升仍比较有限——训练数据中的场景语义和组合配置还不够丰富。如果能进一步扩充场景语义和组合配置更丰富的训练数据,ICWM 在语义扰动场景中的表现有望继续提升。 更多技术细节,详见原论文。
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 机器人
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    Beamer 4 macOS版
    Beamer 4 macOS版

    Beamer 4是面向macOS的本地视频投屏工具,可将Mac中的影片投放到Apple TV、Chromecast及兼容设备,支持常见格式、多类字幕、环绕声、播放列表和电视遥控操作。

    Boom 3D macOS版
    Boom 3D macOS版

    Boom 3D macOS版是一款系统级音效增强工具,可为音乐、电影、游戏和流媒体提供3D虚拟环绕声、31段均衡器、音量增强及应用独立音量控制,并支持本地播放器与多种音频输出设备。

    Boris FX macOS版
    Boris FX macOS版

    Boris FX macOS版是一套面向剪辑、合成、调色及动态图形工作的专业后期工具,涵盖视觉特效、平面与三维跟踪、转描、画面修复、粒子动画和音频清理,可配合多种主流宿主软件使用。

    Capto macOS版
    Capto macOS版

    Capto 是面向 macOS 的屏幕截图、高清录屏与媒体编辑工具,支持区域及整屏捕获、网页长截图、双音轨处理、图片和视频标注、素材分类与多渠道分享,适合教师、学生、内容创作者及需要制作演示教程的用户。

    ChemDraw macOS版
    ChemDraw macOS版

    ChemDraw macOS版是一款面向化学学习、科研和制药工作的专业结构绘图工具,可创建分子、反应及生物聚合物图形,并提供结构整理、格式转换和科研成果展示能力。

    Cursor Crane macOS版
    Cursor Crane macOS版

    Cursor Crane 是一款仅面向 macOS 的键盘操控效率工具,可通过提示标签、网格、文字查找和窗口模式完成点击、滚动、定位与切换,并支持屏幕内容提取、脚本及工作流扩展。

    Deep Freeze 冰点还原 macOS版
    Deep Freeze 冰点还原 macOS版

    Deep Freeze 冰点还原 macOS版通过冻结系统配置,让受保护的Mac在重新启动后回到预设状态,并提供解冻空间、维护计划、密码保护及Apple Remote Desktop管理能力。

    Focusky macOS版
    Focusky macOS版

    Focusky macOS版是一款面向教学课件、商务汇报、产品展示和动画宣传内容的演示制作工具。它通过无限画布、路径编排、缩放旋转转场及多媒体编辑,将传统逐页幻灯片转化为更具空间感的动态演示。

    Folder Colorizer 2 macOS版
    Folder Colorizer 2 macOS版

    Folder Colorizer 2 macOS版是一款直观的文件夹外观定制工具,可更换颜色,添加表情、贴纸及图片背景,并支持批量处理、智能推荐和恢复默认样式,帮助用户更快辨认工作、学习与生活资料。

    WINDOWS 更多
    讯飞绘文 网页版
    讯飞绘文 网页版

    讯飞绘文网页版是科大讯飞推出的AI图文创作与内容运营工具,覆盖热点选题、文章生成、稿件校对、智能配图、排版发布和数据复盘等环节,适合自媒体创作者及内容团队在线使用。

    AirServer Windows版
    AirServer Windows版

    AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端,适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端,并可同时接收和智能排列多个镜像会话。

    AlwaysUp Windows版
    AlwaysUp Windows版

    AlwaysUp是一款面向Windows的系统服务注册与程序托管工具,可让普通应用、脚本及批处理在无人登录时随系统启动,并通过状态检测、异常重启、资源监控和邮件通知保障关键任务持续运行。

    AnyDesk Windows版
    AnyDesk Windows版

    AnyDesk Windows版是一款轻量化远程桌面与技术支持工具,可用于控制异地电脑、传输文件、远程打印及无人值守访问。它兼顾连接响应、安全权限和部署灵活性,适合个人远程办公、企业设备维护与客服支持。

    Boom 3D Windows版
    Boom 3D Windows版

    Boom 3D Windows版是一款面向音乐、电影和游戏场景的系统级音效增强工具,支持虚拟3D环绕声、31段均衡器、预设音效、应用音量控制及本地音乐播放,可配合耳机、扬声器和蓝牙耳机使用。

    Boris FX Windows版
    Boris FX Windows版

    Boris FX Windows版是一套服务于影视剪辑、视觉特效、运动跟踪、转描、图像修饰及音频修复的专业创作工具集合,可作为插件接入多种主流后期宿主,也包含可独立运行的应用,适合剪辑师、特效师与内容创作者使用。

    ChemDraw Windows版
    ChemDraw Windows版

    ChemDraw Windows版是一款面向化学研究、药物研发、材料科学和教学工作的专业结构绘图工具,可快速绘制分子、反应式及生物聚合物,并提供结构整理、格式转换、性质计算和科研文档协作能力。

    CODESOFT Windows版
    CODESOFT Windows版

    CODESOFT Windows版是一套企业级条码与RFID标签设计打印工具,可连接Excel、Access、SQL及云端数据源,支持变量、表单、GS1条码、数据库记录和多种工业打印机,适合制造、仓储、物流及合规标识场景。

    Deep Freeze 冰点还原 Windows版
    Deep Freeze 冰点还原 Windows版

    Deep Freeze 冰点还原 Windows版通过重启恢复技术保护系统盘及指定分区,自动撤销恶意程序、误操作和配置漂移造成的改动,并支持密码保护、解冻空间与多硬盘管理,适合学校机房、公共电脑、办公终端及家庭电脑使用。

    EDIUS Windows版
    EDIUS Windows版

    EDIUS 11 Windows版是一款面向影视制作、广播电视、纪录片、短视频及教育机构的专业非线性编辑工具,支持4K/8K、多格式混编、HDR调色、字幕、音频处理和后台渲染,并提供素材管理及丰富的导出预设。

    FastStone Capture Windows版
    FastStone Capture Windows版

    FastStone Capture Windows版是一款轻量级屏幕捕捉、录屏与图像编辑工具,可截取窗口、区域、菜单和滚动页面,并提供标注、模糊、取色、OCR、录音录像及多格式导出能力,适合办公说明、教程制作和问题反馈。

    Focusky Windows版
    Focusky Windows版

    Focusky Windows版是一款动画演示与交互课件制作工具,通过无限画布、缩放旋转镜头、模板素材和对象动画组织内容,可导入PPTX,并输出视频、EXE、PDF、网页等格式,适用于课堂教学、微课、商务汇报及产品展示。