大模型与具身智能的火花，ICML 2024 MFM-EAI Workshop征稿和挑战赛启动
Workshop主页：https://icml-mfm-eai.github.io/概述近年来，多模态基础模型（MFM），例如CLIP、ImageBind、DALL・E3、GPT-4V、Gemini和Sora，已成为人工智能领域最引人注目且发展迅速的领域之一。同时，MFM的开源社区也涌现出了诸如LLaVA、LAMM、MiniGPT-4、StableDiffusion和OpenSora等具有代表性的开源项目。不同于传统计算机视觉和自然语言处理模型，这类MFM正在积极探索通用问题解决方案。通过引入MFM，具身
概述
近年来，多模态基础模型（MFM），例如 CLIP、ImageBind、DALL・E 3、GPT-4V、Gemini 和 Sora，已成为人工智能领域最引人注目且发展迅速的领域之一。同时，MFM 的开源社区也涌现出了诸如 LLaVA、LAMM、MiniGPT-4、Stable Diffusion 和 OpenSora 等具有代表性的开源项目。
不同于传统计算机视觉和自然语言处理模型，这类 MFM 正在积极探索通用问题解决方案。通过引入 MFM，具身智能（EAI）能够在模拟器和现实世界环境中更好地处理各种复杂任务。然而，在 MFM 和 EAI 的交叉领域，仍有许多尚未探讨和解决的问题，包括智能体长期决策、智能体运动规划、新环境泛化能力等。
本次 Workshop 将致力于探讨几个关键问题，包括但不限于：
- MFM 的泛化能力；
- 用于具身智能的 MFM；
- 基于生成模型的世界模型；
- 模仿学习数据收集。
Workshop 征稿
该 workshop 聚焦于多模态基础模型（MFM）、具身智能（EAI）以及两项研究的交叉领域。本次征稿主题包括但不限于：
- Training and evaluation of MFM in open-ended scenarios
- Data collection for training embodied Agents
- Framework designs for MFM-powered embodied agents
- Perception and high-level planning in embodied agents empowered by MFM
- Decision-making and low-level control in embodied agents empowered by MFM
- Evaluation of the capability of embodied agents
- Generative model as world simulator
- Limitations of MFM in empowering EAI
投稿规则
本次投稿将通过 OpenReview 平台实行双盲审稿。投稿的正文篇幅为 4 页，参考文献和补充材料篇幅不限。
- 投稿格式和模板遵循 ICML 2024 投稿指南：https://icml.cc/Conferences/2024/CallForPapers
- 投稿入口：https://openreview.net/group?id=ICML.cc/2024/Workshop/MFM-EAI
时间节点
所有时间节点均为 [AoE] (Anywhere on Earth)。
三个赛道（可同时参与）
- EgoPlan 挑战
EgoPlan 挑战旨在评估多模态大模型在现实世界场景中，针对人类日常活动所涉及的真实任务的规划能力。模型需要依据任务目标描述、第一人称视角视频和当前环境观察，选择合理的动作推进任务完成。
- 比赛官网：https://chenyi99.github.io/ego_plan_challenge/
- 报名方式：填写 [Google 表单](https://docs.google.com/forms/d/e/1FAIpQLScnWoXjZcwaagozP3jXnzdSEXX3r2tgXbqO6JWP_lr_fdnpQw/viewform?usp=sf_link)
- 报名时间：即日起 - 2024 年 7 月 1 日
奖项设置：
- 冠军：800 美元
- 亚军：600 美元
- 创新奖：600 美元
- Composable Generalization Agent 挑战
Composable Generalization 挑战旨在评估规划-执行组合系统在开放场景下的任务能力和泛化能力。模型根据语言任务描述和多模态视觉输入进行任务拆解，控制器执行拆解后子任务。
- 更详细信息将于 7 月公布
- World Model 挑战
World Model 挑战旨在评估世界模拟器在具身智能场景中的应用表现。模型根据具身任务描述和实时场景观测生成符合任务指令的视频，评估视频生成质量和指导 agent 完成任务的能力。
- 更详细信息将于 7 月公布
委员会成员
Workshop 组织者
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。