李飞飞吴佳俊团队新作：推出具身智能决策能力评价基准，o1-preview 登顶
大模型的具身智能决策能力，终于有系统的通用评估基准了。李飞飞吴佳俊团队新提出的评估框架，对具身智能决策的四项关键子能力来了个全面检查。这套基准已经被选为了NeurIPS数据和测试集（D&B）专栏Oral论文，同时也被收录进了PyPI，只要一行代码就能快速调用。该框架名为EmbodiedAgentInterface（简称EAI），提供了连接不同模块和基准环境的标准接口。利用这套框架，作者对18款主流模型进行了测试，形成了一篇超百页的论文。测试结果显示，在已公开的大模型当中，o1-preview的综合成绩位列
大模型的具身智能决策能力，终于有系统的通用评估基准了。
李飞飞吴佳俊团队新提出的评估框架，对具身智能决策的四项关键子能力来了个全面检查。
这套基准已经被选为了 NeurIPS 数据和测试集（D&B）专栏 Oral 论文，同时也被收录进了 PyPI，只要一行代码就能快速调用。
该框架名为Embodied Agent Interface（简称 EAI），提供了连接不同模块和基准环境的标准接口。
利用这套框架，作者对 18 款主流模型进行了测试，形成了一篇超百页的论文。
测试结果显示，在已公开的大模型当中，o1-preview 的综合成绩位列第一。
李飞飞本人表示，对这项合作研究感到非常兴奋。
有网友评价说，这项成果为大模型具身智能决策塑造了未来。
四项子能力全面评估
首先，EAI 提供了一种统一的目标表示方法，能够兼容不同类型的目标，并支持复杂约束的描述。
团队认为，现有的具身决策任务通常针对特定领域设计目标，缺乏一致性和通用性。
例如，BEHAVIOR 和 VirtualHome 都是具身智能体的评测基准和模拟环境，用于研究智能体在复杂环境中完成任务的能力。
但二者又有所区别，BEHAVIOR 使用基于状态的目标，而 VirtualHome 使用时间扩展的目标。
EAI 则通过引入线性时态逻辑（LTL），实现了目标表示方式的统一，提高了模块之间的互操作性，便于比较不同模型在同一任务上的表现。
在具体的评估过程当中，EAI 采用了模块化的评估方式，并将评估指标进行了更细粒度的划分。
以往的研究通常将大模型作为整体进行评估，很少关注其在具身决策各个子任务上的表现；
同时，这些现有基准通常只关注任务的最终成功率，很少深入分析模型的错误类型和原因。
为了更深入理解大模型的行为模式和优劣势分布，EAI 提出了四个关键能力模块，并设计了一系列细粒度的评估指标：
将模型能力分为四个关键模块；
定义了清晰的输入输出接口；
从轨迹可执行性、目标满足度、逻辑匹配性等多个角度评估模型的性能；
引入了丰富的注释（如目标状态、关系、动作），以实现自动化的错误分析。
具体来说，四个关键模块及内容分别是：
目标解释（Goal Interpretation）：将自然语言表述的任务目标转化为形式化的 LTL 目标公式；
子目标分解（Subgoal Decomposition）：将任务目标分解为一系列子目标，每个子目标也用 LTL 公式表示；
动作序列规划（Action Sequencing）：根据任务目标生成动作序列，在环境中执行以达成目标状态；
转换建模（Transition Modeling）：为每个动作或操作符生成前提条件和效果，形成环境转换模型。
另外，EAI 选取了两个具有代表性但特点迥异的环境，也就是前面提到的 BEHAVIOR 和 VirtualHome。
相比于单一环境评估，EAI更能考察大模型跨领域的泛化能力，有助于全面理解其适用范围和局限性。
o1-preview 综合成绩第一
利用 EAI 这套标准，研究团队对 GPT、Claude、Gemini 等 18 款主流模型（型号）的决策能力进行了评估。
在 BEHAVIOR 和 VirtualHome 环境下，o1-preview 均获得了排行榜综合成绩第一名。
其中在 BEHAVIOR 环境中，o1-preview 得分为 74.9，比第二名的 Claude 3.5 Sonnet 高了 10 多分，排在之后的是 60 分左右的 Claude 3 Opus 和 GPT-4o。
到了 VirtualHome 环境下，依然是 o1-preview 领先，但前三名的成绩相对接近。
同时 Gemini 1.5 Pro 变成了第二名，不过整体来看排行靠前的几个模型和 BEHAVIOR 环境类似。
当然如果比较单项能力，不同模型也体现出了各自不同的优势项目。
比如在 BEHAVIOR 环境中，总分排第二的 Claude 3.5 Sonnet，目标解释能力略高于总分排第一的 o1-preview。
在 VirtualHome 环境中，总分相对靠后的 Mistral Large，在动作序列规划上取得了第一名。
作者还对各模型的失败情况进行了深入分析，发现了将中间状态误识别为最终目标状态、对隐含的物理关系理解不足、忽略重要的前提条件等具体问题。
这些发现能够让研究人员对模型的优缺陷进行更深层的了解，为之后的研究提供了重要参考。
项目主页：
https://embodied-agent-interface.github.io/
论文：
https://arxiv.org/abs/2410.07166
代码：
https://github.com/embodied-agent-interface/embodied-agent-interface
数据集：
https://huggingface.co/datasets/Inevitablevalor/EmbodiedAgentInterface
PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境，可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。
JetBrains PyCharm 是面向 Python 开发者的集成开发环境，提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片，核心功能可免费使用。
JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境，可智能理解项目结构，提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。
Logic Pro 是 Apple 为 Mac 打造的专业音乐制作软件，集音频与 MIDI 录制、编曲、节拍制作、采样、混音和母带处理于一体。它提供丰富的软件乐器、效果插件、声音资源以及智能创作工具。
Navicat Premium 是适用于 Mac 的一体化数据库开发与管理工具，可在统一界面中连接 MySQL、PostgreSQL、MongoDB、MariaDB、SQL Server、Oracle、SQLite、Redis 和 Snow
Pixelmator Pro 是 Apple 面向 Mac 用户提供的专业图像编辑与视觉设计软件，集照片调色、对象移除、图层合成、蒙版、矢量绘图、文字排版和数字绘画于一体。软件深度利用 Apple 芯片、Metal 与系统服务。
Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。
Pro Tools 是 Avid 推出的专业数字音频工作站，覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。
Rhino 3D 是一款面向设计、工程及数字制造工作的专业三维建模软件，擅长处理高精度 NURBS 曲线与曲面，并支持实体、网格、点云和 SubD 几何。Mac 版针对 Apple Silicon 与 Metal 图形技术进行优化。
Sketch 是一款原生 macOS 产品设计工具，覆盖界面绘制、矢量编辑、交互原型、组件库、设计系统和开发交付。它既可离线保存本地文件，也能通过 Workspace 实现实时协作、评论、版本管理与浏览器审阅，适合个人设计师及产品团队使用。
SketchUp Pro 是面向建筑、室内、景观及产品设计工作的专业三维建模套件，提供直观的推拉建模、精准尺寸控制、二维文档制作、模型资源库、扩展插件和云端协作能力。Mac 用户可使用桌面建模器与 LayOut。
Twinmotion是Epic Games推出的实时三维可视化软件，主要服务于建筑、景观、室内设计、城市规划及施工展示。它可导入常见CAD、BIM和三维模型，利用材质、植被、人物、天气与灯光资源快速搭建场景。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。