从文字模型到世界模型！Meta新研究让AI Agent理解物理世界
Air Explorer Pro是一款跨平台多网盘管理工具，可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
尽管LLM已经深入研究了文本和图像，也能够根据他们的历史知识回答各种问题，但他们也许对周围世界当前发生的事情一无所知。当前LLMs开始逐步学习理解3D物理空间，通过增强LLMs的“看到”世界的能力，人们可以开发新的应用，在更多场景去获取LLMs的帮助。AIAgent，比如机器人或是智能眼镜，它们可以通过感知和理解环境来回答一些开放性问题，比如「我把钥匙放哪里了？」图片这样的AIAgent需要利用视觉等感知模式来理解其周围环境，并能够使用清晰的日常语言有效地与人交流。这种类似于构建一个“世界模型”，即AIA
尽管LLM已经深入研究了文本和图像，也能够根据他们的历史知识回答各种问题，但他们也许对周围世界当前发生的事情一无所知。
当前LLMs开始逐步学习理解3D物理空间，通过增强LLMs的“看到”世界的能力，人们可以开发新的应用，在更多场景去获取LLMs的帮助。
AI Agent，比如机器人或是智能眼镜，它们可以通过感知和理解环境来回答一些开放性问题，比如「我把钥匙放哪里了？」
图片
这样的AI Agent需要利用视觉等感知模式来理解其周围环境，并能够使用清晰的日常语言有效地与人交流。
这种类似于构建一个“世界模型”，即AI Agent可以对外部世界产生它自己的内部理解方法，并能够让人类通过语言查询。
这是一个长期的愿景和一个有挑战的领域，也是实现人工通用智能的重要一步。
Meta的新研究OpenEQA（Embodied Question Answering）框架，即开放词汇体验问答框架，为我们探索这个领域提供了新的可能。
EQA是什么？
EQA（Embodied Question Answering）是一种工具，用于检查AI Agent是否真正理解周围世界发生的事情。
毕竟，当我们想要确定一个人对概念的理解程度时，我们会问他们问题，并根据他们的答案形成评估。我们也可以对实体AI Agent做同样的事情。这使得我们能够了解实体AI Agent对特定问题的理解程度，并根据它们的答案形成评估。
比如下图的一些问题实例：
图片
[物体识别]
问：椅子上的红色物体是什么？
答：一个背包
[属性识别]
问：在所有的椅子中，这把椅子的独特颜色是什么？
答：绿色
[空间理解]
问：这个房间可以容纳10个人吗？
答：可以
[物体状态识别]
问：塑料水瓶是开着的吗？
答：不是
[功能推理]
问：我可以用铅笔在什么东西上写？
答：纸
[世界知识]
问：最近有学生在这里吗？
答：有
[物体定位]
问：我的未喝完的星巴克饮料在哪里？
答：在靠前的白板旁边的桌子上
除此之外，EQA也更加有直接的应用。
比如，当你准备出门却找不到工卡时，就就可以问智能眼镜它在哪里。而AI Agent则会通过利用其情节记忆回答说徽章在餐桌上。
图片
或者如果你在回家的路上饿了，就可以问家庭机器人是否还剩下水果。根据其对环境的主动探索，它可能会回答说水果篮里有成熟的香蕉。
图片
这些行为看上去很简单，毕竟LLMs在许多人认为具有挑战性的任务中表现出色，比如通过SAT或律师考试。
但现实是，即使是今天最先进的模型，在EQA方面也很难达到人类的表现水平。
这也是为什么Meta同时发布了OpenEQA基准测试，让研究人员可以测试他们自己的模型，并了解它们与人类的表现相比如何。
OpenEQA：面向AI Agent的全新基准
开放词汇体验问答（OpenEQA）框架是一个新的基准测试，通过向AI Agent提出开放词汇问题来衡量其对环境的理解。
该基准包含超过1600个非模板化的问题和答案对，这些问题和答案来自人类注释者，代表了真实世界的使用情况，并提供了180多个物理环境的视频和扫描指针。
OpenEQA包含两个任务：
（1）情节记忆EQA，在这个任务中，一个实体的AI Agent根据其对过去经历的回忆回答问题。
（2）主动EQA，在这个任务中，AI Agent必须在环境中采取行动来收集必要的信息并回答问题。
OpenEQA还配备了LLM-Match，这是一种用于评分开放词汇答案的自动评估指标。
下方是LLM-Match打分的流程，通过问题和场景的输入，AI大模型会给出回答，该回答会去和人类的回答作对比，然后得到相应的分数。
图片
现阶段VLM的表现
一般来说，AI Agent的视觉能力是借助于视觉+语言基础模型（VLM）。
研究员使用OpenEQA来评估了几种最先进的VLM，发现即使是性能最好的模型（如GPT-4V达到48.5%），与人类的表现（85.9%）之间也存在着显著差距。
图片
值得注意的是，对于需要空间理解的问题，即使是最好的VLM也几乎是「盲目」的，即它们的表现几乎不比仅文本模型更好。
例如，对于「我坐在客厅的沙发上看电视。我的身后是哪个房间？」这个问题，模型基本上是随机猜测不同的房间，没有从视觉情景记忆中获得对空间的理解。
这说明VLM其实是回归到文本中去捕捉关于世界的先验知识，以此来回答视觉问题。视觉信息并没有给它们带来实质性的好处。
这也说明，AI Agent在目前这个阶段，还达不到能完全理解物理世界的能力。
但气馁还为时过早，OpenEQA仅仅是第一个开放词汇的EQA基准。
通过OpenEQA将具有挑战性的开放词汇问题与以自然语言回答的能力结合起来，可以激发更多的研究，帮助AI理解并交流关于它所看到的世界的信息，也有助于研究人员跟踪多模态学习和场景理解的未来进展。
也不是没有可能，突然哪天AI Agent又给我们带来一个大惊喜呢？
参考资料：
https://ai.meta.com/blog/openeqa-embodied-question-answering-robotics-ar-glasses/
WPS Office是一款面向macOS用户的综合办公套件，将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式，支持Intel及Apple芯片Mac，基础功能可免费使用，
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件，可将原始照片保存在本地硬盘，通过目录、关键词、评分和收藏夹高效整理图库，并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具，可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权，由 Creative Cloud 管理安装、更新与许
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Adobe Bridge 是 Adobe 推出的创意资产管理工具，可集中预览、分类和查找照片、视频、PDF及多种设计文件，并支持元数据、关键词、评级、批量重命名和格式导出。它可与 Photoshop、Illustrator 等应用衔接，
Affinity Photo 是一款面向摄影师、修图师和视觉设计人员的桌面图像编辑工具，提供 RAW 显影、多图层合成、蒙版、实时滤镜、批处理和色彩管理等功能。原独立产品已停止销售，其照片编辑能力已延续至免费的新 Affinity 应用；
Adobe Lightroom Classic 是面向 Windows 桌面摄影工作流的照片管理与无损编辑工具，可通过目录集中整理大型图库，并完成 RAW 显影、局部蒙版、批量调整、打印和多格式导出。它强调本地文件管理与精细控制，
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Capture One Pro 是面向摄影师和影像团队的专业桌面照片处理工具，提供相机定制色彩配置、RAW转换、图层与蒙版、联机拍摄、目录及会话管理等功能。它适合棚拍、人像、商业产品、婚礼和风光摄影，
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Adobe After Effects 是面向动态图形、动画与影视视觉特效制作的专业工具，可完成关键帧动画、图层合成、遮罩跟踪、抠像、文字动画和二维三维元素整合。Windows 版通过 Adobe Creative Cloud 安装及更新，
DaVinci Resolve是Blackmagic Design推出的一体化影视后期工具，将素材管理、非线性剪辑、专业调色、Fusion视觉特效、Fairlight音频处理和成片交付整合在统一工程中。免费版已覆盖多数个人创作需求，