展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 硬件相关 > 普通视频喂不出通用机器人,这家初创想用人脑信号打造新的数据标签

普通视频喂不出通用机器人,这家初创想用人脑信号打造新的数据标签

初创公司Encord与德国ZanderLabs合作,利用脑电传感器采集操作员神经活动,将视觉、动作与脑电信号对齐,形成比普通视频更有价值的训练数据。脑电可作为新数据标签,帮助机器人识别人类意图、错误和风险时刻。目前该试验仍处于早期阶段。

本文目录

    摄像头捕捉到的画面是:手伸向哪块积木、怎么调整角度、木塔什么时候开始晃。而脑电信号试图回答的,是另一组问题:操作员是在什么时候意识到自己选错了积木?什么时候感到意外?什么时候已经形成行动意图,但手还没伸出去?

    做这项试验的公司叫 Encord,一家人工智能数据基础设施公司。提供脑电头显的,则是德国神经技术初创公司 Zander Labs。按照双方的设想,如果把视觉、动作和脑电活动在时间上对齐,就能形成一种比普通操作视频更有价值的训练数据——它不仅能告诉机器人一个动作是怎么完成的,还可能记录下人类在做出动作之前、以及发现错误之时的内部状态。

    Encord 的目标,是测试这些脑电信号能否成为一种新的数据标签,帮助机器人模型更准确地理解人类的意图,识别高风险时刻,并判断在什么情况下需要调用更强大、计算成本更高的推理模型。

    如果这条路走得通,下一代具身智能的训练数据,将不仅来自人类的身体,也可能来自人的大脑。

    机器人数据,需要被重新生产

    Encord 由 Ulrik Stig Hansen 和 Eric Landau 于 2020 年在伦敦创办,两人此前都在金融行业工作。

    Landau 本科毕业于斯坦福大学物理学专业,后取得电气工程硕士学位,并在哈佛大学完成应用物理学硕士学习。创办 Encord 前,他曾在自营交易公司 DRW 担任高级量化研究员。Hansen 来自丹麦,青少年时期就开始编程,后来进入金融行业。2018 年离开原有工作后,他重新转向计算机科学和深度学习研究。两人在一次创业者配对活动中相识,并开始尝试把量化交易系统中的自动化方法,用在 AI 数据处理上。


    图 | Ulrik Stig Hansen 和 Eric Landau(来源:Encode)

    创业早期,Encord 拿到的一个客户叫 SurgEase,是一家胃肠内镜远程医疗公司,其系统会产生结肠镜检查的高清视频,需要进行数据管理和标注。此后,Encord 又进入放射影像等领域,帮助医疗和科研团队标注计算机视觉训练数据。

    这段经历让 Encord 确立了自己的基本方向:与其为某个行业开发单一 AI 模型,不如提供一套管理、筛选、标注和评估非结构化数据的通用平台。随着客户扩展到制造、自动驾驶、无人机和机器人,Encord 也逐渐从标注工具商,转型为多模态数据基础设施公司。

    随着机器人客户越来越多,Encord 遇到的问题也变了。过去,客户通常已经拥有图像和视频,只需要工具帮他们整理和标注;但机器人公司需要的许多数据,根本没有现成来源。

    大语言模型可以从网上获取文本、代码和图像,机器人却没有现成的“物理世界语料库”。一个模型可以从公开视频中看到人类如何倒咖啡,但普通视频未必能提供深度、机器人关节、控制指令、触觉和力矩这些信息。摄像头还可能遮挡手部动作,也不会解释操作者为什么突然停顿或者改变方向。

    正因如此,具身智能公司正在大规模收集两类数据。

    第一类是以人为中心的第一视角数据。工作人员佩戴头部或腕部摄像头,在家庭、仓库、工厂等环境中完成真实任务,模型据此学习人类如何与物体互动。第二类是机器人遥操作数据。人类通过控制器、遥操作设备完成任务,系统同步记录图像、关节状态、控制指令和力反馈。

    Encord 两条路线都在推进。公司在圣莱安德罗的办公场地雇佣了十余名操作员,让他们反复执行倒咖啡、堆叠筹码、插拔服务器网线等任务。仓库里还摆着假花、塑料蔬菜、书籍、猫砂盆和成捆的电线——这些看似杂乱的日常物品,构成了机器人进入家庭、数据中心和工业环境之前的“练习册”。

    据公司称,其平台管理的数据量在过去一年里从 1PB 增至超过 5PB,物理 AI 相关收入增长了 10 倍,目前服务全球 300 多支 AI 团队。

    但随着机器人公司采用端到端学习方法,Encord 发现仅仅管理客户已有的数据已经不够了,因为部分训练数据“根本不存在”。Encord 机器人学习负责人 Vineeth Velmurugan 表示。因此,在第一视角视频和遥操作之外,Encord 开始尝试通过其他方式获取数据。与 Zander Labs 合作采集脑电,就是其中一项试验。

    脑电如何成为新的数据标签

    Zander Labs 主要开发被动式脑机接口(passive BCI)。它不同于通常所说的“意念控制”:主动式脑机接口需要使用者有意识地生成信号,例如想象左手或右手运动;被动式脑机接口则是在人正常执行任务时持续监测脑电,识别可能与错误、惊讶、注意力和认知负荷有关的特征。

    这套技术主要包括三个步骤:通过电极采集头皮电位变化;对信号降噪并提取特征,由分类器识别特定脑电模式;最后将识别结果与操作视频、身体动作和机器状态进行时间对齐。据 Velmurugan 估计,这种经过深度标注的多模态数据,其训练价值可能是普通第一人称录像的 100 倍。

    在硬件方面,Zander Labs 正在开发一款名为 Zypher 的便携式脑电方案。根据公司资料,该方案采用可放置在耳周和前额的电极,并配备小型 24 通道脑电放大器,目标是在实验室以外进行连续采集。


    (来源:Zander Labs)

    脑电被记录下来之后,系统还需要过滤噪声、提取特征,再用分类器识别特定事件。对 Encord 的机器人训练试验而言,其中一类重要信号是错误相关电位。

    当人发现自己或机器的行为偏离预期时,大脑可能在数百毫秒内产生与错误处理有关的电位变化。以拆积木为例,如果操作员看到木塔朝意料之外的方向倾斜,即使他还没说话、没停手、也没按下按钮,脑电信号中可能就已经出现了相应反应。

    分类器的作用,是判断某段信号出现错误相关电位的可能性,而不是还原操作员脑中的完整想法。它或许可以标记操作员在这个时间点发现异常,但不能直接解释异常来自哪块积木,也不能告诉系统正确动作是什么。Zander Labs 还在开发通用分类器,希望减少每一名使用者重新校准系统的需要。

    对 Encord 而言,关键步骤是把分类器输出的时间点与操作视频和动作数据对齐。例如,视频显示操作员在某一秒抽动积木,脑电分类器随后检测到错误反应,系统便可以给对应片段添加一个“可能察觉错误”的标签。数据审核人员可以优先检查这些位置,机器人模型也可以获得一层区别于动作标签的辅助信息。

    Zander Labs 神经科学家 Lucas Gehrke 还提到,脑电反映出的认知投入程度,可能为模型的计算资源分配提供参考。例如,系统可以比较人在例行操作和复杂决策阶段的脑活动差异,用于研究哪些任务节点可能需要计算量更高的模型。

    不过,真实环境中的脑电采集会面临不少干扰。眨眼、面部肌肉、头部和身体运动、电极接触变化以及环境电磁噪声,都可能产生比目标信号更明显的波动。不同使用者的脑电模式并不完全一致;同一个人在疲劳、压力变化或重新佩戴设备后,采集结果也可能改变。

    因此,这类脑电信号现阶段更适合作为概率性的辅助标签——它可以提示某个时间点可能发生了错误识别、意外或认知负荷变化,但不能作为对操作员思想内容的直接读取,也不能脱离视频、动作和任务背景单独解释。

    目前,Encord 与 Zander Labs 的合作仍处于试验阶段。双方准备先建立一套带有脑电标签的数据集,将其用于客户的机器人模型,测试额外的信号能否提升性能,然后再决定是否扩大规模。

    除了脑电,Encord 还在测试佩戴于前臂的肌电传感器。由于普通视频有时无法完整拍摄手部姿态,公司希望利用手臂肌肉产生的电信号,辅助还原手部的三维位置。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 机器人
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    Aperty macOS版
    Aperty macOS版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw macOS版
    AionClaw macOS版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy macOS版
    Loomy macOS版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    WINDOWS 更多
    讯飞绘文 网页版
    讯飞绘文 网页版

    讯飞绘文网页版是科大讯飞推出的AI图文创作与内容运营工具,覆盖热点选题、文章生成、稿件校对、智能配图、排版发布和数据复盘等环节,适合自媒体创作者及内容团队在线使用。

    Maya(Autodesk Maya) Windows版
    Maya(Autodesk Maya) Windows版

    Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件,集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体,

    Aperty Windows版
    Aperty Windows版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw Windows版
    AionClaw Windows版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy Windows版
    Loomy Windows版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirServer Windows版
    AirServer Windows版

    AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端,适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端,并可同时接收和智能排列多个镜像会话。