展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 硬件相关 > 普通视频喂不出通用机器人,这家初创想用人脑信号打造新的数据标签

普通视频喂不出通用机器人,这家初创想用人脑信号打造新的数据标签

初创公司Encord与德国ZanderLabs合作,利用脑电传感器采集操作员神经活动,将视觉、动作与脑电信号对齐,形成比普通视频更有价值的训练数据。脑电可作为新数据标签,帮助机器人识别人类意图、错误和风险时刻。目前该试验仍处于早期阶段。

本文目录

    摄像头捕捉到的画面是:手伸向哪块积木、怎么调整角度、木塔什么时候开始晃。而脑电信号试图回答的,是另一组问题:操作员是在什么时候意识到自己选错了积木?什么时候感到意外?什么时候已经形成行动意图,但手还没伸出去?

    做这项试验的公司叫 Encord,一家人工智能数据基础设施公司。提供脑电头显的,则是德国神经技术初创公司 Zander Labs。按照双方的设想,如果把视觉、动作和脑电活动在时间上对齐,就能形成一种比普通操作视频更有价值的训练数据——它不仅能告诉机器人一个动作是怎么完成的,还可能记录下人类在做出动作之前、以及发现错误之时的内部状态。

    Encord 的目标,是测试这些脑电信号能否成为一种新的数据标签,帮助机器人模型更准确地理解人类的意图,识别高风险时刻,并判断在什么情况下需要调用更强大、计算成本更高的推理模型。

    如果这条路走得通,下一代具身智能的训练数据,将不仅来自人类的身体,也可能来自人的大脑。

    机器人数据,需要被重新生产

    Encord 由 Ulrik Stig Hansen 和 Eric Landau 于 2020 年在伦敦创办,两人此前都在金融行业工作。

    Landau 本科毕业于斯坦福大学物理学专业,后取得电气工程硕士学位,并在哈佛大学完成应用物理学硕士学习。创办 Encord 前,他曾在自营交易公司 DRW 担任高级量化研究员。Hansen 来自丹麦,青少年时期就开始编程,后来进入金融行业。2018 年离开原有工作后,他重新转向计算机科学和深度学习研究。两人在一次创业者配对活动中相识,并开始尝试把量化交易系统中的自动化方法,用在 AI 数据处理上。


    图 | Ulrik Stig Hansen 和 Eric Landau(来源:Encode)

    创业早期,Encord 拿到的一个客户叫 SurgEase,是一家胃肠内镜远程医疗公司,其系统会产生结肠镜检查的高清视频,需要进行数据管理和标注。此后,Encord 又进入放射影像等领域,帮助医疗和科研团队标注计算机视觉训练数据。

    这段经历让 Encord 确立了自己的基本方向:与其为某个行业开发单一 AI 模型,不如提供一套管理、筛选、标注和评估非结构化数据的通用平台。随着客户扩展到制造、自动驾驶、无人机和机器人,Encord 也逐渐从标注工具商,转型为多模态数据基础设施公司。

    随着机器人客户越来越多,Encord 遇到的问题也变了。过去,客户通常已经拥有图像和视频,只需要工具帮他们整理和标注;但机器人公司需要的许多数据,根本没有现成来源。

    大语言模型可以从网上获取文本、代码和图像,机器人却没有现成的“物理世界语料库”。一个模型可以从公开视频中看到人类如何倒咖啡,但普通视频未必能提供深度、机器人关节、控制指令、触觉和力矩这些信息。摄像头还可能遮挡手部动作,也不会解释操作者为什么突然停顿或者改变方向。

    正因如此,具身智能公司正在大规模收集两类数据。

    第一类是以人为中心的第一视角数据。工作人员佩戴头部或腕部摄像头,在家庭、仓库、工厂等环境中完成真实任务,模型据此学习人类如何与物体互动。第二类是机器人遥操作数据。人类通过控制器、遥操作设备完成任务,系统同步记录图像、关节状态、控制指令和力反馈。

    Encord 两条路线都在推进。公司在圣莱安德罗的办公场地雇佣了十余名操作员,让他们反复执行倒咖啡、堆叠筹码、插拔服务器网线等任务。仓库里还摆着假花、塑料蔬菜、书籍、猫砂盆和成捆的电线——这些看似杂乱的日常物品,构成了机器人进入家庭、数据中心和工业环境之前的“练习册”。

    据公司称,其平台管理的数据量在过去一年里从 1PB 增至超过 5PB,物理 AI 相关收入增长了 10 倍,目前服务全球 300 多支 AI 团队。

    但随着机器人公司采用端到端学习方法,Encord 发现仅仅管理客户已有的数据已经不够了,因为部分训练数据“根本不存在”。Encord 机器人学习负责人 Vineeth Velmurugan 表示。因此,在第一视角视频和遥操作之外,Encord 开始尝试通过其他方式获取数据。与 Zander Labs 合作采集脑电,就是其中一项试验。

    脑电如何成为新的数据标签

    Zander Labs 主要开发被动式脑机接口(passive BCI)。它不同于通常所说的“意念控制”:主动式脑机接口需要使用者有意识地生成信号,例如想象左手或右手运动;被动式脑机接口则是在人正常执行任务时持续监测脑电,识别可能与错误、惊讶、注意力和认知负荷有关的特征。

    这套技术主要包括三个步骤:通过电极采集头皮电位变化;对信号降噪并提取特征,由分类器识别特定脑电模式;最后将识别结果与操作视频、身体动作和机器状态进行时间对齐。据 Velmurugan 估计,这种经过深度标注的多模态数据,其训练价值可能是普通第一人称录像的 100 倍。

    在硬件方面,Zander Labs 正在开发一款名为 Zypher 的便携式脑电方案。根据公司资料,该方案采用可放置在耳周和前额的电极,并配备小型 24 通道脑电放大器,目标是在实验室以外进行连续采集。


    (来源:Zander Labs)

    脑电被记录下来之后,系统还需要过滤噪声、提取特征,再用分类器识别特定事件。对 Encord 的机器人训练试验而言,其中一类重要信号是错误相关电位。

    当人发现自己或机器的行为偏离预期时,大脑可能在数百毫秒内产生与错误处理有关的电位变化。以拆积木为例,如果操作员看到木塔朝意料之外的方向倾斜,即使他还没说话、没停手、也没按下按钮,脑电信号中可能就已经出现了相应反应。

    分类器的作用,是判断某段信号出现错误相关电位的可能性,而不是还原操作员脑中的完整想法。它或许可以标记操作员在这个时间点发现异常,但不能直接解释异常来自哪块积木,也不能告诉系统正确动作是什么。Zander Labs 还在开发通用分类器,希望减少每一名使用者重新校准系统的需要。

    对 Encord 而言,关键步骤是把分类器输出的时间点与操作视频和动作数据对齐。例如,视频显示操作员在某一秒抽动积木,脑电分类器随后检测到错误反应,系统便可以给对应片段添加一个“可能察觉错误”的标签。数据审核人员可以优先检查这些位置,机器人模型也可以获得一层区别于动作标签的辅助信息。

    Zander Labs 神经科学家 Lucas Gehrke 还提到,脑电反映出的认知投入程度,可能为模型的计算资源分配提供参考。例如,系统可以比较人在例行操作和复杂决策阶段的脑活动差异,用于研究哪些任务节点可能需要计算量更高的模型。

    不过,真实环境中的脑电采集会面临不少干扰。眨眼、面部肌肉、头部和身体运动、电极接触变化以及环境电磁噪声,都可能产生比目标信号更明显的波动。不同使用者的脑电模式并不完全一致;同一个人在疲劳、压力变化或重新佩戴设备后,采集结果也可能改变。

    因此,这类脑电信号现阶段更适合作为概率性的辅助标签——它可以提示某个时间点可能发生了错误识别、意外或认知负荷变化,但不能作为对操作员思想内容的直接读取,也不能脱离视频、动作和任务背景单独解释。

    目前,Encord 与 Zander Labs 的合作仍处于试验阶段。双方准备先建立一套带有脑电标签的数据集,将其用于客户的机器人模型,测试额外的信号能否提升性能,然后再决定是否扩大规模。

    除了脑电,Encord 还在测试佩戴于前臂的肌电传感器。由于普通视频有时无法完整拍摄手部姿态,公司希望利用手臂肌肉产生的电信号,辅助还原手部的三维位置。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 机器人
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    Postman macOS版
    Postman macOS版

    Postman是一套面向API全生命周期的开发与测试平台,可在Mac上发送和调试多种协议请求,管理集合、环境及认证信息,并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用,提供个人免费方案。

    Docker Desktop macOS版
    Docker Desktop macOS版

    Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境,集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。

    Android Studio macOS版
    Android Studio macOS版

    Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境,基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。

    Xcode macOS版
    Xcode macOS版

    Xcode 是苹果面向 Mac 提供的官方集成开发环境,将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中,适合开发与维护 iPhone、iPad、Mac、Apple Wa

    JetBrains WebStorm macOS版
    JetBrains WebStorm macOS版

    JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境,可智能理解项目结构,提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。

    PhpStorm macOS版
    PhpStorm macOS版

    PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境,可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。

    JetBrains PyCharm macOS版
    JetBrains PyCharm macOS版

    JetBrains PyCharm 是面向 Python 开发者的集成开发环境,提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片,核心功能可免费使用。

    JetBrains IntelliJ IDEA macOS版
    JetBrains IntelliJ IDEA macOS版

    IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境,重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具,并可借助插件扩展语言和框架支持。

    Visual Studio Code macOS版
    Visual Studio Code macOS版

    Visual Studio Code 是微软提供的免费代码编辑器,支持 macOS,并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。

    REAPER macOS版
    REAPER macOS版

    REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

    Adobe Audition macOS版
    Adobe Audition macOS版

    Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站,提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具,并可与 Adobe Premiere 协同完成视频声音制作。

    Pro Tools macOS版
    Pro Tools macOS版

    Pro Tools 是 Avid 推出的专业数字音频工作站,覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。

    WINDOWS 更多
    PixPix 网页版
    PixPix 网页版

    PixPix 是面向品牌、卖家和内容团队的在线 AI 图片视频创作平台,提供图视频 Agent、无限画布、图片生成、视频生成、自然语言编辑及商品套图、产品精修和带货视频等电商工具。

    Postman Windows版
    Postman Windows版

    Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求,并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等

    Docker Desktop Windows版
    Docker Desktop Windows版

    Docker Desktop 为 Windows 开发者提供集成式容器环境,内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件,可在本机完成镜像构建、容器运行、日志查看和资源管理。

    Android Studio Windows版
    Android Studio Windows版

    Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境,以 IntelliJ IDEA 为基础,集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具,

    JetBrains WebStorm Windows版
    JetBrains WebStorm Windows版

    WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索,并集成调试、测试、终端、Git 与常用前端工具,

    JetBrains PhpStorm Windows版
    JetBrains PhpStorm Windows版

    PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境,提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序,

    JetBrains PyCharm Windows版
    JetBrains PyCharm Windows版

    PyCharm 是 JetBrains 推出的 Python 集成开发环境,提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能,

    JetBrains IntelliJ IDEA Windows版
    JetBrains IntelliJ IDEA Windows版

    JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境,提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目,

    Visual Studio Code Windows版
    Visual Studio Code Windows版

    Visual Studio Code 是微软推出的免费代码编辑器,Windows 版集成智能补全、代码导航、调试、终端和版本控制,并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活,

    REAPER Windows版
    REAPER Windows版

    REAPER 是 Cockos 推出的数字音频工作站,适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧,支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展,并提供完整功能的 60 天免费评估期。

    Adobe Audition Windows版
    Adobe Audition Windows版

    Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站,提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理,

    Pro Tools Windows版
    Pro Tools Windows版

    Pro Tools 是 Avid 推出的专业数字音频工作站,提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用,并提供免费入门版、订阅方案及永久授权选择。