展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 硬件相关 > WAIC面壁分论坛现场:高通如何面向智能体AI打造全栈技术架构

WAIC面壁分论坛现场:高通如何面向智能体AI打造全栈技术架构

高通在WAIC面壁分论坛展示面向智能体AI的全栈技术架构,涵盖端侧模型、传感器中枢、NPU及5G/6G连接,推动端云协同,实现从感知到生成式再到智能体AI的迭代,并展望物理AI演进,强调端侧智能与连接协同,助力端云一体。

本文目录

    7月19日,高通公司全球副总裁、中国区研发负责人、IEEE Fellow徐晧博士在“端侧AI创新和行业发展论坛”上,发表了题为《智能体AI时代:计算架构与模型效率的持续创新》的演讲。这场演讲系统梳理了端侧AI应用的前景,以及智能体浪潮对终端计算架构带来的范式变革。下面就是演讲的核心内容整理。

    徐晧博士指出,端侧AI应用的市场空间远比很多人想象的要大——从手机、耳机到汽车,各类终端的市场规模动辄以十亿计。过去大家更多关注数据中心的大规模训练,但端侧的应用同样拥有广阔前景。以手机为例,从简单的单轮对话到多轮交互,再到智能体调度,设备所需的Token处理量正以十倍级递增:一万、十万、百万级。比如,在手机上调用智能体所需的Token数量非常大,目前阶段必须采用端云结合的方案——端侧小模型处理隐私性强、需要实时响应的任务,云端负责深度推理和规划。未来,随着模型优化和硬件提升,越来越多处理会迁移到端侧,减少对数据传输和云端Token运算的依赖。

    徐晧博士提到,面壁智能在端侧模型的布局很早就引起了高通的关注,双方有很多契合点。事实上,端侧模型在未来一至两年内,完全可以达到与几十倍算力的云端模型同等的功能,而且这个趋势还在加速——更多大模型将迁移到端侧,以小模型的形式出现。随着硬件算力持续提升,这些模型在端侧也能轻松运行。

    那么,从硬件设计的角度看,要打造一款真正的智能体手机,需要攻克哪些关键难点?

    首先是任务规划。智能体需要出色的任务规划能力,高通通过全新的CPU来承担任务规划和控制。

    其次是传感器信息的实时处理。传统手机只有用户主动给出指令才执行任务,不需要24小时感知环境。但智能体手机必须主动帮助用户——比如感知到你在大会现场,自动将手机静音;感知到你进入座舱,自动调节温度和座椅位置。这需要低功耗的传感器中枢,对大量传感器数据进行有效处理和融合,精准感知环境,为智能体提供决策依据。

    第三是NPU。要为端侧提供强大的模型运算能力,高通对NPU做了大量模型适配和优化,利用其高效张量计算能力,让2B到3B量级的模型在手机端流畅运行。

    此外,出色的5G或6G连接能力也必不可少。目前大部分智能体功能依赖云端,但随着端侧模型越来越强,端侧、云端和边缘云需要协同处理,优秀的无线连接可以将端侧与云端的算力无缝衔接。

    具体到高通提供的硬件支持,传感器中枢是核心之一——它能够24小时在线感知用户信息,为端侧大模型或小模型提供情境感知,打造个人知识图谱。而NPU则为端侧提供强劲算力,比如刚才提到的20亿、30亿参数模型,都能在端侧流畅运行。高通最新的旗舰移动平台第五代骁龙8至尊版,以及今年即将推出的更强大平台,都围绕这些需求设计。座舱芯片同样具备强大算力,能够支持百亿参数以上大模型在车端稳定运行。

    从应用和模型演进来看,高通已经完成了从感知AI到生成式AI,再到智能体AI的迭代。下一阶段重点将推进物理AI,实现从小模型向多功能大模型的转变。在算法层面,高通做了大量模型在端侧的适配,包括模型压缩与量化、长上下文处理与增强,以及端侧模型的持续学习(on-device learning)。

    最后,从汽车到机器人的演进,需要将二维空间规划升级为三维真实世界的理解,还要针对更复杂场景进行优化。这是高通从汽车芯片到机器人芯片领域正在开展的工作。高通与面壁在手机和车端已经有很多深度合作,未来也期待联合更多合作伙伴,共同推进智能终端在端侧的应用和发展。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 高通
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    Aperty macOS版
    Aperty macOS版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw macOS版
    AionClaw macOS版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy macOS版
    Loomy macOS版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    WINDOWS 更多
    讯飞绘文 网页版
    讯飞绘文 网页版

    讯飞绘文网页版是科大讯飞推出的AI图文创作与内容运营工具,覆盖热点选题、文章生成、稿件校对、智能配图、排版发布和数据复盘等环节,适合自媒体创作者及内容团队在线使用。

    Maya(Autodesk Maya) Windows版
    Maya(Autodesk Maya) Windows版

    Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件,集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体,

    Aperty Windows版
    Aperty Windows版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw Windows版
    AionClaw Windows版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy Windows版
    Loomy Windows版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirServer Windows版
    AirServer Windows版

    AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端,适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端,并可同时接收和智能排列多个镜像会话。