F5中国本土创新“出圈”，自研Token负载均衡让异构GPU集群并发提升75%
F5中国发布自研Token负载均衡方案，该方案通过实时感知Token规模与GPU负载，动态调度算力资源。在异构集群中，该技术将并发用户数提升75%，Token生成速度提升99%，有效释放现有GPU潜能。
从大模型竞赛的第一阶段——“训练能力比拼”，到眼下逐步过渡到第二阶段——“推理落地之争”，行业正在经历一次关键转身。而在这场转身中，一个长期隐藏在流量分发背后的技术环节——负载均衡，正在重新被定义。
6月5日，F5中国在Solution Day 2026上发布了一项颇具分量的本土创新：基于词元的负载均衡方案（Token Based Load Balancing，以下简称TBLB）。简单说，就是针对AI推理场景做了算力调度的底层优化，解决异构GPU集群中资源利用率不均、推理效率打折这类让工程团队头疼的问题。
中国团队原创，从本土实践走向全球共识
“TBLB方案源于中国团队在AI推理场景中的本地创新与实践。”F5北亚区总裁黄彦文在发布会上如是说。据他透露，随着大模型推理进入规模化落地阶段，传统的负载均衡方式——基于连接数或请求数进行分发——已经难以精准反映AI推理任务对后端GPU算力资源造成的真实消耗。换句话说，过去那套办法，开始失灵了。
中国团队基于本地客户的真实需求，提出了一个全新的思路：以Token为调度核心。这套方案能够实时感知Token规模对后端算力资源的影响，动态调整请求分配策略，实现对不同节点算力状态的精细化调度。黄彦文特别提到，尽管这个创新最早诞生于中国市场，但F5已经开始在全球范围内推广TBLB的相关理念。“Token经济正在成为行业共识，AI基础设施正从‘以连接为中心’走向‘以Token为中心’。”这一点，正在被越来越多的实践所验证。
从“平均分流”到“算力感知”
F5中国区产品及解决方案总经理陈亮进一步阐释了TBLB与传统负载均衡的本质差异。传统互联网时代，负载均衡解决的是“流量如何分发”的问题；而在AI大模型时代，问题变成了“算力如何被实时调度”。
两者当然有共同点——核心目标依然是高可用、高性能和稳定交付。但关键是，“负载”的定义发生了根本性变化。传统SLB主要基于连接数或请求数进行分发，原因很简单：Web请求的资源消耗相对固定。而在大模型推理场景下，一个请求背后的计算量可能相差几十倍甚至上百倍。真正消耗GPU资源的，是Token数量、上下文长度以及推理复杂度。
这一点在中国市场尤为突出。企业普遍采用异构芯片混合部署，不同GPU、不同推理框架之间存在明显性能差异。传统基于请求数的负载均衡方式，已经很难精准反映底层算力的实时状态，结果往往是部分节点过载、部分节点空转，资源浪费触目惊心。
因此，TBLB的核心理念是：不再只关注“有多少请求”，而是关注“这些请求会消耗多少算力”。传统SLB更像“平均分流”，而TBLB则是“算力感知的智能调度”。它能实时感知Token规模、GPU负载、KV Cache、队列长度等指标，并动态调整调度策略，将不同复杂度的任务分配到最合适的算力节点，避免资源空转或局部过载。
这背后折射出的，其实是AI基础设施逻辑的深刻变化。互联网时代，核心资源是带宽和连接；AI时代，核心资源变成了GPU算力与Token吞吐能力。AI竞争正在从“模型能力”逐步延伸到“推理调度能力”。未来企业真正需要解决的，不只是模型是否足够强，而是如何在复杂异构算力环境下，以更低成本、更高效率、更稳定的方式完成每一次Token计算。这才是TBLB方案的核心价值所在。
降本增效的数据验证
理论讲得再好，最终还是要看效果。F5披露的多个客户案例给出了实证：
在某汽车行业客户场景中，算力资源由6块NVIDIA A40与8块L20构成，在未增加任何算力成本的前提下，Token生成速度提升30.3%，端到端响应速度提升48%。在某运营商采用华&为Ascend 910B算力的环境中，并发用户数提升至少75%，Token生成速度提升达99%。在金融行业混合使用阿里平头哥PPU与NVIDIA H20的集群中，Token生成速度提升42%。
这些数据说明一个问题：TBLB方案能够在不增加额外算力投入的情况下，有效释放现有GPU的潜能。黄彦文特别强调了这一点——当前GPU迭代周期已从过去的2-3年缩短至12-15个月，企业面临巨大的资产折旧压力。如何提升既有GPU资源的利用效率，已经成为不容回避的关键问题。TBLB支持跨品牌、跨代际GPU的统一调度与协同使用，实测可将GPU利用率提升60%。
“创新中国，链接全球”的双引擎战略
在战略层面，F5中国今年的发展理念也从“创新中国，服务中国”升级为“创新中国，链接全球”。黄彦文介绍，F5已正式成立AI应用工程部，中国团队在其中占据关键地位。“正是客户价值的持续验证，推动相关能力从中国走向全球。”这句话的分量不轻。
围绕这一战略，F5明确了“本地AI赋能”与“支持企业出海”两大业务航道。一方面，围绕智能原生应用与AI推理场景强化本地能力建设；另一方面，聚焦新能源汽车、高端制造等重点产业链的全球化布局，提供覆盖多地域、多云环境的应用交付与安全能力。
说到底，AI的商业化落地，从来不只是模型参数的竞赛。当推理成为主战场，当Token成为新的计量单位，谁能更高效地调度每一次计算，谁就能在这场长跑中占据先机。TBLB的出现，或许正是那个关键的起跑信号。
Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。
Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境，集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。
Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境，基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。
Xcode 是苹果面向 Mac 提供的官方集成开发环境，将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中，适合开发与维护 iPhone、iPad、Mac、Apple Wa
JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境，可智能理解项目结构，提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。
PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境，可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。
JetBrains PyCharm 是面向 Python 开发者的集成开发环境，提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片，核心功能可免费使用。
IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境，重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具，并可借助插件扩展语言和框架支持。
Visual Studio Code 是微软提供的免费代码编辑器，支持 macOS，并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Pro Tools 是 Avid 推出的专业数字音频工作站，覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Docker Desktop 为 Windows 开发者提供集成式容器环境，内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件，可在本机完成镜像构建、容器运行、日志查看和资源管理。
Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境，以 IntelliJ IDEA 为基础，集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具，
WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索，并集成调试、测试、终端、Git 与常用前端工具，
PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境，提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序，
PyCharm 是 JetBrains 推出的 Python 集成开发环境，提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能，
JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境，提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目，
Visual Studio Code 是微软推出的免费代码编辑器，Windows 版集成智能补全、代码导航、调试、终端和版本控制，并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活，
REAPER 是 Cockos 推出的数字音频工作站，适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧，支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展，并提供完整功能的 60 天免费评估期。
Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站，提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理，
Pro Tools 是 Avid 推出的专业数字音频工作站，提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用，并提供免费入门版、订阅方案及永久授权选择。
Cubase 是 Steinberg 推出的数字音频工作站，提供 MIDI 编曲、多轨录音、音频编辑、虚拟乐器、效果处理、自动化、混音和母带输出工具。其 Pro、Artist 与 Elements 版本面向不同预算和制作规模，