展开菜单
首页 精品内容 本月促销 装机必备 Windows macOS软件 IOS软件 Android AI PDF教程 专题
全部分类

当前位置:

首页 > 硬件相关 > AI开始给自己写代码了,GPT-5.6重写内核,服务成本直降20%

AI开始给自己写代码了,GPT-5.6重写内核,服务成本直降20%

GPT-5.6一上线,接到的第一个大活儿,就是给自己的运行环境来了一次大翻修。 它自主重写、优化了OpenAI线上那套底层代码,也就是真正负责跑模型的生产GPU内核。 7月29日,OpenAI官方甩出一组数字: GPT-5.6 Sol参与的内核优化,让OpenAI对外的服务成本降了20%;推测解码的

GPT-5.6一上线,接到的第一个大活儿,就是给自己的运行环境来了一次大翻修。

它自主重写、优化了OpenAI线上那套底层代码,也就是真正负责跑模型的生产GPU内核。

7月29日,OpenAI官方甩出一组数字:

GPT-5.6 Sol参与的内核优化,让OpenAI对外的服务成本降了20%;推测解码的改进,让模型生成token的效率提升超过15%。

这次GPT-5.6动的不是一个跑在演示环境里的Demo,而是OpenAI正在线上跑的,每天承载十亿级用户请求的那套生产系统。

用OpenAI总裁Greg Brockman的话说:让GPT-5.6 Sol去提升生产服务效率,正是它又强又便宜的原因之一。

而OpenAI内部,早已形成一套完整的打法,Codex掌门人Tibo(Thibault Sottiaux)把它概括成两步:

第一步,训出一个足够强的模型;

第二步,用这个模型去把一切变得更好,包括运行它自己的基础设施、推理栈和内核。

20%是怎么省出来的?

这20%的服务成本,到底是怎么省出来的?

GPT-5.6 Sol通过Codex,接进了OpenAI的生产推理栈,碰的全是推理栈里最核心的几块:GPU内核、负载均衡、推测解码、KV缓存。

GPT-5.6在智能体框架、API编排、模型推理三层做优化,换来更少网络传输、更少CPU开销、更多GPU产出。

负载均衡,翻译成人话就是别让某几张卡忙到冒烟,而另外几张卡却只是闲着;

KV缓存,是把算过的中间结果存下来重复用,不做无用功;

推测解码,是让一个小模型先抢答、大模型只负责验收。答对了,一次就能多输出好几个字,不用像平常那样一个字一个字慢慢挤。

然后再看GPT-5.6 Sol干了什么。

它分析真实的生产流量,揪出以前被忽略的负载不均,测试新的路由策略;

它自主重写了用Triton和Gluon这两种GPU编程语言写成的生产内核,专门去找那些能预先算好、能跳过、能并行的活儿;

在推测解码环节,它针对配套的draft模型,设计并跑了数百次架构实验,还自己启动、盯着训练流程,遇到硬件故障和训练不稳定,自己主动介入。

这些环节一个个抠下来,最后就换来了开头那两个数字:服务成本降20%,token生成效率涨15%+。

其实早在7月9日GPT-5.6发布时,OpenAI就已透露端倪。

内部研究员已经在用它排查故障、优化训练系统、跑实验、解释结果,还专门给它设了KernelGen、NanoGPT、RSI Index这几项「自我改进」评测。

这次降本20%,意味着这些布局,第一次变成账单上实打实的数字。

比节省20%更重要的是一个闭环

真正重要的变化,是一个闭环跑通了。

分析流量、提出优化、写出代码、跑完实验、处理掉故障,再拿生产指标回来验证结果,现在这条回路的每一环,模型几乎都能参与。

一次任务里,模型不断「决策→调用工具→读取结果→再决策」,循环往复直到交付。

拿推测解码举例。

这个技术要配一个更小的draft模型,GPT-5.6 Sol针对这个draft模型,设计并跑了数百次架构实验,改尺寸、改结构、改特性。

数百次实验,过去这要靠一个稀缺的GPU工程师,凭着经验和直觉,一个配置一个配置地手工试,试上几个月。

配置空间太大,大到人根本试不完,只能靠粗糙的经验法则拍脑袋。

现在,模型能把这个「测量、优化、验证」的循环压到极短。于是,团队能探索更多想法,更快跟上不断变化的负载。

更关键的是,这个闭环,还会自己滚起来。

模型越强,越能把推理栈优化得越省;越省,同样的硬件就能服务越多请求;服务的人越多,OpenAI就能把更强的模型铺给更多的人用。

OpenAI的内部数据能佐证这个环转得有多快:

GPT-5.6内测阶段,每位活跃研究员的日均token输出,是GPT-5.5时代最高值的两倍以上;过去半年,用于内部代码推理的研究算力占比涨了100倍,内部智能体token用量涨了约22倍。

省下的每一分算力,最后都变成了让更多人能用上的智能。

AI开始自进化了吗?

那么,这到底算不算「AI开始自我进化」?

至少现在,还不算。

GPT-5.6 Sol优化的,是运行自己的软件、服务配置,还有辅助的draft模型。

没有证据表明它在线改动了自己的主体权重,也没有证据表明它能脱离工程团队,自己升级出下一代模型。

如果把权重比作模型智能的「货物」,内核和配置就是运货的卡车和路线。它这次优化的是运输,还没碰到货物。

因此,更准确地说这是「自优化飞轮」的早期形态,不是递归自我改进。

还有一点要注意。

官方这次用了「自主(autonomously)」来形容内核重写和部分实验,但不等于「完全无人参与」,目标由谁定、接进哪套生产系统、拿什么工具验证、怎么部署上线,这些环节都还牢牢攥在OpenAI的工程体系手里。

比如验证环节:模型写完的生产内核,要经过审核才能上线。

OpenAI专门搬出一个叫FpSan(浮点消毒器)的开源工具,检查这些内核的结构和数据流对不对。

自动验证体系跟不跟得上,才是「敢让AI写底层代码」的真正瓶颈。

往前看,OpenAI也一直在为RSI(Recursive Self-Improvement,递归式自我改进)铺路。

早在2月,GPT-5.3-Codex就被官方形容为「参与了自己的创造」;这一次,GPT-5.6 Sol又自主后训练了更小的Luna;在内部专门衡量自我改进能力的RSI Index上,它比GPT-5.5高出16.2分。

OpenAI内部RSI Index成本-得分曲线:GPT-5.6三档全面压过5.5、5.4,同等得分更省钱。

老对手Anthropic的一个判断更激进:

人类如今只对个位数百分比的方向性决策负责。

其联创Jack Clark更是称2028年底前出现完整的递归自我改进,概率超过60%。

飞轮是转起来了,但真正的「AI自己造AI自己」还在路上。

竞争轴变了:从谁GPU多到谁榨出更多token

这20%,意味着同样一批卡,OpenAI现在能多接两成的活。

它指向一个更大的变化。

过去几年,AI公司比的是谁买得起更多GPU。这套逻辑简单粗暴,也砸钱如流水。

但在一个算力永远不够、需求涨得比产能快的世界里,另一个关键变量已经浮出水面:同样一批卡,谁能榨出更多token?

推理效率,正在变成和芯片数量同样重要的筹码。

OpenAI自己已经用产品线投了票。

GPT-5.6这次一口气分成Sol、Terra、Luna三档,就是要主打一个卖点:同等智力,更少token。

效率,被摆到了和智能同样重要的位置。

而这一次,帮OpenAI的模型提升推理效率的,正是模型自己。

模型越强,越能优化推理栈;推理栈越高效,同样硬件就能服务更多token;成本一降,更强的模型又能铺给更多人用。

这个飞轮,OpenAI已经让它转起来了。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
硬件相关 AI
上一篇: OpenAI,开源了
相关文章 更多
精品专题 更多
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

PDF教程

PDF教程适合刚接触PDF文件的用户,本文整理PDF打开、编辑、转换、合并、压缩等常见基础操作。通过这些教程可以快速了解PDF文件怎么处理,解决办公、学习和资料科整理中的常见问题。使用极轻PDF可在线完成多种PDF操作,适合新手快速上手。

Mac软件 更多
灵活计算器
灵活计算器

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

图几
图几

图几是一款适用于 macOS 的截图、标注与美化工具,支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑,桌面或窗口内容一多时,管理起来会更省心。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Menuist
Menuist

Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具,主要用来补充新建文件、快捷导航等常用操作,让日常文件管理和访问路径时更高效、更顺手。

Mole
Mole

Mole 是一款专为 Mac 设计的深度清理优化工具,涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

WINDOWS 更多
Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

PinStack
PinStack

PinStack是一款轻量级的Windows平台剪贴板管理工具,优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Seer
Seer

Seer是一款在Win平台下的空格键功能增强效率工具,只需轻敲空格键,就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。