南宫娱乐相信品牌的力量-GPT

2026-08-09 13:51:51

首页财产ai正文 GPT-5.6本身优化本身实锤了,新的左脚踩右脚已经经呈现 OpenAI于最新技能陈诉中披露GPT-5.6介入优化自身运行情况,降低成本、晋升效率,人类仍有决议权,且AI好用则用量增长。 2026-07-31 12:57 ·微信公家号:量子位 henry henry AI投资人解读· OpenAI的GPT-5.6被投入真实出产情况,介入优化自身运行体系,使端到端办事成本降低20%,Token天生效率晋升15%以上。人类仍把握要害决议权并优化外部反复开消。内部测试时期,研究职员日均输出Token年夜幅增加,研究算力占比及Agent Token用量显著晋升。 · 模子彻底实现RSI尚需时日技能成长可能带来新危害。 总结:GPT-5.6揭示出强盛的自我优化能力,成本降低与效率晋升较着,利用量也显著增长,具备较年夜投资潜力,但需存眷技能成熟度与潜于危害。

OpenAI的RSI焚诀,它来了!

就于老黄开推摇旗叫嚣、呼吁开放权重以后,OpenAI也忽然Open了起来~

于最 新技能陈诉中,他们诚实交接了一部门RSI(AI递归自进化)心法:

让GPT-5.6左脚踩右脚,最先本身动手革新供本身运行的体系。

据陈诉吐露,GPT-5.6已经经被投入OpenAI的真实出产情况,用来阐发线上流量、调解哀求路由,甚至亲自下场改写底层Kernel、优化推测解码模子。

一套小连招下来,OpenAI的端到端办事成本降低了20%,Token天生效率也晋升了15%以上。

并且,值患上一提的是,于披露这套工程的五名作者里,还有有台甫鼎鼎的Triton之父Philippe Tillet。

2021年,OpenAI发布Triton 1.0时,方针还有是让不懂CUDA的人也能写出靠近专家程度的GPU步伐。

五年后,GPT-5.6已经经最先用Triton改写本身跑于GPU上的底层代码。

从教人类写Kernel,到让模子给本身改Kernel,味儿确凿愈来愈像RSI了。

(你别说,也难怪翁荔回老东家。弄RSI,还有患上于OpenAI呐)

0一、RSI焚决,先从底层优化最先

这件事之以是值患上存眷,就于在它已经经有了几分RSI的味道。

所谓RSI,也就是递归式自我改良,说白了就是:

让AI进入一个“改良AI”的反馈回路——这一轮能力变强以后,再反过来加快下一轮进级。

固然,GPT-5.6此刻还有远没有彻底实现GPT主动练习下一代GPT的RSI。

但它已经经最先介入优化本身的运行情况:模子不仅是被工程师部署及挪用的东西,也逐渐酿成了革新模子体系自己的工程师。

详细来讲,它干了四件事。

一、阐发OpenAI真正的出产流量。

GPT-5.6会寻觅差别呆板及办事节点之间的负载不均,并测试新的路由计谋,把哀求分配到更适合的位置。

二、重写及优化出产Kernel。

GPT-5.6会深切模子的forward pass,寻觅可以提早计较、省略或者并行履行的部门,再经由过程Codex改写出产情况中的Triton及Gluon Kernel。

三、优化本身的推测解码体系。

GPT-5.6为本身的draft model设计方案,并主动运行数百次试验,测试差别的模子巨细、布局及特性。

于练习历程中,它还有会连续监控试验,并于发生硬件妨碍或者练习不不变时自动参与。

四、针对于差别使命,本身寻觅最 优部署参数。

面临短对于话、长上下文、代码使命等差别负载,GPT-5.6会主动搜刮batching、sharding及KV Cache治理的更优组合。

四件事连起来,GPT-5.6介入的已经经再也不是某个伶仃的代码使命,而是一条真正的工程反馈回路:

不雅察出产体系、寻觅瓶颈、提出方案、运行试验、处置惩罚妨碍,再把有用改良部署回承载本身运行的体系。

0二、人类依旧站于圈里

固然,RSI也没那末快,人类依旧站于圈里,也就是human in the loop。

GPT-5.6虽然最先介入革新本身,但优化方针、东西权限、评测指标,以和代码可否进入出产情况,仍旧由人类决议。

并且,模子内部省完了,模子外面还有有年夜量反复开消。

好比,ChatGPT Work及Codex履行繁杂使命时,往往要不停履历:

模子思索—挪用东西—读取成果—继承思索。

一次用户哀求,暗地里可能轮回十几轮甚至几十轮。

如果一个使命需要挪用模子30次,每一次只分外华侈1秒,累计起来就是30秒。

上下文、东西申明及汗青成果也会于每一轮轮回中重复传输及计较。

为此,OpenAI搭建了一层由Rust编写的Agent Harness,毗连模子、东西及用户情况,专门削减Agent轮回里的反复事情。

这里最要害的有两项优化。

一、延迟发明:别一上来就把所有东西塞给模子

今天的Agent可使用年夜量东西、Skill、插件及自界说MCP,但单个使命凡是只需要此中很少一部门。

OpenAI再也不一最先就把所有仿单塞进上下文,而是于真正需要时,才向模子展示对于应东西。

东西返回的内容默许也被限定于1万Token之内,需要更多时,再由模子自动申请。

二、只追加、不回写:让Prompt缓存一直有用

Prompt缓存可以复用已经经计较过的上下文前缀,但条件是这段前缀必需原样不动。

是以,新的动静及东西成果只会接于上下文末尾,再也不插回旧内容;东西连结固定挨次,审批及权限设置则留到履行阶段处置惩罚。

如许一来,GPU可以直接复用此前的计较,只处置惩罚本轮新增的内容。

可以说,一次轮回可能只省一点,但当做千上万只Agent天天轮回几十轮,省下来的就再也不是一点。

以是,这轮效率优化实在来自两股气力:一边是GPT-5.6最先帮忙优化模子;另外一边,是人类继承替模子清算运行情况里的反复劳动。

人类依旧站于圈里,只是圈里的AI已经经最先自动拿起扳手了。

0三、AI越好用,用患上越多

除了了让GPT-5.6介入优化自身,OpenAI还有于陈诉中吐露了另外一个细节:

于GPT-5.6内部测试时期,每一名活跃研究职员的日均输出Token,跨越了GPT-5.5期间峰值的两倍。

已往半年,OpenAI用在内部编程推理的研究算力占比增加了100倍,内部Agent Token用量也增加了约22倍。

这组数字固然不克不及直接证实,OpenAI的研究速率也晋升了100倍。

但它至少申明了一件事:

AI一旦变患上更自制、更好用,它的用量不仅不会削减,反而会不停增长。

【本文由投资界互助伙伴微信公家号:量子位授权发布,本平台仅提供信息存储办事。】【免责声明】:本文不组成任何投资建议。市场有危害,投资需审慎。若有任何疑难,请接洽(editor@zero2ipo.com.cn)投资界处置惩罚。

-南宫娱乐相信品牌的力量

下载360浏览器