


继OpenAI之后,英伟达也采取了行动!如今,英伟达正式开源了其Harness——SoL-Pi。
该技术以Pi为基础平台,在此之上重新构建了一套Harness效率增强层,使AI能够实现自我迭代与优化。
在这套严格的自动化流程中,AI自身也扮演了研究员的角色。它们观察Agent如何工作,识别哪些步骤在无谓消耗Token,提出改进方案并修复漏洞,随后将方案送入测试环节。AI的整个搜索过程从152个候选方向起步,最终筛选出四种核心架构机制。
实际测试结果令人惊讶——Token消耗最高可节省64%,API调用成本骤降50%至54%。
GitHub传送门:https://github.com/NVlabs/SoL-Pi
在专业研究场景下,每小时可直接节省8.75美元至13.5美元。英伟达将这一节省AI成本的开关进行了开源。配置过程极为简便,仅需一行代码:「pi install git:github.com/NVlabs/SoL-Pi」,即可安装到现有的Pi上。
Codex高速运行,一半Token却在空转
在让AI递归改进自身之前,能否先让它降低自我改进的成本?Harness,作为模型工作时使用的整套运行框架,是目前最佳的解决方案。模型负责推理,而Harness则负责组织工具、上下文、执行反馈及任务流程,使模型能够读取文件、修改代码、运行测试,并根据结果持续行动。
同一个模型,置于不同的Harness中,其工作效率可能相差甚远。当前的问题在于,编程智能体的任务日益复杂。从补写几行代码,到跨仓库修复问题,再到长时间自主工作,单次任务可持续数小时。此时,一些平时不易察觉的Token浪费会不断累积。例如,修改文件后,明明下一步是运行测试,模型却仍需额外推理一轮;一个大文件早已读取完毕,后续请求却仍在反复携带它;几千行日志中,真正影响决策的可能只有几行,但昂贵模型却需从头阅读。
递归自我改进(RSI)同样无法避免这笔开销。AI每尝试改进一次系统,都要消耗Token,失败的方案也不例外。SoL-Pi的出现正是为了解决这一问题。最终结果显示,与基础Pi相比,SoL-Pi少用45%至49%的Token,成本降低约三分之一,平均得分保留约94%。与Codex、Claude Code原配的Harness相比,Token减少35%至64%,标价成本降低50%至54%。
如此惊艳的表现,SoL-Pi是如何实现的?这需要详细拆解其核心四大机制。
AI自我进化,四大招数登场
英伟达的流程最终保留了四种机制,它们避开主干,专门应对重复劳动。
第一层:动作融合,一次调用完成编辑与验证
Action Fusion直击两次工具调用之间多余的模型决策环节。在基础Pi的运行轨迹中,最常见的序列是修改文件、收到结果,然后再调用命令测试或构建。既然后续命令已明确,中间这轮模型的“一来一回”就有极大压缩空间。Action Fusion将一次编辑及其后续命令封装进同一个本地执行序列,Harness在底层完成修改、运行命令,再将合并后的结果一次性返回。测试照常执行,结果正常获取,但中间那轮模型请求被成功省去。
第二层:在线上下文压缩,按子任务动态核算成本
Online Context Compact解决的是“何时触发压缩”这一核心痛点。上下文越长,历史材料越易成为算力与资金负担。但压缩也有代价:重写上下文可能打断已有的KV-cache复用,需重新支付处理成本。SoL-Pi重构了判断时机,它将大任务拆分为子任务,每完成一步便重新评估。其核心逻辑在于精准计算:只有当“未来预计省下的开销”能覆盖“本次重写的成本”时,系统才执行压缩操作。
第三层:输出归档与索引,大块文件按需召回
ObservationPack专门处理大段工具输出造成的“重复计费”问题。一个大文件或超长结果,首次读取后若一直滞留在上下文里,后续每轮请求都会原样携带它,持续消耗缓存资源。SoL-Pi的做法是将完整内容归档到本地磁盘,上下文里只留一个稳定的短句柄和一小段摘录。模型需查阅细节时,直接根据索引按页取回。
第四层:小模型初筛日志,引入严格证据核验机制
Evidence-Preserving Reducer的核心是将长日志的第一遍阅读委派给成本更低的模型。构建和测试日志动辄上万字,真正影响下一步决策的往往只有几行报错。让前沿大模型每次通读全文成本极高;直接交给小模型总结又易引入幻觉。SoL-Pi在中间加了一道严格防线——证据核验。辅助模型读完日志后,必须输出一份紧凑的诊断回执。系统会拿着这份回执,逐条与归档的原始日志比对。只有严丝合缝对得上的原文,才会被放行交给前沿大模型,确保主模型只接收被证实的信息。
152个点子厮杀,只留下4个
为何是这4个机制?这得说到英伟达真正的野心——RSI(递归自我改进)。既然AI能改代码,也应能改造“生产AI的系统”。但RSI成本高昂,每次试错都要付Token费。于是英伟达调整目标:先别急着让AI更聪明,先让它更省钱。相比直接追分,Token效率更难作弊。刷任务分数易过拟合,给特定题目写规则即可;但删重复上下文、压缩工具输出、合并无效决策,这些优化能迁移至不同任务和模型。
于是,一条“Agent研究Agent”的流水线启动:团队先搭建535个可验证环境,再让AI提出152个优化方向,随后经三轮筛选——先用历史轨迹估算收益,没潜力的直接淘汰;再让AI自己改代码、跑实验,并由Reviewer Agent挑刺;最后冻结方案,在完全隔离的held-out任务上验真,能力不能掉,效率必须涨。152个想法,最终只存活4个,平均约40个才能出1个。SoL-Pi的核心方法也逐渐清晰:让AI大量提出假设,再自动实验、淘汰、验证,把真正有效的少数机制筛出来。
让RSI飞轮自己转起来
SoL-Pi背后,是MIT副教授、英伟达研究总监韩松掌舵的Efficient AI团队。对他们而言,SoL-Pi当前省下的Token开销不过是一个阶段性注脚。他们真正看重的,是这条“AI研究AI”的飞轮还能转多大。在官方项目主页中,团队还埋下了两个极具野心的长线伏笔:一个是“闭环预训练”(Pretraining the harness)。目前的535个环境仍为人工构建,未来将由Agent自己去全网收集任务、搭环境、验证、更新自己的harness。算力和环境多样性一旦提升,harness很可能也会跑出属于自己的Scaling Law。另一个是“效率复利”(Efficiency for efficiency)。用变省了的harness去跑规模更大、成本更低的自动研究循环,进而找出更高效的机制,形成成本压缩的复利效应。在这个飞轮里,人只负责在初期提供先验方向;一旦进入循环,从研究到验证全程零干预;等AI把机制跑通了,人再回来搞清楚AI到底发现了什么,并将机器生成的粗糙代码重构成符合工业标准的版本。现在,模型的Scaling Law各家还在争论不休;但Harness的Scaling Law,已经有人开始抢跑。而那个在赛道上狂奔的,是AI自己。
参考资料:
https://nvlabs.github.io/SoL-Pi/
https://github.com/NVlabs/SoL-Pi
https://x.com/MaxForAI/status/2098050525279478059
本文来自微信公众号“新智元”,作者:ASI启示录,编辑:桃子 摩西,36氪经授权发布。此外,相关技术细节和更多信息可通过访问开云网址获取。

评论 02