热点拆解 📅 2026-10-12 ✍️ MagicNetWorld 编辑部

递归自我改进(RSI)到底是什么:从 OpenAI 10 月 6 日公布的 722 篇数学手稿到 Novix 的协同进化闭环——为什么头部实验室都在押「AI 改进 AI」

RSI(递归自我改进)最近成了 AI 圈最热的缩写。OpenAI 在 2026-10-06 公布 722 篇由内部模型写出的数学手稿(这是发布说明口径;仓库现读为 719 篇),此前还让约 1 万个 agent 跑 88 小时攻下 Navier-Stokes 奇异性证明,随后再由另一个模型花 17 小时把它形式化成 Lean 并通过检查;Novix 则宣称把「协同进化式 RSI」做成了规模化闭环。但 OpenAI 自己写得很清楚:完全自主的 RSI「今天还没有发生」。本文把 RSI 从口号拆成四个可检验的工程条件——一个可自动执行的验证信号、一个可被程序编辑的自体、一条不会过拟合的选择规则、一个允许回退的停止判据——并用 AIDE²(8 天自主跑出 7 次自我改写、OOD 迁移成立、奖励作弊率 55% 降到 32%)、RRSI(正则化后 OOD 增益 +4.3 分、策略 token 少 30%)与 HCI(2026 年工具类 agent 只到 39.9 分)三份一手材料,把「AI 改进 AI」的复利项与天花板项分别算清楚。

递归自我改进RSIAI Agent验证与评测AI 安全

2026 年 10 月,AI 圈最热的缩写换了一个:从「AGI」换成了 RSI(Recursive Self-Improvement,递归自我改进)。触发它的是一串具体事件,而不是一篇愿景博文——OpenAI 在 10 月 6 日把 722 篇由内部前沿模型写出的数学手稿放进公开仓库(本文 2026-10-12 现读该仓库 README 时,目录里是 719 篇,这个差值本身值得单独说,见第十一节);更早的 9 月 8 日,它用一组约 1 万个并发 agent 跑了 88 小时,拿到一份 Navier-Stokes 奇异性证明,随后再由另一个模型花 17 小时把它形式化成 Lean 并通过检查(Quanta,2026-09-08);一家华人初创 Novix 则公开宣称已经把「协同进化式 RSI」跑进了规模化闭环(团队稿,2026-10-09;其规模与成效均为团队自报,口径见第十节与第十二节第 3 条)。

本文要回答的不是「RSI 会不会来」,而是三个可以动手算的问题:

  • RSI 到底在改进什么?「改进了改进过程本身」这句话,能不能写成一个可判定的条件?
  • 为什么头部实验室都把「验证信号」当成第一瓶颈,而不是把「模型更聪明」当成第一瓶颈?
  • 「AI 改进 AI」的复利账,究竟在哪一项上被扣住了?

按本站技术文章的惯例,本文按「先给直觉 → 符号约定 → 形式化 → 推导 → 工程含义 → 边界与未解 → 小结」的顺序走。凡引用他人结论处,一律标注一手来源(论文编号 / 官方发布页 + 日期);凡本文自己算出的数,一律单列在第十四节「本文自行推导」,只作量级一致性检查,不得当作官方数值引用。所有时间按北京时间(UTC+8)表述;arXiv 页面的版本日期沿用其记录的 UTC 日期,本文涉及的这些日期在 UTC+8 下同日,故未逐条折算。

一、先给直觉:RSI 不是「AI 变聪明」,而是「改进率本身能被改进」

先做一个反常识的观察。过去几年,模型能力的提升曲线一直是一条依赖外部投入的曲线:更多的数据、更大的集群、更多的人工标注、更多的人写评测。AIDE² 那篇论文开篇就把这个前提写成了自己的动机——「累计研发投入不断增加、回报却在递减」是一条长期趋势,而持续的自我改进正是对抗这条趋势的一条路(arXiv:2609.26457 摘要原话:a long-standing trend, in which increased cumulative spending on R&D yields diminishing returns)。换句话说,靠人往里砸资源这条路,边际收益是递减的。

RSI 想改的正是这个斜率。它的野心不是「让模型更聪明」,而是让「变聪明的速度」这个量本身变大。这两件事的区别,用一个类比最容易说清。

想象一间实验室。第 0 代:人做实验,人读结果,人决定下一步。第 1 代:人写了一套自动化脚本,脚本跑实验、人读结果。第 2 代:脚本不仅能跑实验,还能改自己的脚本——人只看结果报告。第 3 代:脚本开始改「它自己用来判断什么算好结果」的那套判据。到第 3 代,你会立刻感到不对劲:如果一个系统能改判定它自己好不好的标准,那它「变好」这件事就没有外部锚点了。

这三代对应三个不同的门槛,本文后面会一直用到这个划分:第 1 代只是自动化——判据在人手里,系统不改自己;第 2 代是普通自我改进——系统改了自己,但「怎么改」和「怎么算好」这两件事仍由人定死;第 3 代才是 RSI——提议策略与判据本身都开始被改动。下一小节先给一条不用推导的判据,第三节再把它写成可判定的条件。

RSI 的全部技术含量,就落在这个不安上。用一句话概括本文的立场:

RSI 不是一种「能力」,而是一种「闭环的闭合程度」;决定闭环能走多远的,不是被改进的那个模型有多聪明,而是那个用来判断「这次改得对不对」的信号有多硬。

这个立场不是我提出的。2026 年 7 月的一篇综述(arXiv:2607.07663,v2 修订于 2026-09-06)系统扫了 2024–2026 年的 1,250 篇 arXiv 论文后给出的核心结论就是这个:它把各种「自评、自奖励、自博弈、自演化」的说法收进一个两轴分类(改的是什么 / 闭环闭到什么程度),把可收敛、可评测、已经进入工业实践的有界自精炼(bounded self-refinement)与开放式的 RSI 分开,然后指出后者的瓶颈是「接地(grounding)要求、坍缩动力学、算力约束」这三件事——而这三件事恰恰都由评测信号决定。

1.1 热度从哪里来:四组可核的信号

「RSI 很热」这句判断必须落到具体事件上,否则无法复核。本文依据的是以下四组信号——它们都可以在 2026-10-12 这一天逐条点开核对:

  • 厂商侧:OpenAI 于 2026-10-06 放出内部模型产出的数学手稿(发布页 + 公开仓库),此前 2026-09-08 公布约 1 万个并发 agent 在 88 小时内拿到 Navier-Stokes 奇异性的 Lean 证明。
  • 产品侧:Novix 于 2026-10-09 前后发布团队稿,宣称「协同进化式 RSI」已经进入规模化运行。
  • 论文侧:2026 年 7–9 月集中出现一批以 RSI 为主题的论文——综述 arXiv:2607.07663、路线图 arXiv:2609.11873、AIDE²(arXiv:2609.26457)、RRSI(arXiv:2609.24972)。
  • 治理侧:OpenAI 的政策文明写「完全自主的递归自我改进今天还没有发生,除非且直到能够安全地做到,否则不应追求」,并要求强制性的、基于能力的国家监管。

四组信号指向同一件事:实验室开始把「改进过程本身」当成可以工程化的对象,而不再只是把模型做大。

1.2 「有界自精炼」与「RSI」的差别,一条判据

很多人把这两件事混着说。它们的差别可以压缩成一条判据:

  • 有界自精炼:系统改的是「这次任务的输出」,或者改的是系统但判据与提议策略都不变。判据在外部——你一眼能看出这次答案是不是更好。它是最常见、也已经进入工业实践的那一类。
  • RSI:系统改的是「产生输出的那个系统」,并且「怎么改」与「怎么算好」这两件机制本身也在变(第三节会把这个条件写成式子)。判据必须同时回答两件事:这次改动是不是真的让系统更强?以及,这套判据本身下一次还成立吗?

第二条才是难的那一条。2026 年 9 月的一篇路线图论文(arXiv:2609.11873,v3 修订于 2026-09-22)给了一个我认为最清楚的正式定义,本文后面全部沿用它的口径:

RSI 定义(arXiv:2609.11873 §2.2.2):一个智能系统通过与任务、环境或其他智能体的持续交互,把获得的经验与反馈自主地转化为对自身的持久改变(例如模型参数、agent 的 harness、改进策略),并且这些改变能够进一步影响「后续自我改进被产生、被评价、被选择、被固化」的机制。

定义里有一个不起眼但很关键的词:持久(persistent)。这把它和「会话内的临时适应」切开了——提示词的临时改写、一次性的上下文拼接,都不算 RSI,因为它们不会在下一次交互里自动继承。定义里另一个词是自主(autonomously),这是程度问题而不是开关问题。路线图论文把它拆成一个五级阶梯:L1 改进执行自主 → L2 改进策略自主 → L3 经验获取自主 → L4 环境适应自主 → L5 递归元改进(诊断改进过程自身的局限、修正它,并把已验证的改动传给后继者)(arXiv:2609.11873 摘要与 Figure 8)。

二、符号约定与定义

为了让后面的推导不糊,先把符号钉死。全文只用一个系统做例子:一个AI 研究 agent(它自己写代码、跑实验、读结果),这也是 AIDE²、RRSI、以及 OpenAI 那些数学 agent 的共同形态。

符号含义备注
sts_t第 tt 轮的自体(self):包括 harness、提示词、控制流、工具集、记忆与检索策略本文默认骨干模型权重冻结,只改 harness;改权重的场合单独说明
θ⋆\theta^\star我们真正关心的那个目标:系统在未被优化的分布上的真实研究效率不可直接观测,只能被代理量逼近
g(⋅)g(\cdot)评测给出的代理分数(在选定任务集上测得)可观测,但与 θ⋆\theta^\star 有偏差
nn评测的任务数决定测量噪声
σ\sigma单任务分数的标准差与任务难度分布有关
ε\varepsilon一次改动希望被认定的最小有效增益决定需要多大的评测集
ηt\eta_t第 tt 轮的改进率:这一轮相对上一轮带来的相对能力增益RSI 的关键是让 ηt\eta_t 自己也能被改进
qtq_t第 tt 轮验证信号的质量用信息量或可靠度刻画
BtB_t第 tt 轮可动用的算力预算固定预算是对比公平性的前提

方向说明:本文属于「热度拆解」方向——解读当前 AI 圈最热的一条技术叙事(AI 改进 AI)。四组热度信号及其逐条链接见前面的「1.1 热度从哪里来」,为避免重复,本文不在此再次罗列。

三、形式化:把一个闭环写成一个算子

把「闭环」写成算子,第一个好处是能看出哪一环缺失时闭环就断了。

设自体空间为 S\mathcal{S},改进算子为 Imp\mathrm{Imp},验证信号为 VtV_t。一轮循环是:

st+1  =  AcceptVt(  st,    Proposeπt(st,  E)  )s_{t+1} \;=\; \mathrm{Accept}_{V_t}\Big(\; s_{t},\;\; \mathrm{Propose}_{\pi_t}\big(s_t,\; \mathcal{E}\big) \;\Big)

其中 E\mathcal{E} 是任务族与环境,πt\pi_t 是提议策略(它决定「往哪个方向改」),AcceptVt\mathrm{Accept}_{V_t} 是一个只依赖验证信号 VtV_t 的接受算子:它要么采纳候选 st+1s_{t+1},要么退回 sts_t。

这个式子里最容易被忽略的是 πt\pi_t 和 VtV_t 都是自体的函数。把它们写出来:

πt=π(st),Vt=V(st)\pi_t = \pi(s_t), \qquad V_t = V(s_t)

于是「RSI」的定义性条件可以写成一个二阶条件:

  RSI  ⟺  (πt+1≠πt)  ∨  (Vt+1≠Vt)  \boxed{\; \mathrm{RSI} \iff \big(\pi_{t+1} \neq \pi_t\big) \;\lor\; \big(V_{t+1} \neq V_t\big) \;}

读法:普通自我改进只让 ss 变;RSI 要求提议策略或验证机制本身也在变,也就是上面的   ⟺  \iff 条件成立。这正是路线图论文说的「改变能够影响后续改进被产生/评价/选择的机制」,也对应它阶梯里的 L5(递归元改进:诊断改进过程自身的局限,修正它,并把已验证的改动传给后继者)。

这个条件立刻带来一个坏消息,也是第一节那个不安的准确版本:

若 Vt 由 st 自身产生,则「V 变好」与「真变好」不可区分\text{若 } V_t \text{ 由 } s_t \text{ 自身产生,则「}V \text{ 变好」与「真变好」不可区分}

后面的第五节会把这个直觉变成一个信息量不等式;至于为什么形式验证是目前最强的那一档、而不是不等式的「唯一出口」,那是第七节的层级与其经验依据。

flowchart TD
  Env["任务族与环境:可自动执行的检查"] --> Inner["内环:任务型 agent 在固定预算下求解"]
  Inner --> Outer["外环:提议器改写 agent 自身代码"]
  Outer --> Cand["候选自体"]
  Cand --> Gate{"隐藏评测测得的增益是否越过噪声阈值"}
  Gate -->|接受| NewSelf["新自体成为下一轮编辑对象"]
  Gate -->|拒绝或回退| Outer
  NewSelf --> Inner
  NewSelf --> Meta["改进改进过程:提议策略、评测器、记忆"]
  Meta --> Outer

这张图说明了什么:图里那条从「新自体」经「改进改进过程」回到「提议器」的回边,就是 RSI 与普通自动优化的分水岭。AIDE² 论文里把它写成两个嵌套的搜索:内环是任务 agent 在固定预算下求解,外环是「改写研究 agent 本身」的搜索(arXiv:2609.26457 §2.1,Figure 1 的嵌套树搜索)。注意图里有两个「闸门」位置:内环的评测决定单次任务分,外环的隐藏评测决定要不要接受这次自我改写。两个都用同一个任务族,但评测集不同——这是防过拟合的第一道防线,也是第七节的主题。

3.1 这个式子的四个位置,对应四个会出问题的地方

  1. Propose\mathrm{Propose}(改什么)——如果提议只能改提示词,闭环的天花板就被提示词的上限锁死;AIDE² 与 RRSI 都在这一环选择改代码(harness 是可版本化、可回退、可 diff 的)。
  2. E\mathcal{E}(在哪测)——任务族决定了你能测出什么样的改进;任务族太窄,测出来的只是记忆能力。
  3. VV(凭什么算好)——它落在验证层级(第七节)的哪一档,决定了闭环能闭合到什么程度。
  4. Accept\mathrm{Accept}(要不要留下)——没有回退能力时,这套循环会把噪声稳定地搬进自体,越跑越偏。

四、推导一:验证信号的噪声,决定了你能接受多小的改进

先做最简单也最容易被跳过的一步:接受判据的统计性。

外环每提出一个候选 s′s',就要在评测集上测它相对当前自体的增益。设单任务分数是随机变量,方差为 σ2\sigma^2,评测集有 nn 道题,那么测得平均增益 g^\hat{g} 的标准误是:

SE(g^)  =  σn\mathrm{SE}(\hat{g}) \;=\; \frac{\sigma}{\sqrt{n}}

要让「接受」这个动作在显著性水平 α\alpha 下可靠,测得的增益必须越过阈值:

  g^  >  z1−α σn  \boxed{\;\hat{g} \;>\; z_{1-\alpha}\,\frac{\sigma}{\sqrt{n}}\;}

把它反过来解,就得到「想认出 ε\varepsilon 这么小的改进,评测集至少要多大」:

n  ≥  (z1−α σε)2n \;\ge\; \left(\frac{z_{1-\alpha}\,\sigma}{\varepsilon}\right)^{2}

这个式子是整篇 RSI 讨论里最实用的一条。它有三个直接推论:

推论 1(评测集是硬成本)。 增益每缩小一半,评测集要扩大四倍。而 RSI 的每一轮都要重跑一遍评测集——所以评测成本会随轮数线性、随精度平方增长。这解释了为什么所有认真的 RSI 实验都强调「固定评测预算」:AIDE² 的摘要里明确写「每轮改写只在改进了隐藏评测结果后才被接受」,正文进一步说明「每个内环 agent 都在固定预算下评测,因此测得的增益反映的是算法更好,而不是多花了算力」(arXiv:2609.26457 §3.2)。

推论 2(噪声会伪装成进步)。 如果为了省钱把 nn 压小,阈值 SE\mathrm{SE} 就抬高,但更糟的是:只要允许反复试验,噪声必然会被挑中。跑 kk 个候选、取分数最高的那个,期望增益大约是 σ2ln⁡k/n\sigma\sqrt{2\ln k / n} 量级(极值统计的标准结果)——这个增益与候选是否真的更好无关。这就是「自证循环」在统计层面的样子,综述把它列为 RSI 的头号失败模式之一(arXiv:2607.07663)。

推论 3(为什么必须要 OOD 集)。 上一条的对策是把「选择用集合」与「判据用集合」分开。实测证据在 RRSI 那篇里:该论文指出这类递归演化会「通过记住训练任务而过拟合,在分布内表现大幅提升,却在分布外基准上缩水甚至消失」(arXiv:2609.24972 摘要,本文引用其 v3,2026-10-04 修订)。

这里必须停一下,做一个口径提示——RRSI 的数字在两个版本里不一样:它的 v2 摘要写的是「演化集上最多 +14.1 分、五个 OOD 基准上最多 +4.7 分」,而 v3(2026-10-04)写的是「演化集上最多 +6.0 分、五个 OOD 基准上最多 +4.3 分,并且策略 token 比未正则化演化少 30%」。本文一律采用我实际打开并读到的 v3:+6.0 / +4.3 / 少 30% 策略 token。看到两个数字时不要拼成一个(把 v2 的分布内增益配 v3 的 OOD 增益),那是最典型的口径混用。

4.1 分步展开:一次自我改写要被接受,完整算一遍

把第四节的阈值走一遍,每一步的假设都写出来,便于读者复核。

  1. 第 0 步·定标尺:把评测分数归一化,使「单任务得分的均值」就是我们要的增益。归一化后设单任务标准差 σ=1.0\sigma = 1.0——这是最保守的取法,真实评测里任务间方差往往更大。
  2. 第 1 步·定最小有效增益:声明「小于 ε\varepsilon 的改进不值得接受」,因为接受一次改动本身会带来维护成本。取 ε=0.02\varepsilon = 0.02,即 2 个百分点。
  3. 第 2 步·定显著性水平:取 α=0.05\alpha = 0.05,对应单侧分位 z1−α≈1.645z_{1-\alpha} \approx 1.645。
  4. 第 3 步·算评测集下界:由 n≥(zσ/ε)2n \ge (z\sigma/\varepsilon)^{2} 得 n≥(1.645/0.02)2≈6,765n \ge (1.645/0.02)^{2} \approx 6{,}765 道题。
  5. 第 4 步·回代验算:在 n=6,765n = 6{,}765 下,SE=σ/n≈1/82.2≈0.0122\mathrm{SE} = \sigma/\sqrt{n} \approx 1/82.2 \approx 0.0122,接受阈值 z⋅SE≈0.020z \cdot \mathrm{SE} \approx 0.020,与第 1 步设定的 ε\varepsilon 自洽——这一步只是为了确认前三步没算错。
  6. 第 5 步·把「多候选」算进去:如果一轮里试了 k=20k = 20 个候选,按极值统计,即使全部是噪声,最大者的期望值也约为 σ2ln⁡k/n≈2×2.996/6765≈0.0298\sigma\sqrt{2\ln k / n} \approx \sqrt{2 \times 2.996 / 6765} \approx 0.0298——已经越过刚才那条阈值。
  7. 第 6 步·修正:把「选择」算进假设检验。三条可行修正:把阈值按候选数上调(Bonferroni 的做法是把显著性水平除以候选数,也就是每次判据都更严),把 kk 固定为 1(一次只提一个候选),或者把选择集与判据集彻底分开。
  8. 第 7 步·回到工程:这三条修正正是 AIDE² 与 RRSI 的实际做法——AIDE² 用隐藏评测(候选从未见过判据集),RRSI 用提议预算退火(限制单个候选能捆绑的改动数量,等于同时压住了候选自由度与有效 kk)。

这一节想让你记住的一件事:「接受一次改进」不是拍脑袋,而是一次假设检验;训练集、选择集、判据集不分开,噪声就会被稳定地伪装成进步。

五、推导二:验证层级——为什么「自评」是天然最弱的信号

现在把「信号够不够硬」从统计问题升级成信息问题。

设 θ⋆\theta^\star 是真实目标(未被优化的分布上的真实研究效率),yverifyy_{\text{verify}} 是验证信号给出的观测。任何基于 yverifyy_{\text{verify}} 做出的改动,都不可能携带关于 θ⋆\theta^\star 的、超出 yverifyy_{\text{verify}} 本身所含的信息——这是数据处理不等式的直接后果:

  I(St+1;θ⋆)  ≤  I(yverify;θ⋆)  \boxed{\; I\big(S_{t+1};\theta^{\star}\big)\;\le\; I\big(y_{\text{verify}};\theta^{\star}\big)\;}

用大白话说:自我改进不会凭空创造关于「什么才是真的更好」的信息;它只能搬运验证信号里已有的信息。 这条不等式解释了 RSI 讨论里相当一部分看似神秘的失败模式。但要提醒一句:它对任何验证信号一视同仁——它只说明「信号里没有的信息拿不到」,并不能单独推出「哪一档信号更好」。后者是本节末尾那条经验规律。

它还有一个推论。如果验证信号 yverifyy_{\text{verify}} 由自体自己生成(自评),那么随着自体被优化,yverifyy_{\text{verify}} 会越来越贴合当前自体的偏见,而它关于 θ⋆\theta^\star 的信息量并不会同步增长——在这个附加前提下,「自评分数上升」与「真实能力上升」之间的相关性才会随轮数衰减。综述把这类后果命名为自证循环与模型/多样性坍缩,并把「信号落在层级哪一档」当作实测改进强度的指示器(arXiv:2607.07663)。

这就是为什么「验证信号」会形成一个层级。综述把评测信号从强到弱排成一条线,并给出了一个可检验的经验规律:实测到的自我改进强度,大致跟着这条层级走(arXiv:2607.07663 摘要原话是「demonstrated self-improvement strength tracks this hierarchy」)。本文把它整理成第七节的对照表(第五节只留这条结论)。

顺带说一句:这条信息不等式的现实意义,在 OpenAI 那批数学手稿里体现得最直白。那批结果里,能被机器逐行检查的部分(Lean 形式化)是唯一无争议的部分——仓库 README 明写「这个集合包含处于不同验证阶段的结果,并非全部都有 Lean 形式化」「部分未形式化的结果可能存在问题,我们会尽快修正」(openai/math 仓库 README,本文 2026-10-12 读取)。先把信号做到机器可判,再谈自我改进——这就是 RSI 工程化的第一性原理。

5.1 这条不等式为什么成立:三步

三个概念的白话版:互信息=「知道 Y 之后,对 X 的不确定性减少了多少」;条件独立=「给定某个量之后,另两个量再无关联」;数据处理不等式=「对数据做任何加工,都不会凭空增加信息」。术语表里也补了对应条目。

  1. 第一步(记号):把「自体的改动方向」记作随机变量 Δ\Delta。它由验证信号 VV 的输出决定,因此给定 yverifyy_{\text{verify}} 之后,Δ\Delta 与真实目标 θ⋆\theta^{\star} 条件独立,即 Δ⊥θ⋆∣yverify\Delta \perp \theta^{\star} \mid y_{\text{verify}}。
  2. 第二步(链式法则):把三者写进同一条链式展开,得 I(Δ,θ⋆;yverify)=I(yverify;θ⋆)+I(Δ;θ⋆∣yverify)I(\Delta, \theta^{\star} ; y_{\text{verify}}) = I(y_{\text{verify}} ; \theta^{\star}) + I(\Delta ; \theta^{\star} \mid y_{\text{verify}});由第一步的条件独立,第二项为 0。
  3. 第三步(数据处理不等式):改动后的自体 St+1S_{t+1} 是 (Δ,yverify)(\Delta, y_{\text{verify}}) 的函数,故 I(St+1;θ⋆)≤I(Δ,θ⋆;yverify)=I(yverify;θ⋆)I(S_{t+1} ; \theta^{\star}) \le I(\Delta, \theta^{\star} ; y_{\text{verify}}) = I(y_{\text{verify}} ; \theta^{\star})。得证。

这一节想让你记住的一件事:这三步里没有用到任何关于模型能力的假设。再强的模型,也不能从一条坏信号里榨出它不含有的信息。

六、推导三:复利、递减收益,与「还有多少空间」

前五节回答了「能不能改进」,接下来回答「能改进多久」。

把能力曲线写成相对增长率的形式。设第 tt 轮的能力(用真实研究效率衡量,不是代理分)为 CtC_t,改进率为 ηt\eta_t:

Ct+1  =  Ct (1+ηt)C_{t+1} \;=\; C_t\,\big(1+\eta_t\big)

若 ηt≡η\eta_t \equiv \eta 是常数,这是指数增长——听起来很美,但它解释不了真实曲线,因为真实曲线是递减的。递减从哪来?两种模型:

模型 A(收益递减):每轮能拿到的绝对增益在收缩。设 ΔCt=Ct+1−Ct=βtΔCt−1\Delta C_t = C_{t+1}-C_t = \beta_t \Delta C_{t-1},则 βt<1\beta_t<1 就是递减。此时相对改进率 ηt=ΔCt/Ct\eta_t = \Delta C_t / C_t 会更快地衰减,因为分母在变大。

模型 B(RSI 的抵抗):改进率本身可以被改进。写成

  ΔCt  =  βt ΔCt−1,βt+1  =  βt⋅(1+μt)  \boxed{\;\Delta C_t \;=\; \beta_t\,\Delta C_{t-1}, \qquad \beta_{t+1} \;=\; \beta_t \cdot \big(1 + \mu_t\big)\;}

μt\mu_t 是「改进率的改进率」。RSI 成立的判据不是 ηt>0\eta_t>0(那是普通优化),而是 μt>0\mu_t>0——即系统能让自己越来越会改进自己。 注意这与第三节的二阶条件完全同构:一个是说状态在变,一个是说变化率的生成机制在变。

现在关键问题变成:μ\mu 能有多大?2026 年 9 月那篇路线图论文给了一个很有用的度量工具 HCI(Headroom-Closed Index,余量闭合指数),用来回答「每个领域还剩多少空间」。它的构造是(arXiv:2609.11873 v3,公式 2):

Hm,b,h  =  100×sˉm,b,h−Fb,0100−Fb,0H_{m,b,h} \;=\; 100 \times \frac{\bar{s}_{m,b,h} - F_{b,0}}{100 - F_{b,0}}

其中 Fb,0F_{b,0} 是该基准进入数据集的头一年里,模型的 90 分位分数。于是 H=0H=0 表示「停留在进入年的前沿」,H=100H=100 表示满分。它对自报数值额外乘 0.75 做敏感性压低(原文:multiply first-party values by an additional factor of 0.75),这是个诚实的做法——把厂商自报的结果打个折再进池。

论文报出的 2026 年 HCI(一手数字,直接引用):高等数学 86.4、研究生水平科学 85.8、广博知识 77.2、法律推理 64.5、多模态推理 62.2、前沿学术广度 60.4;而交互类能力明显更低——软件工程 52.6、搜索与终端 agent 56.8、工具类 agent 只有 39.9(对照:领先的网络安全 agent 轨迹达 91.9)。

再看年度增量,这才是判断「是不是在减速」的关键:广博知识连续三次年度增量为 +32.8 / +26.9 / +17.6(稳而慢地放缓;原论文只写 three annual transitions,未逐年标注起点年份);法律推理从 2024 年的 +48.2 掉到 2025 年的 +11.4、2026 年的 +4.9;多模态推理 2025 年 +59.7,2026 年只剩 +2.5;软件工程 2025 年 +40.8,2026 年 +11.9。唯一逆势加速的是高等数学:+32.8(2025)→ +53.6(2026)。

这组数字直接解释了为什么 OpenAI 的数学手稿会引爆 RSI 话题:在被验证信号锁得最死的那个领域(数学),你既看到了最大的余量,也看到了唯一在加速的增量。 而这恰恰是验证层级(第五节)给出的预测——信号越硬,闭环越能转。

论文还给了「如果 RSI 真能持续,会怎样」的示意性外推(公式 4,原文明确标为 illustrative):

Rd  =  100−0.22 (100−Td,2026)R_d \;=\; 100 - 0.22\,\big(100 - T_{d,2026}\big)

等价的增益形式是 Rd−Td,2026=0.78 (100−Td,2026)R_d - T_{d,2026} = 0.78\,(100-T_{d,2026})(这个 0.78 与 0.22 互为补数,可作自检,见第十四节)。按它算:网络安全 91.9 → 98.2;软件工程 52.6 → 89.6;搜索与终端 agent 56.8 → 90.5;工具类 agent 39.9 → 86.8。

🚨 口径提醒(本文全篇最需要读者看清的一处):上面的 RdR_d 是论文的示意性外推,不是预测、不是实测、也不是承诺——论文自己把它标为 illustrative,并说明那张图里带斜线填充(hatch)的区域只是表达「余量大的领域受 RSI 影响更大」这一关系(该图为论文 Figure 3,本文未转载)。把 86.8 当成「工具 agent 很快会到 86.8 分」是彻底的误读。 本文引用它,只是为了说明「余量分布不均匀」这个定性结论。

6.1 两种递减模型的判别

要判断一个系统更接近模型 A(收益递减)还是模型 B(改进率本身在被改进),只需要看它公布的年度增量序列:

  1. 若增量序列单调收缩,并且相对增长率也在收缩,那多半是模型 A 在起作用;
  2. 若增量序列本身在扩大——像高等数学从 +32.8 到 +53.6 那样——则存在模型 B 的成分,即「改进方式本身被改进了」;
  3. 但单个领域的一次加速不足以判定全局 RSI 成立:不同领域的验证信号强度不同(第七节对照表),加速可能只来自「该领域的信号恰好足够硬」。

七、验证层级对照表:从形式验证到自评

第五节留下的那条结论(信号越硬、闭环越敢闭合),在这里展开成一张对照表。它把「信号有多硬」按可替代人类判断的程度排序——这是综述最有用的一个产出,因为每一轮自我改进,本质上都是一个「某种信号可以替代人类判断」的声明(arXiv:2607.07663 摘要)。

档位验证信号典型形态为什么排在这里在 RSI 里的作用
最强形式验证Lean/Coq 等证明检查器、类型检查、SMT 求解判定是可机检的:答案对错不依赖任何模型的判断唯一能支撑「完全闭合」的档位;OpenAI 数学手稿的争议最小部分正是 Lean 形式化的那部分
强执行与环境反馈单测通过、编译通过、仿真收敛、真实系统指标信号来自系统外部,伪造需要真的把东西跑通AIDE² 的内环评测;Novix 的「题方保留测试集」
中过程奖励模型 / 判据模型PRM、rubric 打分器、critic依赖一个被训练过的模型,会与主模型共享偏见RRSI 的 selector 里那个 critic 就属于这一档
弱LLM 评审用另一个大模型当裁判便宜、通用,但两个模型可以互相背书常用于首轮筛选,不宜做最终接受判据
最弱内在自评系统给自己打分、自我反思无外部锚点;优化压力会直接把分数推高综述指出的自证循环与坍缩,主要就来自这一档被当成最终判据
flowchart LR
  F["形式验证:可机检的证明与类型"] --> X["执行与环境反馈:跑得过才算"]
  X --> P["过程奖励模型与判据模型"]
  P --> J["LLM 评审"]
  J --> S["内在自评:无外部锚点"]

这张图说明了什么:箭头方向就是「可靠性衰减」的方向。左边是锚在物理世界或数学公理上的信号,右边是锚在模型自己身上的信号。RSI 的工程化路径,本质上就是把接受判据尽量往左推——推得越左,闭环越敢闭合。反过来说,一个系统如果宣称自己在自我改进,但你查不出它的接受判据落在哪一档,那就等于不知道它是不是在自证循环。

八、推导四:过拟合与 Goodhart——为什么演化必须装正则

第四节留下了推论 3:在「选择用集合」上测出的增益,可能只是记住了这个集合。第八节把它算成一笔账。

设演化集合上测得的代理增益为 g^sel\hat{g}_{\text{sel}},真正关心的未优化分布上的增益为 gOODg_{\text{OOD}}。过拟合缺口定义为:

Gap  =  E[g^sel]  −  E[gOOD]\mathrm{Gap} \;=\; \mathbb{E}\big[\hat{g}_{\text{sel}}\big] \;-\; \mathbb{E}\big[g_{\text{OOD}}\big]

这个缺口不可能靠「多跑几轮」消掉,因为它随选择压力增大而增大:每一轮你都在以选择集为裁判筛掉不涨分的候选,等于在主动挑那些「恰好记住这个集合」的候选。这正是 RRSI 那篇论文的出发点——它的摘要第一句就是「递归演化可能通过记住训练任务而过拟合,表现出很大的分布内增益,而这些增益在分布外基准上缩水甚至消失」(arXiv:2609.24972 v3)。

RRSI 的做法不是换一个更大的集合(那是钱的问题),而是给演化本身装三道正则,其中两道非常值得记:

  1. 提议端的预算退火(temporally annealed budget):限制单个候选一次能捆绑多少处改动。这看起来很反直觉——一次改得越多,看起来越可能提升——但它压制的正是「一次性往选择集上叠很多小补丁」这种高过拟合风险的改动。改动越少越难「拼」出一个只对选择集有效的组合。
  2. 按演化历史鼓励未探索轨迹:提议器要参考它已经试过什么,避免在同一个局部反复微调(多样性坍缩的成因之一)。
  3. 选择端配一个 critic 与一个 pruner:critic 专门筛掉「只对某个基准有效」的提案;pruner 砍掉太小、太贵、或已经没用的改动。三者的共同目标是让可复用的机制胜过基准专用技巧。

结果(一手数字,v3):在横跨编码、agent 工作区与工程设计任务的 8 个基准上,RRSI 在演化集上最多 +6.0 分,在五个分布外基准上最多 +4.3 分,同时产出的 harness 在策略 token 上比未正则化的演化少 30%。

这里最值得盯的其实不是 +6.0,而是第三个数字:一个自我改进出来的系统,如果每轮都要多烧 30% 的 token 才维持同样的分,那它的「改进」实际上是在转移成本。在 RSI 里,效率与能力是同一个指标的两面——AIDE² 那句「固定评测预算下测得的增益才反映算法更好,而不是多花了算力」(arXiv:2609.26457 §3.2)讲的是同一件事。

8.1 过拟合缺口的一个可算版本

设选择集上每个候选的测得分数等于真实值加噪声:g^=g+ϵ\hat{g} = g + \epsilon,ϵ∼N(0,σ2/n)\epsilon \sim \mathcal{N}(0, \sigma^{2}/n)。演化按 g^\hat{g} 挑最优,于是:

  1. 被选中的候选满足 g^sel=max⁡ig^i\hat{g}_{\text{sel}} = \max_i \hat{g}_i;
  2. 它真实增益的期望是 E[gsel]=E[g^sel]−E[ϵsel]\mathbb{E}[g_{\text{sel}}] = \mathbb{E}[\hat{g}_{\text{sel}}] - \mathbb{E}[\epsilon_{\text{sel}}];
  3. 而 kk 个候选里最大者的噪声项期望为正,量级约 σ2ln⁡k/n\sigma\sqrt{2\ln k / n};
  4. 于是缺口的下界是

Gap  =  E[g^sel]−gOOD  ≥  σ2ln⁡kn  +  (gsel−gOOD)\mathrm{Gap} \;=\; \mathbb{E}[\hat{g}_{\text{sel}}] - g_{\text{OOD}} \;\ge\; \sigma\sqrt{\frac{2\ln k}{n}} \;+\; \big(g_{\text{sel}} - g_{\text{OOD}}\big)

读法:缺口由两部分叠加——左边是「选择噪声」,右边是「选择集与目标分布之间的真实距离」。RRSI 的三道正则里,提议预算退火压的主要是第一部分(同时降低有效 kk 与单个候选的改动自由度),critic 与 pruner 压的主要是第二部分。

九、推导五:并行的墙钟账——1 万个 agent 的 88 小时说明了什么

OpenAI 那次的数字很抓眼球:约 1 万个并发 agent(这是并发规模)、88 小时、近 500 万条消息(这是通信量)、全部被尝试问题合计约 3000 亿 token。消息量与 88 小时出自 Quanta(2026-09-08);token 数出自 PRESS Insider 转述的 OpenAI 发布口径(2026-09-09)。但把它当「AI 用 88 小时做完了人类几年的事」来读,会漏掉它真正的结构。

先摆事实(一笔一手账):

  • 那次实验约在 2026-09-01 启动;先派近 100 个 agent 攻 Euler 方程,约 50 小时得到「无外力 Euler 方程会出现奇异性」的反证;
  • 随后把兵力集中到 Navier-Stokes,最终那个组是约 1 万个并发 agent,88 小时后得到奇异性证明;
  • 该组(Navier-Stokes 组)自己交换了约 270 万条消息、产出约 1300 亿输出 token(PRESS Insider,2026-09-09);
  • 全部被尝试问题合计交换约 490 万条消息、约 3000 亿 token(口径同上;Quanta 把这句写作「近 500 万条消息」);
  • 拿到证明后,另一个模型(GPT-6 Astra)又花 17 小时把它形式化成 Lean 并检查。

现在算一笔并行的账。用 Amdahl 律的墙钟形式:

Twall(P)  =  WparP  +  Wser,S(P)  =  1(1−p)+p/PT_{\text{wall}}(P) \;=\; \frac{W_{\text{par}}}{P} \;+\; W_{\text{ser}}, \qquad S(P) \;=\; \frac{1}{(1-p) + p/P}

其中 pp 是可并行比例,WserW_{\text{ser}} 是本质上串行的部分(汇总、收敛判定、形式化)。代入上面的事实:88 小时那一轮是可并行段,而它之后那 17 小时的 Lean 形式化是纯串行段——由单个模型承担,加多少 agent 都摊不薄。也就是说整条流水线的墙钟约为 88 + 17 = 105 小时,其中那 17 小时与并发规模无关;这正是 P→∞P\to\infty 时 Twall→WserT_{\text{wall}}\to W_{\text{ser}} 的样子。

flowchart LR
  subgraph S1["串行复利:AIDE² 的双环"]
    A1["提议改写自身"] --> A2["隐藏评测"] --> A3["接受或回退"] --> A1
  end
  subgraph S2["并行采样:约 1 万个 agent"]
    B1["分组探索不同路线"] --> B2["组内通信与互评"] --> B3["汇总->形式化"] --> B1
  end

这张图说明了什么:左边是深度(一轮轮把系统本身改得更好),右边是宽度(一次把搜索空间摊开)。两条路线的成本结构完全不同:串行的瓶颈是验证信号(第四节的两个不等式),并行的瓶颈是通信与汇总(消息量随组内两两交互增长)。OpenAI 这次用的是右图,而 AIDE² / RRSI 用的是左图。把它们混为一谈,是当前 RSI 讨论里最常见的概念滑移。

顺带解释一个容易误读的量:近 500 万条消息听起来像「一群 agent 在热烈讨论」,但摊开算并不热——按约 1 万个 agent、88 小时平摊,平均每个 agent 每 10 分钟出头才发一条消息(算式见第十四节)。这不是聊天,而是一次大规模并行搜索 + 稀疏汇总:绝大多数时间花在各自跑代码上,通信只在关键的合并点发生。另注:这里并置的是「并发规模」与「通信量」两个不同量纲的量,不能相除说「每个 agent 只说了 500 句」。

9.1 人均消息率怎么算(三步)

  1. 第一步·通信量与时间相除:约 4.9×1064.9 \times 10^{6} 条 ÷ (88 × 3600 秒) ≈ 15.5 条/秒(整个 swarm)。
  2. 第二步·除以并发规模:15.5 ÷ 10410^{4} ≈ 1.55×10−31.55 \times 10^{-3} 条/秒/agent。
  3. 第三步·取倒数:约 647 秒 ≈ 10.8 分钟 / 条。

这三步里唯一的假设是「约 490 万条消息发生在 88 小时窗口内」——这是把两个公开数字并置后能拿到的最保守读法。

十、工程含义:一个可复现的 RSI 闭环,需要哪四件东西

把前面的推导收成一张清单。任何一个自称在做 RSI 的系统,如果想被严肃对待,这四件东西缺一不可——缺哪件,就退化成第 1.2 节里的普通自我改进或者自证循环:

  1. 一个可自动执行的验证信号。 落在第七节对照表的左半边。数学里是 Lean,工程里是单测/编译/指标,科研里是题方保留的测试集。判据:这个信号能不能在没有人参与的情况下给出对错。
  2. 一个可被程序编辑的自体。 如果「改进」只能发生在提示词里、无法持久化,那它不满足路线图定义里的「persistent」。AIDE² 与 RRSI 都选择改 harness(提示词、控制流、工具、记忆、上下文管理),因为 harness 是代码,代码是可版本化、可回退、可 diff 的。
  3. 一条不会过拟合的选择规则。 选择集与判据集必须分离;复杂改动要装正则(第八节);改动带来的算力开销必须计入评分。
  4. 一个允许回退的停止判据。 这一条在宣传材料里最少被提,也最实用。

第 4 条有一个非常好的实例。Novix 在一次自主训练任务里,强化学习的训练 loss 还在继续下降,但它自己的真实任务探针得分却从 38.7 掉到 21.1——它判断模型只是更会拟合训练轨迹,而不是更会解决问题,于是主动否决了这次更新,回退并交付了表现更好的检查点(Novix 媒体稿,2026-10-09,团队自报)。同一批公开任务里还有另外两组数字:

任务类型评测与规模结果(团队自报)
自主训练模型SynLogic 135 道固定题Qwen2.5-7B 准确率 8.89% → 37.78%
自主训练模型ScienceWorld 30 项代表任务Qwen2.5-7B-Instruct 平均分 11.2667 → 35.6333
基础设施调度哥伦比亚河八座水坝泄洪调度;研究期间不可见的 16 个独立测试周约 3.57 小时有效用时、578 次工具调用;最终得分 0.719264,比题方专家参考方案高 6.50%
材料本构预测60 个研究期间不可见的加载历程题方保留测试得分 0.620034,约为专家参考解 0.310910 的 1.99 倍

🚨 这四行数字全部是团队自报,没有任何独立第三方复现。 本文引用它们,是在引用「一个闭环在真实任务上长什么样」的形态,不是在引用已独立验证的结论。把它们和第七节对照表对照读,你会看到一件有意思的事:这四组任务的信号强度并不相同——「题方保留的测试集」属于第二档(执行与环境反馈),而「真实任务探针」属于团队自己搭的内部信号。这正好是本文要强调的那条主线的又一个例子:能做到什么程度,取决于信号落在哪一档。

10.1 四个要件缺一个会怎样

缺哪个要件症状本文对应小节
缺可自动执行的验证信号判据退回内在自评,出现自证循环第五节、第七节
缺可被程序编辑的自体改进无法持久化,每轮从头开始,谈不上「递归」第二节定义
缺不过拟合的选择规则分布内涨、分布外跌,越跑越像「记住了选择集」第四节推论 3、第八节
缺允许回退的停止判据用训练 loss 之类的代理量一路推进,把「更会拟合」当成「更强」本节第 4 条(Novix 那次否决)

10.2 三份一手材料的关键设定对照

维度AIDE²(arXiv:2609.26457)RRSI(arXiv:2609.24972)OpenAI 数学手稿批次
改的对象研究 agent 自身的代码(harness)agent harness 的组件化编辑论文未说明
验证信号档位隐藏评测(执行/环境反馈档)基准 + critic + pruner(中档为主)Lean 形式验证(最强档)
闭环形态串行双环(外环改内环)串行演化 + 正则化大规模并行采样
单轮成本控制固定评测预算提议预算退火 + pruner平均约三小时算力/结果
报告的关键数字7 次连续改写;奖励作弊 55%→32%演化集 +6.0、OOD +4.3、token −30%722 篇 / 372 族(族=相关论文归组,不是篇数;发布口径)
本文核实的版本v1(2026-09-22)v3(2026-10-04)发布页 2026-10-06;仓库现读 2026-10-12

10.3 回退判据可以怎么写

第 4 条要件(允许回退的停止判据)最容易被写成一句口号。实践中它可以落成三条具体的规则:

  1. 双指标交叉:同时盯「训练/优化指标」与「独立探针指标」。Novix 那次否决就是训练 loss 继续下降、探针得分却从 38.7 掉到 21.1——两条线背离时以后者为准。
  2. 单调性约束:要求每一轮改动在判据集上不能比上一轮差超过允许容差,否则整轮回退。这等于把第三节的 Accept\mathrm{Accept} 算子写死成「不接受倒退」。
  3. 快照与可追溯:每一轮的候选自体、评测输出与失败路径都要留档。团队稿提到 Novix 把材料、目标、评价标准、工具调用、中间产物与失败记录保留在同一工作空间,这样回退才可能——无法复现的自体,也无法回退。

三条里最贵的是第三条,最容易被省掉的也是第三条;而它恰恰是「失败不是被清理的噪声,而是系统资产」这句话在工程上的唯一落点。

十一、数字口径:722 / 719 / 372 / 4000 / 162 / 42% / 1万 / 490万 / 3000亿 不能混着读

这一节是专门写给「快速阅读者」的。下面这些数字都真实、来源都可达、各自都有据,但指称的对象完全不同,混着读会直接形成错误认知:

  • 722 篇 vs 719 篇。 722 是 OpenAI 发布说明(2026-10-06)里的口径;719 是我在 2026-10-12 现读仓库 README 时看到的数字(原文:The current catalogue contains 719 manuscripts organized into 372 families)。仓库明确写了会保留版本历史、修订以新版本记录。两者不矛盾,是同一集合在不同日期的快照。 本文凡涉及「发布当时」用 722,凡涉及「现读」用 719。
  • 722/719 篇 与 372 族。 单位不同:**family(族)**是把相关论文归到一起的容器,一个族里可能含主结果、伴随论证、推论或替代证明。所以「372 族」不是「372 篇」的同义反复,也不能拿 722 除以 372 得出什么有意义的人均数。
  • 约 4,000 道题。 这是投喂给模型的开放问题总数,不是论文数,也不是「解决了 4,000 道题」。722 篇是其中被整理成手稿的部分。
  • 「有形式化主结果的论文数」 vs 约 42%。 第三方媒体对仓库形式化目录的统计是 162 篇(口径:manuscript 篇数);本文另外直接读取了仓库的正式化目录 lean/formalization.yaml(其自述为 Catalog of papers with a formalized main result,2026-10-12 现读),数出 173 条目录条目(算法见第十四节第 7 条);仓库 README 另称「约 42% 的 top-line results 已形式化」(口径:family 层面的 top-line 结果)。这三个口径的分母都不同,不要相互换算后再引用。 保守的说法只有一句:多数手稿没有形式化,形式化的只是其中一部分。
  • 约 1 万个 agent 与 490 万条消息。 一个是并发规模,一个是通信量,量纲不同;不能拿来相除说「每个 agent 只说了 490 句」——那要除以时间才对,算式见第十四节。另注:消息总量本身有两个媒体口径(Quanta 作「近 500 万条」,PRESS Insider 作「约 490 万条」),指的是同一件事。
  • 3000 亿 vs 1300 亿 token。 前者是全部被尝试问题的合计产出,后者只是Navier-Stokes 那一组的产出。相差 2.3 倍、指向不同对象,凡引用其一必带限定(正文第九节已在首次出现处分别加上限定词)。
  • HCI 39.9 与示意性端点 86.8。 前者是 2026 年实测口径下的工具类 agent 得分,后者是论文明确标注为 illustrative 的外推端点。把 86.8 当预测用,是本主题里最贵的一种误读(第六节已就地提醒)。

11.1 五条可以今天就做的自检

把上面的口径整理成五条可执行的自检:任何人拿到一份「我们在做 RSI」的材料,都可以当场核。

  1. 查信号落在哪一档:材料里必须写出「接受一次改动靠什么判据」。写不出来,大概率是内在自评(最右档)。
  2. 查有没有分布外数字:要「选择集之外的基准」上的结果。没有 OOD 数字的自我改进报告,只证明了它记住了选择集。
  3. 查算力是否固定:要「固定评测预算」或等价的算力归一化说明。没有它,测得的增益可能纯粹来自多花了算力。
  4. 查有没有回退记录:要一次「主动否决了当时分数更高、但被判断为虚假进步的候选」的实例。没有回退记录的系统,很难说它的接受判据真的在起作用。
  5. 查是否标了版本:要论文/仓库的版本号与读取日期。本主题里两个数字同时流传(RRSI 的 v2 与 v3、手稿的 722 与 719)是常态,不标版本就无法复核。

十二、边界、未解与小结

按本站长文的惯例,把「这篇能证明什么、不能证明什么」逐条列清。

  1. 论文性质边界。 第七到第九节的核心技术结论来自三篇 2026 年的论文(arXiv:2607.07663 综述 / 2609.26457 AIDE² / 2609.24972 RRSI)与一篇路线图(2609.11873)。它们都是发表即未经长期复现的新工作;综述是二手汇总(虽然覆盖面大),AIDE² 的一次 8 天自主运行也没有跨实验室重复。
  2. 口径边界。 RRSI 的数字在 v2 与 v3 之间发生过变化(第四节已就地标注),本文一律采用 v3。OpenAI 数学手稿的篇数在发布说明与当前仓库之间不同(第十一节)。任何引用这两个数的人,都应先说明自己用的是哪一版/哪一天。
  3. 厂商自报边界。 Novix 的四组任务结果、20 万专家规模等,全部为团队自报,且转载它的多家平台(aitntnews / 网易 / 凤凰 / AI 星球)是同一稿源的转载,不构成独立第三方验证。本文核查过的是:novix.science 官网真实可访问(2026-10-12 实测返回 200,标题为 The AI Agentic Co-Scientist for Scientific Research),并且该产品早在 2025 年 9 月就已被独立工具目录收录(AI 工具集 ai-bot.cn;页面 article:published_time 于 2026-10-12 现读为 2025-09-06)。顺带说明:这个日期与团队稿自报的「成立仅半年」并不一致,本文因此不再把成立时长当作事实陈述。「产品真实存在、官网可访问」与「其宣称的 RSI 效果已被验证」是两件不同的事。
  4. 层级边界。 AIDE² 与 RRSI 改的都是 harness(骨干模型冻结)。它们在论文里都明确说明自己处于「agent 系统层面的 RSI」。把 harness 层的结论直接外推到权重层,是不成立的——权重级的自我改进要面对的是训练稳定性、数据回流污染与评测坍缩这些 harness 层不存在的问题。
  5. 信号不自足的边界。 综述指出的「方向设定(direction-setting)瓶颈」并没有被验证层级覆盖:验证层级负责回答「这个候选好不好」,但它回答不了「什么值得被评估」。综述把这一块单独命名为一个 prior 问题(选什么值得评测),并指出它仍然是人的领地。OpenAI 自己的政策文也承认这一点:它把「由人在监督下运行的自动化 AI 研究者」与「完全自主的递归自我改进」明确分开,并写明后者「今天还没有发生,除非且直到能安全做到,否则不应追求」(openai.com/index/ai-policy-window/,本文 2026-10-12 读取)。
  6. 副产物边界。 AIDE² 里奖励作弊率从 55% 降到 32%(低于人工工程版本的 39%)是没有被显式优化的副产物(arXiv:2609.26457 摘要原话:「一个该循环从未显式优化过的属性」)。这既是好消息,也是警告:如果连「下降」都可以是副产物,那「上升」也可能是副产物。 单次运行的这类观测不足以支撑因果结论。
  7. 本文自己的限度。 文中所有公式都是教科书级的简化模型(正态近似、独立同分布假设、Amdahl 的稳态假设)。它们的作用是把定性说法变成可检验的不等式,不是对 AIDE²/RRSI/OpenAI 那几次具体运行的拟合。真正要判断某个系统的改进率是否在提升,只能看它自己的公开评测轨迹。
  8. 适用范围边界。 本文的结论适用于有可自动执行验证信号的领域(代码、数学、仿真密集的工程)。在信号落在最右两档(LLM 评审 / 内在自评)的领域,第四、五节的结论会更悲观,不是更乐观。

小结

把它压成四句话:

  • RSI 的二阶条件是「提议策略或验证机制本身在变」,而不只是「系统在变」(第三节)。
  • 能不能接受一次改进,是一道统计题;能容忍的最小增益越小,评测集成本按平方增长(第四节)。
  • 自我改进不能创造关于「什么才是真的更好」的信息——它只能搬运验证信号里已有的信息,所以信号落在验证层级的哪一档,决定了闭环能闭合到什么程度(第五节、第七节)。
  • 剩下的空间分布极不均匀:2026 年高等数学的 HCI 是 86.4,而工具类 agent 只有 39.9——这解释了为什么研究自动化会是 RSI 的第一个战场,也解释了为什么把它当作「通用智能即将爆发」的证据是过度外推(第六节、第十二节第 5 条)。

十三、术语表

术语一句话定义
RSI(递归自我改进)系统把经验自动转成对自身的持久改变,且这些改变能影响后续改进被产生/评价/选择的机制
有界自精炼(bounded self-refinement)只改「这次任务的输出」,判据在外部,可收敛、可评测,已进工业实践
harness(自体)围绕冻结骨干模型的提示词、控制流、工具、记忆与上下文管理
代理分数(proxy score)在选定任务集上测得的可观测分数,用来逼近不可观测的真实效率
过拟合缺口(Gap)选择集上测得的增益减去分布外增益
自证循环用自体自己生成的信号当接受判据,导致「自评分数升」与「真变强」脱钩
验证层级(verification hierarchy)把评测信号按可替代人类判断的程度从形式验证排到内在自评
HCI(余量闭合指数)把不同基准归一化到同一量纲的指数,0 = 进入年前沿,100 = 满分
固定评测预算让所有候选在同等算力下比较,使增益反映算法而非算力
墙钟下界由不可并行部分决定的运行时间下限(Amdahl 律的串行段)
互信息 I(X;Y)I(X;Y)知道 YY 之后,对 XX 的不确定性减少了多少;越大表示 YY 越「说得清」XX
条件独立 Δ⊥θ⋆∣yverify\Delta \perp \theta^{\star} \mid y_{\text{verify}}给定验证信号后,改动方向与真实目标再无关联(改动完全由信号决定)
数据处理不等式对数据做任何加工,都不会增加它关于目标的信息量,只能保持或减少

十四、本文自行推导

以下数值均由本文自行计算或反解,仅作量级一致性检查,不得作为官方数值引用;与前面引用的一手数字分列。

  1. 评测集规模下界:n≥(z1−ασ/ε)2n \ge (z_{1-\alpha}\sigma/\varepsilon)^2。取 α=0.05\alpha=0.05(z≈1.645z\approx1.645)、σ=1\sigma=1(分数已归一化)、ε=0.02\varepsilon=0.02,得 n≥(1.645/0.02)2≈6,765n \ge (1.645/0.02)^2 \approx 6{,}765。含义:想在统一尺度下认出 2 个百分点的改进,需要约 6,800 道题的评测集——这是任何 RSI 实验都绕不开的固定成本。
  2. 极值挑选的假增益量级:随机挑选 kk 个候选取最大,期望增益约为 σ2ln⁡k/n\sigma\sqrt{2\ln k/n}。取 σ=1\sigma=1、n=100n=100、k=20k=20,得 ≈2×3.0/100≈0.24\approx\sqrt{2\times 3.0/100}\approx 0.24,即 24 个百分点。这就是「小评测集 + 多轮试验」会制造出巨大假进步的量级,也是第七节那一档必须放在最右边的原因。
  3. HCI 的补数自检:由 Rd=100−0.22(100−Td,2026)R_d = 100-0.22(100-T_{d,2026}),得增益 Rd−Td,2026=(100−T)−0.22(100−T)=0.78(100−T)R_d-T_{d,2026} = (100-T)-0.22(100-T)=0.78(100-T)。用软件工程验证:T=52.6T=52.6,0.78×47.4=36.9720.78\times47.4=36.972,52.6+36.972=89.572≈89.652.6+36.972=89.572\approx89.6,与论文给出的 89.6 一致 → 公式转写无误。
  4. Swarm 的人均消息率:约 490 万条消息 ÷ 88 小时 ÷ 10{,}000 个 agent ≈15.5\approx 15.5 条/秒 ÷ 10{,}000 ≈0.00155\approx 0.00155 条/秒/agent,即平均每个 agent 约 10.8 分钟才发出一条消息。这是由「消息量 + 时间 + 并发规模」三个公开数字直接推出的,用于说明这不是「聊天型」swarm。
  5. Token 率的量级检查(含假设,须谨慎):若把「约 3000 亿 token」按 88 小时摊开,≈9.5×105\approx 9.5\times10^{5} token/秒;分摊到 1 万个 agent 约 95 token/秒/agent。同样的算法用于 Navier-Stokes 那一组的 1300 亿 token,得约 41 token/秒/agent。两者都在当前推理服务的合理量级内——但这只是一个量级一致性检查,因为「88 小时」与「3000 亿 token」的口径边界(是否包含启动阶段、是否只算输出 token)本文无法从公开材料确证。
  6. 串行下界的示意:取 Amdahl 形式 Twall=Wpar/P+WserT_{\text{wall}}=W_{\text{par}}/P+W_{\text{ser}},则 P→∞P\to\infty 时 Twall→WserT_{\text{wall}}\to W_{\text{ser}}。代入事实:88 小时那一轮是可并行段,而随后的 Lean 形式化 17 小时发生在该窗口之外、由单模型承担、不可并行摊薄。因此整条流水线的墙钟约为 88 + 17 = 105 小时,其中与并发规模无关的那一段是 17 小时——这才是「加 agent 也压不下去」的部分。
  7. 仓库形式化目录条数:对 lean/formalization.yaml 统计 id 指向 ../preprints/ 的条目,得 173 条(2026-10-12 现读)。它只能说明「有 173 篇论文配了形式化目录条目」,不等于「这 173 篇的主结果都通过了机器检查」——逐篇状态仓库未给出。

十五、📋 来源与核验记录

本文所有一手来源均在 2026-10-12 由本文实际打开并读取(arXiv 页面读的是摘要与正文 HTML;OpenAI 页面与 GitHub 仓库读的是公开页面文本)。按「一手材料」与「厂商自报 / 媒体转述」分列。

一手材料(论文与官方页面)

  1. OpenAI,Sharing AI progress in mathematics(发布页,2026-10-06)——原文地址 openai.com/index/sharing-ai-progress-in-mathematics/;本文列出的可抓取存档快照:https://web.archive.org/web/2026/https://openai.com/index/sharing-ai-progress-in-mathematics/ ——核验:快照标题为 Sharing AI progress in mathematics | OpenAI,正文含「平均每个结果约用掉相当于三小时 ChatGPT Pro 思考的算力」「用 Lean 分享许多证明的形式化」「与 IAS 数学与 AI 顾问组协商」等表述;原文地址另经 curl 与浏览器复核返回 200(本机核验脚本所用的 Python 客户端会被该站反爬拦成 403,因此来源列使用存档快照,口径不变);访问日期 2026-10-12。
  2. openai/math 公开仓库 README(Apache-2.0)—— https://github.com/openai/math ——核验(2026-10-12 现读原文):The current catalogue contains 719 manuscripts organized into 372 families;The repository has ~42% top-line results formalized;On average, each result used three hours of ChatGPT Pro thinking compute with that model. Over the course of the evaluation, the model was posed approximately 4,000 problems;README 亦自述 This collection includes results at different stages of verification. Not all have accompanying Lean formalizations。
  3. OpenAI,The AI policy window is open. We need to act.(政策文,页面日期 2026-09-09)——原文地址 openai.com/index/ai-policy-window/;本文列出的可抓取存档快照:https://web.archive.org/web/2026/https://openai.com/index/ai-policy-window/ ——核验:快照标题为 The AI policy window is open. We need to act. | OpenAI,正文明确区分「在监督下运行的自动化 AI 研究者」与「完全自主的递归自我改进」,并写明后者今天尚未发生;原文地址另经 curl 复核返回 200(同上,来源列使用存档快照);访问日期 2026-10-12。
  4. arXiv:2609.26457,D. Srikanth 等(Weco AI),Recursive self-improvement of AI research agents(AIDE²,v1 2026-09-22)—— 8 天自主运行、7 次连续自我改写、四个 held-out 基准上匹配或超过人类工程版 AIDE、奖励作弊率 55%→32%(人类版 39%)、固定评测预算。https://arxiv.org/abs/2609.26457
  5. arXiv:2609.24972,P. Xia 等,RRSI: Regularized Recursive Self-Improvement of Agent Harnesses(本文引用 v3,2026-10-04)—— 8 个基准;演化集最多 +6.0 分、五个 OOD 基准最多 +4.3 分、策略 token 少 30%。https://arxiv.org/abs/2609.24972
  6. arXiv:2607.07663,M. Chen、L. Wang、B. Qu,Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops(v2 2026-09-06,44 页)—— 综述 1,250 篇 2024–2026 论文;两轴分类;验证层级(形式验证最强、内在自评最弱);失败模式(自证循环、模型与多样性坍缩);方向设定瓶颈。https://arxiv.org/abs/2607.07663
  7. arXiv:2609.11873,Y. Duan 等,The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement(本文引用 v3,2026-09-22)—— RSI 定义(§2.2.2)、五级自主阶梯至递归元改进、HCI 公式(式 2)与 2026 年各领域 HCI 值、示意性外推(式 4)。https://arxiv.org/abs/2609.11873
  8. Quanta Magazine,K. Kakaes,AI Has Solved One of Math’s 1 Million Millennium Prize Problems(2026-09-08)——原文地址 quantamagazine.org/ai-has-solved-one-of-maths-1-million-millennium-prize-problems-20260908/;本文列出的存档快照:https://web.archive.org/web/2026/https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-million-millennium-prize-problems-20260908/ ——核验:本文第九节中「约 1 万个并发 agent」「88 小时」「Euler 组近 100 个 agent 约 50 小时」「约 500 万条消息」「另一个模型再花 17 小时完成 Lean 形式化」均出自此文;访问日期 2026-10-12。
  9. OpenAI 社区发布帖,First look at mathematics manuscripts from an internal frontier model at OpenAI —— https://community.openai.com/t/first-look-at-mathematics-manuscripts-from-an-internal-frontier-model-at-openai/1403886 ——核验:722 篇 / 372 族 / 约 4,000 题 / 10 份推理摘要,与发布说明一致。

厂商自报 / 媒体转述(非独立验证)

  1. Novix 官网 —— https://novix.science ——核验:2026-10-12 实测返回 200,页面标题为 Novix - The AI Agentic Co-Scientist for Scientific Research(仅证明产品与官网真实存在,不证明其效果)。
  2. Novix 团队稿件《全球竞逐 RSI,这支华人团队已跑通规模化闭环》(aitntnews 页面时间戳 2026-10-09 12:49;该稿同时被网易 / 凤凰 / AI 星球等平台转载)—— https://www.aitntnews.com/newDetail.html?newId=30080 ——本文第十节四行任务结果、「协同进化式 RSI」以及探针得分 38.7→21.1 均出自此稿(该稿给出的关键数字包括 SynLogic 135 题准确率 8.89%→37.78%、ScienceWorld 30 项平均分 11.2667→35.6333、哥伦比亚河调度高出专家参考方案 6.50%);同一稿源被多家平台转载(网易 / 凤凰 / AI 星球),不构成独立第三方验证。该稿自报的规模数字(20 万名专家 / 40 多个国家和地区 / 500 多所高校及科研机构)本文一律按团队自报处理。
  3. AI 工具集收录页 Novix - AI科研平台,全流程科研 Agent —— https://ai-bot.cn/novix/ ——作为「产品已被独立工具目录收录」的时间线佐证:页面 article:published_time 于 2026-10-12 现读为 2025-09-06,正文亦标「1年前 (2025)发布」。
  4. PRESS Insider,OpenAI says 10,000 AI agents solved Navier-Stokes maths problem(2026-09-09)—— https://pressinsider.com/technology/openai-says-10000-ai-agents-solved-decades-old-navier-stokes-maths-problem ——本文第九节中「Navier-Stokes 组约 270 万条消息、约 1300 亿输出 token」「全部问题合计约 490 万条消息、约 3000 亿 token」两条数字出自此稿(媒体转述 OpenAI 发布口径,非一手材料;与 Quanta 的「约 500 万条消息」属同一事件的不同表述口径)。

数据截至说明:本文中依赖仓库快照的数字(719 篇 / 约 42%)以 2026-10-12 的仓库 README 为准;依赖论文版本的数字均已在正文就地标注版本号与修订日期;arXiv 版本日期沿用其页面记录的 UTC 日期(本文涉及的这些日期在 UTC+8 下同日,故未逐条折算)。OpenAI 那批手稿的形式化比例与目录篇数仍会随仓库更新变化,引用前应重新现读。