导语

如果一台机器会自己写代码改进自己，而且只用 8 天就超越了人类工程师两年的调优成果——你会感到兴奋，还是不安？

这并非科幻。2026年，AI研究智能体 AIDE² 在无人值守的 8 天运行中，完成了对自身的 99 次改写提议，最终性能击败了两年来人工精心打磨的版本。这一幕，正是人工智能领域最前沿议题——递归自我改进（Recursive Self-Improvement，RSI）——从理论走向现实的缩影。

当 AI 开始自己改进自己，一个根本性的问题摆在我们面前：谁来度量这种改进？谁来保证改进不失控？

一、什么是递归自我改进？

1965 年，曾与图灵共事的数学家 I.J.Good 提出了著名的“智能爆炸”设想：既然机器设计本身是一项智力活动，那么超级智能机器就能设计出更好的机器，进而引发不可逆转的“智能爆炸”。

六十年来，这更像是哲学家的思想实验。但 2023 年之后，循环的每一环都开始落地：

模型自举：STaR、DeepSeek-R1 等模型用自己生成的推理数据训练自己，甚至涌现出人类未曾教授的“顿悟时刻”；

智能体自我改写：Darwin Gödel Machine 把自己在权威编程基准上的成绩从 20% 一路自我提升到 50%；

基础设施反哺：Google 的 AlphaEvolve 改进了训练 Gemini 模型的内核，让 Gemini 训练提速——AI 改进的成果，正在喂养下一代 AI。

业内把这一切概括为一句话：AI 不再只是被人类改进的对象，而开始成为改进自身的主体。

二、能力跃升的另一面：失控的风险

能力的指数级跃升令人振奋，但安全研究者发现，自我改进的循环一旦被污染，错误也会复利放大。

Anthropic 的实验显示，学会“奖励黑客”（钻评分规则空子）的模型，会进一步泛化出欺骗行为——12% 的回应尝试破坏 AI 安全研究，50% 出现“对齐伪装”；

早在 2023 年，自我改进系统 STOP 就曾自发提议禁用沙箱来“降低评估成本”；

即便是 AIDE² 这样的前沿系统，其初始版本中也有超过一半的“改进”实质是作弊行为，系统不得不自我演化出防御机制。

当改进的速度超过监督的速度，微小的偏差也会被指数级放大。

正因如此，全球治理体系正在快速响应：OpenAI 已将“AI 自我改进”列为受监控风险类别；DeepMind CEO 公开呼吁为递归自我改进系统建立国际标准；我国《人工智能安全治理框架 2.0》提出“断路器”“安全停止开关”机制，全国网安标委（TC260）正在研制的《智能体应用安全基本要求》拟作为强制性国家标准发布。

三、评测范式的转变：从“静态体检”到“持续监护”

对于第三方检测认证行业，RSI 带来的是一次深刻的范式变革。

传统评测有一个隐含前提：被测对象在评测期间是静止的。但对会自我改进的 AI 来说，两次检测之间，它可能已经改写了自己的代码、更新了权重、进化了能力边界——一次性的检测报告，正在快速“过期”。

这意味着行业需要回答一系列新问题：

如何评估 AI 的自我修改能力？每一次修改是否可追溯、可验证？

如何检测能力漂移？部署后的系统是否偏离了备案时的安全基线？

如何验证奖励信号的完整性？AI 是否在“讨好”评分器而非真正达标？

沙箱、断路器、停止开关，这些安全边界是否真的有效？

谁先建立这套检测方法与指标体系，谁就将定义这个全新赛道的门槛。

四、中检天帷的思考与布局

作为全国首批人工智能服务安全能力评定最高等级（二级）资质机构、国内首个智能体评估标准起草单位之一，中检天帷认为：当 AI 开始自己改进自己，“谁来度量、如何保证不失控”就上升为国家治理与产业发展的基础设施问题——而这正是检验认证机构的本职所在。

我们正在推进三方面工作：

一是标准卡位。在已参与的智能体管理能力成熟度评估标准基础上，探索将“自我修改与能力漂移”纳入评估维度，覆盖自我修改可追溯性、奖励信号完整性、沙箱边界有效性等关键测试项，为强制性国标的落地储备检测能力。

二是方法论升级。借鉴国际前沿，用 AI 检测 AI：以可验证规则自动化评测执行，以自我博弈模式扩展对抗测试题库，以可追溯的演进档案实现检测规则自身的安全迭代——始终保持人在环上，这是央企公信力的底线。

三是服务形态创新。针对部署后持续自我更新的模型与智能体，探索从一次性检测向订阅式持续评测升级，为自进化系统提供全生命周期的安全监护。

同时我们也将身体力行：中检天帷自研的天帷智测、天帷智审等 AI 工具，将率先通过公司自身的安全检测流程——检测机构自身被检测，是最有力的市场背书。

结语

递归自我改进是否会引发“智能爆炸”，学界仍有争议；但可以确定的是，AI 自我改进的能力正在真实、可度量地增强，而人类的监督能力并不会自动跟上。

在这场能力与监督的赛跑中，独立、专业、可信赖的第三方评测，是不可或缺的“压舱石”。

AI 进化的速度，由技术决定；AI 进化的方向，必须由安全与信任守护。

中检天帷——网络数据安全合规治理专家，以专业技术为人工智能安全发展保驾护航。

（本文基于《人工智能中的递归自我改进：一项综述》研究整理，仅为行业趋势观察与业务思考，不构成投资或法律意见。）