Anthropic公布AI研发透明指标,AI开始参与造AI
AI 行业正在进入一个新的阶段:模型不只是被人类训练出来,也开始参与下一代模型的研发过程。
Anthropic 近日在 X 平台宣布,将推出三项用于追踪前沿 AI 发展速度的衡量指标,分别关注 AI 在研发流程中的参与比例、AI Agent 的监督机制,以及计算资源如何被分配。Anthropic 表示,随着 AI 系统能力提升,AI 已经越来越多地参与构建下一代 AI 系统,因此行业需要新的透明度工具,让外界能够理解前沿实验室内部的发展节奏。
这件事背后的变化并不只是“AI 写代码更多了”。
过去,人工智能研发主要是一条由人推动的流水线:研究人员设计架构、工程师训练模型、测试团队评估能力。但随着大模型进入 Agent 阶段,AI 开始承担代码编写、实验设计、数据分析等更复杂任务,研发链条正在出现新的参与者。
换句话说,AI 正逐渐从工具变成研发流程中的协作者。
Anthropic 此次提出的第一个指标,就是衡量 AI 完成 AI 研发工作的比例。
这一指标试图回答一个此前很难量化的问题:一家 AI 公司到底有多少工作,是人完成的,又有多少已经交给模型完成。
根据 Anthropic 公布的阶段性数据,截至 2026 年 8 月,Claude 已经能够“主导”其内部部分 AI 研发任务,但尚未完全自主运行整个研发流程。同时,超过九成相关工作已经达到 AI 参与协作的程度。
这种变化意味着,未来 AI 公司之间的竞争,可能不仅取决于拥有多少 GPU 和多少数据,也取决于谁能更有效地利用 AI 加速自身研发。
类似于互联网时代的软件工程效率竞争,如今 AI 公司正在进入“AI 提升 AI 生产效率”的循环。
但新的问题也随之出现。
如果 AI Agent 参与越来越多关键研发环节,谁来监督这些 Agent?
Anthropic 提出的第二项指标,正是围绕 Agent 监督展开,包括 AI 行动覆盖范围、审查延迟,以及异常行为升级比例等。
公司表示,随着内部 Agent 数量增加,需要建立能够实时发现问题的监控机制。未来如果大量 Agent 同时执行研究、工程任务,即使单个 Agent 出现问题的概率很低,规模扩大后也可能形成系统性风险。
这和传统软件系统的安全逻辑有所不同。
过去的软件漏洞通常来自代码缺陷,而 Agent 时代的问题可能来自模型决策过程。一个能够自主调用工具、修改代码、执行任务的 AI,并不只是运行程序,而是在一定程度上进行判断。
因此,监督机制正在成为 AI 基础设施的一部分。
第三项指标则关注算力分配。
在当前 AI 竞争环境下,计算资源已经成为最重要的战略资产之一。训练前沿模型需要大量 GPU,而安全测试、模型评估、风险研究同样需要算力投入。
Anthropic 希望通过公开算力分配情况,让外界了解一家 AI 公司到底投入多少资源用于能力提升,又投入多少资源用于安全和治理。
这其实回应了整个行业长期存在的信息差问题。
目前,公众能够看到的是模型发布后的能力表现,但很难知道模型是如何被训练出来的,研发过程中有多少自动化程度,以及企业如何平衡商业竞争和安全投入。
Anthropic 认为,其他前沿 AI 开发机构也可以采用类似指标,并引入第三方验证,以建立更加透明的行业标准。
当然,这类透明机制也存在现实挑战。
AI 公司之间存在激烈竞争,模型训练数据、工程流程和内部系统通常属于核心商业资产。如何公开足够的信息,又不泄露关键技术细节,是所有实验室都会面对的问题。
另外,指标本身也需要不断调整。
比如“AI 完成多少研发工作”并不是一个简单数字。一段由 AI 生成的代码、一份由 AI 辅助完成的研究报告,以及一个完全由 Agent 自主推进的实验,自动化程度完全不同。
但无论如何,Anthropic 此次尝试释放出一个明确信号:未来衡量 AI 发展速度,可能不能只看模型参数、跑分和产品能力,还需要关注研发过程本身。
当 AI 开始参与创造新的 AI,行业需要的不只是更强的模型,也需要一套能够解释、追踪和约束这种演进速度的新基础设施。
AI 竞争的下一阶段,或许不只是“谁训练出了更强的模型”,而是“谁建立了更高效、更透明的 AI 研发体系”。
Tags: Anthropic