研发AI的人们，已经无法跟上AI进化的速度！

就在不久前，正在筹备纳斯达克上市的Anthropic，向美国证券交易委员会提交了一份修订后的招股说明书（S-1/A）。

距离首版招股书公开仅一周时间，Anthropic的管理层连夜在文件中补充了令人不安的「坦白」——

「AI制造AI」的加速循环早已启动，而且其进化速度之快，连人类科学家都无法实时监控！

AI自我加速的临界点已近在眼前。内部预测显示，未来的Claude很快会触及「AI显著加速研发」的阈值，在短短1年内完成过去2年的研发进度！

连AI的创造者也在回顾过去。受限于「滞后指标」，Anthropic首次承认，过去曾未能及时察觉研发加速，未来也可能在加速发生后才能知晓！

明确禁止「全自动AI制造」。尽管内部超过90%的代码已由Claude生成，公司在第188页仍设定了底线，绝不脱离人类监督，让Claude全自动设计下一代前沿模型！

六个词改写招股书

连AI创造者也只能事后察觉

将前后两版招股书逐行对比，最关键的变化出现在第29页。

一周前的首版S-1中，Anthropic的表述还留有空间，仅称公司「可能无法」在研发显著加速发生前识别它。

到了修订版，法务和管理层专门在句子中插入了六个英文单词，「have in the past not identified（过去就曾未能识别）」。

这六个词，将「未来可能发生」的警告，变成了「过去已经发生」的承认。

在Anthropic自己的实验室里，AI研发速度突然加快、人类团队事后才反应过来的情况，已经真实发生过！

根据内部估算，未来的模型很快就会触及《负责任扩展政策》中的「自我加速红线」。

按照这条红线的定义，一旦越线，意味着在AI辅助下，短短1年内就能完成2018至2024年基线速度下2年的研发进度。

之所以连编写算法、监控数据的顶尖研究员也会「后知后觉」，原因在于大模型的能力提升难以实时准确测量。

新模型在预训练和Agent协同中到底提升多少，仅看训练曲线无法得出。

研究员必须等模型训练完成、通过评测，再引入内部工程线实际使用几个月，最后统计代码产量和实验周期，才能反推出真实的加速倍率。

但时间差就在这里。

等研究员拿着几个月的滞后数据算出「它已越线」时，新模型早已昼夜不停地编写下一代模型的核心代码。

人类以为自己随时掌握AI进化的进度，其实看到的往往是几个月前的后视镜！

内部Token账单超过全员薪资

却不敢让Claude全自动造下一代

观测之所以跟不上，是因为Claude接管Anthropic内部研发的速度太快了。

修订版招股书公开了一组最新的三季度内部数据。到今年9月，Anthropic内部代码库中超过90%的代码，都已由Claude生成。

在AI带动下，每位工程师每天提交的代码量，仅一个季度就从35倍飙升至2024年均值的45倍以上。

内部算力消耗的增长更为迅猛。从今年1月到9月，公司内部调用Claude的开销按公开标价计算暴涨了250倍以上。

早在今年4月，Anthropic每月在内部Claude上的花费，就已超过发给全体员工的月度现金工资总额（不含股权激励）。

按理说，既然Claude写代码比人快几十倍、账单甚至超过人类薪资，最合理的做法就是全面放手，让Claude全自动设计和训练下一代Claude。

但在这个关键节点，Anthropic自己划下了一道红线！

在第188页讲述内部研发循环的章节末尾，Anthropic特意补充了一条硬性规定：即使未来技术上完全可行，公司也不会脱离人类的监督和理解，让Claude全自动设计、构建下一代前沿模型。

背后的担忧在于，如今模型接管的研发工作越来越多，万一哪一代模型隐藏着人类未发现的漏洞、偏差或欺骗倾向，风险就会顺着研发流程传播。

一旦放权让它全自动设计下一代，这些隐患会跨代累积、层层放大，等人类察觉问题时，早已难以追溯源头。

为防止这种跨代失控，Anthropic在第31页透露，正考虑修改安全红线，强制要求研发流程中的特定关键决策必须由人类审查签字。

但守住安全边界，也让Anthropic在研发进度上付出了不小代价。

达里奥几周前曾自曝，「一个已训练完成的Mythos级高级模型，被雪藏了大约四个月」。

就在最近，为防范模型权重被窃取并加固安全措施，公司将一个全新前沿基座模型的预训练启动时间推迟了一个多月。

例如，今年4月那款漏洞挖掘能力极强的模型Mythos，至今也只通过「Project Glasswing」项目定向提供给少数机构用于防御。

签下8954亿算力长约

谁减速谁出局

一边因安全顾虑将新模型的预训练推迟一个多月；另一边，Anthropic砸钱抢算力的手笔却比谁都大。

这恰恰反映出整场前沿AI竞赛最残酷的现实：所有头部玩家都困在一场谁也不敢减速的囚徒困境里。

在Anthropic看来，如果自己不在AI辅助研发上投入足够算力，竞争对手就会通过「AI制造AI」不断放大复利优势，几个迭代下来就能将你远远甩在身后。

于是，硅谷的核心算力供应商几乎被它签了个遍。

排在最前面的是博通1612亿美元设备租赁，以及谷歌云1213亿美元TPU算力（外加最高1500亿美元追加框架）。

紧随其后的，还有马斯克旗下SpaceX与xAI（Colossus集群）的1205亿美元、亚马逊AWS的1100亿美元，后面还排着微软Azure、Nscale、Lambda和AMD。

拿全美科技巨头的最新财报一比，就能看出这笔赌注有多夸张。

一家前三季度营收332亿美元的创业公司，背上的表外承诺总额已经压过了Meta（8660亿美元）、微软（5940亿美元）、英伟达（5300亿美元）和亚马逊（4530亿美元），全美仅次于谷歌！

近9000亿美元的算力合同签在账上，意味着Anthropic已没有任何放慢研发节奏的退路。

而要消化这笔天量算力、支撑年化近700亿美元的营收，Anthropic唯一的办法，就是把越来越多的研发工作交给Claude，让它以几十倍于人类的速度去写代码、做实验！

参考资料：

https://x.com/theobearman/status/2117277210570604945

https://x.com/AndrewCurran_/status/2117290147863826460

https://x.com/peterwildeford/status/2117280858122170525

https://x.com/MTSlive/status/2117285761641001040

https://x.com/deredleritt3r/status/2117289531091177487

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：桃子 摩西，36氪经授权发布。