过去几年,几乎每一家前沿AI公司都在同时讲两件事。一方面,它们不断发布更强的模型,投入更多算力,争夺用户、开发者和企业客户;另一方面,它们又不断提醒外界,越来越强的AI可能带来网络攻击、生物安全、就业冲击,甚至人类无法控制的风险。
这两件事放在一起,多少显得有些矛盾。一家公司一边把油门踩到底,一边告诉所有人前方可能有危险,很容易被理解为一种商业策略:既要抢占技术和市场的领先位置,又要把自己塑造成最了解风险、最有资格制定规则的人。
但最近出现的“Pacing the Frontier”声明,还是值得认真看一下。
截至7月30日,来自OpenAI、Anthropic、Google DeepMind、Meta等前沿AI公司的1273名员工签署了这份声明,其中包括OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei、Meta AI首席科学家Shengjia Zhao,以及Google DeepMind联合创始人Shane Legg等人。签署行为代表个人立场,并不等于相关公司的正式决定,但OpenAI和Anthropic随后也公开认可了这份声明所讨论的问题。

声明的内容并不长,也没有要求立即暂停AI研发。它真正提出的诉求,是希望美国政府支持一项国际行动,提前开发必要的技术和治理工具,让人类在有需要的时候,可以有意识地调节自动化AI研发的速度。
这份声明中最值得注意的,其实不是AI可能失控,而是它承认了一件过去很少被前沿AI公司公开说得如此直白的事情:每一家公司和每一个国家,都承受着巨大的竞争压力,没有谁敢单方面放慢速度。
这可能才是当前AI发展中最现实的风险。
一、他们担心的,不只是下一代模型更强
“Pacing the Frontier”讨论的重点,不是ChatGPT、Claude或者Gemini下一次更新会提高多少分,也不是模型能不能写出更完整的代码,而是AI是否即将具备自动化AI研究的能力。
现在的AI已经可以帮助研究人员写代码、查阅论文、分析实验数据、寻找程序错误,但整个研发过程仍然主要由人来决定。人类研究人员提出方向、设计实验、组织训练、判断结果,再决定下一步应该做什么。
如果未来的AI不仅能够执行这些工作,还可以独立提出研究假设、设计实验、修改训练方法、分析失败原因,并根据结果继续改进下一代模型,AI研发的速度就可能发生完全不同的变化。更强的AI帮助开发更强的AI,新模型又进一步提高研发效率,最终形成一个不断加速的反馈循环。
没有人能够准确判断这个过程会以怎样的速度发生,甚至不能确定它一定会发生。声明本身对此也保持了克制,只是说世界领先的AI公司认为,它们“可能已经接近”自动化AI研究,而这种自动化究竟会把AI进步加速多少,目前很难预测。
问题正在这里。假如AI能力仍然按照现在的节奏发展,人类社会至少还有时间适应。政府可以制定规则,企业可以改造业务,学校可以调整教育内容,安全研究人员也可以慢慢寻找模型的问题。但如果研发周期突然从几年缩短到几个月,再从几个月缩短到几周,社会理解和管理技术的速度就可能跟不上技术本身。
这并不意味着AI一定会突然产生意识,或者某一天自行接管人类社会。更加现实的情况是,新的能力不断出现,但人类来不及验证它们是否安全,也来不及建立相应的监督制度。在旧问题尚未解决之前,下一代更强的系统已经开始训练和部署。
二、没有一家AI公司敢自己慢下来
如果所有前沿AI公司都已经意识到这种风险,最直接的办法似乎很简单:大家把研发速度放慢一点,留出更多时间研究安全问题。
但现实并不是这样运转的。
对于OpenAI、Anthropic、Google和Meta来说,模型能力不只是一个科研指标,它还关系到企业客户、订阅收入、云计算业务、开发者生态、资本估值和人才流动。一家公司推迟几个月发布新模型,竞争对手不会因此一起等待。它获得的可能不是更多安全时间,而是用户流失、收入下降,以及技术领先地位的丧失。
国家之间也是如此。AI已经被美国、中国和其他国家视为影响经济、军事、科研和产业竞争力的基础技术。即使一个国家认为AI发展过快可能带来风险,也很难在无法确认其他国家是否会同时减速的情况下,主动限制自己的企业和研究机构。
这形成了一个非常典型的集体行动困境:几乎所有参与者都知道继续加速可能存在危险,但每一个参与者又都认为,自己不能成为唯一放慢速度的人。最后的结果,是所有人只能继续向前。
过去几年,AI公司发布了许多安全框架,建立了红队测试、能力评估和模型发布标准,这些工作当然有价值。但它们始终存在一个隐含前提:安全措施不能严重影响公司的竞争力。一旦安全要求与产品发布时间、市场份额和融资预期发生直接冲突,自我约束究竟能够坚持到什么程度,很难只依赖公司的承诺。
所以,“Pacing the Frontier”才没有要求某一家公司率先暂停,而是把问题交给了政府和国际协调机制。因为签署者显然已经认识到,仅靠企业自愿,很难解决一个由竞争本身造成的问题。
三、真正失去控制的,可能是竞赛机制
我们通常说AI失控,想到的是一个拥有自主目标的超级智能系统。它拒绝人类命令,突破技术限制,开始按照自己的方式采取行动。
但在这样的系统真正出现之前,另一种失控可能已经发生了。
所谓控制,并不只是人类能不能关闭一台服务器,也包括我们能不能决定技术应该以什么速度发展。当所有参与者都知道速度过快可能有风险,却没有任何一个参与者能够主动改变整体节奏时,这场竞赛实际上已经拥有了自己的惯性。
今天的AI发展,表面上是由OpenAI、Anthropic、Google、Meta等公司推动的,但这些公司同样被资本、市场和国家竞争推动着。CEO可以决定某个模型具体在哪一天发布,却很难决定公司在未来两年不再追求更强的模型。因为一旦它停下来,竞争对手就会占据它留下的位置。
每家公司都在做自己的理性选择,最终却可能形成一个所有人都无法接受的结果。这个问题并不神秘,在金融、军备、环境和互联网平台竞争中都曾经出现过。不同之处只在于,AI能力可能提高得更快,影响的范围也更广,而我们现在甚至还没有确定应该在什么情况下减速。
从这个角度看,AI真正失控的,可能首先不是模型,而是围绕模型形成的商业和国家竞赛。模型还在数据中心里接受人类指令,但决定它发展速度的机制,已经不完全服从任何一个人的意志。
四、“Pacing”不是停止,而是保留争取时间的能力
“Pacing the Frontier”容易被理解为要求停止AI发展,但这并不是声明提出的主张。
它没有要求立即暂停模型训练,没有设定半年或一年的期限,也没有反对AI商业化和普通应用。它提出的是一种更有限的能力:当自动化AI研发开始显著加速,或者某些危险能力突然出现时,产业、政府和社会应该能够争取时间,用来分析风险、加强安全措施和建立监督机制。
这与永远停止技术进步是两回事。
一辆汽车不能只有油门,也需要刹车。刹车的存在并不意味着汽车不应该向前,而是驾驶者需要保留调整速度的能力。真正危险的情况,不是汽车开得快,而是驾驶者发现前方出现障碍时,才意识到车上从来没有安装刹车。
现在的问题是,AI行业还没有这样的机制。
我们不知道应该用什么指标判断自动化AI研究已经出现,也不知道哪些能力达到什么程度后需要减速。即使一家实验室发现了风险,又应该如何通知其他公司,怎样确认竞争对手会采取同样的行动,如何避免有人表面暂停、实际继续研发,这些都缺少可执行的答案。
声明要求建设的技术和治理工具,理论上就是为了解决这些问题,包括更可靠的能力评估、前沿模型监测、跨公司信息共享、触发减速的标准,以及国际之间的验证机制。OpenAI回应称,未来AI研发加速到一定程度后,世界可能确实需要调节AI进步的速度;Anthropic也表示,其关于递归式自我改进的研究显示,社会需要提前准备相关工具。
因此,这份声明更像是在提醒政府:不要等到风险真正发生以后,才开始讨论如何争取时间。
五、真正困难的问题,是谁有权踩下刹车
我认同人类应该保留让AI减速的能力,但这并不意味着“Pacing the Frontier”已经解决了问题。相反,它只是把最困难的问题提了出来,却没有给出答案。
首先,谁来定义什么是前沿AI?
如果按照训练算力划分,大公司最容易被纳入监管,但一些使用更高效方法训练的模型可能被遗漏;如果按照模型能力划分,又需要一套稳定、可信而且无法被针对性优化的评估标准。今天的模型在不同任务上的能力并不均衡,很难用一个分数决定它是否已经危险。
其次,谁来决定什么时候需要减速?
这个决定不可能只交给AI公司。企业既是风险信息的主要掌握者,也是监管规则的直接利益相关者。它们当然最了解模型,但也有动机夸大某些竞争对手的风险,或者把只有自己能够承担的合规成本变成行业门槛。
如果未来的前沿AI研发需要复杂的许可证、安全团队、独立评估和高额合规成本,OpenAI、Google和Meta可能仍然有能力继续训练模型,规模较小的公司、大学和开放模型团队却可能被挡在门外。最终,一套以安全名义建立的制度,反而帮助今天的领先者把技术优势固定下来。
这并不是说这些签署者的动机一定是维护垄断。1273名员工来自不同公司,许多人的担忧显然是真实的,而且他们的签名只代表个人观点。问题在于,任何治理方案都会重新分配技术和市场权力,不能因为它使用了“安全”这个正确的理由,就不再讨论谁从中受益。
还有一个更现实的问题:声明请求美国政府支持国际行动,但美国推动的“国际规则”,很难完全脱离美国自身的产业和国家利益。如果治理工具最终主要限制美国以外的企业,或者被转化为芯片、算力和模型能力的出口管制,那么它就不只是AI安全机制,也会成为技术竞争的工具。
人类需要刹车,但刹车不能只掌握在领跑者手中。否则,决定AI发展速度的权力,可能从市场竞争转移到少数公司与政府组成的封闭体系里,普通企业、开发者和社会公众仍然没有真正的参与权。
六、AI不能只有加速这一个选项
我一直认为,AI真正重要的价值,不是生成更多营销文案、替代更多初级工作,而是帮助人类解决过去无法解决的科学问题,包括疾病治疗、新药研发、能源、材料和气候变化。
从这个角度看,我并不赞成因为不确定的风险,就让AI停止发展。技术进步本身不是问题,缺少选择才是问题。
今天的AI竞赛有一种越来越明显的倾向:更强的模型、更大的算力、更快的发布速度,似乎天然就是正确方向。公司担心落后于竞争对手,国家担心失去战略优势,投资者又要求更快看到回报,所有力量最终都指向同一个选择——继续加速。
但一个真正成熟的技术治理体系,不应该只有这一个选项。
我们应该能够在AI帮助人类解决科学和医疗问题时加速投入,也应该能够在某种能力突然跨过风险边界时停下来观察;可以鼓励企业竞争,也要让不同企业在发现共同风险时拥有协调的机制;可以利用前沿公司的技术能力制定规则,但不能把规则完全交给这些公司自己决定。
“Pacing the Frontier”最重要的意义,并不是1273名AI从业者预测了一个一定会到来的灾难,而是他们从这场竞赛内部承认,单靠任何一家公司都无法解决速度问题。
当所有人都想慢一点,却没有人敢先慢下来时,风险已经不只是来自技术本身。
真正值得警惕的,也许不是某一天AI突然拒绝人类控制,而是在人类仍然控制着每一台机器的时候,我们已经失去了控制整个方向和速度的能力。



