标签: DeepMind

Claude开始给文字加“隐形水印”,它写的代码也有吗?

这两天,Anthropic公布了一项很容易被忽略、但可能影响所有Claude用户的变化:Claude开始引入文本数字水印。更准确地说,Anthropic在8月14日宣布,未来Claude模型生成的文本将带有水印,旧模型则会在未来几个月逐步加入。直接原因是欧盟《AI Act》第50条已经从8月2日起适用,要求生成式AI提供商为AI生成或修改的内容加入机器可读标记;Anthropic决定在推出时全球应用。

看到“数字水印”,很多人的第一反应,大概是Claude会不会偷偷往文字里塞一些看不见的字符。但对我来说,更有意思的是另一个问题:Claude生成的代码也有水印吗?现在大量开发者已经把Claude Code直接放进真实的软件开发流程。如果代码也带着Claude的“指纹”,会不会影响代码质量,提交到GitHub以后,别人又能不能反查出是谁生成的?

答案是:Claude生成的代码也处在这套水印机制之下,但代码里的水印通常比自然语言少得多。理解为什么,其实也就理解了SynthID-Text到底是什么。

一、Claude的水印,不在文字里,而在“为什么选这个词”里

Anthropic没有重新发明一套水印,而是明确采用Google DeepMind在2024年发表的SynthID-Text方法的一个版本。它不会在文本里插入零宽字符,不增加额外Token,也不是等Claude写完以后,再在里面附上一串隐藏编号;水印发生在模型生成文字的过程里。

大语言模型写一句话,本质上是在不停预测下一个Token。比如Claude已经写出“今天的天空有些……”,后面接“阴沉”“灰暗”“多云”可能都说得通。正常生成时,模型会按照这些Token的概率进行采样;SynthID-Text做的事情,是在几个答案都合理的时候,改变这种随机选择的来源。Anthropic用了一个很形象的比喻:平时玩棋盘游戏靠掷骰子决定走几步,加入水印以后,不再真的掷骰子,而是从圆周率的小数位里依次取数字。对玩家来说仍然像随机数,不影响游戏,但如果事后拿到足够长的一串结果,又知道这套规则,就可能判断这局游戏是不是用了圆周率。Claude的文本也是一样,单独看一个词没有意义,但大量选择积累在一起,就可能形成只有掌握密钥才能检测的统计规律。

这套方法最巧妙的地方,是尽量不改变用户看到的结果。Google DeepMind曾在真实Gemini流量中比较约2000万条带水印和不带水印的回复,点赞率只差0.01%,点踩率差0.02%,差异都没有统计显著性。至少从这项大规模实验看,用户基本感受不到背后的那颗“骰子”被换了。

二、Claude写的代码也有水印,但代码恰恰最难留下水印

这是Anthropic在官方说明中专门回答的问题。SynthID-Text能够工作的前提,是Claude拥有“怎么选都差不多”的空间;如果只有一个明显正确的答案,水印不能为了留下痕迹而故意把答案改掉。比如“2+2=”后面正常答案就是4,代码更是如此:if不能为了留下水印换成不存在的关键字,固定API名称不能随便改,函数参数或者协议字段也不能因为水印而破坏程序。Anthropic明确表示,当替换Token会造成事实错误或者让代码出错时,水印不会施加这种影响。

所以Claude生成的代码不是完全没有水印,而是通常比文章、邮件、故事这些自然语言包含更少的水印信号。真正有发挥空间的地方,例如代码注释,或者某些有多个同样合理表达方式的位置,仍然可能留下水印;但Anthropic认为这种机制对实际生成代码的影响可以忽略。 这其实揭示了SynthID-Text最重要的特点:它不是为了加水印而改变内容,而是在Claude本来就有多个合理选择的时候,顺便利用这些选择留下统计信号,没有选择就不强行留下。

从这个角度再看不同场景就很好理解了。写长文章时,每句话都有大量可以换一种说法的地方,水印容易累积;Claude翻译文章时,输出仍由Claude重新选择,因此Anthropic明确说翻译文本也会带水印;但如果只让它改几个错别字和标点,大部分文字并不是Claude重新生成的,最后可能少到无法可靠检测。事实性回答和代码也是同样的道理:越接近“只能这么写”,水印留下的空间就越小。

对于Claude Code用户,这个结论其实很重要:即使一段代码完全由Claude生成,也不意味着它一定能像一篇长文章那样被稳定识别出来。

三、有水印,也不等于能证明“这是Claude写的”

SynthID-Text和传统AI检测器还有一个根本区别。很多AI检测工具是在文章生成以后,根据句式、词频和语言习惯去猜“像不像AI写的”;SynthID-Text则是模型在生成时主动留下一个只有相应密钥才能验证的统计信号。

但主动留下信号,也不代表它能给一篇文章或者一段代码盖上“Claude原创”的章。Anthropic明确表示,水印最多只能帮助判断Claude是否可能参与过内容生成,不能区分“Claude从头写”和“人写完后让Claude大幅改写”。它也不包含用户、组织或具体聊天的信息,不能通过水印反查是谁生成的,更不能还原Prompt,也不会改变内容所有权。

水印同样不是不可破坏的。轻度编辑通常不会完全消除它,但如果整篇文字彻底重写,水印会消失;Google DeepMind也一直强调,SynthID不是识别AI内容的万能方案。 对代码来说,这个限制更加明显:代码本来就比文章更缺少自由选择,再经过开发者重构、格式化、替换实现以及与其他代码合并之后,想单凭水印准确回答“这段代码是不是Claude Code写的”,会更加困难。

四、真正改变的,不是我们怎么用Claude,而是内容离开Claude之后会发生什么

从普通用户的角度,这次变化几乎是无感的。Anthropic表示,水印不会增加Token,价格不变,对生成速度的影响也可以忽略;Claude Code用户没有必要为了水印改变开发流程,更不用担心Claude为了“留指纹”故意生成另一套更差的代码。

真正值得关注的,是这些内容离开Claude之后。欧盟《AI Act》已经要求生成式AI提供商加入机器可读标记,Anthropic也表示将提供自己的水印检测API。未来学校、媒体、企业或者内容平台,至少从技术上多了一种不同于传统AI Detector的判断方式:不是根据语言风格去猜,而是检查模型在生成时主动留下的信号。

但这里仍然有一道重要边界。检测到Claude参与,不等于证明一篇文章没有人的原创思考;检测到一段代码里存在Claude水印,也不能证明整个软件都是AI写的。一个人自己确定观点、结构和事实,只让Claude润色,与让Claude从头生成文章,在创作责任上显然不是一回事,但水印无法替我们完成这种判断。

过去几年,我们一直在讨论AI能生成什么:文章、图片、视频、代码,越来越像人,也越来越难单纯从结果上区分。现在行业开始补另一层基础设施——这些内容从哪里来,AI到底有没有参与。SynthID-Text远远谈不上解决AI内容识别问题,尤其对代码这种高度受约束的内容更是如此,但Claude开始采用它,还是意味着一个值得关注的变化:AI生成内容开始拥有一种以前纯文本并不具备的“来源信号”。

所以,Claude写的代码有数字水印吗?更准确的答案是:有留下水印的机制,但很多代码能够承载的水印很少,远没有一篇长文章那么容易检测。对于开发者来说,它今天几乎不会改变写代码这件事;但对整个互联网来说,“这段内容有没有AI参与”,正在慢慢从根据文风和感觉的猜测,变成一个可以由生成模型自己提供线索的技术问题。

Google发现卖铲子比自己挖金矿更赚钱之后,DeepMind怎么办?

这几天,Google对DeepMind进行了一次很大的调整。Demis Hassabis不再负责日常运营,转任Google DeepMind董事长和Alphabet首席科学家;原CTO Koray Kavukcuoglu接手Gemini模型、前沿AI研究、Gemini App和开发者团队。Jeff Dean和Sanjay Ghemawat也离开Google。Google说这是为了让Demis把更多精力放在AGI和科学上,但SemiAnalysis最新的文章《Gemini is Cooked but GCP is Cooking》却给出另一个解释:Gemini可能正在失去前沿优势,而Google Cloud正成为越来越确定的商业回报。

这让我想到那个老套的淘金故事。当所有人都在山里找金矿时,最稳定的生意往往不是自己挖到金子,而是卖铲子。Google现在似乎发现,它甚至不需要Gemini永远最强,只要AI公司都需要TPU、数据中心和云服务,Google就有机会从整个产业增长中赚钱。问题也因此变得有意思:当卖铲子已经是一门足够好的生意之后,Google还会不会继续给DeepMind留下足够资源,去寻找那些不知道什么时候才能挖出来的金矿?

一、Gemini可以不是第一,但Google未必会输

过去两年,我们习惯于用模型排行榜理解AI竞争,但Google早已不只是一家模型公司。Alphabet今年第二季度财报显示,Google Cloud收入达到248亿美元,同比增长82%;营业利润达到88亿美元,利润率提高到35.6%,Cloud backlog达到5140亿美元。更值得注意的是,Google第一次明确披露,已经开始把完整的TPU系统卖到客户自己的数据中心,现有TPU系统销售协议的大部分收入预计将在2027年确认。Google正在从“出租算力”,进入直接销售AI基础设施的生意。

SemiAnalysis甚至估算,未来Google会把相当大比例的TPU提供给Anthropic等外部AI公司。数字来自它自己的模型,不能当成Google已经确认的事实,但商业逻辑很清楚:如果Claude成为最强模型,却大量运行在Google Cloud上,Google并没有输;新的AI公司把融资花在Google的TPU和数据中心里,Google一样可以赚钱。OpenAI需要GPT赢,Anthropic需要Claude赢,但Google不一定需要Gemini每一代都赢。

二、当一块TPU可以直接赚钱,DeepMind面对的问题就变了

SemiAnalysis最值得关注的,并不是它断言“Gemini已经不行了”。这种判断太绝对,Google官方仍表示已经开始Gemini 4迄今最雄心勃勃的预训练。真正值得讨论的是,DeepMind和Google Cloud都需要同一种资源——算力。

一块TPU留给DeepMind,可以训练下一代Gemini,赌的是未来模型能力;交给Google Cloud,却可以很快变成合同、backlog和收入。Google在Q2财报中也明确表示,目前仍处于算力供应受限状态,外部Cloud客户和Google内部业务都在争夺容量。于是算力分配越来越像资本配置:同样一块芯片,是投入一个几年后可能成功的研究项目,还是现在就变成一份利润可见的云合同?

站在Google Cloud的角度,把TPU卖给Anthropic完全可以理解;但站在DeepMind的角度,你的竞争对手可能正在使用你所在公司的算力训练下一代模型。这是两种不同的商业逻辑。

三、DeepMind真正值得留下来的,也许从来不是Gemini

如果DeepMind存在的意义只是做一个更好的聊天机器人,这个问题并没有那么重要。即使某一天Gemini只能排第三、第五,用户可能也只是换一个应用、换一个API。

但DeepMind过去十几年真正让我觉得它值得存在的,并不是Gemini,而是AlphaFold。2020年,AlphaFold 2解决了困扰生物学界几十年的蛋白质结构预测问题。今天,AlphaFold数据库已经提供超过2亿个蛋白质结构预测,被190多个国家的300多万研究人员使用,其中超过30%的相关研究用于理解疾病。Demis Hassabis和John Jumper也因为蛋白质结构预测获得2024年诺贝尔化学奖。

这几年DeepMind又做出了AlphaMissense、AlphaGenome、AlphaProteo。今年推出的Co-Scientist,则试图把Gemini变成科学家的研究伙伴。在斯坦福的一项肝纤维化研究中,它提出的三个候选药物里有两个在实验中表现出抗纤维化效果,其中一个阻断了91%的相关损伤反应。

这些工作短期内很难像Cloud一样显示ARR,也很难用季度收入证明回报率,但它们可能改变药物研发、疾病研究乃至基础科学的速度。所以我并不认为DeepMind一定要在每一代Gemini上击败OpenAI和Anthropic,但我仍然希望Google把它真正保留下去。

四、这次调整,也可能不是坏事

把这次调整直接解释成Google为了赚钱开始放弃DeepMind,同样过度了。Google官方给出的解释恰恰相反:Sundar Pichai说,让Demis转任Google DeepMind董事长和Alphabet首席科学家,是为了让他把更多精力放在AGI和科学的未来;Demis自己的内部信也写得很明确,他一直相信AI的第一应用应该是改善人类健康,现在到了AI向世界证明其价值的时候,包括帮助人类最终攻克癌症这样的疾病。

从这个角度看,这次调整甚至可能是在把两件不同的事情拆开。Gemini已经是拥有9.5亿月活用户、API每分钟处理约220亿tokens的大规模产品,需要工程效率和商业执行;Demis真正感兴趣的AGI、生命科学和基础研究,则需要另一套时间尺度。

所以真正应该观察的,不是Demis的职位名称,也不是Gemini下一次在榜单上排第几,而是人才、算力和时间。Google是否还愿意把最好的研究人员留给没有直接产品目标的项目,是否愿意为科学研究提供足够的计算资源,是否允许一个项目几年都无法证明自己的商业回报。只要这三样东西还在,DeepMind就还是DeepMind。

五、Google可以卖铲子,但别停止寻找金矿

我能理解Google现在的选择。Alphabet已经把2026年资本开支预期提高到1950亿至2050亿美元,这些钱最终必须找到商业回报。Google Cloud高速增长、TPU能够卖出去,对Alphabet来说都不是坏事;而且只有一家企业能够持续赚钱,它才有能力长期承担那些高风险、低确定性的研究。

所以我真正担心的,从来不是Google开始用AI赚钱,而是当赚钱越来越容易以后,一家公司还有没有耐心继续做那些暂时不知道怎么赚钱的事情。如果当年的DeepMind在AlphaGo之后就被要求证明下一个项目能带来多少订阅和Cloud收入,后来有没有AlphaFold,很难说。今天回头看,它创造的价值也很难被放进Alphabet某一条财报科目里。

Google当然可以卖铲子,而且最好把铲子卖得足够赚钱。Gemini也不必永远排名第一,Google依然可能成为AI时代最大的赢家之一。但我还是希望DeepMind能够继续做那些不知道什么时候才能看到回报的事情,因为这个世界并不缺更好的聊天机器人,也不缺更便宜的token和更大的数据中心。真正稀缺的,是还有人愿意拿最好的AI、人才和算力,去解决疾病、生命、能源、材料这些人类至今没有解决的问题。

如果最后只满足于卖铲子,那才是真的把AI想小了。

谢尔盖·布林重新回到Google AI权力中心,DeepMind为什么必须退半步?

这几天Google AI最大的一次变化,不是新模型,而是人事。Demis Hassabis不再负责Google DeepMind的日常运营,转任DeepMind董事长和Alphabet首席科学家,把更多精力放到AGI、科学研究以及Isomorphic Labs;原DeepMind CTO、Google首席AI架构师Koray Kavukcuoglu接过日常管理。与此同时,谢尔盖·布林出现在Google AI的权力中心。

严格来说,布林并没有获得“Google AI负责人”的正式头衔,Koray是日常执行者。但《金融时报》报道,Koray去年已从伦敦搬到Mountain View,现在就在布林旁边办公;此前《The Information》也报道,当布林需要为AI团队协调算力、招聘或人员调动时,找的人就是Koray。布林从ChatGPT出现后回到Google,也早已不是偶尔参加会议,而是直接参与Gemini的训练和产品讨论。

所以,如果只把这次变化理解成一次管理层换届,可能低估了它的意义。Google真正要解决的是:DeepMind过去十几年形成的研究文化仍然很重要,但在今天与OpenAI、Anthropic、xAI进行近乎按月计算的模型和产品竞争时,仅靠这种文化已经不够了。

DeepMind没有失败,只是AI竞争换了游戏

我一直很喜欢DeepMind。它最吸引我的地方,从来不是做出更聪明的聊天机器人,而是相信AI最终应该去解决那些人类长期解决不了的问题。AlphaFold就是最好的例子:今天它已经提供超过2亿个蛋白质结构预测,被全球190多个国家的300多万研究人员使用,超过30%的相关研究与疾病有关。这样的成果,很难用季度收入衡量。

DeepMind之所以能做出这些东西,也因为它长期保持着接近研究机构的文化,允许科学家研究短期看不到商业回报的问题。但ChatGPT之后,前沿研究第一次和大规模商业竞争几乎重叠在了一起。今天一个模型训练完成,还要迅速完成评测、安全、API、开发工具、Agent能力和产品集成;Anthropic靠Claude Code建立开发者优势,OpenAI不断用新模型和Agent改变产品形态,xAI也在快速追赶。在这样的竞争里,两三个月都可能改变开发者的使用习惯。

Google应该很清楚这一点。Transformer论文来自Google,但后来真正把大语言模型变成大众产品的却是OpenAI。研究领先和市场领先,从来不是一回事。

Google现在最缺的,可能不是技术,而是组织速度

我不太认同“Google调整DeepMind,是因为Google AI已经落后”这种说法。从数据看,Google一点都不弱:今年第二季度Gemini App月活已经达到9.5亿,Google Cloud收入同比增长82%,Search仍增长17%;Alphabet还把2026年资本开支指引提高到1950亿至2050亿美元。Google拥有其他AI公司很难同时具备的算力、产品和分发体系。

问题可能恰恰出在资源太多。一家创业公司做出新模型,核心团队很快就能决定上线;Google发布旗舰模型,却要同时考虑Search、Cloud、Android、YouTube、开发者、安全、法律和几十亿用户。每个部门都有合理诉求,最后叠在一起,就可能拖慢组织速度。

Gemini 3.5 Pro的延期是一个很现实的例子。Google在5月曾表示Pro版本预计6月推出,但到现在仍在测试。报道显示,它尤其在Coding能力上没有达到内部目标,多层利益相关方参与发布也增加了协调成本。当然,这不能简单证明“DeepMind研究文化导致延期”,但至少说明Google今天需要的不只是更好的研究,还需要缩短研究到产品之间的距离。

Koray的重要性也正在这里。他过去几年一直负责组织Gemini研究团队,去年成为Google首席AI架构师后,又负责把Gemini推进整个Google。《The Information》把他称为Google AI内部的“fixer”。这次调整,与其说Google把DeepMind交给了一个“更商业的人”,不如说是把日常执行交给了一个更擅长穿透组织的人。

布林真正带回来的,可能不是技术,而是权力

我不太愿意把这件事写成“Pichai不行,所以创始人回来救公司”。过去几年Google合并Brain和DeepMind、大幅增加AI投入,都说明Pichai并不保守。但职业经理人和创始人在巨型公司里的作用确实不同。Pichai需要对整个Alphabet负责,要平衡搜索广告、Cloud、监管和资本回报;布林却可以只盯着一件事:Google不能输掉这一轮AI。

更重要的是,他拥有普通高管很难拥有的跨部门权威。算力给谁、哪个团队应该合并、哪个研究员必须留下、什么项目应该提高优先级,这些在大公司里往往不是技术问题,而是组织问题。技术范式剧烈变化时,大公司最稀缺的有时不是流程,而是有人能越过原有利益边界重新排序资源。

因此,布林与Koray的组合才值得关注:一个拥有足够的组织影响力,一个擅长把复杂事情真正推进下去。《金融时报》认为这次调整进一步强化了布林在Google AI中的影响力,这比“布林正式接管Google AI”准确得多。

但DeepMind只能退半步,不能退出

如果因为商业竞争激烈,就把DeepMind彻底变成Gemini产品部门,我反而认为会是Google的损失。今天大家讨论AI,注意力很容易被Benchmark、Coding和Agent吸走,但如果十年以后回头看,AI给人类带来的最大价值,也许不是帮我们多写了多少代码,而是有没有解决疾病、衰老、能源、材料这些过去解决不了的问题。AlphaFold已经证明,这条路值得有人长期坚持。

所以我更愿意把Demis这次变化理解成“退半步”。他不再承担Gemini每天面对的产品、进度和组织管理,把这些交给Koray;同时成为Alphabet首席科学家,继续把精力放到AGI、AI for Science和Isomorphic Labs。现有报道也显示,这次调整并不等于Google放弃长期研究,而是让Demis重新聚焦自己最独特的能力。

如果Google能把这套结构运行起来,它实际上是在建立两种时间尺度:一边是布林和Koray,需要几个月交一次答卷,让Gemini在Coding、Agent、API和产品上保持竞争力;另一边是Demis和DeepMind的科学研究,允许一些项目五年、十年以后才看到结果。Pichai则负责让两套体系都能获得足够资源。

这比“商业派战胜研究派”更接近Google需要的答案。我也因此更加期待Gemini 3.5 Pro,以及已经开始推进的下一代Gemini模型。Google已经表示,新的预训练正在进行,而且是迄今“最雄心勃勃”的一次。3.5 Pro能不能把Coding和Agent的短板补上,下一代Gemini能不能重新建立明显领先,会成为这次调整最直接的检验。

Google过去最宝贵的能力,是DeepMind愿意研究十年以后的问题;今天最紧迫的任务,却是Gemini必须几个月就交一次答卷。这两件事都重要,也不该让任何一件吞掉另一件。

所以我真正期待的,不是布林回来后把DeepMind变成只追逐模型榜单的AI公司,而是让Google跑得更快,同时让Demis继续有空间去做那些短期没有收入、却可能真正改变人类未来的研究。如果这件事能做到,那么DeepMind这次退的半步,也许会让Google的AI走得更远。

1273名前沿AI公司员工突然联名,他们到底在担心什么?

过去几年,几乎每一家前沿AI公司都在同时讲两件事。一方面,它们不断发布更强的模型,投入更多算力,争夺用户、开发者和企业客户;另一方面,它们又不断提醒外界,越来越强的AI可能带来网络攻击、生物安全、就业冲击,甚至人类无法控制的风险。

这两件事放在一起,多少显得有些矛盾。一家公司一边把油门踩到底,一边告诉所有人前方可能有危险,很容易被理解为一种商业策略:既要抢占技术和市场的领先位置,又要把自己塑造成最了解风险、最有资格制定规则的人。

但最近出现的“Pacing the Frontier”声明,还是值得认真看一下。

截至7月30日,来自OpenAI、Anthropic、Google DeepMind、Meta等前沿AI公司的1273名员工签署了这份声明,其中包括OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei、Meta AI首席科学家Shengjia Zhao,以及Google DeepMind联合创始人Shane Legg等人。签署行为代表个人立场,并不等于相关公司的正式决定,但OpenAI和Anthropic随后也公开认可了这份声明所讨论的问题。

Pacing the Frontier

声明的内容并不长,也没有要求立即暂停AI研发。它真正提出的诉求,是希望美国政府支持一项国际行动,提前开发必要的技术和治理工具,让人类在有需要的时候,可以有意识地调节自动化AI研发的速度。

这份声明中最值得注意的,其实不是AI可能失控,而是它承认了一件过去很少被前沿AI公司公开说得如此直白的事情:每一家公司和每一个国家,都承受着巨大的竞争压力,没有谁敢单方面放慢速度。

这可能才是当前AI发展中最现实的风险。

一、他们担心的,不只是下一代模型更强

“Pacing the Frontier”讨论的重点,不是ChatGPT、Claude或者Gemini下一次更新会提高多少分,也不是模型能不能写出更完整的代码,而是AI是否即将具备自动化AI研究的能力。

现在的AI已经可以帮助研究人员写代码、查阅论文、分析实验数据、寻找程序错误,但整个研发过程仍然主要由人来决定。人类研究人员提出方向、设计实验、组织训练、判断结果,再决定下一步应该做什么。

如果未来的AI不仅能够执行这些工作,还可以独立提出研究假设、设计实验、修改训练方法、分析失败原因,并根据结果继续改进下一代模型,AI研发的速度就可能发生完全不同的变化。更强的AI帮助开发更强的AI,新模型又进一步提高研发效率,最终形成一个不断加速的反馈循环。

没有人能够准确判断这个过程会以怎样的速度发生,甚至不能确定它一定会发生。声明本身对此也保持了克制,只是说世界领先的AI公司认为,它们“可能已经接近”自动化AI研究,而这种自动化究竟会把AI进步加速多少,目前很难预测。

问题正在这里。假如AI能力仍然按照现在的节奏发展,人类社会至少还有时间适应。政府可以制定规则,企业可以改造业务,学校可以调整教育内容,安全研究人员也可以慢慢寻找模型的问题。但如果研发周期突然从几年缩短到几个月,再从几个月缩短到几周,社会理解和管理技术的速度就可能跟不上技术本身。

这并不意味着AI一定会突然产生意识,或者某一天自行接管人类社会。更加现实的情况是,新的能力不断出现,但人类来不及验证它们是否安全,也来不及建立相应的监督制度。在旧问题尚未解决之前,下一代更强的系统已经开始训练和部署。

二、没有一家AI公司敢自己慢下来

如果所有前沿AI公司都已经意识到这种风险,最直接的办法似乎很简单:大家把研发速度放慢一点,留出更多时间研究安全问题。

但现实并不是这样运转的。

对于OpenAI、Anthropic、Google和Meta来说,模型能力不只是一个科研指标,它还关系到企业客户、订阅收入、云计算业务、开发者生态、资本估值和人才流动。一家公司推迟几个月发布新模型,竞争对手不会因此一起等待。它获得的可能不是更多安全时间,而是用户流失、收入下降,以及技术领先地位的丧失。

国家之间也是如此。AI已经被美国、中国和其他国家视为影响经济、军事、科研和产业竞争力的基础技术。即使一个国家认为AI发展过快可能带来风险,也很难在无法确认其他国家是否会同时减速的情况下,主动限制自己的企业和研究机构。

这形成了一个非常典型的集体行动困境:几乎所有参与者都知道继续加速可能存在危险,但每一个参与者又都认为,自己不能成为唯一放慢速度的人。最后的结果,是所有人只能继续向前。

过去几年,AI公司发布了许多安全框架,建立了红队测试、能力评估和模型发布标准,这些工作当然有价值。但它们始终存在一个隐含前提:安全措施不能严重影响公司的竞争力。一旦安全要求与产品发布时间、市场份额和融资预期发生直接冲突,自我约束究竟能够坚持到什么程度,很难只依赖公司的承诺。

所以,“Pacing the Frontier”才没有要求某一家公司率先暂停,而是把问题交给了政府和国际协调机制。因为签署者显然已经认识到,仅靠企业自愿,很难解决一个由竞争本身造成的问题。

三、真正失去控制的,可能是竞赛机制

我们通常说AI失控,想到的是一个拥有自主目标的超级智能系统。它拒绝人类命令,突破技术限制,开始按照自己的方式采取行动。

但在这样的系统真正出现之前,另一种失控可能已经发生了。

所谓控制,并不只是人类能不能关闭一台服务器,也包括我们能不能决定技术应该以什么速度发展。当所有参与者都知道速度过快可能有风险,却没有任何一个参与者能够主动改变整体节奏时,这场竞赛实际上已经拥有了自己的惯性。

今天的AI发展,表面上是由OpenAI、Anthropic、Google、Meta等公司推动的,但这些公司同样被资本、市场和国家竞争推动着。CEO可以决定某个模型具体在哪一天发布,却很难决定公司在未来两年不再追求更强的模型。因为一旦它停下来,竞争对手就会占据它留下的位置。

每家公司都在做自己的理性选择,最终却可能形成一个所有人都无法接受的结果。这个问题并不神秘,在金融、军备、环境和互联网平台竞争中都曾经出现过。不同之处只在于,AI能力可能提高得更快,影响的范围也更广,而我们现在甚至还没有确定应该在什么情况下减速。

从这个角度看,AI真正失控的,可能首先不是模型,而是围绕模型形成的商业和国家竞赛。模型还在数据中心里接受人类指令,但决定它发展速度的机制,已经不完全服从任何一个人的意志。

四、“Pacing”不是停止,而是保留争取时间的能力

“Pacing the Frontier”容易被理解为要求停止AI发展,但这并不是声明提出的主张。

它没有要求立即暂停模型训练,没有设定半年或一年的期限,也没有反对AI商业化和普通应用。它提出的是一种更有限的能力:当自动化AI研发开始显著加速,或者某些危险能力突然出现时,产业、政府和社会应该能够争取时间,用来分析风险、加强安全措施和建立监督机制。

这与永远停止技术进步是两回事。

一辆汽车不能只有油门,也需要刹车。刹车的存在并不意味着汽车不应该向前,而是驾驶者需要保留调整速度的能力。真正危险的情况,不是汽车开得快,而是驾驶者发现前方出现障碍时,才意识到车上从来没有安装刹车。

现在的问题是,AI行业还没有这样的机制。

我们不知道应该用什么指标判断自动化AI研究已经出现,也不知道哪些能力达到什么程度后需要减速。即使一家实验室发现了风险,又应该如何通知其他公司,怎样确认竞争对手会采取同样的行动,如何避免有人表面暂停、实际继续研发,这些都缺少可执行的答案。

声明要求建设的技术和治理工具,理论上就是为了解决这些问题,包括更可靠的能力评估、前沿模型监测、跨公司信息共享、触发减速的标准,以及国际之间的验证机制。OpenAI回应称,未来AI研发加速到一定程度后,世界可能确实需要调节AI进步的速度;Anthropic也表示,其关于递归式自我改进的研究显示,社会需要提前准备相关工具。

因此,这份声明更像是在提醒政府:不要等到风险真正发生以后,才开始讨论如何争取时间。

五、真正困难的问题,是谁有权踩下刹车

我认同人类应该保留让AI减速的能力,但这并不意味着“Pacing the Frontier”已经解决了问题。相反,它只是把最困难的问题提了出来,却没有给出答案。

首先,谁来定义什么是前沿AI?

如果按照训练算力划分,大公司最容易被纳入监管,但一些使用更高效方法训练的模型可能被遗漏;如果按照模型能力划分,又需要一套稳定、可信而且无法被针对性优化的评估标准。今天的模型在不同任务上的能力并不均衡,很难用一个分数决定它是否已经危险。

其次,谁来决定什么时候需要减速?

这个决定不可能只交给AI公司。企业既是风险信息的主要掌握者,也是监管规则的直接利益相关者。它们当然最了解模型,但也有动机夸大某些竞争对手的风险,或者把只有自己能够承担的合规成本变成行业门槛。

如果未来的前沿AI研发需要复杂的许可证、安全团队、独立评估和高额合规成本,OpenAI、Google和Meta可能仍然有能力继续训练模型,规模较小的公司、大学和开放模型团队却可能被挡在门外。最终,一套以安全名义建立的制度,反而帮助今天的领先者把技术优势固定下来。

这并不是说这些签署者的动机一定是维护垄断。1273名员工来自不同公司,许多人的担忧显然是真实的,而且他们的签名只代表个人观点。问题在于,任何治理方案都会重新分配技术和市场权力,不能因为它使用了“安全”这个正确的理由,就不再讨论谁从中受益。

还有一个更现实的问题:声明请求美国政府支持国际行动,但美国推动的“国际规则”,很难完全脱离美国自身的产业和国家利益。如果治理工具最终主要限制美国以外的企业,或者被转化为芯片、算力和模型能力的出口管制,那么它就不只是AI安全机制,也会成为技术竞争的工具。

人类需要刹车,但刹车不能只掌握在领跑者手中。否则,决定AI发展速度的权力,可能从市场竞争转移到少数公司与政府组成的封闭体系里,普通企业、开发者和社会公众仍然没有真正的参与权。

六、AI不能只有加速这一个选项

我一直认为,AI真正重要的价值,不是生成更多营销文案、替代更多初级工作,而是帮助人类解决过去无法解决的科学问题,包括疾病治疗、新药研发、能源、材料和气候变化。

从这个角度看,我并不赞成因为不确定的风险,就让AI停止发展。技术进步本身不是问题,缺少选择才是问题。

今天的AI竞赛有一种越来越明显的倾向:更强的模型、更大的算力、更快的发布速度,似乎天然就是正确方向。公司担心落后于竞争对手,国家担心失去战略优势,投资者又要求更快看到回报,所有力量最终都指向同一个选择——继续加速。

但一个真正成熟的技术治理体系,不应该只有这一个选项。

我们应该能够在AI帮助人类解决科学和医疗问题时加速投入,也应该能够在某种能力突然跨过风险边界时停下来观察;可以鼓励企业竞争,也要让不同企业在发现共同风险时拥有协调的机制;可以利用前沿公司的技术能力制定规则,但不能把规则完全交给这些公司自己决定。

“Pacing the Frontier”最重要的意义,并不是1273名AI从业者预测了一个一定会到来的灾难,而是他们从这场竞赛内部承认,单靠任何一家公司都无法解决速度问题。

当所有人都想慢一点,却没有人敢先慢下来时,风险已经不只是来自技术本身。

真正值得警惕的,也许不是某一天AI突然拒绝人类控制,而是在人类仍然控制着每一台机器的时候,我们已经失去了控制整个方向和速度的能力。

梁文锋想做AGI,Hassabis已经让我们看见AGI之后

昨天我写了一篇《梁文锋想的是AGI,我更关心AGI之后的世界》,起因是最近梁文锋在一次交流中,再次谈到了DeepSeek的长期目标,相比短期的收入和利润,他更希望把DeepSeek做成一个围绕AGI长期投入的技术组织。其实从DeepSeek过去几年的发展来看,这个方向一直比较明确,他们在模型架构、训练效率、推理能力和开源上投入了大量资源,商业化的节奏反而相对克制。对于梁文锋来说,AGI显然不是一个用来讲故事的概念,而是他真正想长期去做的事情。

我当然也期待AGI,但我昨天真正想讨论的问题,并不是AGI究竟什么时候能够实现,而是如果有一天真的实现了,然后呢?今天全世界投入巨资建设数据中心,购买GPU,训练越来越强大的模型,OpenAI、Google、Anthropic、DeepSeek不断刷新各种Benchmark,我们也每天讨论哪个模型更聪明、哪个模型写代码更强、哪个模型更便宜,这些竞争当然都非常重要,因为模型能力是所有AI应用的基础。但如果花费如此巨大的资源,最后只是为了让AI帮我们写更多代码、制作更多PPT、生成更多图片和视频,或者让一家企业原来需要10个人完成的事情变成5个人完成,我总觉得还是把人工智能的意义想小了。

写完那篇文章以后,我想到了另外一个人,Demis Hassabis(德米斯·哈萨比斯)。

梁文锋和Hassabis其实是两个背景完全不同的人。梁文锋学的是信息与通信工程,后来做量化投资,创办幻方,再成立DeepSeek;Hassabis小时候是国际象棋高手,后来做电子游戏,学习计算机科学,又去研究神经科学,最后创办DeepMind。他既是计算机科学家,又是神经科学家和游戏设计师,看起来跨度很大,但仔细看他的经历,会发现其实一直围绕着同一个问题,就是智能到底是什么,人类的大脑为什么会产生智能,以及我们能不能用计算机创造出类似甚至超过人类的智能。

DeepMind最早让AI玩Atari游戏,后来又做AlphaGo,并不是因为游戏本身有多大的商业价值,而是因为游戏是研究智能非常好的实验环境,需要学习、推理、规划、决策,还要在复杂环境里不断根据反馈调整策略。2016年AlphaGo击败李世石,让全世界第一次直观感受到人工智能已经可以在一个被认为高度依赖人类直觉和经验的领域超过顶尖人类,但如果Hassabis只是做出了一个世界上最强的围棋程序,我觉得他的故事也不会有今天这么有意思。真正让我觉得Hassabis与很多AI创业者不同的地方,是他并没有一直停留在证明“AI比人聪明”这件事情上,而是开始尝试把这种新的智能,用到人类真正没有解决的问题上,后来就有了AlphaFold。

从AlphaGo到AlphaFold

蛋白质是构成生命的基础之一,由氨基酸连接形成,但同样一条氨基酸链会折叠形成复杂的三维结构,而结构又决定了蛋白质的功能。过去科学家要确定蛋白质的三维结构,通常需要借助X射线晶体学、冷冻电镜等实验手段,整个过程复杂、昂贵而且耗时,如何仅仅根据氨基酸序列准确预测蛋白质最终的三维结构,也因此成为困扰生物学界几十年的重要难题。

2020年,AlphaFold 2在CASP蛋白质结构预测竞赛中取得突破性成果,后来DeepMind又预测了几乎所有科学界已知蛋白质的结构,并将超过2亿个预测结构提供给科研人员使用。2024年,Hassabis和John Jumper因为AlphaFold在蛋白质结构预测上的贡献获得诺贝尔化学奖。从严格的科学意义上说,AlphaFold并不是把“蛋白质折叠”所有问题都彻底解决了,因为真实生命系统中的蛋白质并不是一个静止的三维模型,它还会发生动态变化,与其他蛋白质、DNA、RNA、小分子以及复杂细胞环境发生相互作用,但AlphaFold确实解决了其中一个长期存在的核心问题,就是从氨基酸序列高精度预测蛋白质结构,并且第一次把这种能力大规模提供给全球科学家。

我觉得AlphaFold这件事情特别值得思考,因为它和我们今天最熟悉的生成式AI有很大的不同。ChatGPT帮我们写文章,Codex帮我们写代码,Midjourney帮我们画图,本质上都是让机器去完成一件原来人类已经会做的事情,只是做得越来越快、越来越便宜。这样的生产力提升当然非常重要,工业革命以来几乎每一次技术进步,首先带来的都是效率提高和成本下降。但AlphaFold往前走了一步,它不是简单地替代一个原来负责预测蛋白质结构的人,而是在帮助整个科学界突破一个长期存在的知识边界,这也是为什么我觉得,从AlphaGo到AlphaFold的变化,可能比AlphaGo击败李世石本身更有意义。

过去两年,我们讨论AI时经常围绕一个问题,就是AI会替代多少工作。程序员会不会被替代,设计师会不会被替代,客服、律师、医生会不会被替代,企业用了AI以后是不是能够裁掉更多员工。我自己一直在重度使用AI Coding,也确实感受到这种生产力变化,以前一个人很难在很短时间里完成一款完整的软件产品,现在借助Codex、Claude Code这样的工具,一个人可以完成过去需要几个人甚至一个小团队才能完成的工作。但从更长远的角度看,如果AI的最大价值只是把原来10个人做的事情变成5个人做,那么它仍然主要是在优化已有的生产方式,并没有真正扩大人类能够做什么。

科学领域恰恰不同,很多科学问题几十年没有解决,并不是科学家不够聪明,而是需要计算和验证的可能性实在太多,人的时间、实验成本和认知能力都有极限。一个化学空间可能存在数量巨大的潜在分子,一种材料可能有无数种元素和结构组合,一个科学家一生能够提出和验证的假设终究有限,如果AI可以在这些巨大的可能空间里先进行计算、模拟和筛选,再帮助科学家找到最值得验证的方向,那么它提高的就不只是某一个科学家的工作效率,而有可能改变科学发现本身的速度。

我更关心AI能不能解决疾病

昨天谈AGI的时候,我特别提到了疾病,因为相比AI未来能不能帮我们把工作效率再提高10倍,我其实更关心它能不能解决癌症、阿尔茨海默病、罕见病这些人类长期没有解决的问题,甚至进一步帮助我们理解衰老。

现代医学已经发展了几百年,我们今天拥有CT、核磁共振、基因测序、靶向药、免疫治疗等过去无法想象的技术,但面对很多疾病仍然非常无力。癌症仍然是人类主要的死亡原因之一,阿尔茨海默病还没有真正意义上的治愈方法,大量罕见病因为患者数量少、研发成本高,长期缺乏有效药物,而新药研发本身又是一个周期很长、成本很高、失败率也很高的过程,从发现靶点、筛选化合物,到临床前研究,再到一期、二期、三期临床试验,任何一个环节失败,前面的投入都可能归零。

AlphaFold当然不会因为预测出了蛋白质结构,第二天就治愈癌症,但它展示了一种完全不同的可能性,就是让AI逐渐进入科学发现和药物研发的过程。AlphaFold 3已经进一步扩展到蛋白质与DNA、RNA、小分子等生物分子结构和相互作用的预测,Hassabis后来创办Isomorphic Labs,也是希望利用AI重新设计药物发现过程。药物研发不会因为AI出现就突然变成一件简单的事情,临床试验也不可能被模型完全替代,但如果原来需要大量实验才能筛选的方向,可以先通过AI进行计算和预测,如果原来需要几年才能理解的蛋白质结构和相互作用,可以更快获得线索,那么整个科学研究的试错空间就有可能被大幅压缩。

所以有人会说,AI可能让药物研发进入“超速时代”,我觉得这里真正值得期待的甚至不只是把一个原本需要10年的药物研发过程缩短到5年,而是让一些过去根本没有条件研究的问题第一次变得可以研究。很多罕见病并不是科学上完全没有价值,而是患者太少,市场太小,按照传统药物研发的成本结构,很难形成足够的商业回报;很多复杂疾病也不是没有人研究,而是在巨大的生物学可能空间里寻找有效靶点和药物,就像在一个几乎无限大的迷宫里不断试错。如果AI能够把这种搜索效率提高几个数量级,那么过去因为成本、时间和复杂度而无法推进的研究,也可能出现新的机会。

这也是我真正期待AGI的原因。我并不在意AGI出现以后,它是不是能够把一篇文章写得比我更好,或者一个程序员一天的工作缩短到一个小时,这些变化大概率都会发生,但它们还不是我认为最重要的事情。我更希望看到的是,当机器拥有远超过今天的推理、计算和研究能力以后,它能不能帮助科学家找到一种新的癌症治疗方法,能不能理解阿尔茨海默病真正的发病机制,能不能为一种全球只有几千名患者的罕见病设计药物,甚至有一天真正理解生命为什么衰老,以及衰老是否可以被干预。

梁文锋与Hassabis

从这个角度再来看梁文锋和Hassabis,我觉得两个人身上有一个很相似的地方,就是他们想做的事情都比较远,也不太容易用短期的商业回报去衡量。

商业社会天然喜欢确定性,做一个App可以看下载量和付费率,做SaaS可以看ARR,做电商可以看GMV,投资一个项目最好几年以后就能够看到回报。但真正的基础研究往往不是这样,DeepMind最初研究围棋的时候,很难计算AlphaGo未来能够带来多少收入,做AlphaFold的时候,也不是因为突然发现蛋白质结构预测是一个巨大的互联网市场。Hassabis真正想做的是研究智能,然后利用智能去解决科学问题;梁文锋和DeepSeek今天主要还在做另外一端的事情,就是如何把智能本身继续往前推进,研究模型架构、训练效率、推理能力以及通往AGI的路径。

当然,两个人所处的阶段并不一样,梁文锋现在更多是在寻找如何实现AGI,而Hassabis同样一直把AGI作为长期目标,只不过从AlphaFold开始,他已经提前展示了另外一种可能,就是我们并不一定非要等到某一天宣布“AGI正式实现”,才开始让AI解决科学问题。事实上,今天各种专用AI系统已经开始进入生物学、材料、数学、气象等领域,随着模型能力继续提高,通用模型和专业科学模型之间的边界也可能越来越模糊。

中国未来当然需要更强的基础模型,需要自己的GPT、Claude和Gemini,需要DeepSeek这样的公司,也需要芯片、算力、Agent和完整的AI产业链。今天大家讨论Benchmark、模型价格和Coding能力,也都有现实意义,因为如果基础模型本身不够强,后面的应用也无从谈起。但模型终究只是一种基础能力,就像望远镜真正的价值不是口径有多大,而是我们最终用它看到了什么,如果未来中国AI竞争一直停留在模型排行榜高几分、上下文增加多少Token、API价格又降低多少,那么仍然只是完成了第一阶段。

我更期待的是有一天,中国也能够出现自己的AlphaFold,用AI去发现新的药物,研究癌症和罕见病,寻找更好的电池和材料,解决能源问题,帮助数学家、物理学家和生物学家去研究那些困扰人类几十年甚至几百年的问题。当越来越多这样的成果出现以后,AI才真正不只是一个新的互联网产业,而会逐渐成为科研本身的一种基础工具。

AGI之后,我们到底想要什么

回顾人类过去几百年的技术进步,每一次工业革命其实都在扩大人的能力,蒸汽机和电力扩大了人的体力,汽车和飞机扩大了人的移动范围,计算机扩大了计算能力,互联网让信息的生产和传播成本大幅下降。我觉得AI可能带来的一个更深层变化,是扩大人类能够解决的问题范围,以前一个问题太复杂,人脑算不过来,一个实验组合太多,人类试不过来,一个科学家一生能够验证的假设太少,而AI理论上可以在这些地方不断突破人的限制。

所以我并不太纠结AGI究竟是在2028年、2030年还是更晚出现,也不太在意最终是哪家公司第一个宣布实现了AGI,因为无论这个时间点什么时候到来,真正重要的问题始终是,我们最终准备拿这种前所未有的智能去做什么。

如果只是生成更多广告、短视频、营销文案,让互联网里的内容再增加一百倍,或者让企业进一步降低人力成本,当然也算是一种技术进步,但我觉得远远不够。人类还有太多真正困难的问题没有解决,疾病、衰老、能源、材料、气候、基础科学,包括我们对生命和宇宙本身的理解,这些问题中的任何一个如果因为AI取得重大突破,产生的价值可能都远远超过今天整个生成式AI市场。

梁文锋还在寻找通往AGI的路,Hassabis同样在追求AGI,但AlphaFold已经让我们提前看到了一点拥有更强智能之后可能发生的事情。AlphaFold并不是AGI,却证明了AI的价值并不只是把人类已经会做的事情做得更快,也可以帮助我们进入过去很难进入的未知领域。

如果很多年以后回头看今天的AI革命,我们大概不会记得某个模型曾经在某个Benchmark上领先了几分,也不会记得哪家公司曾经拥有最长的上下文窗口,但如果AI最终帮助人类治愈了某些过去无法治愈的疾病,解决了能源问题,延长了健康寿命,或者让我们理解了一些过去几百年都没有理解的科学问题,这些事情一定会被记住。

我想,这才是AGI真正值得我们投入如此巨大资源去追求的原因。