独家对话姚顺宇：请允许我小疯一下

AI业界不是有两个姚顺宇/雨吗？你要不要先给大家介绍一下你自己，并且给大家科普一下两个姚顺宇/雨的区别？

我叫姚顺宇，显然也有一个跟我几乎同名的朋友（姚顺雨，腾讯首席AI科学家，前OpenAI研究员）。我们俩主要履历也有一些overlap，看起来非常难以区分。

我以前是做物理的，本科在清华，那时做凝态理论，后来去斯坦福做理论高能物理。离开斯坦福之后去伯克利，短暂待了两个星期的postdoc博后，就离职了，去了Anthropic。在Anthropic待了一年，去年9月底、10月初加入了Gemini。

如果大家非要区分，最大区分就是，那个顺雨一开始一直是做CS，计算机相关；我从某种意义上是半道出家，之前做理论物理为主。

你们是不是好朋友？好像大学就认识，而且是一级的。他是一个什么样的人？你是一个什么样的人？

我们本科就认识，因为我们本科在清华是一级的。他一开始就学计算机，在姚班；我学物理。后来他去了普林，我去了斯坦福。这也是另一个有点令人费解的点——在普世世界，觉得斯坦福应该是学计算机的人该去的地方，普林斯顿是学物理的人该去的地方。但我俩正好反过来。哈哈。

我俩还真的挺不一样。他是一个比我有趣的多的人。在AI方面，他花了很多时间思考人和AI的交互、一些产品的事。

你们之前在硅谷多久见一次面？你们现在是不是还频繁打电话？有多频繁？

我们在硅谷见面确实挺频繁的，每几个星期吧。但好像见面是为了凑一块玩。哈哈哈。就是纯玩。可能出去散散步，扯扯有的没的。有时候吃个饭，打个牌啊之类的。他回去之后，我们也经常打电话。

他是不是多次想把你拉过去？

可能有这个意思吧（笑）。但是，我觉得不关键。多半是我自己的原因。去年八九月我离开Anthropic，决定要去哪，最大动机是我想学一些不一样的东西。对我来说，我没有更着重去考虑领导一个项目。我更多是想优先去学习一些东西，我选择去了Gemini。

你本科读量子物理、博士读了高能物理，物理对你的帮助是什么？

本科读物理最大的帮助是：第一，想问题要想清楚。读书不在于读的多，而在于读的深。如果你对一件事有和别人不一样的见解，那才是对社会来说更有价值的事。另一件事是，别太相信纯理论。因为当时能做数值，是因为数值和理论对不上，才仔细研究那个问题。

博士去读了高能物理，这就回到了说——总爱挑战很难的事，有时候也会带来一些不好的结果。我感觉我这个博士对自己学到很多东西、成长很大；但于这个世界，没有产生什么贡献。哈哈。

高能理论这个方向，足够难，非常非常难。但它不好的在于，不是特别可以验证，没有什么客观评价标准。因为高能理论已经发展到了实验完全追不上的阶段。

那这个学科是怎么进步的？如果不是实验，它的进步依赖于什么？

一个进步来源来自于数学的自洽性。比如你提出一个框架，那你能和现有的已被验证的低能标下的理论相自洽。这个自洽性是一个判定方法，是很合理、科学的。当然也有一些不科学的因素，当这个领域完全没有实验、没有客观标准，肯定不会只有一个自洽框架出现。

这时候谁做的好、谁做的不好，就依赖于领域内一些老登的主观判断。

你是被谁伤害了是吗？（笑）

我也没有被谁伤害，只是在那个领域待时间越长，就越觉得这件事蠢——人这一辈子也没多长，为什么要把自己的时间浪费在伺候老登身上？

所以是花了5年学习了很多知识，买了一个大教训。这个教训是——要做实验？

要做有比较客观评价标准的事，要做对这个世界能够产生影响的事。

达到外界的标准，或者达到一个小的圈子的评价标准，像训练模型一样。一旦有了这么一个小的圈子，你知道他们的评价标准之后，做得好是很容易的。哪怕不认可这个标准，你是可以达到的。

但我后来发现我蒙蔽不了自己，骗不了自己。博士最后两年，就会有这样的感觉。但那时确实也没想清楚，如果不做这个该去做什么？后来觉得，量子计算和AI是两条给小登机会比较多的路。

物理对你后来做AI有什么帮助吗？

硬实力上没什么帮助。纯工具性的技能上来说，从物理到AI的转化是非常非常少的。但非要问的话，可能是性格吧。做物理的人会更想刨根问底，更想理解一个事儿，更想做事很系统。

但事实上，语言模型这种比较large scale的AI，确实有很多物理出身的人做得很成功。尤其Anthropic这个公司。

很多人在描述这一代AI的时候，会说是黑盒，你能用科学的角度来理解一下这个黑盒吗？

这世界上所有东西都是黑盒。哪怕像物理这种，本质上这个系统还是一个黑盒。AI也是一样，黑盒不黑盒，都是相对的。我们对语言模型的理解，确实没到神经科学手术刀那个级别。但在实际能用的语言模型里，都没达到这样的理解。

但也不代表完全没理解。比如Scaling Law，它就描述了那个尺度下，模型随着大小和数据量，是怎么在perplexity这个指标下变得越来越好的。

所以Scaling Law是一种科学规律？

它是一种经验规律。但经验规律和科学规律之间的界限很模糊。热力学那些定律——第一定律、第二定律——当年被发现的时候，也都是经验规律。后来随着时间发展，慢慢知道了微观机制，就变成了科学规律。Scaling Law目前肯定还是很经验，但未来当技术变得比较固定，大家越来越多理解它微观过程的时候，会不会变成科学规律？有可能的。

能不能用科学的表达来解释一下「智能涌现」？

这个话本身就不太科学，自然也没法用科学的话来表达一个不科学的事。智能涌现，对我来说，它更多是一种主观的感觉，而不是客观现象。

很多人说智能涌现的时候，脑子里想的是，以前的语言模型只能做某一个方向的事。但现在模型好像可以做所有的事了。但这个事对我来说更多是一个技术上的涌现，而不是行为上的涌现——是我们通过研究发现了该怎么去做这种大规模的训练，能够水平的提升所有能力。这才是更本质的事。

你的定义是？

对我来说就是没定义。唯一质的区别就是，有没有发生一个技术上的改变，使得我们可以做scale up，可以水平的提升所有的能力。这对我来说是一个良好定义的事。

你之前说现在从事AI研究像17世纪从事热力学研究。

对。为什么比较那个时代的热力学？那个时代大家不理解什么是热的微观理论，不知道热是什么东西。就像现在，大家不能理解language model里哪一个矩阵元是在干什么。但是不妨碍你有好的经验定律。从研究人员的角度，理论和实验不太分家。

你在Anthropic的历程是怎么展开的？

主要还是有前同事在Anthropic。哈哈。Anthropic有很多做物理出身，尤其是做理论物理出身的人。

至于为什么倾向于选择这波人？主要原因是connection，就是联系。Anthropic的创始团队里当时有三四个比较技术的人，其中有两个现在还在技术一线领导的，都是做物理出身。他们可能招的一些人也是做物理出身，就这样一直延续下来。但到现在这个阶段，在我之后几乎没怎么再招完全没有AI背景的人了。所以是一个时代的产物。

你当时怎么认知强化学习？

没认知，哈哈哈。大概知道pre-train、post-train这个流程，但不太知道具体工业级别的语言模型是怎么训练的。更多还是觉得这是一个不确定的事、一个好的机会，就去干了。面试题也不太难，反正哈哈哈。

你选择的是强化学习方向。那时候Anthropic多少人？

七八百的样子吧总共。我对Anthropic的印象还是挺一致的——执行力非常强。它是一个比较top down的公司。很多事情决定了之后，就会全力去做。员工之间的氛围也很好，大家都不会藏着掖着。尤其刚去时候很小，大家都认识，氛围很好。

Anthropic下注coding，它为什么能做成这样？

一个显然的来源就是，前一代模型Claude 3放了之后，Twitter上有很多人在讨论说：Claude 3好像写code比GPT-4强啊。那个年代，GPT-4是一个和大家gap很大的模型。能有一件重要的事比GPT-4强，就很厉害了。

这也是我觉得这公司很强的一点——它execution执行力非常非常强。一旦给它一个信号让它觉得是reasonable、这公司该做的事，那就会铺上去。它没有那些大组织那种冗余。

它的执行力来自于哪里？来自于Dario这个人？

Anthropic能够实行top down机制，是一个很独特的事。实行top down有一个很难的点——你做技术的决策人必须也得是公司的决策人。首先你技术上得能服众，才能够信服下面的研究员去做这个事；另一方面，你得是公司的决策人，你得能为这个公司负这个责任。

Anthropic有这个条件，它的技术上的领导人其实是公司的cofounder——Jared Kaplan和Sam McCandlish。他们自己做这个决定，那是人家的公司，他有权利做这个top down的事。

这对于其他模型公司很难吗？

很难。比如说OpenAI就干不了。Ilya在的时候有可能可以。但Ilya后来好像失去了这个做决策的能力，然后他就走了。

大公司和startup打法本来就不一样。startup重要的是make bet，我如果想要赌就意味着有风险。在这种情况下，top down是一个很有优势的事。但是作为大公司，它可能就是另外一套想法——不仅能尽量减少做赌的成分，而是我能在方方面面都有储备。

Gemini是一个很传统的bottom up的组织。就是公司层面有一些比较良好定义的框架来看你的工作是好是坏，但本质上还是你自己来决定自己做什么。

Anthropic的cofounding team没有一个人离开公司。

对。那是一群真正一起打过仗的人。他们都是以前OpenAI的员工，甚至好多人都是在一系列关键文章上的合著者。像Scaling Law这个paper是Jared Kaplan然后Sam，还有Dario。GPT-3的paper这些人也都在。

他们是一块趴过战壕的人。互相之间的信任还是很关键。有很多公司干着干着，连小集体都团结不住了，那你怎么能指望大公司能团结住呢？

（张小珺：你在说OpenAI是吧？） 嗯，哈哈哈。

Claude 3.7对Anthropic来说是一个分水岭式的模型？

对于Anthropic的后训练来说，是一个分水岭。在3.7之前，后训练都是处于一个比较小规模，可能就是修修补补模型的状态。后来不管是OpenAI还是Anthropic，还是中国的DeepSeek，都意识到了这个事该怎么去scale up——就是得找到合适的环境，这个环境回馈信号足够清晰，本身也是一个很强的数据源。在这个上面能让训练非常稳定，这事就能做成。

那时OpenAI做的方式和Anthropic差别大吗？

差别挺大的。具体这种算法和使用数据的方式是不太一样的。虽然都叫后训练和强化学习。但大的方向来说，它们是同一个——找一些回归信号非常清楚、非常客观，数据本身又比较干净，对模型来说是可学习的，在上面做稳定的强化学习训练。具体实现差别比较大。后来事实也证明，具体实现每家方向都不一样，但是都能做成。

你每次都会说这是「集体的贡献」。什么时候是个人英雄的时代？可能在Transformer的那个时刻？

在那个技术还没到scale up那个点之前，找到了那个技术的人，可能是一个英雄。找到那个技术之后，很长一段时间从模型侧来说都是集体主义。

说集体主义的原因，是因为我觉得AI这个方向本质上是简单。除了可能跳变那一下，那个idea可能得有一些很深刻的洞见。在之后的过程中，很多想法是非常trivial、非常愚蠢的。谁都能想、谁都能干，只是你运气好，撞着这个机会去干了而已。

现在一个AI研究员的价格炒得多高啊，跟球星转会一样。

我不知道是好事还是坏事。对我个人来说当然很高兴，我受益于这个。但实际上来说，我并不知道这是不是一件好事。另一方面，对人的炒作有点过分了。再说一次，这是个集体主义的事。

AI个人英雄主义时代已经过去了，所以也没有什么英雄，有时候甚至觉得旧时代英雄有点蠢——谁比较蠢？

这个还是不说了吧。no comment，哈哈哈哈哈。

我觉得和做物理时候还是不一样。做物理时候还是存在着一些真的比我聪明太多的人。比如我读博的时候那个年轻老板Douglas Stanford，他就比我聪明太多了。看到他，才觉得自己在那个领域也没什么用。有他了还要我干嘛呢？

但反正就感觉AI这个事，本来也不太需要脑子——不太需要脑子，真的不太需要脑子。

这个行业最重要的特质就是靠谱，就是做事细，对自己做的事负责任。我觉得都是一些本科生就能干的活。

怎么快速判断一个人靠不靠谱？

我以前有出一道面试题。需要这个人在24小时之内完成一个强化学习的项目从0到1。24小时结束之后跟我有一个小时的讨论。

设计原因：一是在这个时代考察代码写得好不好没用，更重要的是他能不能有效利用AI。二是这个事有一个陷阱——如果你全盘让AI做了，但没有试图好好理解AI为你做了什么，那一小时的讨论里会露馅儿。考验的是你有没有真的和AI形成协作，还是全权扔给他？

为什么设计成24小时？就是为了看这个人有多看重这个机会。如果他足够熬夜，他就能撑住这24个小时。如果他撑不住，那只能说他对这个机会也没有那么看重。哈哈。

你为什么从Anthropic突然离职了？酝酿了多久？

当时酝酿了一个多月吧。一个方面是，我不是太特别认同Dario反华这个事。他个人做什么样的观点都无所谓。但作为一个公司CEO，把这个观点推到这么极端的地步，是一个非常情绪化的体现。这是比较小的原因。

大的方面是公司文化上有些冲击。因为从外面来了一些人，跟本来的文化有些冲突。之前比较简单，更像是一个小作坊，大家都是朋友。后来人多了，文化肯定会受到一些冲击。

你自己也想去学些不一样的事情？

是。Anthropic毕竟非常专注。如果你想做和语言模型相关的方方面面，做Agentic、coding这种事，在Anthropic很好。但Anthropic有很多不做的事，比如完全没有人做多模态生成，你想学没地儿学。Anthropic可能也没有花太多精力在更底层的工程基础设施上。想要学习更多的东西，也是当时离开的一个动力。

如果你想要的是一个很明确的scope，一定要把我的一个想法送到这个模型里去，那Google是一个很差的地方。但如果你想要的是有研究的自由、探索的自由，想从更广泛的人类学习，这个世界上可能找不到第二个比Gemini更强的地方。还是取决于你自己想要什么。

我觉得很多人不管从哪离职，换到另外一家之后会觉得不开心，主要原因是因为没想明白自己想要什么。比如说你要是到了Google，刚开始想的是要有研究自由，去了之后发现还是想要有产品impact，那可能就会很难受。哈哈。

你离开Anthropic那一刻，对它未来预期是什么？

我离开的时候对这公司挺悲观的。但后来显然是我过度悲观了。

我当时悲观的原因是，我离开的时候Anthropic主要的收入来源都是API，就是卖Token。这是个差生意，终局就是要打价格战。但后来Anthropic在产品方面确实有很多巧思——不管是Claude Code、Claude Cowork，都慢慢汇聚起来了。现在看来好像Anthropic更占优势一些。

（张小珺：你后悔过没有？）不太后悔。

你加入Gemini的时候，感觉大家对Gemini的预期不高？

我对Gemini当时预期已经挺高的了。我是去年9月底，Gemini放Gemini 3之前。业内的人当时对Gemini都还是印象不错的。

之前一直觉得Google很有危机，在OpenAI的冲击之下。大家的感知在Gemini 2.5这一代产生了变化。2.5是一个明显你能看出来Google开始上道了。我自己也用过2.5，用的挺多的。

从内部看，Google发生了什么变化？

首先就是Google的技术储备一直是够的。组织上后来变得越来越清晰了，有一个更好的框架让大家一起干这个事了。

从某种意义上来说，OpenAI是救了Google一命。大家以前一直都担心聊天机器人会不会完全把搜索取代掉。如果这个事真的发生了，Google其实很难受。但好在OpenAI先把这个事做了，让Google意识到了这个事很重要。但OpenAI又没有把这个事做到底，没有把search干掉。结果让Google自己把聊天机器人也追上来了。那现在难受的就是OpenAI了。

chatbot没有吃掉搜索，是因为OpenAI干的不好，还是因为这个干不掉搜索？

两方面都有。目前的chatbot这种交互方式不会完全吃掉搜索。搜索里有一些非常愚蠢的场景——比如我就搜买大米，一搜就完了，我还非得去问ChatGPT，它还在那转圈圈，转半天给你个链接，你再一点再跑到网页去买。没有那个必要。

但从另一个角度来说，它在聊天机器人这个事上也没有做到登峰造极，就还真的让Google把它给赶上了。

我觉得Google传统上在产品就是有点慢。Google特别擅长的事是找到一个极为简单的产品形态，大家都长一个样，它就疯狂给你卷技术，你就卷不过它。搜索引擎就是这样的一个事儿。

Google内部到底发生了什么变化？

组织上更清楚了。尤其像预训练，现在变得非常非常清楚——谁负责什么事情，每一个节点上谁是负责人。最早的时候很乱，现在至少预训练变成了一个非常非常可控的事。

大公司有大公司的打法。现在Google更多的是，像预训练这种比较确定性的事，已经是一个比较确定性的范式了。Google就会更像把它做成一个工程项目。Google的工程管理能力又很强，它就能慢慢把它做好。

后训练当然有更多不确定性，现在可能还是更bottom up一点，大家可以更广泛的试。

你刚才说「AI本质是简单的」——你能不能描述一下这句话？

它本质上简单的点在于，它能做实验。它和本质上难的东西比如物理，区别在于那个东西你没有能标下的实验数据，就是理解不了那个能标下的理论。但AI不被这个所约束——你理解不了没关系，也可以往前发展。而且事实就是能够做任何我能想到的实验，只是可能需要一些时间把计算量提上来。没有什么本质上的困难。

我一直在说，AI没有给人感觉碰壁的原因是，首先很多东西你都能试，其次不是大家已经想空了脑袋没有什么想法可以试——更多的是有太多想法，得一个个试，花时间。

而且很快，可能AI就会开始自己做实验了。

（张小珺：很快是多快？）未来的6-12个月，AI就会自己做实验。

它目前还做不到的是什么？

是它能不能从头到尾把一件AI研究的事做完。比如它不仅能写这个code，还能跑这个实验，还能看到这个结果，还能分析这个结果，知道哪儿做的不对，提出新的假设，设计新的代码，跑新的实验。这条链条目前还没有完整，但下一步会慢慢变得完整的。

预训练和后训练作为两个范式，都达到平台期了吗？

我觉得都没有。但你说要去预测到了多少，这个做不到。到达平台期有两种可能性——一种是技术本身到达了；另一种是想干的事到平台期了。我觉得现在就是后者：模型是一个非常聪明的小孩，你可以教它很多东西，但我们人类作为老师，现在还不知道下一个东西该教什么。或者说该怎么去合理的教它，用现在的这些范式。

最近硅谷有很多neo labs出现，你怎么看？

我看不太懂。哈哈哈。我的感觉是，绝大多数的neo lab都会死。可能有一些lab是真的有好的人，有些lab确实也开始在做一些事。但有些neo lab就是——请帮我把名字哔掉，哈哈哈。比如说XXX那个XXX，我就完全不知道他们到底要干嘛。这俩人其实已经远离这个专业好久了。

你未来会在Google很久吗？

我觉得应该不会。哈哈哈哈哈。我觉得我还是会尝试去挑战自己的。但是我需要找到一个值得我折磨自己的事。

我现在最高优先级是，把我刚才说的两个事情——ML coding和long horizon——能够和同事一起推进到一个比较稳定的状态吧。

你讲过一个特别让我印象很深的话：「我在这个行业又没有什么导师，又没有什么旧友，我当然想喷谁喷谁。」

这可能就是不是AI出身的好处吧。真的没有什么负担。没有哪个老登是你的亲属，所以你觉得他傻，他就是傻，就可以直接说他傻。无所谓的啊。（笑）

我觉得直接表达自己的想法是一个短期一定会有人恨你，但长期大家会欣赏的事情。

你最近听谁说话特别蠢？

把这个名字哔掉，谢谢。我觉得XXX一直挺蠢的，而且蠢得始终如一。哈哈哈。我觉得他说的话就是not even wrong。因为不良好定义，你很难说他说的是对是错。有一天可能有一个不一样的范式发生了，他就可以跳出来说「哎我当年说过这个」。但你就发现如果范式是另一种状态，他也能说一样的话。这就是为什么我很讨厌很vague、很模糊的人。一个事模糊就是没有意义的。

我觉得人年纪大了不一定会变成老登的。人年纪大了会变成两种状态——一种叫做德高望重，就是他少指手画脚，还会花自己的力气去培养年轻人。另一种人就是老登，就自己也不懂，还爱指手画脚。

你从什么时候开始说话更不收敛了？

做了AI之后就更直接。一是没有束缚，二是这个领域足够客观。你不用太担心因为自己的观点而惹到什么人。只要你的观点是自洽的，最终你在这个领域做得怎么样是有客观评价标准的——大家是会尊重你的。

你心目中影响AI进程的几篇论文？

sequence to sequence是一篇。我觉得是language model在feature engineering时代的高峰。Scaling Law是一篇，Jared Kaplan他们在OpenAI的那篇。是把这种体系化的研究方式引进到这个领域的。虽然最后实际上他做的方法可能并不是正确的，但是第一片把这个想法引进来的，我觉得很关键。

（张小珺：基于你当下的认知，一个关键的重要的bet是什么？）long horizon。long horizon。哈哈哈。

有特别崇拜的物理学家吗？

有但是有点多。比如Haldane，他有异常的远见，在他那个时代显得格格不入。Haldane最开始做Haldane model和分数量子霍尔效应相关的事，离最后大家搞明白这些拓扑物态过了好几十年。在那个时候他能觉得这事重要，然后一直在推进。

当然你非要在人工智能找一个类似的人，可能Geoffrey Hinton是吧——在大家都觉得这事可有可无的时候，他一直在这个方向做。

一个全球范围内你喜欢的食物？

寿司吧。

你心目中一个少有人知道但需要知道的知识点？

别相信老登算吗？哈哈哈。