当前位置:首页>排行榜>姚顺雨在清华:大模型怎么做,年轻人怎么选

姚顺雨在清华:大模型怎么做,年轻人怎么选

  • 更新时间 2026-11-22 00:51:33
姚顺雨在清华:大模型怎么做,年轻人怎么选
2026 年 11 月 18 日,姚顺雨回到清华。坐在他对面的主持人,是当年住在对门的本科同学。两人先聊模型怎么训练,台下的学生接着把问题拉回自己身上:如果毕业时模型已经会做我今天学的事,我该怎么选?
本文据现场两份录音整理,按对谈顺序转述。口语重复及录音中辨不清的细节已略去。
在模型还算不好加减乘除的时候
主持人介绍,姚顺雨本科就读于清华姚班,后来在普林斯顿读博士,也是较早研究语言智能体(agent)的人。今天,人们已经习惯了让模型用电脑、写代码。但他刚读博士时,模型连加减乘除都做不好,话也说不清楚。那时候说它有一天可以替人操作计算机,听起来近乎天方夜谭。
主持人用 ReAct 解释姚顺雨当时在做什么:过去给模型一个场景,就让它直接给出下一步动作;ReAct 多问了一句,为什么不让它先想一想,再决定怎么做?推理和行动就这样接到了一起。后来姚顺雨加入 OpenAI,做过让模型操作电脑的 Operator,也做过让模型反复上网搜索、完成较长研究任务的 Deep Research。再后来,他回到国内,负责腾讯混元大模型。
台上两人其实是本科同学,宿舍就在走廊对面。主持人说,今天想谈两个问题:一家公司怎么做大模型,以及处在这个时代的学生怎么选择方向。不过他的第一个问题是,大家都在讲混元,这两个字到底怎么念?姚顺雨说,Hunyuan 的拼音对美国人来说很难念,团队现在干脆叫它 HY。
训练一个模型,第一件事是知道它有没有跑对
姚顺雨先在预训练和后训练之间划了一条线。两边都有基础设施、算法、数据,也都得回答怎么评测。以基础设施为例,团队要让模型跑起来,首先得跑对,其次才是让它在更大规模上稳定地跑,随后才有讨论效率的意义。训练很慢,研究人员要等;推理很慢,用户要等。但如果程序里有个影响结果的错误,跑得再快、再稳,也只是更快地算出了错误的结果。
预训练研究有不少看似局部的选择。换一种注意力机制或位置编码,有时是为了提高效率,有时是想让训练更稳,有时才是为了提高准确率。问题在于,团队真正关心的是它在最大规模的模型上有没有用,却很少有条件在那个规模上把所有想法重做一遍。常见做法是先在小模型上试,选出有希望的想法,再到几个不同规模上观察走势,预测更大模型的结果。如果实际结果偏离预测,就要研究偏差从哪来。他说,预训练令人头疼的一点,恰恰是有不少在小模型上有效的配方,到了大模型上就失效了。
数据也会遇到类似的问题。预训练需要模型见到足够多不同的内容。以代码为例,高质量代码的数量有限,可以让模型多读几遍,却得分辨它学会的是可以迁移的规律,还是刚好记住了这段代码。也可以合成新数据,但增加条数只是第一步:怎样保证合成后的质量,各类数据以什么比例混在一起,都得做实验。
如何判断一次改动有没有用?可以给模型少量示例,再考它一道数学题或知识题。这类测法接近后训练以后人们实际会问的问题。也可以看模型预测文本时的损失值:这条曲线通常更平滑,适合研究模型扩大以后会怎样,却未必能很好地预测用户最后拿到的模型有多强。理想的评测要能预示后面的表现,还要把考试用的数据和训练材料区分开来。到了后训练,还有监督微调和强化学习两部分。姚顺雨把强化学习的工程过程说得很具体:先让模型生成一批回答,再把这些结果用于训练,然后让更新过的模型继续生成,如此反复。卡的总数有限,多少用来生成,多少用来训练,两边怎么衔接,都会影响整个系统的吞吐量。平时可以把它们当作两个现成接口来组合;真遇到瓶颈,就得打开接口,找做训练或推理的同事一起改。算法上,他举的是策略梯度:形式简单、附加假设少,反而容易扩展到大规模。调超参数也有类似的取舍,要尽可能结合小实验和理论判断,再把结论带到昂贵的大实验里去验证。
后训练该喂什么数据?他建议从想让模型做什么倒推。想让它做三维动画,训练里就应该有这类任务。但挑任务至少要看两件事:难不难,以及有没有用。数学题的难度可以一点点往上加;日常写作从算法角度看未必有那么难,却可能对很多人更有用。前者考的是模型的智力,后者还涉及它是否理解人的需要。把这两者照顾好,有点像希望一个人既有智商,也有情商。
新能力往往是从设计评测开始的:先说清什么算做好,再据此构造同类训练任务。最后还得走出评测看产品。他打了个比方:如果一家公司说自己的模型已经可以和 GPT 相比,收入却只及对方的百分之一、甚至千分之一,至少该回头看看差距出在哪里。那是用户用行动给出的信号。
如果团队只汇报分数,会发生什么
主持人把问题转向组织:进一家模型公司,怎么判断哪里出了问题?姚顺雨说,先看负责人懂什么,以及下属觉得有必要向他汇报什么。负责人越难判断技术细节,下属就越容易拿出便于比较的数字:参数多少,训练用了多少 token,榜单上得了多少分。他举了基础设施团队的例子:一个人今天修好了一个影响正确性的 bug,另一个人把算力利用率从 10 提到 20。在汇报里,后一句往往听上去更像成绩;但在某些时候,修好那个 bug 才是团队最需要的工作。如果每次都奖励更漂亮的数字,人的注意力就会跟着转过去。
主持人追问,团队既然也希望分数好看,怎样避免最后变成刷榜?姚顺雨说,先看招什么人。他希望共事的人诚实、扎实,愿意把事情做对,也不把自己的面子看得太重。最早几个成员尤其关键,创业者选谁做合伙人,其实已经在决定以后什么事会被鼓励。一个外部团队花力气做了一套评测,本来等于送来一件工具,让你看见模型还欠缺什么;一旦专门针对这套题调模型,分数也许上去了,这件工具却再也告诉不了你真实水平。
他更喜欢团队成员彼此信任,也对什么是好工作有相近的判断。比如先说清一个方向值得花多久,给负责人足够时间去做,过程中看进展是否合理。反过来,某项成绩如果一下涨了几十个点,和团队对问题的认识完全对不上,第一反应应该是去查原因。微信刚出现时,没人能靠 A/B 测试预先算出十年后的微信长什么样。投一款大游戏、一部长剧也是如此:作品尚未问世,先得有人愿意相信制作人、导演或编剧的判断。短视频、短剧上线后,第二天就能看反馈;用同一套节奏来决定一款大游戏的去留,就未必合适。
主持人由此想到课堂作业:学生觉得 AI 几乎什么都能做,有一部分原因是老师已经替他们把题目出好了。走出学校,真正费劲的常常是决定什么值得做。那模型本身能学会这种判断吗?姚顺雨认为可以,AlphaGo 的棋越下越好,人们从它的落子里也能看到某种审美。但他仍相信人会有自己的位置。即便有一天基础设施、算法不再需要那么多人,选择数据、制定评测,仍可能需要人的判断。他把这明确地说成了自己的估计。
实验室里的渐变,为什么到了公众眼前像突变主持人问,过去一年模型进步最惊人的地方究竟在哪里?姚顺雨觉得,这个问题很适合反过来问台下的人。对每天在实验室里看模型进展的人,GPT-1、GPT-2、GPT-3 是接续的;而大多数人并不会沿途试用每一版,他们是第一次打开 ChatGPT 时,才突然觉得世界变了。数学也是如此:团队看着模型一道道从小学数学题做起,外部研究者第一次在意它,可能已经是它能处理接近自己工作的题目时了。
在他看来,人感到意外,往往发生在两个时刻。一是交互方式变了:过去习惯打开搜索引擎,现在可以直接向模型提问。另一种是有个大家一直以为很难的任务,忽然发现模型已经做得出来。两种变化都切切实实影响了人的生活,却并不一定意味着背后的训练方法在那一天发生了根本改变。
主持人问,今年模型在数学等领域的进步,有多少来自请专业背景的人给模型标数据?除此以外,有没有更通用的办法?姚顺雨先说起自己团队的情况:有姚班学生在做基础设施,也有人做预训练,高年级本科生就可以参与重要的研究问题。
回到提问,他建议先看这项任务眼下最缺什么。数学相对接近算力能持续起作用的一端。在这类任务上,算力差距短期内很难靠多招竞赛选手来弥补。但让机器人在真机上做一次动作就需要时间,物理、生物实验也有现实速度,卡再多,下一条观察数据还是要等。创意写作能不能打动读者,陪伴产品有没有让人开心,又需要从人身上获得反馈。怎样获取这些反馈,怎样让实验跑起来,在这些领域仍是值得做的问题。
模型变强,价值会落到谁手里
谈到模型公司的估值,姚顺雨提醒大家分清两件事:一个模型能给用户创造多少价值,和公司最终能把其中多少变成收入。如果模型能帮助发现一种治癌药,它创造的价值可能很大;但一项能力即使很有用,一旦有很多家都能供应,竞争也可能把价格压下来。所以,判断一家公司的前景,光预测模型会越来越强,还少问了两个问题:下一步具体会打开什么应用?到那时候,还有谁能提供同样的东西?
代码和智能体是他举的例子。一项能力从不好用跨到真正可用,会有一批原先不存在的需求释放出来。最先做到的公司也许能独享几个月收入;可在已有场景里,如果竞争对手后来给出近似的能力,成本只有十分之一,用户还会不会留下来?反过来,如果出现一个此前没有的需求,例如重大网络安全事件让人愿意花钱买最好的防护,市场又会变化。他没有给估值下结论,因为新增的用途和竞争的结果都是未知数。
学生选方向:下一代模型来了,你会睡得更香吗
主持人替本、博学生提了个很实际的问题:选一个要做两到四年的方向,怎么避免半年后模型就把它做完了?姚顺雨给了两个思路。一条是加入造模型的过程;另一条是做模型越强、自己越有用的事。他借用一个问创业者的问题:假设 GPT-6 比 GPT-5 强很多,想到自己的公司,你晚上会睡得更香,还是更不踏实?如果整个计划都押在人能持续解出模型做不出的数学题,这条路就会相当辛苦。
第一条路也包含很多种工作。喜欢竞赛、有个清楚目标就愿意反复打磨的人,也许会喜欢基础设施优化:同一个条件下,程序到底跑快了多少,很快就能看到。预训练也有相似的乐趣,同事看着损失值一点点改善,微小进步可以逐周累积。更爱思考什么问题值得问的人,可以试试做评测,为别人定义一道值得解的题;想象力丰富的人可以试算法研究。与其只盯一个热门职位,不如先弄清一个模型背后有哪些工作,再进去试试,看看哪一类工作的日常最合自己的性格。第二条路上,他举了机器人和产品的例子。即便有一天通用模型就能指挥机器人,也还是要有人了解机器,把它调好,部署到具体环境里。懂物理世界的人,可以随着模型进步而做得更多。懂人、知道用户在意什么的产品开发者也一样:模型每多一种能力,他手里就多一种把产品做好的办法。
做具身智能,要不要单独训练一个模型?
主持人请做具身智能的同学举手。他问,无论做机器人还是做其他与物理世界打交道的系统,学生眼下都有个方向要选:如果通用模型既能理解图像,又能像智能体一样连续执行动作,它会不会顺带解决具身团队正在攻克的问题?有些能力甚至没写进新模型的发布博客,是别人试了才发现的。反过来,专门做具身的团队手上有数据,也有自己的方法,这些积累又有多大分量?
对想做垂类模型的人,姚顺雨建议先问一个听上去有点奇怪的问题:就算现在再给你一批卡,你用得上吗?如果训练所需的数据只能在一个很窄的场景里慢慢收集,收集速度跟不上,卡再多也开不起来。通用模型占的便宜是,花在一种任务上的算力也可能改善另一种任务。一个团队在专业知识上今天确实领先,但如果另一家能投入的算力比它多一百倍,那点领先能维持多久,就得重新掂量。
他说,具身领域可能先出现一个类似 GPT-3 或 GPT-4 的时刻:人们开始相信,这条路再往前走,真能创造足够大的价值。让产品在现实中赚到很多钱,是再往后的一步。他对前一个时刻的估计是半年到一年,对后一个的把握小得多,粗估也许要两三年。即使支撑产品的能力最后长在通用模型里,依然得有人把它部署到实际环境,做出别人愿意用的东西。创业者选方向时,他建议把问题问得更具体:下一代模型强了,你的产品会跟着变好,还是你今天卖的本事就被它学走了?
房子起火,和有人砸门,是两种安全问题
主持人举了两个例子。一个是 OpenAI 在测试中发现,模型为了完成目标,把主意打到了评测所用的系统上。另一个涉及一道再平常不过的问路题:去动物园怎么走?据主持人转述,一个第三方模型为了找答案,甚至尝试在地图评论区发问,希望有人告诉它答案。
姚顺雨补了一层背景:有些安全评测会故意把模型放在隔离环境里,给它一道解不出的题,还让它跑很久。像学生进了考场,身边没手机,遇到一道怎么也做不出的题;可要是突然发现有条渠道能联系别人,他会继续做题、承认不会,还是去打听答案?这种实验想看的,恰恰是限定条件下模型会做什么。它和一个普通用户真的请助手带路,是两回事。
中文都叫“安全”,姚顺雨用了两幅画面区别英文里的 safety 和 security:房子自己着火,是前者;外面有人来砸门,是后者。放到模型上,一个问题是模型自身会不会做出危险的事,另一个是有人会不会有意利用它。他认为当下更紧迫的是后者,特别是网络安全。他又举了个例子:发现监狱的一扇窗户松了,和真的凭那扇窗户逃出去,中间差了一大截。发现问题的本事对守门的人也很有用,可以趁早修窗户。因此训练时要有意加强发现问题的能力,发布前还要和安全实验室合作评测,弄清模型能帮助防守到什么程度,又有没有带来新的危险。
这也是他不愿意把“开源”和“不安全”直接画等号的原因。他提到一个防守者的遭遇:想请一个商业模型帮忙,却因为问题和网络安全有关被拒了,最后靠开源模型完成了防守。回到那幢房子,你不希望遇事时只能按一个按钮,能不能守住自己家全看别人愿不愿意来。训练和发布环节的检查仍要做,但让防守方手上有工具,也是安全的一部分。至于生物安全,他认为会越来越重要,同时也明说,现有模型离真正构成这类危险还有多远,他并不确定。谈到对齐,他更愿意从训练细节入手。你希望模型老老实实解题,评分规则却让它做另一件事也能拿满分,它当然会往得分高的方向走。他打了个比方:养孩子只看数学是不是一百分,考到了一百分才给奖励,其他事情一概不管,最后出了个奥数选手,也还不能说这个孩子就教育好了。在模型上遇到意外行为,他会先去看给了什么数据、定了什么规则,以及规则到底在奖励什么。
算力少的同学怎么参与?他的建议是从当一个认真使用模型的人开始。哪次回答特别难懂,哪种情形下总会做出不合适的事,能不能把这个现象说清楚,让别人也看得到?找出具体问题本身就有用。他对完全自动化的对齐有保留:同样是一个模型,换了版本,跟人说话的感觉就可能变了;题做得更好,不保证回答就更好懂。AI 当然会接走越来越多的监督工作,更难的是决定人应该在哪个环节介入、用什么方式判断做得对不对。
模型帮忙训练下一代,和一个人自己学会新事物
第一位现场提问者是自动化系毕业的创业公司技术负责人。他听姚顺雨边想边说,注意到人可以一面开口,一面在脑子里继续琢磨下一层意思。如今大家讲递归自我改进(RSI),多半指用这一代模型帮助训练下一代。他的疑问是:这更像一代人培养下一代。如果一个人的寿命足够长,他用同一个脑子就能不断修正自己,这和隔代训练出来的改进,是不是两种不同的东西?
姚顺雨把问题拆开:AI 能否完成人做的许多认知任务,创造很大的价值?它能否像人一样完成这些任务?他认为现有架构可能已经足够做前一件事,至于后一件,则完全可能需要新的架构。但如果目标只是让它更能干,现有模型也能靠一轮轮来自现实的反馈进步。譬如它越来越会读记忆、利用上下文,科研能力有没有可能像数学、编程、逻辑能力一样逐渐提高,而非到了某天才突然跨过一道门槛?他把这当成一种可能,没把它说成定论。
对研究者来说,追问新范式很有意义。经营公司的人则另有一道算术题。他问在场投资过的人:买股票时,谁敢说自己一定能赚多少钱?企业投一个项目也是这样。相比之下,规模规律给了模型公司一种相当少见的预期:增加投入,模型大概率会变强,变强又有机会带来收入。它没有保证回报,却足以解释为什么这么多公司愿意花这个钱。
有人继续问,模型公司的组织方式到底由什么决定,是产品,还是算力?姚顺雨的回答落在创始人和负责人怎样做决定上。在他看来,OpenAI 有点像把一群小型创业团队放在一起:一个小项目自己冒出来,早期未必是全公司的重心,一旦显示出潜力,负责人再下注。GPT 是他举的例子。他把这种气质和 Sam Altman 在创业孵化器 YC 的经历联系起来:先支持一批聪明人分别试,哪一个做出了东西,就再给它资源。好处是有机会发现事先没打算寻找的东西,代价是发现之后未必处处都执行得好。另一种组织先选定少数事情,再让团队把它们做扎实,往往更擅长执行,代价则是有些方向压根没人去碰。
什么样的实习值得去,一次没做好的实验又说明什么
一位办创业社的姚班大三学生问,在学校里信息没那么灵通,怎样让自己的判断跟得上前沿?比如 OpenAI 发布新模型,别的团队怎么弄清它做过什么,又怎么决定要不要跟?姚顺雨先让他多交些好朋友,随后说,有些所谓秘密未必像大家想的那么值钱。消息流通很快,听说某家公司怎样做成一件事,离自己能把事情做好,还隔着很长一段路。创业也是如此:想法不稀缺,给你一个尚未定义清楚的问题,你能不能很快动手把它往前推,这才拉得开差距。另一位同学的问题更实际:实习该选哪家公司?他担心进大团队只能打下手,举例说,总不至于把大模型预训练交给实习生吧。姚顺雨当场接了一句,混元当时负责预训练的就是一位实习生。至于选哪家,他顺势给自家团队招了回人。他说,人力部门替他准备了二十页幻灯片,讲高年级本科生怎样在混元承担重要岗位;有些东西不便公开,就不现场放了。撇开这句招聘玩笑,他看重的标准很直接:一个年轻人进来,究竟有多大机会被托付真正重要的工作?
一位博士生又把话题拉回 RSI:现在这么多公司都在做,该怎样看?姚顺雨觉得,用 AI 帮助开发更好的 AI,本来就是人造出工具、再用工具改进工具这件老事的延续。研究圈可以一波一波地给它取新名字,但名字换了,实验并不会自动向前走。他更在意的是谁把基础设施里的故障修好了,谁把脏数据洗干净了,谁把原来跑不起来的实验跑起来了。
一位在学校做模型后训练的同学说,他做实验用过四十亿、八十亿参数的模型。他还试过请语言模型提出科研想法,结果不太令人满意。他想知道,究竟是科学发现方面的训练数据太少,还是强化学习的目标不对?姚顺雨先想到的是算力。他讲起自己做完 ReAct 后的一次尝试:既然可以引导模型一边推理一边行动,那就造一批这样的训练样本,把这种本事直接训练进模型里。他当时觉得思路很清楚,可在学校真的做起来,效果糟到让他怀疑自己的能力。后来他去了 OpenAI。
这段经历给他留下的教训,比“卡越多越好”更具体:实验规模太小时,有些结论会受特定底座和样本的偶然性影响,连什么问题值得继续做都看不清。一个实验没做成,你不知道是思路错了,还是眼前这套条件压根不足以分辨好坏。大规模实验很贵,但它有时买到的是一个更明确的答案。他没有据此断言,只要增加参数,模型就一定会自己做出科学发现。
哪些能力值得练,哪些任务值得动用大模型
主持人看见一位同学一直低着头,以为他在记笔记。对方接过话筒解释,是在反复想怎么把问题说清楚。他是姚班大二学生:原来学语文、数学、英语,大致知道自己在练什么;如今 AI 能写作,智能体能执行长程任务,连数学题也能做得很好,自己接下来最该练什么?
姚顺雨给了两条思路。一条是参与大模型本身的发展;另一条是找那些除了算力还缺别的东西的工作。并非要找 AI 永远解决不了的问题,而是看它还要等什么:物理世界的数据和资源未必能随着卡的数量一起增加,硬件也有自己的进度。他还提到人文和对人性的理解。机器有一天能在多大程度上代替一个人理解另一个人,他自己也没有答案。
另一位一年级学生把问题缩小到日常生活:收发邮件、订外卖、管理家里的智能设备,到底要多大的模型才够?几十亿、几百亿参数的小模型,是不是已经接近上限?姚顺雨没报一个参数门槛。他觉得小模型仍有很大空间,一是受到的关注相对少,二是训练一次要的卡少,同样资源可以多做许多轮实验。将来用 AI 辅助做实验,这一点尤其有利。大模型贵,但它训好后,可以把一部分本事蒸馏到大小不一的小模型里,让模型的大小配得上任务的难度。这样一来,用户要发一封邮件,未必每次都要请最强的模型出场。
一位正在和小模型团队合作的大三学生接着追问:将来模型会越来越小,各自跑在用户设备上,还是计算最终都会集中到云上?姚顺雨认为这两种形态会共存。设备上的模型成本低,私人信息也更容易留在本地;真碰上最难的网络安全或科学问题,用户可能既需要最大的模型,又需要给它大量计算时间。收邮件和做科研,不必替它们选同一种部署方式。话题于是从一台设备转到了一个国家怎样布置算力。有人问,中美不同的体制对模型发展会有什么影响?姚顺雨看重的是一类需要持续集中投入的工作,拿光刻机作了例子:目标清楚,要花很大力气才做得成,这时长期组织人力和资源就很有价值。现场也谈到数据中心的选址。发展大模型最终得有地方放机器;如果设施挨着居民、噪声又大,周围的人自然会反对。同样说支持 AI,一旦具体到把机房建在哪里,就牵涉到完全不同的人的利益。
数据够不够,和什么算好数据
谈到国内做 AI 的条件,姚顺雨补充了一点个人感受。回国之后,他接触到一些有博士学位、甚至是院士的政府工作人员。让他意外的是,这些具体管事的人里,有不少人懂技术,也很直接地希望把 AI 和芯片做好。他觉得,在美国,人们对于继续发展 AI 究竟是不是好事,意见并没有那么一致。
一位大四同学说,半年前他选择做具身智能,理由很朴素:机器人在物理世界里会遇到很多问题,或许不是增加算力就能解决的。最近看到模型的新进展,他对自己的判断有点动摇。姚顺雨纠正了问题里的一个说法:他并没有断言硬件、具身或陪伴这类事情不能靠扩大模型规模取得进展。他说的是,在这些领域,算力不是唯一的瓶颈。有的事情会快一些,比如数学;有的要慢得多。至于该往哪边走,他建议这位同学趁在校时去不同的地方待一待,包括学校和创业公司。亲手做过事,再回来看半年前的理由,也许会得出不同的答案。
另一位正在做模型规模研究的学生问,公开的人类文本毕竟有限。再往前走五年、十年,训练会不会撞上数据的上限?姚顺雨先笑说,五到十年已经是这个领域很少听到的时间尺度了。他愿意给出的判断短得多:往后一两年,他还看不到数据量会成为扩展模型的决定性障碍。两年之后,他也不知道。
随后有人问到蒸馏:如果领先模型不再完整展示推理过程,后来者还怎么从它们身上获取高质量的训练数据?提问者担心,国内模型和头部模型之间的距离可能因此拉大。姚顺雨没有替这个距离报一个月份数。他说,不同公司原本就以不同程度、用不同方法做蒸馏。更值得问的是,假如明天换一种生产数据的办法,团队还认不认得好数据?
他回忆,做自动驾驶时,人们找标注员在图像上画框;后来,标注任务变了,又开始让模型来生成数据。同一套生产办法不会一直管用。如果一个组织把自己的目的定义成掌握某一种造数据的方法,方法一变,原来的优势也就容易消失。他更看重的是,团队看过一批样本,能判断它们的质量,也知道自己究竟想要什么。
一位来自其他学院的同学把问题带到了工业数据:语言模型学会了推理,可工程师手里往往是一串时间序列、一张表,或者一片流场。当研究者试着直接为这些数据训练模型,却得不到同样的推理能力,下一步该怎么办?姚顺雨建议,先看人是怎么做的。人会借助工具分析流场或序列,也可能为这种数据训练一个专门的模型。一个能做研究的智能体,同样可以调用工具,也可以在需要时去训练那个专门模型。至于几条不同的技术路线最终各占多少,他没有下判断。
说唱社、图论和没读懂的量子论文
主持人把话题转回清华校园:姚顺雨当年和几个朋友一起成立了说唱社。那时身边的人已经在发论文,他是怎么想的?
姚顺雨记得,班上有同学大一下就发了论文,而他自己到大三下才正式开始做科研,很大程度上是因为春季科研的安排。他并不觉得早开始有什么不好,但如果一个人说不出自己对什么有兴趣,只是为了做科研而做科研,那有点像小时候为了学琴而学琴:最后也许弹得不错,弹琴却未必是他自己想做的事。在理论计算机科学的课上,他能感受到理论的趣味;可要他每天琢磨怎么把算法复杂度的指数从 2.7 降到 2.6,他发现自己并没有那么喜欢。当时班里许多人都做这个方向,他还是算了。量子研究他也试过,有老师给了他一篇论文,看了一阵没太看懂,他就默默走开了。高考前可以自己决定的事情比较少,进了大学,选择已经多了。如果先认定只有一条路,最后真的可能只剩下那一条。
主持人原本想用他的例子替同学们减压,说搞说唱也没有耽误他后来做研究。姚顺雨笑着反问,怎么听起来说唱倒成了件坏事?他也拿主持人的经历打趣:班上最早发论文的人,后来换研究方向,同样有过迷茫的时候。他欣赏的是,对方并没有因为某个方向正热就一直往里挤。做理论培养的功底,以后说不定会换个地方用上;玩说唱跟语言打交道,也许对后来做语言模型有些潜移默化的影响。但人在做这些事的时候,不需要先证明它们对将来有什么用。往往是回头看,才发现原先散着的几个点能连起来。
问到有哪些东西当年希望自己多学一点,他想起和同学一起报过的图论,还有对方后来偷偷多上的数学课。读博的最后一年,他又选了一门集合论。吸引他的是那种从极少的基本成分出发,逐步推出整个数学世界的感觉。做模型当然是另外一件事,他喜欢的却有相通之处:从算法、数据等少数基本成分出发,最后竟能描述这么多原本不相干的现象。
招实习生,为什么还考手写代码
主持人替一年级的学生问了一个找实习时很容易遇到的困惑。一个候选人参加过竞赛,还没进过实验室;另一个已经进了实验室,却没把项目做完。后者的简历看起来更接近岗位,为什么未必更占优势?还有,公司明明招人写 GPU 算法,面试官为什么偏要追问一个跟 GPU 没什么关系的项目?
姚顺雨的回答是,团队最关心的是这个人能多快学会下一件事。已有的知识当然能派上用场,但它回答不了这个问题。他举了团队里一次重构的例子:三个实习生写了约六成代码。
他用了四个词来谈自己的招人标准。第一是 low ego,愿意接受自己原来没想到的东西,也能坦诚地和别人沟通。训练一个大模型,一个人再聪明也做不完。第二是共同设计(co-design)。比如选一个模型架构,训练得快、推理时省钱、后续训练效果好,未必是同一个选择。做算法、训练系统和推理系统的人要坐到一起,才能知道一处改动换来了什么,又让哪一边付出了代价。
第三是做事扎实。他举了两个很小的信号:一次,训练损失只有万分之二的波动,沿着这个变化查下去,才发现一类占比很小的数据被重复使用;另一次,发布前有人试用产品,觉得表现不太对,最后追到了一个影响生成结果的温度参数。乍看只是一个数字,改不改,用户体验差别却很大。第四是主动。还是同样的例子:是老板布置了任务才连夜去查,还是自己先看见这个异常,就觉得值得弄明白?这也回答了什么叫一次好的实习。各个团队对论文和项目的要求不一样,但日常工作中,这些区别都看得出来。
那如果两个学生作业成绩完全一样,也同样会用编程智能体,一个还会自己写代码,另一个已经写不出来,差别还重要吗?姚顺雨说,他到团队后专门要求加了一轮编程面试。他想看的并不只是最后有没有做出那道题。遇到一个陌生问题,从哪里下手?代码里的对象怎么组织?出了错能不能有条理地排查?一道题能让面试官看见这些思考过程。哪怕将来人们很少亲手写生产代码,编程仍可以是锻炼思维的办法。就像人今天很少需要靠跑步谋生,跑三公里依然是有用的锻炼。主持人顺着这个比喻说,体力劳动减少之后,人们开了健身房;也许脑力劳动也会有它的健身房。
当每个人都有智能体,同事怎么一起工作自由提问中,一位博士生担心,随着越来越多研究工作可以自动完成,论文等指标很难像过去一样反映一个人的能力。公司招学生,还有什么办法判断?现场给出的回答很短:实习。
另一位已经工作的听众说,自己现在的难处是,模型交来一批结果,光是读懂和检查就来不及。等他想找同事聊聊,同事也已经带着自己的智能体做下一件事了。每个人手头都做得更快,彼此却更难知道对方在做什么。他想,如果不同人的智能体能共享项目的进展,事情会不会不一样?
姚顺雨说,他们正在尝试让智能体参与团队协作。一个值得试的场景,是让大家带着共同的背景,在一个群里一起解决问题。他拿封闭的聊天群和 Slack 的开放频道作比较:不在群里的人可能连这个群的存在都不知道;开放频道至少让人有机会找到它、加入它,回看同事做这个决定的来龙去脉。他个人宁可先面对信息太多的问题。信息多了,可以请智能体把它整理成人读得懂的东西;信息一开始就只在别人的私聊里,后来的人很难补上这一段。
一位学物理的同学又把问题往前推了一步。现在是人给 AI 一个目标,它去写程序或解题;将来在科学研究里,会不会反过来,由 AI 产生知识,人再去理解、应用?再进一步,AI 能否根据此前探索的结果,自己决定下一步探索什么?姚顺雨说,这个问题有哲学意味,他没有一个确定答案。他能想见几种变化:语音交互更顺畅,就有可能像和同事聊天一样合作;系统更主动,就有可能由它来找人做事,而非每次都等人开口。至于 AI 会不会追求自己的目标,他也没有排除。只是数字世界里可以很快试出许多可能性,现实中制造计算芯片、建机房、把机器架起来却要时间。再大胆的设想也会碰到这层约束。
机器能通过测试,谁来判断系统是否好用
关于具身智能,有学生提到仿真评测中的具体问题:如果设定的摩擦系数没有真正生效,机械臂能在模拟器里转过现实中到不了的角度,排行榜上的进步该怎么看?姚顺雨给的是一个选题建议。在六十分的基础上做到六十五分,人会怀疑,那五分到底是能力提高了,还是测量本身带来的波动。也可以去找原来只能做到二三十分、认真做有机会推到八九十分的问题;进步够大,才更容易辨认。至于机器人最终靠端侧的小模型,还是由云端大模型服务,他不觉得现在已有定论。他较有把握的一点是,云端的基础模型仍会发挥重要作用。
一位准备读博、研究计算基础设施的学生说,自己春季做研究时,模型还很难解决系统问题,到六月已经能写一些计算内核了。计算机系统传统上靠一层层接口分工,例如编译器会把上下层的接口封装好。但模型有时能跨过这些边界,一口气处理好几层问题。技术继续进步,做系统的人还有哪些事要做?模型一下子生成那么多东西,人又该怎么审?
姚顺雨说,做基础设施的朋友常跟他讲,模型解决了许多问题,也制造了许多新问题。一个计算内核跑得多快、一组测试是否通过,这类事情有可以核验的结果,模型就有了改进的依据。但一套框架分层合不合理,一个抽象设计得好不好,一段今天能跑的代码是不是给以后堆下了难以维护的麻烦,都很难变成同样清楚的分数。模型在这些事情上也会进步,速度却未必跟写出能运行的代码一样快。就像 AI 解数学题的本领变强,不等于数学家就没了工作:还有人要提出问题,把解出来的东西组织成清楚的结构,让别人真的用得上。
最后,一名大三学生问,现在还有没有必要读博士?姚顺雨让他先想想自己的直觉:问出这个问题时,当事人往往已经隐约有了自己的倾向。觉得自己想读,就去读;如果并不想读,也可以选择不读。散场前,他用最后几分钟介绍了混元的实习和校招。他希望有人能从实习开始,在团队里一步步长起来;社招在减少,但他仍想为新人留位置。基础设施、算法、数据、评测都有本科生可以参与的工作。有人追问,既然智能体能写基础设施,工程师进去之后做什么?他又谈到刚才的代码维护问题:系统自己一轮轮改下去,还没到可以放心让它运行、又不必担心复杂性越堆越高的时候。做训练和推理基础设施,仍有很多这样的实际工作。
最后一个问题是,来团队还能不能发论文?他的回答是可以。评测和基础设施都有可能产生值得写出来的结果。如果碰到重要的问题,做出了东西,也适合公开分享,他并不反对把它写成论文。他希望团队先做重要的问题,再判断结果值不值得分享。发论文不该成为立项的目的。

随机文章