智東西
作者 智東西編輯部
編輯 心緣

智東西6月5日?qǐng)?bào)道，剛剛，兩位AI圈的重磅大咖——騰訊云一把手湯道生和騰訊首席AI科學(xué)家姚順雨，進(jìn)行了一場(chǎng)近50分鐘的深度對(duì)話，在把當(dāng)下AI領(lǐng)域最火爆的Agent（智能體）話題聊透的同時(shí)，還不乏互相趣味調(diào)侃，整場(chǎng)對(duì)話金句頻頻，看點(diǎn)十足。

剛開場(chǎng)，姚順雨略顯緊張，他打趣說(shuō)自己“平時(shí)都在海淀，很少來(lái)朝陽(yáng)”，但一進(jìn)入AI話題，他就瞬間找回了感覺。

對(duì)外界“騰訊在AI上慢了”的質(zhì)疑，兩人在現(xiàn)場(chǎng)做了正面回應(yīng)。姚順雨認(rèn)為，AI不是兩三年的短期游戲，而是一個(gè)長(zhǎng)期過(guò)程，ChatGPT和Claude Code不會(huì)是唯一Super App，會(huì)有源源不斷的新機(jī)會(huì)誕生。

湯道生提到，一些地方可能我們做得快了，有的地方做得慢了，業(yè)內(nèi)的提醒都非常好，有一些地方我們可以做得更好，但是就像你說(shuō)的，這是一個(gè)長(zhǎng)跑，這是一個(gè)馬拉松。

對(duì)談中，姚順雨談到自己小時(shí)候最喜歡的產(chǎn)品就是QQ空間和QQ秀，湯道生自嘲了一句“老登”，引發(fā)全場(chǎng)爆笑。

回憶自己曾經(jīng)的學(xué)術(shù)研究時(shí)，姚順雨特別提到，2022年第一次把語(yǔ)言模型與網(wǎng)頁(yè)和API連接起來(lái)時(shí)，看到模型能夠基于互聯(lián)網(wǎng)完成多輪交互，那一刻給他的感覺就像“微弱的電燈絲亮了一下”。

值得一提的是，他博士論文結(jié)尾的“未來(lái)工作”中，就提到了“為Agent訓(xùn)練模型”，目前看來(lái)，這確實(shí)是他所做的，姚順雨說(shuō)當(dāng)時(shí)他覺得自己已經(jīng)想得夠大了，但現(xiàn)在看來(lái)可能還是不夠大。

以下是本場(chǎng)對(duì)話的金句和代表性觀點(diǎn)梳理：

姚順雨：

·AI下半場(chǎng)方法論已經(jīng)成熟，找問(wèn)題變得更加困難，AI下半場(chǎng)的目標(biāo)是在中國(guó)建立一個(gè)長(zhǎng)期的基于AGI的組織。

·我覺得LLM時(shí)代和過(guò)去的AI最本質(zhì)的區(qū)別就是泛化性。

·Co-Design首先最難的一點(diǎn)是要建立Trust，很重要的一點(diǎn)是要有換位思考的能力。

·Agent技術(shù)最重要的兩個(gè)部分是外部Agent和Coding Agent。

·在中國(guó)更有價(jià)值的事情是，用一個(gè)更小的模型把更高價(jià)值的任務(wù)做好，“沒(méi)有性能，性價(jià)比就無(wú)從談起”。

湯道生：

·Agent時(shí)代我們會(huì)看到更多角色的融合，大家都是產(chǎn)品經(jīng)理，都要去了解透徹用戶的需求。

·今天 AI 時(shí)代做產(chǎn)品，要求的的能力更全面、更難了。

以下為湯道生與姚順雨的對(duì)話實(shí)錄：

一、做模型與做產(chǎn)品，“第一性原理”是什么？

湯道生：AI能力要真正落到場(chǎng)景中，背后還有很多復(fù)雜工作要做。今天我特別邀請(qǐng)到騰訊首席AI科學(xué)家姚順雨，和大家聊聊騰訊大模型與AI產(chǎn)品的思考與進(jìn)展。

我簡(jiǎn)單介紹一下順雨，順雨在學(xué)術(shù)界提出過(guò)ReAct框架 ，也在OpenAI參與過(guò)Operator、 Deep Research等前沿Agent產(chǎn)品；加入騰訊以來(lái)，他主導(dǎo)混元大模型的構(gòu)建，既懂前沿技術(shù) ，也扎根業(yè)務(wù)一線，相信會(huì)帶來(lái)不一樣的洞察，我們歡迎順雨。

姚順雨：大家好。我平時(shí)都是在海淀區(qū)，很少來(lái)朝陽(yáng)區(qū)，很高興。

湯道生：今天我們兩個(gè)對(duì)話，可能是一個(gè)比較新的形態(tài)，如果有什么出乎意料的，我想也是給大家一個(gè)驚喜。順雨，你加入騰訊前，我記得我當(dāng)時(shí)問(wèn)過(guò)你一些問(wèn)題 ，為什么下半場(chǎng)會(huì)選擇來(lái)騰訊？而且你認(rèn)為AI下半場(chǎng)最重要的是什么？

姚順雨 ：首先解釋一下什么叫做下半場(chǎng)，我最近感覺這個(gè)詞有點(diǎn)被濫用，這個(gè)概念是我去年的一個(gè)博客提出來(lái)的，什么意思？其實(shí)我覺得在去年之前AI已經(jīng)發(fā)展幾十年，但是更加重要的是怎么去解決問(wèn)題，去尋找好的方法，最近我覺得很明顯就是說(shuō)，方法論已經(jīng)變得非常成熟，但尋找問(wèn)題變得更加困難。

舉個(gè)例子，比如說(shuō)過(guò)去我們發(fā)明AIphaGo這樣的方法去下圍棋，但是這個(gè)方法只用來(lái)適合下圍棋或者下各種棋類。你會(huì)為了翻譯做一個(gè)特別的模型，但是它只能做翻譯，不能做其他事情。

但是有了預(yù)訓(xùn)練和后訓(xùn)練之后我們發(fā)現(xiàn)，我們像有一個(gè)萬(wàn)能錘子，它可以砸任何釘子，它是一個(gè)通用方法論，可以解決各種各樣的問(wèn)題，反而更困難的是怎么尋找好的問(wèn)題去解決。

其實(shí)我覺得加入騰訊很重要一點(diǎn)，就是說(shuō)這里有很多好問(wèn)題、有很多產(chǎn)品，我覺得這一點(diǎn)在接下來(lái)變得越來(lái)越重要。

一方面，好的產(chǎn)品能夠解決第一個(gè)問(wèn)題：我們做預(yù)訓(xùn)練和后訓(xùn)練之后到底要把它應(yīng)用在什么地方產(chǎn)生價(jià)值；第二個(gè)是環(huán)境是非常重要的，如果沒(méi)有好的環(huán)境，那Agent沒(méi)有辦法做各種各樣的事情，比如說(shuō)如果沒(méi)有一個(gè)點(diǎn)外賣的tool的話，就沒(méi)有辦法點(diǎn)外賣，很多事情做不到，我覺得最重要的是context，無(wú)論是企業(yè)還是個(gè)人，就像我上一次在AGI-Next說(shuō)的一樣，我覺得越來(lái)越重要的事情是context，因?yàn)槟Ｐ驮絹?lái)越擅長(zhǎng)把一個(gè)非常復(fù)雜的輸入變成輸出，很多時(shí)候你的競(jìng)爭(zhēng)壁壘就在于你有沒(méi)有最原始的輸入，你知不知道這個(gè)人他到底在干什么，你知不知道這個(gè)企業(yè)各種各樣的信息，這一點(diǎn)我覺得騰訊有非常強(qiáng)的優(yōu)勢(shì)。

但其實(shí)我覺得這只是第二大的原因，最重要的原因是文化，我記得我第一次跟你聊天，包括和其他總辦老板聊天的時(shí)候，我第一印象大家都非常誠(chéng)實(shí)，哪里做的好哪里做的不好，非常直白不會(huì)掩蓋，我覺得這種坦誠(chéng)是我第一印象。

第二個(gè)就是說(shuō)騰訊總體是一個(gè)基于trust，而不是基于metric去運(yùn)轉(zhuǎn)的公司，我覺得這一點(diǎn)對(duì)于做AI是非常重要的，包括我覺得我們的文化有非常low ego，有非常solid的這一面，我覺得這些文化對(duì)于長(zhǎng)期做一個(gè)AI的組織是非常重要的，包括我們對(duì)長(zhǎng)期主義的堅(jiān)持，所以AI下半場(chǎng)最重要是什么？我個(gè)人覺得就是，我們應(yīng)該在中國(guó)建立一個(gè)長(zhǎng)期的基于AGI的組織，今天的AI主要有三部分：

首先是foundation的部分，我們?cè)趺礃影杨A(yù)訓(xùn)練和后訓(xùn)練最基礎(chǔ)的東西做得非常solid。

第二部分是產(chǎn)品，我們?cè)趺礃影堰@樣的技術(shù)，真的為人和社會(huì)產(chǎn)生價(jià)值。

第三個(gè)是frontier，我們?cè)趺礃犹剿餍碌难芯糠妒?，探索新的機(jī)會(huì)。

我覺得最重要的是我們構(gòu)建一個(gè)非常均衡的三角形一樣的組織。

我覺得對(duì)于做foundation來(lái)說(shuō)：第一最重要的是有充足資源；第二就是需要正確的做事的方式，這些和我剛才說(shuō)的文化也是吻合的。對(duì)于產(chǎn)品來(lái)說(shuō)，有好的產(chǎn)品的sense，有這種做產(chǎn)品的人是至關(guān)重要的；第三個(gè)，在中國(guó)我們今天所做的前沿探索不夠多，所以我希望能把frontier exploration的精神能更多地注入到我們組織中。

湯道生：你提到的聊的過(guò)程中感受到的真誠(chéng)或者務(wù)實(shí)的氛圍，也是經(jīng)常我跟客戶交流得到的反饋，我覺得我們的做事方式，做產(chǎn)品的理念，其實(shí)也是比較實(shí)事求是的，畢竟AI賽道是長(zhǎng)跑，我覺得有時(shí)候認(rèn)知也很重要，我們做的好的和不好的也得認(rèn)，但關(guān)鍵是一個(gè)多維度的競(jìng)賽，我們看到現(xiàn)在模型有很多進(jìn)步，我們做產(chǎn)品其實(shí)也是有越來(lái)越多的形態(tài)，不同的場(chǎng)景有不同的需求，我覺得未來(lái)還是非?？善诘摹?/p>

二、Co-Design，模型和產(chǎn)品如何相互成就？

湯道生：你剛剛提到模型跟產(chǎn)品，產(chǎn)品可以說(shuō)提供一個(gè)環(huán)境，里面要給模型提供context上下文，我想問(wèn)一個(gè)問(wèn)題，我們平時(shí)開會(huì)提的有一個(gè)詞比較多是Co-Design，怎么把產(chǎn)品關(guān)模型能夠比較緊密底結(jié)合起來(lái)，尤其今天有這么多豐富的產(chǎn)品，從我們合作非常緊密的像元寶這樣的一個(gè)聊天機(jī)器人，包括AI搜索，企業(yè)里面也有部署智能客服、智能營(yíng)銷，另外最近非?；鸬念慅埼r像CodeBuddy、WorkBuddy這樣的產(chǎn)品，其實(shí)對(duì)于模型依賴很深，你怎么思考Co-Design這個(gè)方式？

姚順雨：有三點(diǎn)：首先CoDesign的前提就是說(shuō)模型本身要做的很solid，有很多foundational的work要做好。首先我覺得預(yù)訓(xùn)練是一個(gè)相對(duì)就是產(chǎn)品agnostic的事情，它做的非常solid可以提供非常強(qiáng)的foundation，而且預(yù)訓(xùn)練它最大的特點(diǎn)就是它是一個(gè)可泛化學(xué)習(xí)過(guò)程，它的進(jìn)步可以帶給各種各樣下游任務(wù)持續(xù)的價(jià)值提升。后訓(xùn)練我覺得最重要一點(diǎn)是要設(shè)立好正確的Eval，中國(guó)大家有個(gè)不好的傾向是大家喜歡刷榜，但是我覺得更重要的是如何實(shí)事求是的基于產(chǎn)品，基于真正的應(yīng)用，構(gòu)造更加真實(shí)的Eval。

第二要意識(shí)到可能“實(shí)用性”價(jià)值是大于刷榜價(jià)值，這一點(diǎn)我們做大量工作，跟各種各樣產(chǎn)品進(jìn)行了深度Co-Design，Co-Design很關(guān)鍵一點(diǎn)就是要產(chǎn)生相互信任，這一點(diǎn)我們做了大量工作，取得互信，怎么把產(chǎn)品數(shù)據(jù)用好，怎么把回流，怎么把Eval做好，有很多細(xì)節(jié)，我就不贅述。

第三點(diǎn)我想說(shuō)，LLM時(shí)代和過(guò)去的AI最本質(zhì)的區(qū)別就是泛化性，在LLM之前比如說(shuō)做翻譯產(chǎn)品，只要把翻譯數(shù)據(jù)做的特別好就行了。你做一個(gè)圍棋的程序，你只需要把圍棋的數(shù)據(jù)準(zhǔn)備特別好就行。但是今天即使你想只做一個(gè)Coding Agent，你會(huì)發(fā)現(xiàn)其實(shí)需要的不僅是Coding Agent的數(shù)據(jù)，你需要非常好的聊天能力，非常強(qiáng)的搜索能力，非常強(qiáng)的指令遵循能力，非常強(qiáng)的推理能力，它其實(shí)是非常復(fù)合的data的taxonomy，我覺得需要對(duì)這個(gè)事情有一個(gè)taste。

這個(gè)事情的推論就是說(shuō)有很多產(chǎn)品的體系化地方，會(huì)有比較大的優(yōu)勢(shì)，比如說(shuō)我們和元寶的Co-Design使我們模型產(chǎn)生很強(qiáng)的聊天和搜索能力，這樣的能力又可以被遷移到ima和WorkBuddy其他的產(chǎn)品，所以這些產(chǎn)品能夠提供不同的數(shù)據(jù)，但是這些數(shù)據(jù)之間又可以相互泛化，它形成一個(gè)像網(wǎng)絡(luò)一樣的體系，我覺得這一點(diǎn)的價(jià)值越來(lái)越重要。

湯道生：對(duì)，外部的榜也屬于Eval的一種，所以我們內(nèi)部做Eval跟外部的這種榜有什么區(qū)別？

姚順雨：首先benchmark還是有它的價(jià)值的，不是完全沒(méi)有價(jià)值，只是說(shuō)這些榜非常容易 overfitting?；谡鎸?shí)世界的數(shù)據(jù)會(huì)對(duì)模型的研發(fā)有幫助：首先就是你能發(fā)現(xiàn)模型很多底線問(wèn)題，實(shí)際上我們先發(fā)一個(gè)Preview模型最主要的目的之一是希望能夠獲得真實(shí)世界反饋，能修復(fù)各種各樣榜單中沒(méi)有發(fā)現(xiàn)的問(wèn)題，這個(gè)在會(huì)在正式版上面有很大的改進(jìn)。

第二點(diǎn)，你對(duì)真實(shí)的Prompt distribution會(huì)有一個(gè)更深的了解。我舉個(gè)例子，比如說(shuō)benchmark上面的這些題目可能它都是非常精確的，有非常長(zhǎng)的concrete description，它可能一般來(lái)說(shuō)是一個(gè)單純的問(wèn)題，但是我們知道在現(xiàn)實(shí)場(chǎng)景中可能大家問(wèn)的問(wèn)題都是比較模糊的，可能就一兩句話，它會(huì)不停追問(wèn)，這些場(chǎng)景可以啟發(fā)我們?cè)趺慈ジ米鲞@樣的訓(xùn)練。

第三點(diǎn)，我覺得甚至我們可以在這些產(chǎn)品上面獲得一些靈感去推進(jìn)現(xiàn)在還沒(méi)有的榜單或者是沒(méi)有領(lǐng)域的推進(jìn)，比如說(shuō)我們最近做了很多Context learning的工作，包括元寶的反饋也給我們很大的啟發(fā)和幫助。所以我覺得產(chǎn)品和模型的互相成就是越來(lái)越重要的一個(gè)AI的話題。

湯道生：我記得我們?cè)缙谧鲈獙毜臅r(shí)候還碰到多輪遵循的問(wèn)題，好像在使用產(chǎn)品，大家這種迭代Prompt的方式跟benchmark還有差異，真正在產(chǎn)品里面大家使用所需要的能力確實(shí)好像跟benchmark還有蠻大的差異的。

姚順雨：你問(wèn)我這么多問(wèn)題，我也問(wèn)你一個(gè)問(wèn)題。

湯道生：歡迎。

姚順雨：其實(shí)我記得我第一次跟您聊的時(shí)候，你跟我講了很多你過(guò)去的經(jīng)歷，從QQ空間、QQ秀的時(shí)代，一直到我小學(xué)時(shí)候最喜歡的產(chǎn)品。

從QQ音樂(lè)，到云到現(xiàn)在的元寶，其實(shí)跟你聊天很有意思，因?yàn)槟阕鲞^(guò)各種各樣的產(chǎn)品，to C也有，to B也有，遠(yuǎn)古時(shí)代的也有，最近AI時(shí)代的產(chǎn)品也有。我比較好奇，你覺得你做產(chǎn)品的第一性原理是什么，你覺得哪些經(jīng)驗(yàn)和價(jià)值是不變的？哪些東西是變的？

湯道生：我覺得其實(shí)最終做產(chǎn)品還是本著用戶到底有什么需求，我到底怎么去解決他的痛點(diǎn)，怎么去給用戶或者客戶創(chuàng)造價(jià)值。在不同的時(shí)代，甚至不同的行業(yè)，你做一個(gè)產(chǎn)品還是需要能夠給用戶帶來(lái)價(jià)值，他才會(huì)買單，才會(huì)使用。所以我倒覺得從PC互聯(lián)網(wǎng)時(shí)代我們做空間、移動(dòng)的時(shí)代做各種各樣的產(chǎn)品、內(nèi)容的產(chǎn)品，到產(chǎn)業(yè)互聯(lián)網(wǎng)做云，其實(shí)我們也要花好多的時(shí)間、精力去聽客戶的聲音，嘗試去幫助他們?nèi)ソ鉀Q他的問(wèn)題。底層的邏輯其實(shí)沒(méi)有這么大的變化。

但確實(shí)我覺得在PC互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)時(shí)代做產(chǎn)品跟今天在AI時(shí)代做產(chǎn)品還是有蠻多不一樣的地方。首先從范式的角度來(lái)看，在AI時(shí)代以前我們做產(chǎn)品很多時(shí)候想的是通過(guò)功能來(lái)滿足用戶的需求，你作為一個(gè)產(chǎn)品提供方、服務(wù)提供方，你想清楚我提供怎么樣的一個(gè)能力，讓用戶可能通過(guò)某些菜單去選，好像是一些“預(yù)制菜”，你只能在里面去點(diǎn)一樣。

但在AI時(shí)代做產(chǎn)品，它的那種開放式的服務(wù)形態(tài)就會(huì)帶來(lái)很不一樣的要求跟挑戰(zhàn)，用簡(jiǎn)單的交互方式可能是自然語(yǔ)言，可能是語(yǔ)音，其實(shí)作為產(chǎn)品方你也不知道用戶會(huì)問(wèn)什么。所以要充分利用模型能力去理解用戶的需求，然后通過(guò)比如說(shuō)今天大模型的這種邏輯推理，能去調(diào)用工具的能力，產(chǎn)品去給模型提供各種各樣可以用的工具，來(lái)應(yīng)對(duì)這種開放式的需求，這個(gè)是我覺得跟我們過(guò)去做產(chǎn)品很不一樣的地方。

甚至也包括你剛剛提到的Eval，以前我們做產(chǎn)品有很清晰很具體的產(chǎn)品的細(xì)節(jié)功能的描述，怎么去做設(shè)計(jì)、做研發(fā)、做測(cè)試，我覺得那個(gè)瀑布式的流程也比較清晰。但是做AI產(chǎn)品，我發(fā)現(xiàn)最大的變化是我們整個(gè)流程可能都要重新設(shè)計(jì)，尤其今年大部分的代碼都由AI生成，我們的工程師可能會(huì)花更多的時(shí)間去做設(shè)計(jì)，架構(gòu)的設(shè)計(jì)，把寫代碼的工作都交給AI了，然后定期去指導(dǎo)一下、修正一下。然后測(cè)試也要左移，更前置去想清楚針對(duì)我們各種案例Eval、環(huán)境，我們對(duì)于開放式答案的要求，甚至alignment怎么對(duì)齊，我們用戶所需要的那種風(fēng)格，我感覺今天時(shí)代做產(chǎn)品其實(shí)要求的能力更全面。

姚順雨：更難了。

湯道生：更難了。我問(wèn)你一下混元3，大家都在說(shuō)Hy3 preview是你騰訊的首秀，具體混元3做什么改變，你能給大家介紹一下嗎？

姚順雨：其實(shí)我覺得沒(méi)有什么秘密，今天做大模型從某種程度來(lái)說(shuō)比較Trivial的事情，我們應(yīng)該把Infrastructure做好，我們應(yīng)該把數(shù)據(jù)做好，算法的部分反而是比較簡(jiǎn)單的。其實(shí)我覺得主要幾個(gè)點(diǎn)吧。

第一，我們把Infrastructure重建了，無(wú)論是預(yù)訓(xùn)練還是強(qiáng)化學(xué)習(xí)。

第二是我們把數(shù)據(jù)和Eval做了很大的改變，如何去定義更真實(shí)的問(wèn)題，如何豐富數(shù)據(jù)的 taxonomy，如何去提高數(shù)據(jù)的質(zhì)量，這是一個(gè)永無(wú)止境的追求。

第三，我覺得很重要的很多決策其實(shí)包括怎么去招人，怎么去設(shè)立模型的節(jié)奏，怎么去每天有很多的Decision 要考慮很多Trade off，我覺得可能沒(méi)有一個(gè)很清晰的公式，我覺得是一個(gè)很Taste driven的事情。所以我其實(shí)挺好奇問(wèn)你一個(gè)問(wèn)題的，因?yàn)槟鷦倓偢矣懻揅o-Design這個(gè)概念，我很好奇您對(duì)Co-Design這件事情是怎么想的，你覺得哪些事情是應(yīng)該模型做的，哪些是產(chǎn)品應(yīng)該做的？

湯道生：我覺得Co-Design在不同階段，過(guò)去這兩年其實(shí)是一直在變化的，我覺得這個(gè)變化某種程度來(lái)講是隨著模型能力的升級(jí)而變化，當(dāng)然整個(gè)行業(yè)、市場(chǎng)、用戶的需求他在變化的過(guò)程中也會(huì)帶來(lái)我們兩邊模型跟產(chǎn)品需要更好去滿足。給我一個(gè)比較深的感受是怎么去對(duì)齊，因?yàn)樵谖覀円黄鹑プ霎a(chǎn)品，去做對(duì)齊會(huì)的時(shí)候，我們有很多不同的決策，產(chǎn)品可能要針對(duì)某個(gè)方向去解決一些問(wèn)題，模型到底怎么做去滿足這個(gè)需求，但是你要回到模型需要數(shù)據(jù)，數(shù)據(jù)應(yīng)該怎么標(biāo)注，到什么顆粒度，到底什么是好的標(biāo)注，什么是不好的標(biāo)注，因?yàn)橛幸恍┑胤揭?jiǎng)勵(lì)，有一些地方要懲罰。

然后還有Eval，還有評(píng)測(cè)，因?yàn)槿绻a(chǎn)品認(rèn)為好的產(chǎn)品體驗(yàn)，評(píng)測(cè)是不認(rèn)同的話，大家其實(shí)做出來(lái)的產(chǎn)品就會(huì)不一致了。所以Co-Design給我的感覺更多是在項(xiàng)目組里面不同的角色參與到產(chǎn)品的設(shè)計(jì)，定了一些產(chǎn)品的目標(biāo)方向，怎么讓多個(gè)角色能夠?qū)τ谝恍╅_放式問(wèn)題有比較好的對(duì)齊，如果沒(méi)有做到這樣一個(gè)對(duì)齊的話，你會(huì)發(fā)現(xiàn)產(chǎn)品的行為會(huì)不可預(yù)測(cè)。甚至有時(shí)候會(huì)有一些隨機(jī)性，因?yàn)槟Ｐ陀?xùn)練的過(guò)程可能也被混淆了。所以這是我這兩年跟做產(chǎn)品跟模型團(tuán)隊(duì)做Co-Design的一個(gè)比較深的感受。您覺得呢？

姚順雨：其實(shí)我是覺得，就像我剛剛說(shuō)的，首先最難的一點(diǎn)是要建立Trust，畢竟我覺得同理心很重要，因?yàn)檎f(shuō)到底做模型的目標(biāo)和做產(chǎn)品的目標(biāo)有很多align的部分，也有很多不align的部分。就是模型人希望我能力越強(qiáng)越好，但是產(chǎn)品的人覺得用戶需求越滿足越好。所以天然有很多不align的部分，我覺得很重要的一點(diǎn)是要有換位思考的能力。

其實(shí)就是你剛剛問(wèn)我元寶我們是怎么一步一步Co-Design的，其實(shí)一個(gè)很重要的細(xì)節(jié)是，我們當(dāng)時(shí)是派了后訓(xùn)練最強(qiáng)的骨干力量，去幫助元寶把后訓(xùn)練做好。當(dāng)時(shí)我們自己的預(yù)訓(xùn)練還沒(méi)有準(zhǔn)備好，但是我們知道維護(hù)元寶這樣的產(chǎn)品以及它的DAU會(huì)對(duì)我們接下來(lái)做模型也非常非常重要，而且對(duì)于創(chuàng)新的合作非常重要。

所以當(dāng)時(shí)其實(shí)很多算法同學(xué)不理解，我需要去很努力解釋，但是現(xiàn)在看起來(lái)這些努力都是pay off的，我覺得這樣一個(gè)動(dòng)作讓產(chǎn)品意識(shí)到模型的同學(xué)是真的在為產(chǎn)品著想，我覺得這個(gè)其實(shí)對(duì)于我們之后的合作，包括Hy3 preview在元寶上成功上線起到了非常重要的作用。當(dāng)然有很多技術(shù)的部分可以探討，但是最難的部分反而是怎么樣建立信任，怎么樣換位思考。

三、Agent技術(shù)往哪走？產(chǎn)業(yè)怎么落？

湯道生：對(duì)，非常認(rèn)同。我換一個(gè)話題，你是ReAct架構(gòu)的提出者，博士研究也是圍繞著語(yǔ)言智能體展開的，你幾年前的一些觀點(diǎn)到今天兌現(xiàn)了嗎？比如有哪些？

姚順雨：那天我挺感慨的，我重新讀了自己的博士論文，感覺又回到一個(gè)很遠(yuǎn)古時(shí)代，我的博士論文的title叫做Language Agents: From Next-Token Prediction to Digital Automation，是2019年。

湯道生：7年前。

姚順雨：那個(gè)時(shí)候Literally就是我們的GPT-2，那個(gè)時(shí)候它只能做Next token prediction，而且它產(chǎn)生一段話不太連續(xù)，或者有很多毛刺，所以當(dāng)時(shí)人們很難想象到它有一天成為一個(gè)改變世界的力量，當(dāng)時(shí)我覺得可能大家做的研究，稍微有想像力做一些研究，比如說(shuō)中國(guó)首都是，如果做Next token prediction它會(huì)回答北京，somehow它是一個(gè)有Knowledge的事情，能做到這一點(diǎn)大家當(dāng)時(shí)非常開心，覺得這個(gè)技術(shù)很有意思。

當(dāng)時(shí)我的想象力比較狂野，我覺得GPT是一個(gè)非常優(yōu)美的東西，吐下一個(gè)Token是一個(gè)非常極簡(jiǎn)且非常通用的事情，我覺得它有一天潛力不僅僅是在于吐出下一個(gè)Token，而在于把這個(gè)世界上所有的事情全部automate，我當(dāng)時(shí)想的還不夠大，我想的是digital automation，但是現(xiàn)在看起來(lái)也有可能是digital and physical automation。

我覺得其實(shí)我博士期間主要做兩部分，第一部分就是如何建立一個(gè)Agent方法論，如何把一個(gè)Next Token prediction的機(jī)器變成一個(gè)Agent，變成一個(gè)自動(dòng)化的機(jī)器，最重要的工作可能是你說(shuō)的ReAct。

我記得2022年7月份的時(shí)候某一天晚上，當(dāng)我第一次把PaLM 2的API和當(dāng)時(shí)手寫的一個(gè)Wikipedia API連在一起，它第一次可以基于這個(gè)網(wǎng)頁(yè)回答問(wèn)題，并且多輪交互的時(shí)候，我當(dāng)時(shí)感覺就像微弱電燈燈突然亮的感覺一樣，我感覺據(jù)我所知，人類第一次把LLM和互聯(lián)網(wǎng)連在一起并且做多輪交互，我當(dāng)時(shí)的感覺是，這個(gè)感覺可能在5年或者10年會(huì)改變這個(gè)事情，但是可能比我想象中還要更快。

我記得當(dāng)時(shí)我們第一次提出SWE-bench的時(shí)候，我覺得OK，如果這個(gè)事情能做到，那很顯然它會(huì)帶來(lái)巨大價(jià)值，當(dāng)時(shí)可能是幾百億、上千億，但現(xiàn)在可能是數(shù)萬(wàn)億，數(shù)是萬(wàn)億，可能我想的還是太小了。

另一部分我做的工作就是怎么定義Digital automation的任務(wù)，比如說(shuō)WebShop是第一個(gè)基于互聯(lián)網(wǎng)的Web Agent task，包括InterCode和SWE-bench是最早的Coding Agent這樣的任務(wù)。現(xiàn)在看起來(lái)Agent技術(shù)最重要兩個(gè)部分確實(shí)是外部Agent和Coding Agent。

那天我在群里跟大家聊天，我看我博士論文結(jié)尾，就是我在2024年寫我的future work，第一個(gè)是train models for Agent，第二個(gè)是shift and robust deployment，第三個(gè)是scientific discovery，第四個(gè)是怎么樣去help human，我很感慨，我說(shuō)我現(xiàn)在很幸運(yùn)確實(shí)在做當(dāng)時(shí)列的future direction。

湯道生：太厲害了，都一一看到整個(gè)行業(yè)這些方向在推進(jìn)。

姚順雨：可能想的還是不夠大，我覺得已經(jīng)覺得自己想的夠大了，但是可能還是不夠大，我覺得。

湯道生：技術(shù)的發(fā)展往往超乎我們的預(yù)期。智能體今天大家都說(shuō)需要消耗很多的Token，Token的調(diào)用，這對(duì)于混元做下一代模型研發(fā)，你覺得什么是你的側(cè)重，有哪些地方比較重要？

姚順雨：毫無(wú)疑問(wèn)今天Agent或者Coding Agent有點(diǎn)像預(yù)訓(xùn)練一樣，是不得不做的事情，是最基礎(chǔ)能力。我個(gè)人覺得Coding Agent非常本質(zhì)有很多原因。還有一個(gè)重要原因就是說(shuō)它是一個(gè)有點(diǎn)像圖靈完備的事情，當(dāng)你有能力去控制自己的file system，當(dāng)你有一個(gè)container的時(shí)候，其實(shí)你是一個(gè)complete這樣一個(gè)system，今天我覺得Agent毫無(wú)疑問(wèn)是每一家模型所發(fā)力的重點(diǎn)，我覺得我們做的方法可能會(huì)有幾個(gè)區(qū)別：

第一，即使今天Coding已經(jīng)是最重要的事情，但是我們還是會(huì)強(qiáng)調(diào)體系的全面化，我始終認(rèn)為要把Coding做好，其實(shí)需要遠(yuǎn)遠(yuǎn)不止Coding的數(shù)據(jù)，也需要聊天、推理，各種各樣不同的東西，因?yàn)榇竽Ｐ妥钪匾狞c(diǎn)是泛化性。

第二，很顯然產(chǎn)品作用越來(lái)越重要，如何利用好線上回流，我覺得是一個(gè)每個(gè)模型廠商都在應(yīng)對(duì)和思考的問(wèn)題。這里剛剛積累很多CoDesign經(jīng)驗(yàn)變得非常重要。

第三，我覺得還需要更多想像力，無(wú)論是技術(shù)演進(jìn)，還是產(chǎn)品演進(jìn)，甚至下一個(gè)范式演進(jìn)，我們需要做探索性甚至不確定性的工作。

湯道生：從產(chǎn)品側(cè)，因?yàn)榇蠹以絹?lái)越多有Token焦慮的聲音，Token成本爆發(fā)式增長(zhǎng)，我也聽到很多客戶甚至用戶身邊的同事們也在緊盯著積分消耗或者Token消耗，怎么可以讓我們的模型在解決某個(gè)問(wèn)題，或者完成某個(gè)任務(wù)，Token效率貴高，我之前做過(guò)一些任務(wù)可能是不同方向，有些方向也都知道肯定走不下去的，但可能模型還會(huì)試，試完之后走不下去再試下一個(gè)，里面有什么可以optimize的地方讓Token整體使用效率更高？

姚順雨：我覺得在中國(guó)討論性價(jià)比更多討論模型架構(gòu)，但其實(shí)它是很復(fù)雜的體系，我覺得最重要的是首先是你的performance，很多人跟我說(shuō)，他最后發(fā)現(xiàn)用Opus這樣的模型比用更差的模型更省錢，因?yàn)楦斓陌堰@個(gè)事情做對(duì)了，也省得人的精力，最重要的事情是performance，如果你的performance好，性價(jià)比是最關(guān)鍵的事情。尤其我覺得今年可能很多簡(jiǎn)單任務(wù)的robustness會(huì)變得更加重要，一次把相對(duì)簡(jiǎn)單任務(wù)做對(duì)，這可能是性價(jià)比更關(guān)鍵的部分，不僅是模型架構(gòu)。

第二部分就是成本它本身，性價(jià)比第一是性能，如果性能不好性價(jià)比無(wú)從談起。第二點(diǎn)是成本，中國(guó)是領(lǐng)先于世界的，就是我們做大量工作優(yōu)化我們的成本，成本可能最重要的事情是怎么用一個(gè)更小的模型把更高的價(jià)值任務(wù)做好，在這基礎(chǔ)上架構(gòu)創(chuàng)新，包括長(zhǎng)文管理，腳手架有很多需要做的事情。

如果我們做一個(gè)相對(duì)較小的模型，但是它比肩大模型性能，而且在大部分任務(wù)上做很強(qiáng)的robustness，這可能在很多長(zhǎng)程的上面提升一兩個(gè)點(diǎn)的提升，可能在今天的中國(guó)更有價(jià)值。

我很好奇，您覺得Agent，你是什么時(shí)候意識(shí)到它是一個(gè)什么新的產(chǎn)品的機(jī)會(huì)，以及你現(xiàn)在認(rèn)知是什么，你覺得現(xiàn)在我們離一個(gè)好用的Agent的bottleneck在哪里呢？

湯道生：我們做的Agent，針對(duì)不同場(chǎng)景有不同的產(chǎn)品形態(tài)，在Agent設(shè)計(jì)上面，很大程度是發(fā)揮好模型能力，當(dāng)然模型在迭代它能力越強(qiáng)Agent需要做的工作越來(lái)越少，我看我們好幾個(gè)產(chǎn)品在過(guò)去這段時(shí)間是隨著模型能力加強(qiáng)，我們可以把產(chǎn)品，把Agent做的更簡(jiǎn)化，更多的給模型提供更多不同的工具，創(chuàng)造更多的skills，來(lái)讓模型能夠更高效的去完成任務(wù)，給模型提供更多的我們叫記憶，用戶過(guò)去使用一些習(xí)慣，我們能提取出來(lái)的一些用戶preference的信息作為上下文，在Coding環(huán)境有相關(guān)的context給到模型，在WorkBuddy里邊辦公協(xié)作，做個(gè)PPT，可能大家關(guān)注的內(nèi)容或者該給到模型的context也會(huì)不一樣。

所以在我們做不同的Agent，我覺得更重要是了解場(chǎng)景下什么內(nèi)容，什么信息，是重要的，比較relevant的，能夠跟模型配合好，讓模型有它需要的信息，同時(shí)也發(fā)揮它的能力。

姚順雨：最近我們確實(shí)推出一些像WorkBuddy口碑不錯(cuò)的產(chǎn)品，背后很多小團(tuán)隊(duì)在快速迭代產(chǎn)品，我其實(shí)挺好奇，相對(duì)于傳統(tǒng)的產(chǎn)品研發(fā)，你覺得在新的Agent時(shí)代的研發(fā)和組織管理上，產(chǎn)品團(tuán)隊(duì)發(fā)生什么變化，你的思考是什么？

湯道生：我前陣子在幫WorkBuddy做一個(gè)組織發(fā)文，我看了一下他們那個(gè)非常扁平化的組織，跟我們過(guò)去的其他產(chǎn)品組織架構(gòu)有很大差異，更多小團(tuán)隊(duì)三個(gè)人五個(gè)人，可能圍繞某一個(gè)領(lǐng)域來(lái)做攻堅(jiān)，而且有很多試驗(yàn)在里面，還要支持Infra做實(shí)驗(yàn)，讓不同的小分隊(duì)可以去探索然后再驗(yàn)證，因?yàn)樵囼?yàn)大部分拿不到正向反饋，我們也要包容團(tuán)隊(duì)去試錯(cuò)，這種通過(guò)大量試驗(yàn)去提煉出對(duì)于用戶流程，對(duì)于我們想要的這個(gè)結(jié)果有正向幫助，這個(gè)是我覺得今天做Agent，做原生AI產(chǎn)品，這個(gè)組織形態(tài)要能夠比較好去支撐。

另外，原來(lái)可能有很多工程師有很多時(shí)間花寫代碼，但是今天毫無(wú)疑問(wèn)他們這些工作可以交給AI了，所以我們會(huì)看到更多角色的融合，大家都是產(chǎn)品經(jīng)理，都要去了解透徹用戶需求，以及設(shè)計(jì)出我們想要的產(chǎn)品形態(tài)，每一個(gè)工程師更像一個(gè)有想法的leader，驅(qū)動(dòng)多個(gè)Coding Agent，針對(duì)我們想要的產(chǎn)品需求去做研發(fā)、開發(fā)。同時(shí)要參與評(píng)測(cè)、測(cè)試，比較前置，也用好AI能力，把這些質(zhì)量保證工作，對(duì)齊工作要做到前面來(lái)。

四、AI下半場(chǎng)，新的機(jī)會(huì)在哪里？

湯道生：我也想再問(wèn)一下一個(gè)可能大家比較多討論的一個(gè)問(wèn)題，很多人都會(huì)提到騰訊慢，說(shuō)在AI上面我們沒(méi)有及時(shí)抓住一些機(jī)會(huì)，你覺得我們真的慢了嗎？到底下半場(chǎng)是什么？你能再多說(shuō)一下嗎？

姚順雨：感覺應(yīng)該是我問(wèn)你的問(wèn)題。

湯道生：哈哈。

姚順雨：我覺得首先AI其實(shí)今天有兩個(gè)重要判斷，第一個(gè)就是說(shuō)我們認(rèn)為AI是一個(gè)短期的游戲還是長(zhǎng)期游戲？在硅谷大家蔓延很多情緒，兩年后所有人都要失業(yè)，AI要取代所有人的工作，我們要趕快賺2年錢退休。但很顯然我們的判斷AI是一個(gè)長(zhǎng)期游戲，其實(shí)我覺得AI剛開始，下半場(chǎng)才剛剛開始，我不認(rèn)為ChatGPT和Claude Code會(huì)是唯一的super App，我覺得那是一個(gè)非?；野档氖澜?，我覺得肯定會(huì)有源源不斷新的機(jī)會(huì)誕生。

可能今天就像是70年代PC剛剛產(chǎn)生的時(shí)候，我覺得還有很多很多事情需要做。

第二個(gè)判斷，它會(huì)是個(gè)更線性還是多元游戲？因?yàn)榇_實(shí)過(guò)去幾年大家能看到的是Pre-training、post training，然后Agent，Coding Agent，似乎有一個(gè)非常清晰的主線，這個(gè)主線是所有人都在做一樣的事情，都在copy，這也是非常灰暗的事情。

但到底未來(lái)變得更單一還是更多元？我個(gè)人看法會(huì)變得更多元，毫無(wú)疑問(wèn)Coding Agent生產(chǎn)力會(huì)變得更加重要，我覺得它是剛剛開始的事情，這個(gè)世界還有很多空間沒(méi)有被填滿，多模態(tài)、具身智能，很多很多新的事情都在發(fā)生，或者剛剛發(fā)生，所以從這個(gè)角度來(lái)說(shuō)，如果我們認(rèn)為下半場(chǎng)剛剛開始，可能確實(shí)不是完了。

過(guò)去模型、產(chǎn)品做了很多探索，走很多彎路，我覺得這是正常的，你如果沒(méi)有做過(guò)一個(gè)事情，第一次做肯定有曲折，但是我覺得可能更重要的事情是能不能誠(chéng)實(shí)面對(duì)自己，能不能Be Real，能不能夠去看到feedback然后去改變，能不能夠保持耐心，這個(gè)事情是下半場(chǎng)最重要的事情。

湯道生：大家對(duì)于騰訊經(jīng)常喜歡挑某一個(gè)點(diǎn)來(lái)批評(píng)，當(dāng)然我覺得我們也很歡迎大家給我們提更高的要求。

我們是一個(gè)非常多業(yè)態(tài)的公司，有很多產(chǎn)品分布在很多的賽道，同時(shí)也有很多的團(tuán)隊(duì)在推進(jìn)不同的項(xiàng)目、事情。所以毫無(wú)疑問(wèn)，在這樣一個(gè)復(fù)雜的組織里面有一些地方可能我們做得快了，有的地方做得慢了，有一些地方可能會(huì)做失敗，在探索。所以我覺得這些提醒都非常好，我覺得確實(shí)有一些地方我們是可以做得更好，但是就像你說(shuō)的，這是一個(gè)長(zhǎng)跑，這是一個(gè)馬拉松，騰訊還是有非常豐富的場(chǎng)景。

就你一開始提到選擇騰訊，因?yàn)锳I需要Context，模型需要很多的這些上下文，其實(shí)騰訊在過(guò)去多年不同產(chǎn)品，在不同賽道的這些積累，其實(shí)都是可以針對(duì)每一個(gè)場(chǎng)景去為模型提供有用的信息，提供這些Context來(lái)發(fā)揮價(jià)值。

在這樣一個(gè)長(zhǎng)跑，我相信模型會(huì)不斷迭代，用戶的需求也在不斷變化，也會(huì)有新的產(chǎn)品形態(tài)出現(xiàn)，我覺得我們比如說(shuō)今年年初對(duì)Agent這一波熱潮也反應(yīng)比較快。同時(shí)也有像WorkBuddy這樣的智能體產(chǎn)品，其實(shí)也是幾年前開始做的產(chǎn)品，沿著原來(lái)做Coding、CodeBuddy，慢慢看到非程序員也有很強(qiáng)的需求，我們也能比較快去應(yīng)對(duì)，今天也聽到很多客戶對(duì)于我們的不同產(chǎn)品怎么去組合起來(lái)有非常高的期待。

所以我們正在長(zhǎng)跑中，也請(qǐng)各位多給我們提醒，給我們建議，也多用我們的產(chǎn)品來(lái)給我們正向的反饋。

我看時(shí)間其實(shí)都超時(shí)了，我想我來(lái)首先感謝順雨今天的分享，我們剛才其實(shí)圍繞了做模型、做產(chǎn)品，談到了Co-Design，談到了Agent的演進(jìn)，也提到了組織變革，行業(yè)的一些機(jī)會(huì)，在過(guò)去一年其實(shí)我們看到非常多企業(yè)也有共同的困惑或者面臨同樣的挑戰(zhàn)。產(chǎn)品如果用不好，企業(yè)不能持續(xù)去投入，或者ROI不夠，這都會(huì)影響AI在企業(yè)里面普及的進(jìn)度。為此，其實(shí)我們今天也會(huì)發(fā)布一套效率智能體的工具集，幫助企業(yè)可以更安全、更高效去部署應(yīng)用的智能體。

這背后有騰訊的三個(gè)核心能力：

第一是場(chǎng)景聯(lián)接的能力，通過(guò)騰訊的微信、企業(yè)微信、元寶等等高頻的場(chǎng)景觸點(diǎn)，來(lái)把大模型嵌到真實(shí)的業(yè)務(wù)流，跟用戶、數(shù)據(jù)、生態(tài)能夠深度聯(lián)接。

第二是工程的駕馭能力，通過(guò)完整的Harness體系，讓Agent能夠穩(wěn)定、可信、可持續(xù)運(yùn)行，具備強(qiáng)大的AI Infra，讓包括高速的網(wǎng)絡(luò)、高吞吐的存儲(chǔ)，還有高性能的Agent Runtime來(lái)保證GPU的高利用率。

第三是模型驅(qū)動(dòng)力，依托混元大模型和模型產(chǎn)品Co-Design，兼顧實(shí)用性、性價(jià)比和 ROI。

同時(shí) ，我們也啟動(dòng)“騰訊AI共創(chuàng)營(yíng)（二期）”， 攜手ISV、MSP伙伴，一起共創(chuàng)行業(yè)解決方案，打造更多的標(biāo)桿案例。

接下來(lái)的環(huán)節(jié)，我的同事將圍繞這些內(nèi)容做進(jìn)一步分享。今天下午我們將圍繞個(gè)人、企業(yè)提效多個(gè)場(chǎng)景設(shè)置產(chǎn)品技術(shù)、行業(yè)場(chǎng)景與生態(tài)共創(chuàng)等多個(gè)平行論壇，以及AI產(chǎn)品發(fā)布專場(chǎng)，把20多個(gè)新產(chǎn)品、新能力介紹給大家。

今天我們的對(duì)談到這里，謝謝順雨 ，感謝大家！