智東西
作者 李水青、楊京麗
編輯 云鵬

智東西6月12日?qǐng)?bào)道，今日，2026智源大會(huì)在中關(guān)村國際創(chuàng)新中心舉辦，中國工程院院士、阿里云創(chuàng)始人王堅(jiān)，智源研究院理事長(zhǎng)黃鐵軍在現(xiàn)場(chǎng)播客對(duì)話上分享了一系列前沿判斷和新穎觀點(diǎn)。

如何比別人更早看到未來？王堅(jiān)認(rèn)為，我們需要給自己超出現(xiàn)有框架的思考方式。“我們?cè)谥v人工智能（AI）時(shí)，也被這個(gè)詞限定了?！彼J(rèn)為，我們應(yīng)該像前面圖靈獎(jiǎng)得主Whitfield Diffie所說的一樣，在動(dòng)物智能、人類智能以及機(jī)器智能這一更大的框架下去思考AI敘事。

▲中國工程院院士、阿里云創(chuàng)始人王堅(jiān)

人類會(huì)不會(huì)被機(jī)器智能統(tǒng)治？他的觀點(diǎn)非常鮮明：“我堅(jiān)定不相信AI會(huì)替代人。狗的鼻子比人靈敏很多，但我們從來不覺得這對(duì)人有什么威脅?！?/p>

王堅(jiān)認(rèn)為，我們今天講所有大模型的問題，其實(shí)原來都是來形容人的。我是一個(gè)無藥可救的樂觀主義者，所以我一直相信人類自己創(chuàng)造的問題，人類一定會(huì)解決的。

談及中國AI的敘事，黃鐵軍對(duì)年輕從業(yè)者提出建議：要有自己的想法，更要在該下決心時(shí)下決心，不適合拿交作業(yè)、一定成功的心態(tài)面對(duì)不確定性。王堅(jiān)則補(bǔ)充：今天中國和美國看到的是同一片大海，六年前我們可能還困在游泳池里，如今早已面朝同一片天地，這場(chǎng)遠(yuǎn)行遠(yuǎn)未到頭。

▲智源研究院理事長(zhǎng)黃鐵軍

當(dāng)被問及人與 AI 的關(guān)系，黃鐵軍稱人類與AI會(huì)像父母與孩子般共存融合，人類會(huì)借AI拓展人類邊界。王堅(jiān)認(rèn)為人類天然畏懼新技術(shù)，AI 影響未必能超越火在歷史上的作用，他以早年大眾畏懼紙筆類比當(dāng)下 AI，并提出“一定要讓token變得‘不值錢’”，讓其如紙張般廉價(jià)。

王堅(jiān)、黃鐵軍與主持人衛(wèi)詩婕的對(duì)話全文紀(jì)要如下，智東西做了不改變?cè)獾木庉嫞?/strong>

1、作為云計(jì)算之父，您在云計(jì)算、城市大腦、AI基建、太空計(jì)算這些關(guān)鍵節(jié)點(diǎn)上總比別人先看到未來，這一切是基于怎樣的一套底層的思維模型？

王堅(jiān)：其實(shí)沒有。今天上午聽了兩位圖靈獎(jiǎng)得主發(fā)言，我還是很感觸的。特別是第二位Andrew Barto，他在講強(qiáng)化學(xué)習(xí)的時(shí)候提到了一位心理學(xué)家叫桑代克，大概是80年代初我們學(xué)心理學(xué)課本的時(shí)候?qū)W的。所以大家可以設(shè)想一下，很多時(shí)候今天已經(jīng)很難講有一個(gè)想法，是你先想過還是說另外一個(gè)人先想過。所以這實(shí)際上變成一個(gè)問題：你想了之后有沒有告訴大家，更困難的是說你有沒有勇氣可以去嘗試一下，到最后就是當(dāng)覺得沒有希望的時(shí)候，你能不能非常有毅力地往前多走一步。

2、您回答的非常宏觀，我要拆解一下。您寫的書里提到事情底層是有一些共通性的，我很好奇您分析問題的底層方法論？

王堅(jiān)：其實(shí)也很難講思維方式。前面第一位教授Whitfield Diffie的發(fā)言也令我很觸動(dòng)。他提到，我們都在講AI，里面蠻挑戰(zhàn)的一件事情是因?yàn)橛羞@個(gè)詞，我們就會(huì)自覺不自覺地搭了這么一個(gè)框架。就像我經(jīng)常會(huì)講，這個(gè)會(huì)場(chǎng)決定了我們?cè)趺撮_會(huì)、你能說什么、你有什么方式講，所以很少有人真正去想這件事情。

所以其實(shí)現(xiàn)在我們?cè)谥vAI的時(shí)候，有意無意地被AI這幾個(gè)字被限制住了。所以今天早上為什么Whitfield Diffie教授在講這個(gè)事情，也觸動(dòng)我的神經(jīng)。大家去看一下，我大概2017年在貴陽也講了他今天講的幾乎一模一樣的東西，就是為什么會(huì)有這個(gè)Animal intelligence（動(dòng)物智能）和Human intelligence（人類智能），以及Machine intelligence（機(jī)器智能）？所以我覺得任何一件事情，你還是要給自己一個(gè)可以超出現(xiàn)有框架的思考框架。

所以對(duì)我來講，思考今天面臨的挑戰(zhàn)，我是一定會(huì)在Animal intelligence、Human intelligence跟Machine intelligence的框架下來想這件事情。所以我堅(jiān)定地不相信，今天大家都講的AI會(huì)替代人。

原因也很簡(jiǎn)單，我經(jīng)常會(huì)說狗的鼻子比人要靈敏很多，可是我們從來沒有覺得有什么傷害。所以當(dāng)你有這樣一個(gè)框架的時(shí)候，其實(shí)還是幫你多想了很多問題。所以我想每個(gè)人都應(yīng)當(dāng)建立一套獨(dú)立的思考框架，可能會(huì)比較好一點(diǎn)。

3、您提到我們要有相信的事情，同時(shí)讓別人相信也很重要。當(dāng)年阿里云每年10億，連續(xù)10年投入，獲得全力資源支持很重要。如何讓大家相信你的相信？

王堅(jiān)：一些東西在傳播中會(huì)變得不準(zhǔn)確。但是有一件事還是肯定的，我們暫且不用資源這個(gè)略顯庸俗的詞。我認(rèn)為一個(gè)人做事需要?jiǎng)e人幫助，但做事不要太機(jī)會(huì)主義。

我做過一個(gè)活動(dòng)叫“2050”，就是完全讓今天不出名的、沒有資源的人來參與，但他們到這個(gè)活動(dòng)來不是來找資源的。其實(shí)我們有一個(gè)很簡(jiǎn)單的想法，當(dāng)你想做一件事情，當(dāng)你講一件事情的時(shí)候，其實(shí)在某種意義上講，別人認(rèn)為正不正確、怎么感受，在一定意義上是不重要的。重要的不是在臺(tái)上講的人說服了下面的人相信他，而是這個(gè)年輕人在臺(tái)上講了他對(duì)世界的看法、他要做一件事情的決心，最后臺(tái)下的人信不信就變得不重要了。他自己在臺(tái)上講過這句話，他就會(huì)信了。

所以我覺得很重要的事情是，你一定要說你自己相信的事情，要說你自己會(huì)去做的事情。我相信，如果這樣的話，就一定會(huì)有人支持你。如果任何人是一個(gè)前提，就是說如果我想要做一個(gè)事情，沒有人支持我我就不會(huì)做了，那基本上會(huì)覺得沒有人會(huì)支持你。

4、黃院長(zhǎng)，智源可以說是中國AI界的黃埔軍校，也是我們大家的未來的持續(xù)不斷AI創(chuàng)新的搖籃，請(qǐng)您講一講中國AI敘事是基于一種怎樣的相信？

黃鐵軍：智源很幸運(yùn)，一個(gè)是成立在2018年這個(gè)很恰當(dāng)?shù)臅r(shí)間，很幸運(yùn)北京市給了我們很自由的體制和長(zhǎng)期穩(wěn)定支持；而且我們很幸運(yùn)的在這個(gè)恰當(dāng)?shù)臅r(shí)間點(diǎn)上做了一件正確的事，就是2020年上百人一起來攻關(guān)大模型。

在那之前，國內(nèi)外已經(jīng)有不少專家研究和取得進(jìn)展，但真的把真金白銀幾千萬、幾個(gè)億投下去，是要決心的。所以我在恰當(dāng)?shù)臅r(shí)間就動(dòng)手了，而且五個(gè)月推出1代大模型，然后接著過三個(gè)月第2代就已經(jīng)追趕上了，所以我覺的時(shí)代給了我們一個(gè)機(jī)會(huì)。

但是我也想再多說兩句，這件事也是人類的一個(gè)漸進(jìn)的過程。大模型實(shí)際上經(jīng)過了幾十年的積累，先別說神經(jīng)網(wǎng)絡(luò)，就是next token prediction（預(yù)測(cè)下一個(gè)詞元），也是 2000年就被提出來了。當(dāng)然那時(shí)候作為技術(shù)演進(jìn)，提出者自己也不確定效果好不好，但這個(gè)方法探索出來了，后來很多技術(shù)匯聚在一起，才有了這么一次大的爆發(fā)。

所以我想，中國現(xiàn)在處在一個(gè)科技創(chuàng)新爆發(fā)的時(shí)間點(diǎn)，這里邊有很多很多的因素。但是最重要的是兩個(gè)方面。第一你得有自己的想法，要不然那你只能隨波逐流；第二個(gè)就是該下決心的時(shí)候下決心，我們不能拿那種交作業(yè)、一定成功的思路來看待這件事，科技的不確定性永遠(yuǎn)存在，所以要有想法，要該決定的時(shí)候就決定。

5、從追趕到定義自己的故事，中國的AI敘事是什么樣的？

王堅(jiān)：其實(shí)剛才鐵軍講那個(gè)智源的事情，我補(bǔ)充一下。我覺得智源還是蠻具有開創(chuàng)性的。我一直覺得那個(gè)時(shí)候以這樣的規(guī)模、決心來做AI，在當(dāng)時(shí)還是非常不容易的。所以讓我想起一個(gè)詞，就是我們以前經(jīng)常講一個(gè)東西，叫火箭科學(xué)，我們強(qiáng)調(diào)這個(gè)東西有多么扎實(shí)，但是沒有比火箭更加危險(xiǎn)、更不確定性的。

今天上午一個(gè)談話，主持人問說做安全是不是有它的確定性，結(jié)果嘉賓的回答就是實(shí)在很難說有什么確定性，對(duì)不對(duì)？所以我想做AI這件事情，從智源開始，這也是我特別佩服的地方。

這跟以前我們做研究不太一樣。以前做研究就是要拿點(diǎn)經(jīng)費(fèi)然后做一做，基本上做好了你就告訴全世界，做不好了沒有人知道。但是現(xiàn)在做模型的時(shí)候，它其實(shí)跟以前不一樣。因?yàn)槟呐虏灰f整個(gè)模型，哪怕你就是中間的一個(gè)環(huán)節(jié)，比如你做了三個(gè)月、五月訓(xùn)練，其實(shí)如果這個(gè)結(jié)果不好，他花掉的錢就相當(dāng)于炸了一枚火箭，大概一個(gè)億、兩個(gè)億。可是今天，大家知道你要好好訓(xùn)練一輪的話，到最后你花掉的電費(fèi)，花掉的算力費(fèi)大概也是在這個(gè)量級(jí)上。

所以回到這個(gè)地方，就是中國AI敘事和美國的差別，其實(shí)沒有那么簡(jiǎn)單，我也不好說。因?yàn)槔锩嬗袀€(gè)前提：基礎(chǔ)研究就是全世界的，大概沒有基礎(chǔ)研究不是全世界的。所以你無論從哪里看到的論文，看到的書上的東西，基本上沒有說你看不到的，應(yīng)該大家都看得到。所以從這個(gè)角度講的話，它就是全世界的。回到中國跟美國的AI敘事，大家來問我們跟他們差距多大？我是不太愿意用這種方式來描述我們之間的關(guān)系。

用我自己的話來講，因?yàn)樵谶^去這些年大家的努力，我一直說至少中國美國在這個(gè)領(lǐng)域看到是同一片大海。如果六七年以前，我擔(dān)心的就是我們看到是個(gè)游泳池，別人看到大海，盡管遠(yuǎn)處看看都是藍(lán)藍(lán)的，那你走近看才知道不是同一個(gè)天地。那基本上我今天還是可以說我們大家看到的是同一片天地。至于誰離得近一點(diǎn)遠(yuǎn)一點(diǎn)，可能是一個(gè)技術(shù)性的問題了。那這這場(chǎng)市場(chǎng)發(fā)展或者這么一個(gè)里程的話，我覺得遠(yuǎn)不是幾天就可以走到頭。所以我們還有很長(zhǎng)的路可以來往前走。

6、我們中國有機(jī)會(huì)提出自己的智能問題、技術(shù)路徑和創(chuàng)新范式嗎？

黃鐵軍：我覺得，我跟剛才王老師的意見一樣，目前，中美在大模型為代表的這個(gè)工程實(shí)現(xiàn)上，確實(shí)是都做的很好，但是這個(gè)問題，不能解讀為一個(gè)國家或者兩個(gè)國家的問題，它是人類整個(gè)很多思想，很多一點(diǎn)一滴的一個(gè)積累的過程。很簡(jiǎn)單，你看今天兩位圖靈獎(jiǎng)獲得者，他們也不是說就在我們通常關(guān)注的著名的大學(xué)或者機(jī)構(gòu)，Hinton、Sutton都在加拿大。當(dāng)然我相信這個(gè)全球這么多學(xué)者，這么多研究人員，實(shí)際上是在一個(gè)巨大的相互作用的社區(qū)，社群在起作用。

所以從未來，就剛才說敘事，其實(shí)我覺得，咱們中國在做，全世界也在做，其實(shí)幾十年來一直是一個(gè)大邏輯。閉幕上的時(shí)候我還會(huì)講，我今年特意選了一個(gè)題目叫，悟道一以貫之。這個(gè)當(dāng)然不是我的悟道，這是孔子說的話，實(shí)際上這個(gè)道路本身就一直是那樣子。這個(gè)道路是什么樣子？

你想想做智能，其實(shí)就兩件事，一個(gè)就是今天我們大家天天說的數(shù)據(jù)驅(qū)動(dòng)，如果再說的廣一點(diǎn)就是功能驅(qū)動(dòng)。今天，剛才兩位圖靈獎(jiǎng)得主都講到過，你收集到這些東西，然后去訓(xùn)練。然后形成一個(gè)模仿人的，或者是生物智能的一個(gè)東西。

另外一個(gè)就是結(jié)構(gòu)基礎(chǔ)，就是那你用個(gè)什么樣的生理和物理基礎(chǔ)？我們?nèi)水?dāng)然我們的人的身體，我們的大腦，現(xiàn)在機(jī)器有Transformer，也有正在這個(gè)改進(jìn)的，甚至于革命的架構(gòu)，所以就這倆東西在在不斷的這個(gè)演進(jìn)提升。我相信，我們中國的學(xué)者，應(yīng)該在這些兩大方面都會(huì)做出越來越多的貢獻(xiàn)，具體例子我就不說了哈，時(shí)間有限，以前也做了一定不少貢獻(xiàn)，我相信未來會(huì)做更多的貢獻(xiàn)。

所以總而言之，就是AI，或者大家說，AGI是個(gè)人類的大敘事，我們也可以說宇宙智能進(jìn)化的一個(gè)大方向。我希望，我們作為研究者也好，開發(fā)者也好，企業(yè)也好，能夠在這樣的一個(gè)進(jìn)程中，都有自己的貢獻(xiàn)，留下自己的一個(gè)星星，都能匯聚成一個(gè)巨大的宇宙。

王堅(jiān)：好，其實(shí)你問了個(gè)挺好的問題，我覺得鐵軍沒有很好的回答你。你講到關(guān)于智能的理解的這件事情。其實(shí)intelligence這個(gè)詞還是蠻有意思的，大家知道翻回中文的話。當(dāng)然大家都知道，就翻成了智能。但是另外一個(gè)，還有一個(gè)比較更直接的翻譯，就是翻成情報(bào)，所以CIA就是這個(gè)intelligence，這個(gè)詞還是蠻特別的。我為什么說，問了個(gè)很好問題？

大家都知道我是心理學(xué)背景。其實(shí)從人的角度來理解這個(gè)intelligence是什么，其實(shí)到今天還是遠(yuǎn)遠(yuǎn)是個(gè)未知數(shù)。所以剛才為什么會(huì)講這個(gè)animal intelligence、human intelligence和machine intelligence。其實(shí)關(guān)于animal intelligence這件事情，今天研究還是個(gè)謎。Human intelligence就更加深?yuàn)W了。所以，三個(gè)謎搞在一起，其實(shí)還是個(gè)很復(fù)雜的事情。

所以我想這是一個(gè)很長(zhǎng)時(shí)間可以探索的一個(gè)問題，這里面的空間遠(yuǎn)遠(yuǎn)超出我們今天可以看到的實(shí)現(xiàn)，因?yàn)槲覀兘裉炜吹降臇|西，都是今天可以實(shí)現(xiàn)的東西。那到底現(xiàn)在這個(gè)狀況，給大家創(chuàng)造出一個(gè)什么機(jī)會(huì)出來了？特別是對(duì)年輕的學(xué)者。我還是覺得應(yīng)該用鐵軍自己說的話，我其實(shí)當(dāng)時(shí)聽到他的發(fā)言，我也學(xué)了很多，盡管我也想過，但從來沒有這樣表達(dá)出來。他講過，但是后來，好像他自己也沒講清楚，我用鐵軍的話再說一下這個(gè)事情。

你們有可能在座有人聽見過，他講過一件很有意思的事情，他就講這個(gè)飛機(jī)是在沒有大家徹底理解空氣動(dòng)力學(xué)的情況下飛起來了，你講過這個(gè)話。其實(shí)這里面就關(guān)注到我們今天非常關(guān)鍵的問題，就是說，關(guān)于我們對(duì)這個(gè)世界本質(zhì)的理解，跟我們要做的事情，它一定是交錯(cuò)的來上升的。

只有當(dāng)一個(gè)學(xué)科或一個(gè)領(lǐng)域承受到一定程度的時(shí)候，好像我們今天就可以離開這樣的迭代來發(fā)展。我個(gè)人覺得就AI也好，叫機(jī)器智能也好，今天基本上還是在一個(gè)我們對(duì)它的認(rèn)識(shí)在加深，有工程的迭代，這樣的交互的情況下來做。所以嚴(yán)格意義上講，飛機(jī)飛起來以后，12年，才成立航空系，對(duì)不對(duì)？

黃鐵軍：30多年。

王堅(jiān)：30多年，是吧？所以大家可以想想，飛機(jī)飛起來以后，30多年才成立了它的航空系的。所以從這個(gè)角度，如果假定我們今天講AI是一個(gè)大的變革的話，我們可能真的還遠(yuǎn)沒有到能夠成立真正意義上的AI系的時(shí)候，所以這個(gè)對(duì)年輕人是極其有誘惑力的。

也就是說這個(gè)世界，不要說有沒有問題解決，這個(gè)世界的開始都是非常早期的，所以基本上就是一個(gè)世界開始的混沌期，這是我對(duì)這個(gè)事情的理解。那鐵軍講的航空的例子，我覺得更好來佐證這件事情。

所以絕對(duì)有機(jī)會(huì)提出自己的智能問題。不是絕對(duì)有機(jī)會(huì)，就是不提出都是你的過錯(cuò)。

7、今年陶哲軒和DeepMind的Agent智能體AlphaEvolve合體破解了一個(gè)塵封50多年的世界級(jí)數(shù)學(xué)難題Erd?s，王堅(jiān)教授，您認(rèn)為AI是不是已經(jīng)開始推動(dòng)人類智能的邊界了？您看到新范式了嗎？

王堅(jiān)：其實(shí)這個(gè)對(duì)我個(gè)人印象還是非常深的。也就是說，當(dāng)我們今天的大語言模型出來以后，或者這樣的一個(gè)架構(gòu)出來以后，當(dāng)然在語言上我們是首先看到的，是吧？盡管當(dāng)時(shí)就是為了做機(jī)器翻譯做出來的，但是這就想到了最早，大概在84年、85年的時(shí)候，當(dāng)時(shí)就是達(dá)特茅斯開會(huì)的那10個(gè)人之一，就Herbert Simon到我們系里來講課，講AI。所以那個(gè)時(shí)候其實(shí)都是在講邏輯的問題。反正你看那個(gè)時(shí)候所有AI的問題，都是那些編出來的問題，所以它叫toy problem，就是說玩具性的問題，無論是機(jī)器視覺也好。

所以，到了今天，你就會(huì)發(fā)現(xiàn)一個(gè)質(zhì)的變化，先不說從理論上、工程上，你就會(huì)發(fā)現(xiàn)一個(gè)非常質(zhì)的變化，也就是說大家要解決的問題，再也不會(huì)是個(gè)toy problem，都是可能對(duì)人理解都是非常困難，這是一個(gè)非常非常質(zhì)的變化，至少在我看來。這些問題都已經(jīng)超出我們的想象，這是第一個(gè)。

第二個(gè)，從今天發(fā)展，大家可以看到，很有意思的一件事，就是跟數(shù)據(jù)有關(guān)系，因?yàn)檫^去大語言模型所有的數(shù)據(jù)其實(shí)本質(zhì)上都是文本，無論你從互聯(lián)網(wǎng)上來也好。那么中間你看有一個(gè)非常有意思的事情，就是我們今天非常熟悉的，也變成一個(gè)潮流的vibe coding。在中間，就有出來一個(gè)東西叫代碼，那大家知道代碼這個(gè)，大家如果最早寫過代碼，你知道代碼最簡(jiǎn)單的就是開始寫的時(shí)候，在Linux上寫代碼的時(shí)候，你就用一個(gè)文本編輯器就好了。

就是沒有比文本編輯器再簡(jiǎn)單的編輯，所以從這個(gè)角度它還是文本。但是在這個(gè)領(lǐng)域有人說過一句話的，就是不要把代碼當(dāng)作文本，就don’t treat code as a text。

所以，從這個(gè)邏輯上，代碼就不是文本，所以它為什么在那個(gè)領(lǐng)域，包括我們今天看到這個(gè)改變了我們程序員工作的方式，事實(shí)上，AI往前走了一大步，它真的在某種意義上，能夠區(qū)分出來什么是我們講的語言的文本，什么是我們寫代碼的文本。今天這個(gè)智源發(fā)布，談到了像生命科學(xué)蛋白質(zhì)這些事情嘛，再往下就是什么是真正的科學(xué)意義上的數(shù)據(jù)，這是完全不同的。所以我一直有時(shí)候覺得AI開始理解科學(xué)了，結(jié)果他們用的是不是科學(xué)論文里邊的文本的話，我覺得這個(gè)是有它的非常大的局限性的，直到你能夠理解真正意義上的科學(xué)的數(shù)據(jù)，這也就是智源今天在講生命的里邊做的個(gè)東西。但是，碰巧我們就理解了，也是碰巧今天有機(jī)會(huì)我們可以去理解真正意義上的科學(xué)的數(shù)據(jù)了。所以當(dāng)你能夠真正理解科學(xué)的數(shù)據(jù)得時(shí)候，科學(xué)一定會(huì)改變，所以它會(huì)徹底改變我們過去科學(xué)研究的一個(gè)方法。

我們過去科學(xué)研究怎么來做的？就是一個(gè)科學(xué)家，或者一組科學(xué)家，他們自己去收集數(shù)據(jù)，完了自己理解數(shù)據(jù)，事實(shí)上只理解了一遍，最后寫成論文發(fā)表，這個(gè)數(shù)據(jù)就從此放在那。所以，你看整個(gè)的邏輯就是一小部分人，甚至只有一個(gè)人，對(duì)一個(gè)非常困難收集起來的數(shù)據(jù)理解過一次，這個(gè)故事就結(jié)束了。所以，有AI就會(huì)發(fā)現(xiàn)，其實(shí)我們有的科學(xué)數(shù)據(jù)可以被不同的人、用不同的方式、在更大的規(guī)模上理解了，所以我想它對(duì)科學(xué)的影響是非常長(zhǎng)遠(yuǎn)。

如果從歷史上你看有兩件事情，很有意思的一件事情，因?yàn)槲覀冎v數(shù)據(jù)的時(shí)候，有時(shí)候特別會(huì)講我們要去收集一些新的數(shù)據(jù)。但你看AlphaFold，你看這個(gè)AlphaFold其實(shí)沒有去新收集新的數(shù)據(jù)，它用的都是以前沉淀下來的數(shù)據(jù)，但是這個(gè)在科學(xué)發(fā)展歷史上不是孤立的。伽利略也從來沒有去收集過數(shù)據(jù)，他用的數(shù)據(jù)都是別人這個(gè)收集起來的。

所以，我想我們到了這個(gè)時(shí)代，就是所有科學(xué)的數(shù)據(jù)都會(huì)因?yàn)锳I的出現(xiàn)，會(huì)被重新理解一遍。這個(gè)時(shí)候，這個(gè)變化你大概可以想想會(huì)有多大。所以我想首當(dāng)其沖一定是科學(xué)研究本身，就像當(dāng)能理解代碼的時(shí)候，首先受到?jīng)_擊的就是程序員本身，我覺得這個(gè)邏輯是一致的。

8、當(dāng)Agent可以改變世界的時(shí)候，我們?cè)趺慈ソ缍ㄋ奈C(jī)？怎么把它控制在一個(gè)可控范圍內(nèi)，確保它對(duì)人類有益？

黃鐵軍：我覺得，就是剛才講的控制、確保這些詞，大概都不現(xiàn)實(shí)，這個(gè)是一個(gè)互動(dòng)，一個(gè)很復(fù)雜的事件。但是我們確實(shí)要考慮，共存。智能體也是智能體，智能，我們也是智能。我們每個(gè)人可能將來都自己都會(huì)有很多智能體，大家去互動(dòng)。在這樣的一個(gè)多智能體，包括人，機(jī)器智能體，包括物理智能體，具身在內(nèi)的一個(gè)復(fù)雜的世界里邊，總要有一個(gè)界面和共識(shí)。否則的話，咱人類世界也一樣的。世界應(yīng)該是什么？我大概兩三年之前寫過，也是個(gè)采訪，我覺得就是理性世界。因?yàn)槲覀冋f智能體是黑箱。剛才說你不可理解，它只會(huì)告訴我們答案，它也不告訴我們?cè)趺聪氲降摹?/p>

其實(shí)人類也一樣，每個(gè)人人腦也是一個(gè)黑箱。那你到底跟一個(gè)人交流的時(shí)候，你到底是只相信他告訴你結(jié)論？你還是要跟他探討一下，為什么你這么想。為什么你給我醫(yī)生給我個(gè)建議背后有什么。我們肯定是關(guān)心這個(gè)問題。所以將來也是一樣的哈，智能體，現(xiàn)在首先它能給出一個(gè)不錯(cuò)的答案，很好。

但是接著，我相信大家就會(huì)挖背后的為什么了，會(huì)討論，只有我們像醫(yī)療這種安全重要的領(lǐng)域，包括剛才蛋白質(zhì)有害蛋白這些東西的時(shí)候，一定是要最后有一個(gè)明確結(jié)論，咱才能變成行動(dòng)，變成后續(xù)的之前的，大概都是一個(gè)開放討論。大家可以腦風(fēng)暴，互相思考，人跟智能體之間，我相信應(yīng)該是這樣的一個(gè)過程。所以一方面，我覺得不能完全確保他的這個(gè)控制，但是，我覺著我們能夠共同找出一條路來共存，來理性的發(fā)展下去。

王堅(jiān)：其實(shí)這個(gè)問題的結(jié)論，我覺得我跟鐵軍是100%一樣的。但是為了表明我這個(gè)說100%不是為了自己偷懶，不表達(dá)自己的觀點(diǎn)，我還是說一下。真的跟鐵軍，我沒跟鐵軍對(duì)過這個(gè)問題，但真的跟他100%一樣，我還是想說一下，用我的方法來表達(dá)一下。

其實(shí)大家可以設(shè)想一下，比如說當(dāng)大語言模型出來的時(shí)候，大家會(huì)批評(píng)一個(gè)東西嘛。批評(píng)他說當(dāng)時(shí)就說，他有幻覺。有hallucination。大家可能，但是很少人想過，hallucination這個(gè)詞，本來就是來形容人的。也就是說我們今天講所有大模型的問題，你把它找出來看一看,其實(shí)原來都是來形容人的。

所以，人就是有這個(gè)問題的。有時(shí)候人的幻覺可能比我們想象的要嚴(yán)重的，要嚴(yán)重的多。我為什么這么看？反正這個(gè)大家理解，我是一個(gè)無藥可救的樂觀主義者，所以我一直相信人類自己創(chuàng)造的問題，人類一定會(huì)解決的，這是這是我所有背后的邏輯。

所以，今天我覺得也是這樣，比如說我在說稍微極端一點(diǎn)，我們經(jīng)常會(huì)講有個(gè)很牛的人，我們況且把他叫做大師吧。他講了這個(gè)話，我沒聽懂。這個(gè)含義背后，你覺得是他腦子，你也可以把他理解成他腦子里是個(gè)黑箱，我們很難理解。所以今天我們碰到一個(gè)系統(tǒng)，這個(gè)系統(tǒng)的行為也好，什么東西也好，你今天不能夠理解，我個(gè)人覺得不是一個(gè)災(zāi)難，我覺得是我們可以去試圖理解，以后可以讓我們整個(gè)的認(rèn)識(shí)，往前走一大步，所以我想，這也一定是一個(gè)很重要的迭代過程。所以我想。

所以今天，我曾經(jīng)在一個(gè)場(chǎng)合說過一句話，其實(shí)今天我們對(duì)這個(gè)事情，對(duì)整個(gè)智能系統(tǒng)，或者你叫智能體的認(rèn)識(shí)，我覺得還是值得重新去梳理一下的，哪怕你從測(cè)試角度都可以看得出來。所以比如今天我們做測(cè)試也好，做這個(gè)排名也好，所有的測(cè)試排名都是只測(cè)這個(gè)智能體，或者模型本身的能力。但我們也今天找不到一個(gè)方法，甚至不去測(cè)。這個(gè)模型跟人一起工作的時(shí)候，它的綜合能力到底是什么？今天有沒有方法？所以我個(gè)人覺得我們事實(shí)上應(yīng)該找到很好的方法，怎么讓一個(gè)智能體和人的工作一起的時(shí)候，評(píng)判它綜合能力，我覺得如果有這個(gè)排名的話，我個(gè)人覺得會(huì)更加有意思一點(diǎn)，對(duì)。

9、你們認(rèn)為人和AI的關(guān)系應(yīng)該是什么樣的？

黃鐵軍：會(huì)形成特別美好的共存融合的關(guān)系。這有點(diǎn)像父母和孩子，AI是孩子，有沖突但不可分離。AI可以去宇宙之外，我們很難做到，我們通過智能這個(gè)橋梁連接。

王堅(jiān)：我們首先是大自然的孩子，是世界的一部分。任何新技術(shù)出來，人們對(duì)它都是恐懼的，剛開始使用火時(shí)也是一樣的。我甚至覺得AI能不能對(duì)人類的影響超過火，還是個(gè)問號(hào)。正如人們常轉(zhuǎn)述圖靈的觀點(diǎn)：一個(gè)人、一張紙、一支筆，配合固定運(yùn)算規(guī)則，本質(zhì)就是一臺(tái)計(jì)算機(jī)。

大家可以去稍微看看七八十年前的材料，中國一個(gè)普通的百姓看到一張紙、一支筆人都會(huì)哆嗦，當(dāng)時(shí)會(huì)寫字對(duì)人來說是一個(gè)多大的挑戰(zhàn)。AI大概就處在這個(gè)地方。

從技術(shù)角度來講，我們的token太貴了。一定要讓token變得“不值錢”，就像一張紙一樣。