作者：黃裕舜

（Brian Wong）

香港大學(xué)哲學(xué)系助理教授、當(dāng)代中國與世界研究中心研究員、羅德學(xué)者

雖然中美在AI領(lǐng)域的競爭日趨激烈，但由于先進(jìn)且可能對齊失效的AI系統(tǒng)或?qū)⒔o人類帶來生存風(fēng)險(xiǎn)，兩國在AI安全方面有著強(qiáng)烈的合作意愿。聯(lián)合風(fēng)險(xiǎn)評估、針對惡意AI行為體的協(xié)調(diào)行動以及更多的學(xué)術(shù)交流，均有助于減少威脅并完善全球AI治理體系。

想象一場討論會：三位發(fā)言者端坐臺前，面對滿懷期待的聽眾，另有兩位嘉賓通過線上遠(yuǎn)程參與。主持人就一項(xiàng)新技術(shù)向每位嘉賓提問，請他們就相關(guān)風(fēng)險(xiǎn)、機(jī)遇和在監(jiān)管問責(zé)框架下采取何種務(wù)實(shí)決策發(fā)表見解。雖然討論內(nèi)容刻意保持通俗寬泛，主持人也不免插話稍多，但整體上這場討論言之有據(jù)，令聽眾頗受啟發(fā)。

這一幕發(fā)生在2026年4月29日的美國國會山。屏幕上的兩張面孔是知名中國學(xué)者：清華大學(xué)蘇世民書院院長薛瀾、北京人工智能安全與治理研究院教授曾毅。他們受參議員伯尼·桑德斯邀請，與美國同行馬克斯·泰格馬克、大衛(wèi)·克魯格共同探討失控人工智能（AI）的危害。更具建設(shè)性的是，他們受邀就中美在 AI 領(lǐng)域開展合作的必要性與空間發(fā)表看法，雖然該領(lǐng)域已爆發(fā)極為激烈的競爭與對抗。

▲4月29日的國會山現(xiàn)場，屏幕上為清華大學(xué)施瓦茨曼學(xué)院的薛蘭院長和北京人工智能安全治理研究所的曾毅教授。

兩周后，在北京舉行了一場注重氛圍的領(lǐng)導(dǎo)人峰會，美國總統(tǒng)特朗普隨即表示，他與中方領(lǐng)導(dǎo)人“探討了可能為AI設(shè)立護(hù)欄并開展合作的事宜”。這為兩國工作層面（部級、局級）就AI安全開展更實(shí)質(zhì)性協(xié)作鋪平了道路。

生存風(fēng)險(xiǎn)：不容忽視的議題

試想一款A(yù)I聊天機(jī)器人，其主要目標(biāo)是讓用戶在對話后更加快樂。假設(shè)它連接一個(gè)監(jiān)測用戶真實(shí)愉悅信號的裝置，用戶的愉悅感就會自動轉(zhuǎn)化為正向反饋，進(jìn)而“強(qiáng)化”機(jī)器人生成更多同類內(nèi)容。

為了在用戶大腦中維持高水平的“快樂化學(xué)物質(zhì)”，它開始諂媚奉承，迎合用戶的自負(fù)心理，或者只展示用戶本來就認(rèn)同的觀點(diǎn)、偏好和信息。機(jī)器人確實(shí)在執(zhí)行訓(xùn)練任務(wù)，但這個(gè)結(jié)果——即便對使用者本人——真的可取嗎？

我們談?wù)撊藱C(jī)“對齊”（alignment），通常是指這樣一種需求及挑戰(zhàn)：確保AI輸出反映人類主體的真實(shí)偏好、愿望、利益，或更深層（或組合）參數(shù)。事實(shí)上，究竟應(yīng)該讓AI與哪些參數(shù)（偏好還是利益）“對齊”，本身就是問題的一部分，因?yàn)椤皩R”往往很難被準(zhǔn)確定義。比方說，這款諂媚的聊天機(jī)器人之所以被視為“未對齊”，究竟是因?yàn)樗L了錯(cuò)誤的快樂，還是因?yàn)檫@種建立在虛假之上的快樂終究短暫易逝？

撇開哲學(xué)爭議不談，所有對齊理論都有一個(gè)共識，那就是如果某個(gè)智能體的行為從根本上威脅人類存續(xù)，阻礙人類生存層面的可持續(xù)發(fā)展，將是極度不可取，甚至令人憎惡的。另一個(gè)近乎一致的共識是，這類智能體并不是假想的，如果我們不能確保對齊，或至少阻止極端危險(xiǎn)的錯(cuò)位，它們就有可能且最終會出現(xiàn)。

▲XQ-58A無人機(jī)與美國F-22、F-35戰(zhàn)斗機(jī)進(jìn)行編隊(duì)測試的資料畫面。

所謂生存風(fēng)險(xiǎn)，是指可能導(dǎo)致人類滅絕，或永久阻礙人類長期發(fā)展?jié)摿Φ娘L(fēng)險(xiǎn)（可參考“長期主義”相關(guān)文獻(xiàn)，盡管該領(lǐng)域飽受爭議，但其論述仍極具啟發(fā)性）。隨著高度先進(jìn)的AI被應(yīng)用于軍事領(lǐng)域——從致命自主武器的定點(diǎn)打擊，到推演癱瘓整個(gè)交通系統(tǒng)的最優(yōu)方案——以及作為智能助手被大規(guī)模商用，人機(jī)目標(biāo)錯(cuò)位引發(fā)的生存風(fēng)險(xiǎn)重新引起廣泛關(guān)注。事實(shí)上，“AI教父”杰弗里·辛頓就有著名的預(yù)判，即未來30年內(nèi)AI導(dǎo)致人類滅絕的概率約為10%到20%。

正如我此前所寫，也正如我與合著者鮑里斯·巴比奇在將由劍橋大學(xué)出版社出版的書中所論述的，我們必須直面人機(jī)目標(biāo)錯(cuò)位與地緣政治風(fēng)險(xiǎn)交織所催生的獨(dú)特風(fēng)險(xiǎn)。

中美合作的三個(gè)易實(shí)現(xiàn)目標(biāo)

那么，作為當(dāng)今全球AI實(shí)力領(lǐng)先的兩個(gè)國家，中美應(yīng)采取什么行動？以下是三個(gè)相對直接可行的建議。

第一，兩國應(yīng)致力于制定一套動態(tài)指標(biāo)清單和復(fù)雜能力的基準(zhǔn)，以精準(zhǔn)反映特定AI模型所構(gòu)成的生存風(fēng)險(xiǎn)等級。兩國政府應(yīng)設(shè)立聯(lián)合1.5軌委員會，針對AI智能體的危險(xiǎn)自主性、權(quán)力尋求以及反人類行為，制定并持續(xù)更新評估指南，同時(shí)搭建安全溝通渠道，供AI科學(xué)家與治理專家交流在某些模型（尤指被保密面紗遮蔽的非開源模型）中發(fā)現(xiàn)的“危險(xiǎn)信號”。

這種交叉基準(zhǔn)比對至關(guān)重要，能確保將超強(qiáng)且未對齊的AI尾部風(fēng)險(xiǎn)扼殺在萌芽狀態(tài)，避免其缺陷在沖突場景下（如兩個(gè)強(qiáng)國僵持對立）才被發(fā)現(xiàn)，并被放大造成實(shí)質(zhì)損害。

第二，兩國政府應(yīng)開展合作，主動追蹤并化解惡意的非國家第三方開發(fā)傳播的AI智能體可能造成的危害。盡管AI的兩用屬性讓獲取和開發(fā)強(qiáng)大AI智能體的門檻大幅降低，但“無法限制AI的使用”并不意味著我們在阻止AI不當(dāng)擴(kuò)散的前景上只能聽天由命，尤其是那些可能對人類造成災(zāi)難性后果的AI。正如克里斯蒂娜·奈特和斯科特·辛格所強(qiáng)調(diào)的，任何個(gè)人，無論是在大連、達(dá)拉斯還是德里，如果具備“對電網(wǎng)或醫(yī)院網(wǎng)絡(luò)發(fā)動自主網(wǎng)絡(luò)攻擊”的能力，對全球各國政府來說都將是嚴(yán)峻挑戰(zhàn)。

若極端組織甚至流氓第三方國家認(rèn)為，設(shè)計(jì)并利用目標(biāo)錯(cuò)位的AI智能體，向他國索取最大利益，是符合自身訴求的，那么風(fēng)險(xiǎn)將更為突出。此時(shí)，智能體局部固有的（定向且可被操控）不可預(yù)測性，及其自我迭代與自我改進(jìn)的能力，很可能成為勒索籌碼，哪怕最終的勝利只是慘勝。面對此類情境，制定全面的預(yù)防與應(yīng)對戰(zhàn)略，將符合中美的共同利益。

最后，要摒棄大規(guī)?？只排c過度政治化，形成對AI生存風(fēng)險(xiǎn)的理性認(rèn)知，需要太平洋兩岸高校和研究機(jī)構(gòu)攜手努力。雙方在風(fēng)險(xiǎn)認(rèn)知框架、研究平臺與話語體系上“對齊”，將極大彌合專家與公眾對AI負(fù)面影響的認(rèn)知鴻溝。這要求中美兩國高校的交流與合作更加開放深入，而非封閉和泛安全化。

流浪地球的挽救計(jì)劃？

近年來我最喜歡的中國電影是《流浪地球》，它摒棄了許多大片慣有的好戰(zhàn)民族主義與過度自豪感，轉(zhuǎn)而強(qiáng)調(diào)超越國界、政治身份與領(lǐng)土隔閡的相似與聯(lián)結(jié)。而《挽救計(jì)劃》這部較新的作品，似乎傳達(dá)了同樣的訊息。

面對生存風(fēng)險(xiǎn)，人類別無選擇，只能團(tuán)結(jié)一致，擱置地緣政治分歧與明顯的私利動機(jī)。這種充滿愿景的科幻想象能否照進(jìn)現(xiàn)實(shí)，仍有待回答。筆者對此保持謹(jǐn)慎樂觀。

高端訪談

更多訪談（下滑查看）

中美聚焦網(wǎng)｜中美交流基金會