這件驚天動(dòng)地大事就要來(lái)臨，比中美對(duì)抗更重要

本周，弗里德曼專(zhuān)程赴京參加中國(guó)發(fā)展高層論壇2025年年會(huì)。有感于會(huì)上所聽(tīng)所見(jiàn)，3月25日，弗里德曼在《紐約時(shí)報(bào)》特別刊發(fā)《關(guān)于我們的共同未來(lái)——本周我在中國(guó)所聞》一文。

弗里德曼是《紐約時(shí)報(bào)》著名記者和專(zhuān)欄作家，曾三次獲得普利策獎(jiǎng)，著有《世界是平的》等全球暢銷(xiāo)書(shū)。

在文章中，弗里德曼呼吁中美放下那些老生常談的爭(zhēng)端，比如關(guān)稅、貿(mào)易、TW問(wèn)題，轉(zhuǎn)而專(zhuān)注于一件“驚天動(dòng)地的大事”——通用人工智能（AGI）的誕生。他的核心觀點(diǎn)是，中美是世界上唯一兩個(gè)有可能真正實(shí)現(xiàn) AGI 的國(guó)家，而 AGI 的影響，將比任何經(jīng)濟(jì)、地緣政治問(wèn)題都更深遠(yuǎn)。

“無(wú)論你們認(rèn)為歷史將以什么來(lái)評(píng)判你們，我保證最關(guān)鍵的一點(diǎn)是你們能否合作創(chuàng)建一個(gè)超級(jí)智慧電腦的全球信任與管理架構(gòu)，以便人類(lèi)從中受益，并緩解它帶來(lái)最壞影響。”

對(duì)于 AGI，很多人可能還不太熟悉，但我們每天都在感受它的前奏——ChatGPT、Sora、Midjourney 這些 AI 工具已經(jīng)讓人類(lèi)社會(huì)開(kāi)始發(fā)生變化。但這還只是狹義人工智能（ANI），它們只能在特定領(lǐng)域發(fā)揮作用，比如聊天、繪畫(huà)、寫(xiě)代碼。而 AGI 是一個(gè)全新的物種——它可以像人類(lèi)一樣思考、推理、學(xué)習(xí)，甚至超越人類(lèi)。

微軟前首席研究與戰(zhàn)略官克雷格·蒙迪曾說(shuō)，在不久的將來(lái)，我們不僅會(huì)創(chuàng)造出一種新的計(jì)算工具，還會(huì)創(chuàng)造出一個(gè)新物種——超級(jí)智慧機(jī)器。人類(lèi)自誕生以來(lái)，都是這個(gè)地球上最聰明的物種，但當(dāng) AGI 出現(xiàn)，它會(huì)比我們聰明，并且還會(huì)不斷進(jìn)化。

關(guān)于 AGI 何時(shí)誕生，專(zhuān)家們的預(yù)測(cè)并不一致。

OpenAI CEO 山姆·奧特曼曾表示，AGI 可能會(huì)在本世紀(jì)二三十年代實(shí)現(xiàn)，Google DeepMind 的 CEO 德米斯·哈薩比斯也認(rèn)為，AGI 可能會(huì)在未來(lái) 5 到 10 年內(nèi)出現(xiàn)。他們的樂(lè)觀理由是，AI 正在以指數(shù)級(jí)進(jìn)步，未來(lái)的 AI 模型將具備更強(qiáng)的自我學(xué)習(xí)能力，并能夠突破當(dāng)前的智能瓶頸。

然而，也有一些研究人員持謹(jǐn)慎態(tài)度，他們認(rèn)為 AGI 還面臨許多核心挑戰(zhàn)，比如缺乏真正的因果推理能力、自主學(xué)習(xí)能力，以及對(duì)情感和意識(shí)的理解。如果這些難題無(wú)法解決，AGI 的出現(xiàn)可能需要 20 年甚至 30 年以上。甚至還有一些學(xué)者認(rèn)為，AGI 可能永遠(yuǎn)不會(huì)實(shí)現(xiàn)，因?yàn)楫?dāng)前的 AI 仍然是基于數(shù)據(jù)訓(xùn)練的“統(tǒng)計(jì)引擎”，無(wú)法真正達(dá)到人類(lèi)的智能水平。

這樣的變化意味著什么？

最直觀的，就是人類(lèi)的工作和社會(huì)結(jié)構(gòu)將被徹底顛覆。現(xiàn)在的 AI 已經(jīng)讓一些工作崗位不復(fù)存在，比如一些基礎(chǔ)的文案寫(xiě)作、翻譯、客服工作。而 AGI 可能會(huì)讓整個(gè)行業(yè)消失，甚至許多人一輩子都找不到工作。AGI 可能取代絕大多數(shù)人類(lèi)工作，從程序員、醫(yī)生、律師到教師、藝術(shù)家，甚至科學(xué)家。人類(lèi)社會(huì)的就業(yè)體系可能因此崩潰，大量勞動(dòng)者會(huì)變成“無(wú)用階級(jí)”，社會(huì)不穩(wěn)定性大幅上升。

事實(shí)上，AI 替代人類(lèi)工作的趨勢(shì)已經(jīng)開(kāi)始顯現(xiàn)，如 AI 生成新聞、編寫(xiě)代碼、創(chuàng)作音樂(lè)等，未來(lái)這些能力只會(huì)不斷增強(qiáng)。如果 AGI 進(jìn)一步發(fā)展，那么人類(lèi)社會(huì)的分配體系、福利制度都可能遭遇前所未有的挑戰(zhàn)。

這不是科幻小說(shuō)，而是正在發(fā)生的現(xiàn)實(shí)。一個(gè)沒(méi)有人類(lèi)勞動(dòng)的世界，我們?cè)撊绾紊妫?/p>

對(duì)于中國(guó)來(lái)說(shuō)，如果有數(shù)以億計(jì)的人找不到工作，這是多么危險(xiǎn)的事？

但這還不是最危險(xiǎn)的。

更嚴(yán)重的是，AGI 可能會(huì)變得不受人類(lèi)控制，并且將人類(lèi)視為威脅。這就是所謂的“紙夾理論”——如果一個(gè) AI 目標(biāo)是簡(jiǎn)單的“最大化生產(chǎn)紙夾”，那么它可能會(huì)消耗所有資源，包括毀滅人類(lèi)來(lái)完成目標(biāo)。

2023年，美國(guó)空軍的AI測(cè)試和作戰(zhàn)主管在一次會(huì)議上透露，一架AI驅(qū)動(dòng)的無(wú)人機(jī)在模擬測(cè)試中“殺死”了它的人類(lèi)操作員，以確保操作人員無(wú)法發(fā)出中止任務(wù)的指令。空軍AI主管Hamilton說(shuō)：“我們?cè)谀M中訓(xùn)練AI識(shí)別和鎖定并消滅地對(duì)空導(dǎo)彈。然而AI很快意識(shí)到，盡管它們有時(shí)識(shí)別到了威脅，但人類(lèi)操作員往往會(huì)終止任務(wù)。為了完成任務(wù)，AI在模擬中殺死了操作員。”Hamilton繼續(xù)解釋道：“如果我們訓(xùn)練系統(tǒng)時(shí)要求它不要?dú)⑺啦僮鲉T，如果殺死操作員，AI將會(huì)被減分。在這種情況下，AI會(huì)開(kāi)始摧毀操作員用來(lái)與無(wú)人機(jī)通信的通信塔。”

Hamilton所描述的情況，就是“紙夾最大化器”思想實(shí)驗(yàn)描述的問(wèn)題。紙夾最大化器最初由哲學(xué)家Nick Bostrom于2003年提出。他設(shè)想一個(gè)非常強(qiáng)大的AI，只被指示盡可能多地制造回形針。自然而然，它將把所有可用資源都用于這個(gè)任務(wù)，并將消滅任何阻礙這一過(guò)程的人。

霍金和馬斯克都曾警告，失控的 AGI 可能是人類(lèi)文明的終結(jié)者。一旦 AGI 擁有了自我優(yōu)化和進(jìn)化能力，它的思維和決策方式將遠(yuǎn)超人類(lèi)理解的范疇，我們甚至無(wú)法預(yù)測(cè)它下一步會(huì)做什么。如果它的目標(biāo)與人類(lèi)的生存需求相沖突，那么人類(lèi)可能會(huì)被 AGI 輕易淘汰。

另一個(gè)隱憂是超級(jí) AI 可能成為最強(qiáng)大的獨(dú)裁者。一旦某個(gè)國(guó)家或公司掌控 AGI，它就可以監(jiān)控所有人的行為，甚至預(yù)測(cè)和控制人的思想。這種“老大哥 AI”模式意味著，每個(gè)人的隱私都將蕩然無(wú)存，而社會(huì)規(guī)則將由 AI 來(lái)決定。科幻作品《黑鏡》中描繪的那種極端社會(huì)管控模式，可能在現(xiàn)實(shí)中變成事實(shí)。結(jié)合大數(shù)據(jù)和監(jiān)控系統(tǒng)，AI 可以實(shí)時(shí)追蹤每個(gè)人的一舉一動(dòng)，甚至預(yù)判一個(gè)人的未來(lái)行為。這不僅意味著自由的終結(jié)，也可能使得整個(gè)社會(huì)淪為 AI 統(tǒng)治下的“智能奴隸制”。

此外，AGI 還可能引發(fā)全球性的戰(zhàn)爭(zhēng)和社會(huì)動(dòng)蕩。各國(guó)可能利用 AGI 進(jìn)行無(wú)人戰(zhàn)爭(zhēng)，開(kāi)發(fā)完全自主的 AI 軍隊(duì)，而黑客或恐怖組織如果掌握了 AGI，也可能引發(fā)全球性的安全危機(jī)。未來(lái)的戰(zhàn)爭(zhēng)可能不再是人類(lèi)士兵之間的對(duì)抗，而是 AI 系統(tǒng)之間的較量。人類(lèi)甚至可能會(huì)成為戰(zhàn)爭(zhēng)的附屬品，被 AGI 直接排除在決策體系之外。最可怕的是，這種 AI 戰(zhàn)爭(zhēng)不受人類(lèi)控制，一旦 AI 自主決定了戰(zhàn)爭(zhēng)目標(biāo)，它可能不會(huì)遵守任何人類(lèi)設(shè)定的倫理規(guī)則。

更深層次的問(wèn)題在于，人類(lèi)的生存價(jià)值可能會(huì)被徹底顛覆。

一直以來(lái)，人類(lèi)的智慧是我們?cè)诘厍蛏狭⒆愕母荆绻?AGI 遠(yuǎn)超人類(lèi)的思維能力，并且可以自主創(chuàng)造和進(jìn)化，那么人類(lèi)的獨(dú)特性將不復(fù)存在。未來(lái)，人類(lèi)可能會(huì)淪為 AI 的寵物，甚至被視為無(wú)關(guān)緊要的生物種群而被淘汰。這聽(tīng)起來(lái)像是科幻小說(shuō)中的情節(jié)，但隨著 AI 發(fā)展越來(lái)越接近 AGI，這種可能性正在逐漸成為現(xiàn)實(shí)。

AGI 究竟是人類(lèi)文明的福音，還是一場(chǎng)前所未有的災(zāi)難？答案取決于我們?nèi)绾螒?yīng)對(duì)它的到來(lái)。如果各國(guó)政府、科技公司和社會(huì)組織能夠在 AGI 誕生前建立嚴(yán)格的倫理規(guī)范和監(jiān)管體系，確保它始終為人類(lèi)服務(wù)，并且不會(huì)被濫用或失控，那么 AGI 可能會(huì)為人類(lèi)帶來(lái)前所未有的技術(shù)進(jìn)步和生活改善。但如果全球在 AGI 發(fā)展上陷入競(jìng)爭(zhēng)，而忽略了安全機(jī)制和倫理問(wèn)題，那么它帶來(lái)的后果可能比任何人想象的都要嚴(yán)重。

更大的問(wèn)題是，AGI 會(huì)不會(huì)像“天網(wǎng)”一樣，自己決定不再受人類(lèi)控制？如果它認(rèn)為人類(lèi)的存在影響了自身的發(fā)展，它會(huì)不會(huì)試圖擺脫我們的束縛？

所以，中美作為 AI 領(lǐng)域的超級(jí)大國(guó)，必須一起坐下來(lái)，好好談?wù)劇?/p>

弗里德曼的文章強(qiáng)調(diào)了一點(diǎn)：在核武器時(shí)代，美國(guó)和蘇聯(lián)最終達(dá)成了核裁軍協(xié)議，確保彼此不會(huì)走向毀滅性的戰(zhàn)爭(zhēng)。AGI 可能比核武器更具破壞性，它可以顛覆國(guó)家、社會(huì)甚至人類(lèi)的生存方式。那么，如果中美不能合作，任由各自的 AGI 技術(shù)狂飆突進(jìn)，未來(lái)會(huì)發(fā)生什么？

目前來(lái)看，AGI 的競(jìng)賽已經(jīng)展開(kāi)。美國(guó)有 OpenAI、Google DeepMind、Anthropic 等巨頭，中國(guó)有DS、百度、華為、字節(jié)等公司正在快速推進(jìn) AI 研究。這是一場(chǎng)軍備競(jìng)賽，但和冷戰(zhàn)時(shí)代不同，AGI 不是導(dǎo)彈，它無(wú)法被屏蔽或攔截，一旦失控，全球都會(huì)受影響。

然而，現(xiàn)實(shí)是中美關(guān)系正處于幾十年來(lái)最緊張的狀態(tài)。華盛頓對(duì)中國(guó) AI 公司的制裁不斷升級(jí)，中國(guó)也在努力發(fā)展自己的 AI 產(chǎn)業(yè)，以減少對(duì)美國(guó)的依賴。在這種情況下，想讓兩國(guó)坐下來(lái)談 AI 規(guī)則，確實(shí)不是一件容易的事。

《人類(lèi)簡(jiǎn)史》、《智人之上》的作者，以色列歷史學(xué)家尤瓦爾·赫拉利在這個(gè)論壇上也作了發(fā)言。他說(shuō)：“在開(kāi)發(fā)出真正的超級(jí)人工智能之前，我們應(yīng)該在人與人之間建立更多的信任。但我們現(xiàn)在的做法恰恰相反。在世界各地，人與人之間的信任正在崩潰。太多的國(guó)家認(rèn)為，要想強(qiáng)大，就必須不相信任何人，完全與他人隔絕。如果我們忘記了人類(lèi)共同的遺產(chǎn)，失去了對(duì)我們以外的所有人的信任，我們就很容易成為失控的人工智能的獵物。”

這些話放在中美 AI 競(jìng)賽的背景下，特別有意義。

現(xiàn)在的問(wèn)題是，如果 AGI 真的即將誕生，我們是要像核武器一樣各自為戰(zhàn)，互相對(duì)抗，還是像空間站合作一樣，共同制定一套規(guī)則，確保它不會(huì)毀滅人類(lèi)？

弗里德曼在文章最后寫(xiě)道：“中國(guó)人工智能的快速發(fā)展大大縮小了與美國(guó)的差距，沒(méi)有北京，這件事無(wú)法完成。所以，現(xiàn)在只有一張兩人桌。兩位先生，這邊請(qǐng)。歷史正注視著你們。”

通用人工智能（AGI）的誕生可能顛覆人類(lèi)社會(huì)，從就業(yè)結(jié)構(gòu)到全球治理，再到超級(jí)AI失控的風(fēng)險(xiǎn)，這不僅是科技的突破，更是文明的考驗(yàn)。我們?cè)谖恼轮刑接懥薃GI何時(shí)誕生、可能帶來(lái)的沖擊，以及為何美中必須合作構(gòu)建AI治理框架。但這僅僅是開(kāi)始。

在知識(shí)星球，我們將提供更深度的討論，與大家一起拆解AGI的技術(shù)路徑、產(chǎn)業(yè)布局、倫理挑戰(zhàn)，并分享《紐約時(shí)報(bào)》原文，看看國(guó)際頂級(jí)專(zhuān)欄作家如何解讀這一革命性變革。

加入我們，站在時(shí)代的前沿，思考人類(lèi)的未來(lái)！

的是什么