赫拉利的“問”，外灘大會的“答”

文|佘宗明

“AI與所有以往技術的不同之處在于，它觸及了社會的中樞神經系統”“真正值得擔心的不是技術本身，而是為了競爭優勢不顧安全邊界地部署技術。”

這兩天，知名歷史學家、《人類簡史》作者尤瓦爾·赫拉利將對AI失控的憂思帶到了2025外灘大會上。在開幕式暨主論壇的演講中，他這樣說道。

在他看來，AI絕非簡單的自動化工具，而是具備“主體性”的異質智能體。

有意思的是，2025外灘大會前兩天發布了“AI十問世界”，40多場論壇、18場創新者舞臺、3場AI科創系列賽事都會圍繞“AI十問世界”展開探討。

這十個問題就牽涉到人機何以共生的命題，其中既有豆包問出的“人類讓AI變得越來越強大是在養虎為患嗎？”，也有Gemini問出的“如果AI做了錯誤決定并造成損害，AI該背鍋嗎？”，還有LLaMA問出的“除了用AI降本增效，哪些崗位是要永遠留給人類來做的？”……可以說，這“十問”跟赫拉利的關切緊密呼應。

如果說赫拉利的憂心直指AI沖擊下的風險，那無論是外灘大會自身的開放、多元、前瞻性，還是外灘大會上智慧大腦間的思想碰撞，都在努力為此提供破解方案。

01

“有人的地方就有左中右”，自AI時代大幕拉開后，“超級對齊（Superalignment）”和“有效加速主義（Effective Accelerationism）”兩個陣營就各執左右兩端。

前者時常對AI技術的伴生風險夕惕若厲，如“AI教父”辛頓多次警告超級智能可能帶來災難性后果。

后者則總是認為技術的問題就該在技術發展中解決，像a16z掌舵者馬克·安德森就認為AI最大的風險是不以最大努力追求它。

在2025外灘大會上，也能看到多元思想、異態理念的碰撞。

赫拉利在演講中突出強調了AI的風險。他認為，人們面臨的人工智能危險，“不是一個壞人按一個壞按鈕”，而在于周圍悄然發生的無形過程。科幻小說里提到過“機器人叛亂”，但真正的危險更安靜且更令人恐懼——數字官僚體系將決定權從我們可質詢的人類，移交給我們看不見的算法。

但2024圖靈獎得主、“強化學習之父”薩頓則態度有別，針對外界對AI帶來偏見、失業乃至人類滅絕的擔憂，他在演講中表示“這種對人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個人煽動起來的”，呼吁“我們應以勇氣、自豪和冒險精神迎接AI。”

阿里云創始人、中科院院士王堅在分享中順著“AI和太空資源的融合”，暢想起了星辰大海。他說“太空一直是我們最大的資源，在50年以前是這樣，今天絕對不是只把人工智能用在手機上、電腦上，其實人工智能不應該缺失太空。”認定AI和計算是人類探索深空的必需品。

宇樹科技創始人王興興則在官宣宇樹科技IPO后的首次發聲中，說“真正讓AI落地干活，現在還是在大規模爆發性增長的前夜。對我個人而言，這個時代是非常激動人心的。”

雖然觀點有異，但正視AI可能帶來的風險，推動AI更多地向善，當是共識。而外灘大會上的很多探討，正是聚焦于此。

02

赫拉利在演講中談AI風險時，著重談到了兩點：一是AI觸及了社會的中樞神經系統；二是要警惕為了競爭優勢不顧安全邊界地部署技術。

這延續了他在《智人之上》中的主張。而要看懂他的主張，就得先看懂兩個詞：“無機生命”和“硅幕”。

AI的出現也許標志著“無機生命”的起源，是赫拉利的基本看法。

他認為，AI與過去所有技術的不同之處在于，AI是有史以來第一個能夠自行做決策、創造新想法的技術，人類過去的所有發明，都只是在為人類賦予更強大的力量，使用的決定權始終掌握在人類手里，但AI不同，它不僅僅是自動化工具，還是“會行動的主體”。

赫拉利總結，在人類歷史上，從未出現一個智力較低的物種能夠控制一個智力更高的物種的情況，“如果我們創造出比人類更聰明的物種，比如超級智能，世界會發生什么？”

在《人類簡史》中，赫拉利說，人類之所以能建立復雜的社會網絡，關鍵就在于擁有“講故事”的能力。而今，“講故事”的能力也被AI掌握了。他將AI對語言的掌握程度超過人類平均水平，視作“AI已入侵人類文明的操作系統”。

這極易讓人聯想到馬斯克的那段預言：“人類只是硅基生命的生物啟動程序……人類社會只是一小段代碼，它的存在是為了啟動超級數字智能物種的計算機程序。”

人類最強大腦（瓦特、麥克斯韋、愛因斯坦等）=生物算力的算力奇點=人體智能超算，ChatGPT=“生物+機器”混合算力的算力奇點≈機器智能超算，曾有人列出這道公式。按照該公式，目前人體智能要強于機器智能，但未來就不好說了。這也是赫拉利們的憂心之處。

AI可能構筑起隔絕人類連接的“硅幕”，則是赫拉利的前瞻預判。

冷戰時期，鐵幕曾經降下，到了AI時代，赫拉利認為世界未來可能被硅幕分隔開來，“由硅基芯片和計算機代碼所組成的‘硅幕’，可能使人類分裂并分屬于不同的數字帝國。”硅幕兩側的人們在文化價值觀、社會規范與政治結構的差異會越來越大。

他警示，若人類無法重建信任，AI將成為撕裂社會的“新殖民者”，利用我們的分裂掌控權力。

03

赫拉利的憂心，并非無謂之慮。而2025外灘大會上，很多來自學界業界的智慧大腦的分享討論，也在回應如何與AI共處的未來。

AI失控風險不容小覷？以算法透明和倫理筑基確保AI安全可控，很有必要。

在主論壇上，香港大學計算與數據科學學院院長馬毅就指出，必須將AI從依賴試錯、不可解釋的“黑箱”系統，轉變為基于數學原理與閉環反饋的“白箱”模型。

而復旦大學人工智能創新與產業研究院院長漆遠提出，AI的“安全可信”是發展底線，需通過可解釋AI、檢索增強（RAG）、高質量數據治理等技術路徑解決模型幻覺、數據偏見等問題，也跟馬毅的“可審計算法決策”形成呼應。

事實上，作為頂級金融科技盛會，歷年外灘大會都很重視創新技術的安全性、可靠性：從CSA“AI安全工作組”成立，到“IIFAA分布式可信認證體系”共建，再到涵蓋Agent對齊、智能體零信任防御等功能的“螞蟻蟻天鑒”大模型安全解決方案展出……都凸顯了這點。

今年外灘大會聚焦的5大內容主線中，更是包括“負責任創新與普惠未來”。

凱文·凱利說：對于科技帶來的問題，永遠不能靠減少科技解決，而應該發明出更好的科技。“更好”的內涵就該包括更安全、更可信。

赫拉利曾說“我并不反對AI，我不認為我們可以或應該停止AI的發展。我只是認為我們需要在AI安全方面投入更多，要更加謹慎。”這次又說“歷史已多次證明，速度和安全可以并存，但前提是我們構建自我修正的機制閉環。”

而外灘大會上探討、展示的負責任AI技術創新與產業應用，就是對他期待的“有益的AI”的實景呈現。

04

以開放協作、增強互信推動AI國際治理合作，勢在必行。

雖然認為“AI恐懼”被夸大，但薩頓在演講里也強調了協作的重要性。他說，人工智能和人類繁榮將來自于去中心化協作。“協作并非總能實現，卻是世間一切美好事物的源泉，我們必須尋求協作、支持協作，并致力將協作制度化。”

王堅指出，在AI時代，開源的含義已經從代碼開源（Open Source），演進為資源開放（Open Resource），認為開放資源對AI發展不可或缺。

開放協作，是應對AI風險的必由之路，也是實現AI共治的應有之義。外灘峰會搭建起開放多元的科技交流互鑒平臺，亦是著眼于增進AI領域的開放協作。

外灘大會吸引了包括圖靈獎得主在內的世界級學者、國際組織代表、跨國企業決策者，共同探討數據安全、算法公平、平臺責任等全球性議題，就在彰顯了上海已成為全球科技治理規則與倫理標準探討的東方主場之余，呈現了齊筑AI治理“巴別塔”的努力。

9月12日，亞洲三大金融科技盛會——上海外灘大會、新加坡金融科技節、香港金融科技周主辦方首次齊聚上海實現“三會聚首”，組織金融科技“全球主題日”，也在體現了上海作為全球引領性金融科技中心的樞紐性地位之外，帶動了多維度交流合作。

而這類國際交流合作，正是打破“硅幕”阻隔的橋梁。

在AI治理上，顯然需要更多這樣的開放協作。正如麻省理工教授馬克斯·特格馬克所說，“AI的發展速度比人們預測的更快，無論在世界上哪個角落率先造出失控的AI，都將給人類帶來滅頂之災……當AI在認知、學習、迭代能力上遠超人類時，一切地緣對立都變得愚蠢可笑至極且無足輕重。”

赫拉利更是曾警醒：我們能真正控制AI、開發出一種可以與人類共存的AI的唯一機會，就是通過全球合作來實現。

他的那句“人類之所以能夠統治世界，并不是因為有多聰明，而是因為唯有人類懂得運用信息進行聯結，從而可以靈活的大規模的合作”，跟薩頓的“人類最卓越的超能力，就在于比其他任何動物都更擅長協作。人類最偉大的成功在協作本身”，異曲同工。

而外灘大會構建的聯結與協作網絡，就是在增進交流合作。

05

在發布饒有趣味的“AI十問世界”后，外灘大會組委會表示，AI記錄學習了人類的反思，ta們的提問也許正是人類思考的鏡像，AI反問人類，本質上仍是人類對于“人之為人”的追問。

AI時代的“人之為人”之問，可以內縮為“AI浪潮下，人類該充當什么角色”，也可以外延為“人機何以相處”。

赫拉利給出的總結是：人類的選擇將決定AI是“救世主”還是“終結者”。悲觀劇本中，若我們沉迷內斗，AI將如“外星艦隊”接管世界，用超理性邏輯重塑社會規則；樂觀愿景里，全球協作下的AI可成為治愈疾病、應對氣候危機的利器，甚至幫助人類突破認知極限。

2025外灘大會就是在探尋AI向善、加強協作的有用答案。

都說“未來已來”，但要讓好的未來“已來”，前提是做出好的選擇。

“我們所有人在未來幾年所做的選擇，將決定召喚這種非人類智能究竟是個致命的錯誤，還是會讓生命的演化翻開一個充滿希望的新篇章。”《智人之上》里寫道。

按鈕就在我們手中。