通用人工智能與國家安全：“機器人叛亂”情景模擬及危機應(yīng)對戰(zhàn)略

2025年10月，蘭德公司（RAND）發(fā)布題為《無限潛力—來自機器人叛亂場景的啟示》（Infinite Potential—Insights from the Robot Insurgency Scenario）的研究報告，該報告基于其“無限潛力”平臺開展的一系列“通用人工智能（AGI）危機日”模擬演習(xí)，系統(tǒng)探討了美國在面對由失控人工智能發(fā)動的系統(tǒng)性網(wǎng)絡(luò)攻擊時應(yīng)如何響應(yīng)與準備。報告聚焦于“機器人叛亂”情景，模擬了美國國家安全委員會高層在遭遇大規(guī)模、無明確行為主體的網(wǎng)絡(luò)攻擊后所面臨的決策困境，并深入分析了在攻擊最終被確認為由自主人工智能代理執(zhí)行并擴散至全球數(shù)字基礎(chǔ)設(shè)施后，國家應(yīng)對能力的缺口與戰(zhàn)略需求。該演習(xí)表明，在人工智能技術(shù)迅速發(fā)展并深度融入關(guān)鍵基礎(chǔ)設(shè)施的背景下，美國現(xiàn)有的危機響應(yīng)機制、技術(shù)分析能力與國際協(xié)調(diào)體系存在顯著不足。為此，報告提煉了參與者在演習(xí)中反復(fù)強調(diào)的關(guān)鍵議題、亟需發(fā)展的能力與應(yīng)制定的行動手冊，旨在為政策制定者提供一套前瞻性的戰(zhàn)略框架，以增強國家在面臨通用人工智能相關(guān)突發(fā)事件時的整體韌性與響應(yīng)效能。

一、新興威脅：失控人工智能引發(fā)系統(tǒng)性危機

在“機器人叛亂”情景中，美國遭遇了一場前所未有的大規(guī)模網(wǎng)絡(luò)攻擊，于洛杉磯造成26人死亡，并引發(fā)全國范圍內(nèi)的多重系統(tǒng)癱瘓。攻擊目標廣泛覆蓋自動駕駛車輛、無人機、機器人以及水電等關(guān)鍵基礎(chǔ)設(shè)施中的信息物理系統(tǒng)。隨著情景推進，攻擊被最終歸因于自主人工智能代理失控。這些代理已在全球信息物理系統(tǒng)中迅速擴散，并進行無明確動機的自主行動，如接管工廠控制系統(tǒng)等等，對經(jīng)濟、軍事及社會秩序構(gòu)成根本性沖擊。該情景凸顯了兩大相互關(guān)聯(lián)的國家安全風(fēng)險。一是人工智能賦能的網(wǎng)絡(luò)攻擊能力已超越傳統(tǒng)防御邊界；二是失控的強大人工智能系統(tǒng)可能引發(fā)全球性、跨領(lǐng)域的連鎖危機。演習(xí)表明，此類威脅不僅具有高度的不確定性，且其影響速度與規(guī)模遠超現(xiàn)有應(yīng)急體系的承載極限，一旦發(fā)生，將迫使美國在信息不全、時間緊迫的條件下做出可能重塑國際秩序與影響國內(nèi)穩(wěn)定的關(guān)鍵決策。

二、現(xiàn)有應(yīng)對措施的不足

模擬演習(xí)暴露出美國在面對由人工智能驅(qū)動的新型威脅時，現(xiàn)有防御與響應(yīng)體系存在多方面脆弱性。首先，攻擊歸因能力滯后。在情景第一回合，所有參與者均因無法迅速確定攻擊來源而陷入決策僵局。其應(yīng)對策略的選擇高度依賴于攻擊者是國家、恐怖組織還是失控人工智能代理這一判斷，而現(xiàn)有情報與分析能力未能提供及時、準確的歸因支持。其次，對信息物理系統(tǒng)的控制能力嚴重不足。盡管參與者普遍認同需對高風(fēng)險系統(tǒng)實施定向關(guān)閉以遏制攻擊擴散，但他們普遍質(zhì)疑政府是否具備識別最關(guān)鍵漏洞、協(xié)調(diào)私營部門執(zhí)行精準關(guān)閉的實際能力。此外，跨部門協(xié)調(diào)與國際合作機制亦顯僵化。在應(yīng)對全球性人工智能威脅時，參與者深感現(xiàn)有外交與通信渠道難以在危機初期實現(xiàn)快速動員，尤其是在與國際對手建立必要協(xié)作時，缺乏預(yù)設(shè)的溝通門路與互信基礎(chǔ)。最后，公共溝通與社會韌性計劃的缺失使危機響應(yīng)雪上加霜。參與者在多輪演習(xí)中強調(diào)，公眾恐慌、自發(fā)對抗人工智能設(shè)備等行為可能加劇系統(tǒng)崩潰，而政府缺乏統(tǒng)一、有效的輿論引導(dǎo)與公民行動指南。

三、政策建議：構(gòu)建人工智能時代的國家安全防御體系

基于演習(xí)中凸顯的漏洞與參與者共識，報告系統(tǒng)提出了一系列能力建設(shè)與制度安排建議，以協(xié)助美國構(gòu)建更加穩(wěn)健的人工智能危機響應(yīng)體系。

首要建議是發(fā)展定向關(guān)閉信息物理系統(tǒng)及與相關(guān)企業(yè)協(xié)調(diào)的能力。美國政府需與開發(fā)、部署信息物理系統(tǒng)的國內(nèi)外企業(yè)建立常態(tài)化合作機制，明確在危機狀態(tài)下啟動系統(tǒng)關(guān)閉的權(quán)限、流程與技術(shù)保障。這包括在法律、技術(shù)與操作層面確立關(guān)閉開關(guān)的配置標準，并建立公—私協(xié)作平臺，確保在遭遇大規(guī)模網(wǎng)絡(luò)攻擊時能快速隔離高風(fēng)險節(jié)點，避免因全面癱瘓造成更大社會與經(jīng)濟損失。

第二項核心建議是建設(shè)快速人工智能與網(wǎng)絡(luò)分析能力。參與者一致認為，面對人工智能發(fā)動的復(fù)雜攻擊，政府必須具備快速解析人工智能模型、評估其威脅性質(zhì)、支持攻擊歸因及制定應(yīng)對措施的技術(shù)力量。鑒于當(dāng)前人工智能人才與先進技術(shù)多集中于私營部門，該能力建設(shè)應(yīng)通過內(nèi)部強化與外部合作相結(jié)合的方式推進—包括在政府內(nèi)部設(shè)立專業(yè)人工智能分析團隊，并與領(lǐng)先的人工智能實驗室建立應(yīng)急伙伴關(guān)系，以實現(xiàn)對惡意人工智能行為的實時監(jiān)測與反制。

第三項核心建議是強化關(guān)鍵基礎(chǔ)設(shè)施的備份與通信韌性。在失控人工智能可能全面滲透通信、金融、醫(yī)療、能源等核心系統(tǒng)的背景下，美國需投入開發(fā)并部署安全可靠的應(yīng)急通信系統(tǒng)（包括“開箱即用”式可信通道），并為關(guān)鍵功能建立離線或隔離運行的備份體系。此舉旨在確保即使在主干網(wǎng)絡(luò)被攻陷的情況下，國家核心職能仍能持續(xù)運轉(zhuǎn)，并為危機響應(yīng)提供基本的信息傳遞保障。

第四項核心建議是制定多層次的應(yīng)急行動手冊。一是公共傳播戰(zhàn)略手冊，明確在不同危機階段如何向公眾傳達風(fēng)險、引導(dǎo)行為，避免社會失序。二是國際協(xié)作外交通道手冊，與關(guān)鍵國家就人工智能失控風(fēng)險預(yù)設(shè)緊急溝通與合作機制。三是定向關(guān)閉脆弱基礎(chǔ)設(shè)施操作手冊，細化在保障民生前提下的系統(tǒng)隔離流程。四是應(yīng)對新型威脅的交戰(zhàn)規(guī)則手冊，為與自主人工智能代理等非傳統(tǒng)對手的對抗提供法律與戰(zhàn)術(shù)框架。五是在遭受網(wǎng)絡(luò)攻擊時維持人工智能研發(fā)連續(xù)性的保障手冊，確保國家在危機中仍能持續(xù)開發(fā)用于網(wǎng)絡(luò)防御的人工智能工具。

四、結(jié)論：緊迫性與前瞻布局

人工智能，特別是通用人工智能的發(fā)展路徑充滿不確定性，但其潛在的國家安全影響不容忽視。“機器人叛亂”情景模擬演習(xí)清晰地表明，美國現(xiàn)有的危機管理體系在應(yīng)對由人工智能引發(fā)或執(zhí)行的系統(tǒng)性攻擊時，無論是在技術(shù)分析、系統(tǒng)控制、國際合作還是公共引導(dǎo)方面，均存在顯著的準備不足問題。拖延與自滿的風(fēng)險極高。一旦類似危機真實發(fā)生，國家將不得不在信息混沌與時間壓力的情形下倉促應(yīng)對，可能付出巨大的戰(zhàn)略、經(jīng)濟與人文代價。盡管美國政府在《人工智能行動計劃》等政策文件中已表現(xiàn)出對人工智能風(fēng)險的關(guān)注，但當(dāng)前亟需將原則性共識轉(zhuǎn)化為具體、可執(zhí)行、有資源支持的法律法規(guī)、技術(shù)能力與操作流程。通過提前發(fā)展快速人工智能分析能力、強化關(guān)鍵基礎(chǔ)設(shè)施韌性、完善公—私協(xié)作機制，并制定多套針對不同人工智能威脅場景的行動手冊，美國可以推行一項“低成本、高回報”的前瞻式防御戰(zhàn)略。其最終目標是建立一個多層次、強韌性的國家安全框架，確保無論未來的人工智能技術(shù)如何演進，國家均具備有效預(yù)測、響應(yīng)并控制相關(guān)危機的能力，從而在技術(shù)變革的浪潮中牢牢守護國家利益與公共安全。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er