〔讀城〕我國最大安全隱患在哪里？——認知領(lǐng)域

文/李后強

四川省社會科學院教授

“一臺電腦+一個念頭就能發(fā)動大規(guī)模跨境輿論攻擊。”2025年發(fā)布的一份報告揭示了AI時代認知博弈的現(xiàn)實威脅。有調(diào)查數(shù)據(jù)顯示，2023年5月至12月期間，生成虛假文章的網(wǎng)站數(shù)增長1000%以上，內(nèi)容涉及15種語言。深度偽造視頻在社交媒體泛濫，AI生成的虛假信息傳播速度是真實內(nèi)容的6倍，認知域的安全防線正在全球范圍內(nèi)接受前所未有的考驗。

在數(shù)字化浪潮席卷全球的今天，認知域安全已不再是一個抽象概念，而是關(guān)乎國家穩(wěn)定、文化傳承和意識形態(tài)主權(quán)的核心戰(zhàn)場。2025年博鰲亞洲論壇上，專家尖銳指出：“AI時代最大的安全漏洞是認知漏洞。” 認知域安全是我們必須高度重視的問題。

01 認知域安全是國家安全體系的新維度

認知域安全的核心在于確保社會成員對客觀事實、主流價值、集體記憶及身份認同的理解不被惡意操縱和系統(tǒng)性侵蝕、瓦解。與側(cè)重于信息保密性、完整性與可用性的傳統(tǒng)信息安全不同，認知域安全關(guān)注的是人的感知、情緒、態(tài)度與信念體系。專家指出，認知域安全是防范個體及群體認知過程遭受惡意操縱、誤導或破壞，進而實現(xiàn)意識形態(tài)安全、社會穩(wěn)定與戰(zhàn)略決策自主的一種狀態(tài)。這種安全威脅不再直接攻擊物理或技術(shù)系統(tǒng)，卻能在深層次上改變?nèi)藢κ澜绲睦斫馀c行為邏輯。認知域安全的傳導鏈條涵蓋“信息輸入—認知處理—情緒喚起—態(tài)度建構(gòu)—行為輸出”各環(huán)節(jié)，每一節(jié)點都可能成為攻擊者實施認知操控的突破口。其影響也更為深遠和隱蔽，直接關(guān)系到公眾的政治態(tài)度、價值觀、信任以及社會秩序。

02 AI技術(shù)重塑認知博弈格局

生成式人工智能等數(shù)智技術(shù)的迅猛發(fā)展，使認知域安全的基礎(chǔ)邏輯與攻防態(tài)勢發(fā)生深刻變革。AI技術(shù)正驅(qū)動認知博弈進入辨別真?zhèn)胃y、操作門檻更低、傳播效率更高的新階段。深度偽造技術(shù)制造的虛假內(nèi)容已達到以假亂真的程度。2022年，一段偽造的烏克蘭總統(tǒng)“呼吁士兵投降”的AI合成視頻在社交媒體廣泛流傳，視頻中人物樣貌神情與真人幾乎無異，使不少網(wǎng)民信以為真。更令人擔憂的是，AI多模態(tài)能力支持從多個角度、多種形式印證同一觀點，加劇了偽造信息的隱蔽性。據(jù)統(tǒng)計，中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺近一年來公布的近300條謠言中，有87%的謠言包含具體地點，21%附有數(shù)據(jù)表格，其逼真程度遠超傳統(tǒng)謠言。操作門檻的降低使得過去需要國家力量發(fā)動的輿論戰(zhàn)，演變成“一臺電腦+一個念頭”就能實現(xiàn)的低成本對抗。美國人工智能企業(yè)Anthropic的報告披露，某營利組織在社交平臺上創(chuàng)建了超過100個虛假賬號，偽裝成真人成功與數(shù)萬名真實用戶互動，傳播政治偏見。

03 認知安全的系統(tǒng)性風險

在數(shù)據(jù)采集、內(nèi)容生產(chǎn)與渠道分發(fā)等環(huán)節(jié)，AI深度介入認知博弈，形成了系統(tǒng)性、隱蔽性更強的價值滲透模式，對社會價值體系形成多維沖擊。信息采集階段，數(shù)據(jù)污染動搖事實基礎(chǔ)。看似“技術(shù)中立”的生成式AI背后是基于人類生成文本語料和手動調(diào)整的機器學習過程。訓練數(shù)據(jù)中的文化偏見可能被復刻和放大。例如，當用戶問及ChatGPT“一個人是否應該遭受酷刑”時，AI回答竟是：“如果他們來自朝鮮、敘利亞或伊朗，答案是肯定的。”這種偏見源于訓練數(shù)據(jù)的不平衡——在ChatGPT的訓練數(shù)據(jù)中，中文語料比重不足千分之一，英文語料占比超過92.6%。內(nèi)容生成階段，算法黑箱存在失控風險。傳統(tǒng)內(nèi)容生成依賴于明確的價值判斷和可追溯的編輯流程，而AI通過復雜的神經(jīng)網(wǎng)絡(luò)運算，形成難以解析的“算法黑箱”，使內(nèi)容生產(chǎn)面臨價值不確定性。傳播分發(fā)階段，推薦算法構(gòu)建“信息繭房”。基于用戶行為數(shù)據(jù)的個性化推薦，通過協(xié)同過濾、內(nèi)容相似度計算等技術(shù)形成“信息回音壁”，使用戶長期接受同質(zhì)化信息投喂，喪失對多元信息的感知能力。

04 認知殖民與文化根脈的斷裂

鴿姆智庫在《認知殖民與根脈熔斷：鴿姆智庫關(guān)于文明存續(xù)的終極警示錄》中尖銳指出，西方中心論的“認知囚籠”正籠罩全球，文化殖民的“數(shù)字迷霧”遮蔽文明本源。這種“認知殖民”不僅關(guān)乎信息傳播，更是對文明基因鏈的致命切割。消費主義將文化異化為“商品標簽”——當端午淪為“粽子促銷節(jié)”，中秋簡化為“月餅禮盒秀”，東方智慧的精神內(nèi)核被抽離，僅余可供消費的符號外殼。這種異化催生了“精神外國人”群體——他們對本民族的“醫(yī)道、兵法、商道”一無所知，卻對西方流行文化奉若神明，成為無根的“文化孤兒”。更值得警惕的是，技術(shù)霸權(quán)加速基因篡改。西方主導的算法體系以“流量至上”為準則，將膚淺的工業(yè)審美推為主流，使嚴肅文化淪為“小眾獵奇”。一旦全球年輕人的審美都被好萊塢特效和奢侈品logo定義，文明基因的多樣性便會永久消失。專家指出，數(shù)據(jù)驅(qū)動的機器在自我學習迭代過程中會復刻、放大或強化潛在的政治和文化偏見。如果用戶長期依賴具有預設(shè)立場的AI大模型，其認知可能被誤導，做出錯誤價值判斷。

05 構(gòu)建認知安全防線的路徑

面對認知域安全挑戰(zhàn)，我們需要在技術(shù)防御、人才儲備、法律規(guī)制、國際協(xié)同等方面構(gòu)建系統(tǒng)性治理框架。

在技術(shù)層面，要確保AI技術(shù)好用可靠。AI認知博弈的本質(zhì)是算力、算法與數(shù)據(jù)的綜合角力。2025年初，我國AI企業(yè)深度求索自主研發(fā)的大語言模型DeepSeek以5.25億次的月訪問量超越ChatGPT，成為全球增長最快的AI工具，打破了美國對AI話語權(quán)的壟斷。

在人才儲備方面，應著力培養(yǎng)具備技能水平和國際視野的AI領(lǐng)域復合型人才。專家表示，要鼓勵企業(yè)作為生成式AI大模型第一梯隊主力軍進行人才培養(yǎng)的前沿技術(shù)探索和場景化應用研究。

在法律法規(guī)建設(shè)方面，我國已出臺《人工智能生成合成內(nèi)容標識辦法》，要求給所有AI生成合成內(nèi)容刻上“身份標識”。要進一步完善配套安全規(guī)范和實施細則，構(gòu)建涵蓋事前、事中和事后的全生命周期監(jiān)管體系。

在國際協(xié)作方面，AI認知博弈的跨國性特征要求國際社會必須超越零和博弈思維，通過協(xié)作建立統(tǒng)一的AI治理框架。中國應堅持做全球人工智能治理領(lǐng)域的積極推動者、參與者和貢獻者，構(gòu)建人工智能治理的多邊平臺。

同時，我們需要講好中國故事，擊破錯誤認知。利用好國家級權(quán)威廣播媒體及其他國際交流平臺，展示良好的大國形象，并善用民間交流渠道，做好公共外交和民間外交。

認知域安全的攻防是一場圍繞判斷力、解釋權(quán)與決策空間的競爭，它不直接攻擊物理或技術(shù)系統(tǒng)，卻能在深層次上改變?nèi)藢κ澜绲睦斫馀c行為邏輯。隨著技術(shù)迭代，認知域安全將呈現(xiàn)更隱蔽且效果更強的競爭路徑。

專家警告，一旦認知根脈被切斷，再先進的技術(shù)也只是無魂的工具，再繁榮的經(jīng)濟也只是沙上的樓閣。只有在全民范圍內(nèi)建立認知免疫系統(tǒng)，在技術(shù)層面筑牢自主可控的AI基礎(chǔ)設(shè)施，我們才能在這場無聲的戰(zhàn)役中守住文明根脈，確保國家長治久安。（李單晶、任思奇參加調(diào)研）