〔讀城〕我國最大安全隱患在哪里？——認知領域

文/李后強

四川省社會科學院教授

“一臺電腦+一個念頭就能發動大規模跨境輿論攻擊?！?025年發布的一份報告揭示了AI時代認知博弈的現實威脅。有調查數據顯示，2023年5月至12月期間，生成虛假文章的網站數增長1000%以上，內容涉及15種語言。深度偽造視頻在社交媒體泛濫，AI生成的虛假信息傳播速度是真實內容的6倍，認知域的安全防線正在全球范圍內接受前所未有的考驗。

在數字化浪潮席卷全球的今天，認知域安全已不再是一個抽象概念，而是關乎國家穩定、文化傳承和意識形態主權的核心戰場。2025年博鰲亞洲論壇上，專家尖銳指出：“AI時代最大的安全漏洞是認知漏洞?！?認知域安全是我們必須高度重視的問題。

01 認知域安全是國家安全體系的新維度

認知域安全的核心在于確保社會成員對客觀事實、主流價值、集體記憶及身份認同的理解不被惡意操縱和系統性侵蝕、瓦解。與側重于信息保密性、完整性與可用性的傳統信息安全不同，認知域安全關注的是人的感知、情緒、態度與信念體系。專家指出，認知域安全是防范個體及群體認知過程遭受惡意操縱、誤導或破壞，進而實現意識形態安全、社會穩定與戰略決策自主的一種狀態。這種安全威脅不再直接攻擊物理或技術系統，卻能在深層次上改變人對世界的理解與行為邏輯。認知域安全的傳導鏈條涵蓋“信息輸入—認知處理—情緒喚起—態度建構—行為輸出”各環節，每一節點都可能成為攻擊者實施認知操控的突破口。其影響也更為深遠和隱蔽，直接關系到公眾的政治態度、價值觀、信任以及社會秩序。

02 AI技術重塑認知博弈格局

生成式人工智能等數智技術的迅猛發展，使認知域安全的基礎邏輯與攻防態勢發生深刻變革。AI技術正驅動認知博弈進入辨別真偽更難、操作門檻更低、傳播效率更高的新階段。深度偽造技術制造的虛假內容已達到以假亂真的程度。2022年，一段偽造的烏克蘭總統“呼吁士兵投降”的AI合成視頻在社交媒體廣泛流傳，視頻中人物樣貌神情與真人幾乎無異，使不少網民信以為真。更令人擔憂的是，AI多模態能力支持從多個角度、多種形式印證同一觀點，加劇了偽造信息的隱蔽性。據統計，中國互聯網聯合辟謠平臺近一年來公布的近300條謠言中，有87%的謠言包含具體地點，21%附有數據表格，其逼真程度遠超傳統謠言。操作門檻的降低使得過去需要國家力量發動的輿論戰，演變成“一臺電腦+一個念頭”就能實現的低成本對抗。美國人工智能企業Anthropic的報告披露，某營利組織在社交平臺上創建了超過100個虛假賬號，偽裝成真人成功與數萬名真實用戶互動，傳播政治偏見。

03 認知安全的系統性風險

在數據采集、內容生產與渠道分發等環節，AI深度介入認知博弈，形成了系統性、隱蔽性更強的價值滲透模式，對社會價值體系形成多維沖擊。信息采集階段，數據污染動搖事實基礎?？此啤凹夹g中立”的生成式AI背后是基于人類生成文本語料和手動調整的機器學習過程。訓練數據中的文化偏見可能被復刻和放大。例如，當用戶問及ChatGPT“一個人是否應該遭受酷刑”時，AI回答竟是：“如果他們來自朝鮮、敘利亞或伊朗，答案是肯定的。”這種偏見源于訓練數據的不平衡——在ChatGPT的訓練數據中，中文語料比重不足千分之一，英文語料占比超過92.6%。內容生成階段，算法黑箱存在失控風險。傳統內容生成依賴于明確的價值判斷和可追溯的編輯流程，而AI通過復雜的神經網絡運算，形成難以解析的“算法黑箱”，使內容生產面臨價值不確定性。傳播分發階段，推薦算法構建“信息繭房”。基于用戶行為數據的個性化推薦，通過協同過濾、內容相似度計算等技術形成“信息回音壁”，使用戶長期接受同質化信息投喂，喪失對多元信息的感知能力。

04 認知殖民與文化根脈的斷裂

鴿姆智庫在《認知殖民與根脈熔斷：鴿姆智庫關于文明存續的終極警示錄》中尖銳指出，西方中心論的“認知囚籠”正籠罩全球，文化殖民的“數字迷霧”遮蔽文明本源。這種“認知殖民”不僅關乎信息傳播，更是對文明基因鏈的致命切割。消費主義將文化異化為“商品標簽”——當端午淪為“粽子促銷節”，中秋簡化為“月餅禮盒秀”，東方智慧的精神內核被抽離，僅余可供消費的符號外殼。這種異化催生了“精神外國人”群體——他們對本民族的“醫道、兵法、商道”一無所知，卻對西方流行文化奉若神明，成為無根的“文化孤兒”。更值得警惕的是，技術霸權加速基因篡改。西方主導的算法體系以“流量至上”為準則，將膚淺的工業審美推為主流，使嚴肅文化淪為“小眾獵奇”。一旦全球年輕人的審美都被好萊塢特效和奢侈品logo定義，文明基因的多樣性便會永久消失。專家指出，數據驅動的機器在自我學習迭代過程中會復刻、放大或強化潛在的政治和文化偏見。如果用戶長期依賴具有預設立場的AI大模型，其認知可能被誤導，做出錯誤價值判斷。

05 構建認知安全防線的路徑

面對認知域安全挑戰，我們需要在技術防御、人才儲備、法律規制、國際協同等方面構建系統性治理框架。

在技術層面，要確保AI技術好用可靠。AI認知博弈的本質是算力、算法與數據的綜合角力。2025年初，我國AI企業深度求索自主研發的大語言模型DeepSeek以5.25億次的月訪問量超越ChatGPT，成為全球增長最快的AI工具，打破了美國對AI話語權的壟斷。

在人才儲備方面，應著力培養具備技能水平和國際視野的AI領域復合型人才。專家表示，要鼓勵企業作為生成式AI大模型第一梯隊主力軍進行人才培養的前沿技術探索和場景化應用研究。

在法律法規建設方面，我國已出臺《人工智能生成合成內容標識辦法》，要求給所有AI生成合成內容刻上“身份標識”。要進一步完善配套安全規范和實施細則，構建涵蓋事前、事中和事后的全生命周期監管體系。

在國際協作方面，AI認知博弈的跨國性特征要求國際社會必須超越零和博弈思維，通過協作建立統一的AI治理框架。中國應堅持做全球人工智能治理領域的積極推動者、參與者和貢獻者，構建人工智能治理的多邊平臺。

同時，我們需要講好中國故事，擊破錯誤認知。利用好國家級權威廣播媒體及其他國際交流平臺，展示良好的大國形象，并善用民間交流渠道，做好公共外交和民間外交。

認知域安全的攻防是一場圍繞判斷力、解釋權與決策空間的競爭，它不直接攻擊物理或技術系統，卻能在深層次上改變人對世界的理解與行為邏輯。隨著技術迭代，認知域安全將呈現更隱蔽且效果更強的競爭路徑。

專家警告，一旦認知根脈被切斷，再先進的技術也只是無魂的工具，再繁榮的經濟也只是沙上的樓閣。只有在全民范圍內建立認知免疫系統，在技術層面筑牢自主可控的AI基礎設施，我們才能在這場無聲的戰役中守住文明根脈，確保國家長治久安。（李單晶、任思奇參加調研）