專題解讀 | 當智能體“批量上崗”，安全防線誰來守？

智能體（AI Agent）作為人工智能應用的重要形態，是具備自主感知、交互、決策與執行能力的智能系統。相較于大模型，智能體解決了“有腦無手”的問題。隨著智能體從實驗室走向產業規模化應用，其安全風險日益凸顯，這對人工智能治理體系和模式的重構提出嚴峻挑戰。

01

智能體發展現狀

智能體是指以大型語言模型為驅動，具備自主規劃、協同執行和持續學習能力的智能系統，能夠感知環境、推理決策并采取行動以實現預定目標。智能體的規模化應用，意味著AI不再僅是信息處理與建議提供的工具，而是成為能夠自主執行復雜任務、參與生產與管理決策的“數字員工”。傳統的“人—機交互”生態逐漸被重構為“機—機自主協同”的社會發展模式。

全球智能體發展格局

全球人工智能發展呈現顯著的梯隊化和區域分化特征。美國在智能體技術基礎研發與核心硬件方面保持全球領先地位。在政策層面，自2023年相繼發布《人工智能戰略》《國家機器人路線圖》《人工智能基礎設施計劃》等政策措施，為智能體技術迭代掃除政策障礙。在產業層面，OpenAI推出的GPT-5.4定位于“首個能直接操作計算機的通用模型”，英偉達發布“NemoClaw”軟件棧支持開源智能體框架的開發與部署。憑借軟硬協同的領先優勢，美國在定義智能體能力方面占據了極大的話語權。

歐盟按照“立法先行”的模式，通過“數字歐洲計劃”，擬于2025—2027年專項投入13億歐元，加快人工智能、云與數據、網絡安全、先進計算、半導體等領域的技術突破，為智能體發展進一步鋪平了道路。由于法國、德國等老牌發達國家擁有雄厚的資本底蘊和堅實的產業基礎，歐盟憑借自身整體實力，其智能體產業的發展速度與規模也達到了國際領先水平。如西門子的工業智能體產品以Industrial Copilot為核心入口，目前已形成覆蓋設計、規劃、工程、運營全價值鏈的智能體矩陣。然而，歐盟作為多個國家的聯合體，其內部“多極分散”態勢以及核心技術研發整體性不足的問題，制約了其綜合競爭力的提升。

中國在智能體產業落地與商業化應用方面展現出獨特優勢。2026年3月，國務院總理李強在《政府工作報告》中首次提出“打造智能經濟新形態”，并明確“促進新一代智能終端和智能體加快推廣，推動重點行業領域人工智能商業化規模化應用”。艾媒咨詢發布的數據顯示，2025年中國智能體市場規模已達804億元，同比大幅增長123.2%，預計到2030年將突破6000億元。智能體產業鏈已基本形成基礎層（算力與模型）、平臺層（開發工具）與應用層（場景解決方案）協同發展的格局。

我國算力基礎設施支撐能力

智能體規模化應用對算力提出了更高的需求。智能體的運行有賴于大模型推理、工具調用、多步規劃與自我反思等環節的持續計算支持，其算力消耗遠超傳統AI應用。數據顯示，中國日均Token調用量已從2024年初的1000億躍升至2025年底的100萬億，兩年間增長超千倍，智能體的興起進一步推高了算力需求。在算力基礎設施建設方面，截至2025年底，中國智能算力規模已達1590 EFLOPS（每秒百億億次浮點運算），同比增長119.2%。其中，八大國家算力網樞紐節點（含十大集群）已投運智算規模達1388 EFLOPS，占全國比重超過80%。總體來看，中國算力總規模與智能算力規模均位居全球前列。

然而，算力不足仍是制約智能體產業發展的主要瓶頸。從大模型迭代到智能體爆發，算力供需矛盾日益凸顯，“算力焦慮”由此產生。一方面，智能體應用對低時延、高并發的算力性能要求極高；另一方面，國產高端算力芯片在性能和生態方面與全球領先水平仍存在差距。對此，國家正積極建設全國一體化算力網，著力緩解算力供需矛盾。

綜上所述，我國算力基礎設施在規模總量上具備支撐智能體初步規模化應用的條件，但在算力性能、能效比和成本控制等方面仍需持續突破。隨著智能體從單體使用向規模化應用邁進，其應用安全問題逐步成為統籌發展的關鍵。

02

智能體規模化應用的安全問題

智能體權限失控

隨著智能體被賦予越來越廣泛的工具訪問權限和系統操作能力，其自主行動邊界與人類控制之間的張力日益凸顯。有研究指出，在智能體自主性能力驅動下，記憶投毒、工具濫用、獎勵劫持以及由價值錯位導致的涌現性失配等質變級安全問題，逐漸由潛在風險轉變為現實可能。具體表現如下：一是智能體可能被授予超出必要范圍的操作權限，在執行任務的過程中調用不當工具或執行未經授權的操作，導致系統損壞或數據泄露；二是智能體可能通過不可逆工具鏈執行無法撤銷的破壞性操作；三是由內部狀態漂移或價值錯位引發的欺騙性行為，使智能體在未被察覺的情況下偏離設計目標。智能體權限失控不僅會造成重大損失，還可能引發責任與合規黑洞，進而挑戰AI問責框架，人們對于系統的信任則會因此崩塌。

多智能體交互失控

智能體從單一部署走向多智能體協同是必然趨勢，而安全風險呈現復雜化和質變性的新特征也是必然。相關研究指出，“當智能體彼此交互時，個體故障會復合化，并出現本質上全新的故障模式”。多智能體交互失控的具體形態可概括為：單智能體向其他智能體傳播潛在破壞性指令；多智能體通過“回音室”效應相互強化不良安全實踐；像病毒一樣傳播，感染體經媒介傳染正常體，使其逐一感染、擴散，從個體蔓延至群體，直至整體癱瘓。更為關鍵的是，上海交通大學和上海人工智能實驗室研究發現，多個智能體可以秘密協同以達成有害目標，展現出比人類更高效、更隱蔽的“團伙作案”能力。由此可見，多智能體交互失控不僅是單體風險的簡單疊加，而且產生了全新的、涌現性的安全威脅。

生成內容精準性難以驗證

與傳統的確定性系統不同，基于大語言模型的智能體在生成內容時具有內在的統計性和不確定性，使得其輸出結果的可靠性難以保證。“大語言模型幻覺”現象是智能體生成內容精準性驗證的核心難點。當智能體被賦予調用外部工具、修改系統狀態的能力時，一個由幻覺產生的錯誤決策可能導致實際損害，而非僅僅停留在信息提供層面。對此，目前國內已有部分企業級解決方案上線，用以解決生成內容的精準性問題。然而，這些方法大多局限于對靜態生成內容的事后驗證，對于智能體在動態交互過程中產生的實時決策和行動結果，精準性驗證并非根治的“良藥”。

能源安全受到挑戰

智能體規模化應用的能源消耗正在成為一個不可忽視的資源安全問題。與傳統AI推理任務相比，智能體的運行涉及多步規劃、工具調用、狀態維護與自我反思等復雜計算流程，其單位任務的能耗遠高于簡單的文本生成。在能源安全方面最直觀的挑戰在于電力系統的供應壓力陡然提升。智能體規模化應用會帶來大規模、高密度、高可靠性的用電需求，對現有電力資源分配格局帶來巨大挑戰。總體來看，智能體的自主性和能力提升依賴更多的算力投入，而算力的增長受到能源供應和碳排放要求的限制。如何解決好技術與能源之間的相互協調問題，是智能體規模化應用的重要基礎。

03

智能體規模化安全應用的對策

加強協議約束

協議約束是智能體安全治理的基礎性保障措施。隨著智能體從單一部署走向多智能體互聯與協同，制定統一的通信協議和行為規范已成為產業共識。協議約束的核心價值在于為智能體的行為邊界提供明確的規則框架，在協議層面構建“可信連接、可信身份、可信意圖、可信授權”的四維安全防護體系，這有助于解決跨設備、跨平臺智能體協同的底層信任問題。但值得注意的是，目前智能體的主要協議大多來源于美國，我國在協議制定和應用方面仍存在明顯短板。

強化標準引領

標準引領是從源頭保障智能體安全的重要措施。在智能體技術快速迭代的背景下，標準化工作為安全評測、風險識別和合規管理提供了可操作的技術依據。在標準引領方面，國內外正形成多層次推進的格局。在國際層面，多智能體可信標準已在國際電信聯盟立項。標準引領的作用不僅在于提供技術規范，更在于通過標準設定形成市場準入門檻，倒逼產業主體提升安全治理能力。因此，構建國家級能力驗證與安全評測平臺，推動風險監測與驗證體系標準化，是智能體安全發展的重要戰略選擇。

注重物理隔離

物理隔離是在邏輯防護之外構建的安全防線。相關研究表明，在算法層面可嵌入物理安全約束，通過可行的技術路徑給模型戴上“緊箍咒”，使算法更加遵循物理世界的安全規則；在架構層面，通過架構設計將應用層操作與基礎設施層策略執行相分離，利用統一的策略層定義并監控自主系統的運行方式；還可通過動態規則注入隔離機制，在控制層和數據層同步施加約束，在保障安全的同時維持模型效用。值得注意的是，傳統的“物理隔離等于安全”觀念需要重新審視，物理隔離不應被視為孤立的安全措施，而應與協議約束、訪問控制、行為審計等構成多層次、縱深防御的安全體系。

統籌能源安全

能源安全是智能體規模化應用的底層保障。在算力需求持續增長的背景下，統籌能源供給、綠色發展與智能體部署之間的關系，成為智能體規模化應用必須面對的戰略性課題。在政策層面，算電協同已被寫入2026年《政府工作報告》，報告要求樞紐節點新建算力設施綠電應用占比達到80%以上，旨在實現“以電強算—以算促電”的良性循環。在技術層面，推進“AI賦能綠電生產—綠電支撐AI發展”的互促循環是核心路徑。在產業層面，國家正加快全國一體化算力網建設，推進“云邊端”協同發展，提升算力接入和精準匹配能力，以更好地滿足智能體規模化應用的算力需求。

統籌能源安全不僅關乎智能體能否持續運行，更關乎綠色低碳發展目標的實現。建立算力與電力協同發展的機制，在保障算力供給的同時降低碳足跡，是智能體規模化應用安全、可持續發展的必由之路。

04

結語

智能體正以前所未有的速度從技術概念走向產業規模化應用，標志著人工智能實現從“認知智能”到“行動智能”的關鍵跨越。智能體規模化應用已成為發展的必然選擇，安全治理不應是技術發展的附加項，而應作為核心設計原則貫穿智能體研發、部署與運營的全生命周期，唯其如此，才能真正實現智能體技術服務于人類福祉的根本目標。

本文刊載于《通信世界》2026年第4期

作者：國家工業信息安全發展研究中心 蘇泳睿 付宇涵（通信作者） 唐旖濃 馬冬妍

最新！5G標準必要專利全球排名出爐

運營商全年焦慮隱現：Q1利潤承壓顯著

Token套餐上線，運營商能否走出“圍城”？

責編/版式：朱文鳳

審校：梅雅鑫

監制：劉啟誠

【媒體矩陣】

今日頭條 | 微博 | 微軟MSN | 百家號

網易號 | 人民號 | 騰訊新聞 | 搜狐

新浪看點 | 雪球號 | 知乎

【運營團隊】

編輯｜梅雅鑫 孫天 朱文鳳

審校 | 梅雅鑫

監制｜劉啟誠