AI跑得快，云跟不上了？2025基礎設施現狀：混合云才是正解

你有沒有發現，現在隨便一個App、一個客服、甚至一個內部系統，都在跟你提“AI”？

但你可能不知道，這些AI功能背后，正在“掏空”企業的技術預算和工程師的發際線。

谷歌云這份《2025年AI基礎設施現狀研究報告》，調研了全球500多位技術高管。看完我只想說：AI已經不是“要不要做”的問題，而是“怎么做才能不翻車”的問題。

一、AI已全面鋪開，但“生產環境”才是分水嶺

98% 的組織已經在嘗試、開發或生產中使用生成式AI。79% 的技術領導者認為AI對業務“非常重要”甚至“極其重要”。

但注意一個關鍵數據：真正把AI部署到生產環境的比例，遠低于“嘗試”和“開發”的比例。

• 技術行業（IT咨詢、軟硬件）跑得最快
• 金融、制造、醫療等傳統行業，更多還停留在實驗和開發階段

翻譯一下：大家都在試，但真正敢讓AI“上崗干活”的，還不多。

二、最怕的不是AI太笨，是“數據出事”

問：采用生成式AI最大的挑戰是什么？
答：安全風險和數據隱私，62%的受訪者選了這一項。

排名第二的是數據治理、集成和質量問題，70%的組織遇到過。

核心矛盾： AI需要“吃”大量數據才能變聰明，但這些數據往往是企業的核心資產——客戶信息、財務數據、知識產權。喂給AI，怕泄露；不喂，AI又笨。

數據沿襲（Data Lineage）成了新剛需：你的數據從哪來、被誰改過、有沒有權限用——說不清楚，AI模型就別想上線。

三、投資回報率，內外都要抓

64%的技術領導者在“面向客戶”和“內部運營”兩個方向同時發力。

TOP 3應用場景：

1. 數據分析（從海量數據里挖洞察）
2. 客戶服務自動化（聊天機器人、智能客服）
3. 內部流程自動化（別只知道聊天機器人，智能系統才是未來）

不同行業側重點差異很大：

• IT咨詢和硬件/軟件：數據分析+代碼生成
• 金融、零售、醫療：客戶服務自動化+內部流程自動化
• 廣告/公關：內容創作+設計創意（96%和92%）

翻譯一下：別只盯著“AI寫文案”，真正的價值在“AI幫企業省人力、提效率”上。

四、成本，是繞不開的坎

87% 的技術領導者認為，成本是評估AI解決方案時的關鍵因素。

AI很貴——訓練大模型要GPU/TPU集群，推理也要持續燒錢。聰明的做法不是“買最便宜的”，而是“花得聰明”：

• 自動擴縮容：按需分配資源，別讓機器閑著
• 用對硬件：CPU、GPU、TPU各司其職，別拿大炮打蚊子
• FinOps（云財務運營）：把技術、財務、業務團隊拉到一起管錢，有的公司靠這個省了30%的云支出

五、強大的AI平臺，比算力更重要

選擇AI基礎設施時，最重要的不是“算力有多大”，而是“平臺強不強”。

受訪者最看重的因素排序：

1. 數據可用性和質量
2. 強大的AI平臺
3. 可伸縮性
4. 技術可行性

為什么？ 因為AI不是“跑一次就完事”的批處理任務——訓練、微調、推理、監控、迭代，是一個持續的生命周期。你需要的是一個能管好這個全流程的平臺，而不是一堆散裝的GPU。

六、邊緣計算，正在被嚴重低估

73% 的組織認為，把AI部署到邊緣設備（IoT、手機、工廠設備）非常重要或極其重要。

制造業（70%）、醫療（74%）、尤其是IT咨詢（85%）和硬件/軟件（81%）對此需求最強烈。

挑戰也很明顯：

• 邊緣設備算力有限、網絡不穩定
• 數據安全和治理更難
• 成千上萬個邊緣節點怎么統一管理？

解決方案趨勢： 基于云的邊緣AI管理平臺，而不是自己去裸奔。

七、混合云，才是主流

74% 的組織傾向于采用混合云方案（本地+公有云），而不是單一公有云或純本地。

為什么？

• 有些數據必須留在本地（合規、主權要求）
• 有些工作負載適合在云上跑（彈性、成本）
• 混合云讓你“兩頭占”

翻譯一下：別站隊，全都要。

八、云服務商，正在從“供應商”變成“戰略伙伴”

48% 的組織依賴云服務商提供的托管式AI解決方案，遠高于找獨立軟件供應商（36%）的比例。

自己從頭造輪子的人最少——因為太貴、太慢、太難。用現成的專有模型（Gemini、Claude等）是主流做法。

云服務商的價值不只是賣算力，而是幫你解決：

• 安全性
• 可伸縮性
• 數據質量
• 成本控制
• 靈活性

總結與啟示

一句話總結：AI落地最大的瓶頸不是技術，而是“數據安全、成本控制和平臺能力”這三座大山。

對技術團隊：

• 別再只盯著“跑分”和“參數”，先把數據治理和合規搞明白
• 邊緣計算不是噱頭，早點布局
• FinOps要學起來，不然AI花出去的錢會嚇到你老板

對管理層：

• AI的投資回報率不能只看“省了多少錢”，還要看“創造了什么新能力”
• 混合云策略要早點定，別等數據散落一地再回頭整合
• 選云服務商，選的是“戰略伙伴”，不是“賣硬件的”

對普通用戶：

• 你用的AI客服、推薦系統、智能助手，背后可能已經跑了上百個模型
• 那些“笨笨的”AI不是不想變聰明，是還沒找到安全、合規、低成本的數據來源

谷歌云這份報告的核心觀點其實很樸素：AI已經從“實驗室”走進了“生產車間”。接下來的競爭，不再是“誰的模型更大”，而是“誰的基礎設施更穩、更安全、更劃算”。

報告節選