麥肯錫內(nèi)部智能體被外部智能體“黑客侵入”，意味著什么？

導(dǎo)讀：“近日，麥肯錫內(nèi)部的AI智能體Lilli被外部AI智能體在2小時內(nèi)以“黑客”身份侵入，該“黑客”智能體瞬間獲得了麥肯錫核心數(shù)據(jù)庫的完整讀寫權(quán)限，這意味著直接接入了4650萬條討論戰(zhàn)略、并購、客戶交付等的文本聊天信息、57,000個賬戶注冊背景數(shù)據(jù)、384,000個AI助理和94,000個工作區(qū)（幾乎完整描述了麥肯錫內(nèi)部如何使用AI的組織協(xié)作關(guān)系）等。

據(jù)報道，該AI“黑客”來自一家網(wǎng)絡(luò)安全創(chuàng)業(yè)公司CodeWall。”

圖1. McKinsey內(nèi)部Lilli平臺的界面（來源：圖片來自互聯(lián)網(wǎng)）

國內(nèi)外網(wǎng)絡(luò)自媒體瞬間沸騰，有國內(nèi)自媒體“標(biāo)題黨”甚至打出“AI黑客自主攻陷麥肯錫”、“4650萬數(shù)據(jù)泄露”、“家底被看光”等極度博取眼球的文章標(biāo)題。然而，如果進(jìn)一步追蹤事件始末，就可以發(fā)現(xiàn)這次AI“黑客”的動作可能讓“吃瓜群眾”有點失望了。

其一，創(chuàng)建該AI智能體“黑客”的CodeWall動機(jī)并不是直接“攻擊”Lilli, 而是幫助找到不同公司系統(tǒng)的網(wǎng)絡(luò)安全漏洞，進(jìn)而能夠解決這些漏洞問題。CodeWall創(chuàng)始人Paul Price甚至直接公開表示，其聚焦如麥肯錫這類公司研究其系統(tǒng)及安全漏洞，是因為如麥肯錫等公司有明確的指引，接受倫理黑客（又稱“白帽黑客、道德黑客或紅客”）這樣做。

（注：倫理黑客本身即指獲得系統(tǒng)所有者明確授權(quán)，通過模擬惡意黑客的攻擊方法來主動發(fā)現(xiàn)計算機(jī)系統(tǒng)、網(wǎng)絡(luò)或應(yīng)用程序中安全漏洞的計算機(jī)和網(wǎng)絡(luò)專家。）

圖2. CodeWall官網(wǎng)發(fā)布的說明文章

其二，不少文章談到的728,000份重要文件（涉及93,000數(shù)據(jù)表、192,000 PDF文件、及其他講演PPT等文件）也被AI黑客直接接入并不嚴(yán)謹(jǐn)。根據(jù)英國金融時報(FT)3月12日的撰文，該AI智能體接入的并非文件本身，而所看到的是728,000個文件名。

其三，也正如以上提及的CodeWall定位，該公司3月1日主動向麥肯錫披露相關(guān)漏洞問題，麥肯錫迅速于3月2日完成了相關(guān)問題的排查、安裝系統(tǒng)補丁、阻隔公開API文檔等工作。3月11日，麥肯錫還專門發(fā)表正式聲明稱，除了自身調(diào)查，還聘請了權(quán)威第三方鑒證公司參與，目前沒有證據(jù)顯示客戶數(shù)據(jù)或敏感信息被該AI智能體或其他未經(jīng)授權(quán)的第三方所泄露。

圖3. 麥肯錫對該事件的官網(wǎng)說明

雖然沒有出現(xiàn)“吃瓜群眾”所預(yù)期的“數(shù)據(jù)外泄”，但AI智能體自主侵入任何一個企業(yè)的內(nèi)部系統(tǒng)或“智能體”這類現(xiàn)實挑戰(zhàn)的確成了更多企業(yè)新的擔(dān)憂。試想麥肯錫畢竟具有全球最頂尖的人才和網(wǎng)絡(luò)安全團(tuán)隊，且具備足強(qiáng)的IT基礎(chǔ)設(shè)施和運維預(yù)算，即使有安全漏洞也可以快速響應(yīng)并解決問題。

但對于更多的傳統(tǒng)企業(yè)，無論是新采用的AI智能體還是傳統(tǒng)內(nèi)部應(yīng)用系統(tǒng)，恐怕一旦被AI自主侵入、識別漏洞，其后果可能就不是如麥肯錫聲明這樣輕描淡寫了。

因此，CodeWall利用AI智能體自主挑戰(zhàn)如麥肯錫內(nèi)部AI應(yīng)用Lilli更進(jìn)一步地說明，在AI進(jìn)階普及的進(jìn)程中，有以下三點更值得個人與組織審慎地看待，并努力規(guī)避AI應(yīng)用所可能帶來的陷阱。

• 系統(tǒng)與數(shù)據(jù)安全威脅受到更大擔(dān)憂，未來以智能體對抗智能體的矛與盾的較量成常態(tài)

• 智能體作為黑客入侵帶來的AI應(yīng)用不確定性倒逼個人保留常識判斷與備份技能更關(guān)鍵

• 兼顧AI應(yīng)用安全性和業(yè)務(wù)價值創(chuàng)造出發(fā)，企業(yè)更需要系統(tǒng)視角重塑AI與人的協(xié)作關(guān)系

1、系統(tǒng)與數(shù)據(jù)安全威脅受到更大擔(dān)憂，未來以“智能體對抗智能體”矛與盾的較量成常態(tài)

麥肯錫智能體Lilli被AI自主攻破表明，企業(yè)敏感信息（如客戶數(shù)據(jù)、商業(yè)機(jī)密、業(yè)務(wù)核心應(yīng)用的交互數(shù)據(jù)等）即使在內(nèi)部系統(tǒng)經(jīng)過加密保護(hù)也并非密不透風(fēng)，在AI智能體的黑客攻擊中也會輕易暴露其漏洞。

這也使得網(wǎng)絡(luò)安全平臺或工具在近年以來更被市場看重，盡管這是與傳統(tǒng)企業(yè)軟件、SaaS平臺一定被AI顛覆的論調(diào)同時發(fā)生。美國網(wǎng)絡(luò)安全領(lǐng)域的超級巨頭CrowdStrike在3月初公布截至1月31日的2026財年第四季度業(yè)績報告，該季度總營收約13.05億美元，同比大幅增長23%，高于華爾街分析師們平均預(yù)期的約13億美元，其中訂閱性質(zhì)營收實現(xiàn)約12.42億美元，同比增長23%；該公司的年度經(jīng)常性收入(ARR)同比大幅增長24%，達(dá)到52.5億美元。

相應(yīng)地，CrowdStrike市值也從2019年6月時的114億美元上升到當(dāng)前（2026年3月）的1037億美元，增長了809%。

圖4. CrowdStrike的市值變化（2021-2026）（來源：Stockanalysis.com）

要知道，在2024年7月，CrowdStrike還因為內(nèi)容更新故障造成全球超過850萬系統(tǒng)宕機(jī)，成千上萬家大企業(yè)（包括幾百家財富500強(qiáng)企業(yè)）的數(shù)天的業(yè)務(wù)可持續(xù)性受到影響，這一備受關(guān)注的更新故障當(dāng)時據(jù)估計造成的經(jīng)濟(jì)損失超過50億美元。然而，華爾街相關(guān)投資機(jī)構(gòu)Wedbush的渠道調(diào)研數(shù)據(jù)顯示，目前并未發(fā)現(xiàn)企業(yè)因 AI 替代擔(dān)憂而取消網(wǎng)絡(luò)安全訂單，相反，AI 驅(qū)動的威脅激增正在推動企業(yè)采用比如CrowdStrike Falcon 平臺的高級防御系統(tǒng)。

而基于SaaS訂閱收費的CrowdStrike之所以仍被市場看好，恰恰說明企業(yè)即使在增加AI智能體的應(yīng)用，但對智能體應(yīng)用所引發(fā)的新的安全威脅無力通過自建能力做短期解決，不僅包括面對如CodeWall所創(chuàng)建的智能體黑客攻擊，也包括更多使用如OpenClaw這類代理式AI所增加的安全風(fēng)險（該智能體具備本地數(shù)據(jù)主動采集能力，可在未經(jīng)用戶明確授權(quán)的情況下自動讀取終端敏感信息，并結(jié)合系統(tǒng)級權(quán)限實現(xiàn)遠(yuǎn)程控制、數(shù)據(jù)外傳等惡意行為）。

筆者雖不是網(wǎng)絡(luò)安全技術(shù)專家，但在研究該事件時首先想到的安全對策便是“用智能體對抗智能體”這樣的新型“矛與盾”的較量。因為顯而易見，從黑客攻擊層面，AI智能體可自主規(guī)劃、自動化執(zhí)行攻擊，如果靠人為來排查系統(tǒng)漏洞并作補丁，這種攻防能力是完全不對等的。

于是，筆者也特別請教了一些生成式AI工具，得到的答案是“?以智能體防御智能體?”在國內(nèi)的行業(yè)與政策面已獲得廣泛共識。國家互聯(lián)網(wǎng)應(yīng)急中心、公安部、中國信通院等機(jī)構(gòu)在近兩年均指出，需構(gòu)建“AI智能體驅(qū)動”的防御體系，由此可見我國在?AI環(huán)境下的網(wǎng)絡(luò)與數(shù)據(jù)安全治理方面是非常具有前瞻性的。

2、智能體作為黑客入侵帶來的AI應(yīng)用不確定性倒逼個人保留常識判斷與備份技能更關(guān)鍵

AI應(yīng)用陷阱：此次CodeWall所創(chuàng)建的智能體傾入麥肯錫Lilli事件，從CodeWall一方進(jìn)一步的披露指出，Lilli如何被訓(xùn)練的AI模型、配置文件、是否有保護(hù)機(jī)制等，以及喂給Lilli做訓(xùn)練的核心知識庫內(nèi)容（麥肯錫數(shù)十年的專有方法論、研究框架及研究成果等）皆被“黑客”智能體發(fā)現(xiàn)。這就帶來了一個顯而易見的問題，在“黑客”智能體獲得完全讀取權(quán)限的條件下，一旦“下手”惡意篡改AI訓(xùn)練模型或輸入錯誤數(shù)據(jù)用于機(jī)器學(xué)習(xí)等，那智能體所輸出的結(jié)果被人直接使用所帶來的負(fù)面影響將難以估量。

特別是當(dāng)大眾越來越依賴如OpenClaw這類代理式智能體應(yīng)用的情況下，由智能體自主感知或獲取數(shù)據(jù)，然后推理與規(guī)劃工作流，進(jìn)而調(diào)用外部工具做行動，并結(jié)合行動反饋進(jìn)一步學(xué)習(xí)與優(yōu)化。一方面，也許用戶可以確保喂給代理式智能體的數(shù)據(jù)是準(zhǔn)確的，但如果被“黑客”智能體替換或篡改，一般用戶是很難監(jiān)控或感知到的，另一方面，一旦大家都習(xí)慣于讓智能體自主感知、自主決策與行動、自主學(xué)習(xí)循環(huán)，一般用戶更容易失去辨別對與錯的能力——真正等智能體所執(zhí)行的結(jié)果與所預(yù)期的成果發(fā)生巨大的偏差甚至南轅北轍時，一切都是亡羊補牢。

圖5. AI演化發(fā)展的三個典型階段

因此，當(dāng)代理式AI越發(fā)流行，大眾越依賴使用AI工具的時候，潛在風(fēng)險反而在變大，其風(fēng)險甚至可能包括當(dāng)我們的數(shù)字化設(shè)備突然失去電力供應(yīng)的話，習(xí)慣于讓AI打理工作的人恐怕突然變得什么都不能做。

筆者由此想到，就像我們在特定的專業(yè)機(jī)構(gòu)依然會保留擁有超級速算能力的人才做備份一樣，也許我們每個人都依然需要保留解決AI所替代的基本問題解決的備份技能和判斷能力。試想，從人類發(fā)明計算器到PC的使用和普及，如果我們早都不會自己做基本計算了，是否也還是會有很大的危機(jī)感？當(dāng)我們在體驗代理式AI所帶來的巨大效率提升時，也更應(yīng)該意識到保留“常識判斷與備份技能”依然時不可或缺的。

3、兼顧AI應(yīng)用安全性和業(yè)務(wù)價值創(chuàng)造出發(fā)，企業(yè)更需要系統(tǒng)視角重塑AI與人的協(xié)作關(guān)系

如果結(jié)合AI的機(jī)器學(xué)習(xí)和自主行動的底層邏輯，AI一定更容易去模仿顯性知識密度高的工作，以及在工作內(nèi)容重復(fù)性高的場景，其執(zhí)行的準(zhǔn)確度和效率會更高。因此，筆者近期曾撰文談過，只有一部分既符合高顯性知識要求由符合工作重復(fù)性高的工作會完全被AI替代，但人類社會更多的工作都需要AI與人建立新的協(xié)作關(guān)系，而不是簡單的替代關(guān)系。

圖6. 未來AI對不同職業(yè)工作的影響

如果對以上依賴“隱性知識”解決問題的討論再做一個延伸，站在企業(yè)視角來看，“解決復(fù)雜商業(yè)問題”的工作一定是在可見的未來AI無法企及的。為什么？簡要談以下三點：

第一，人是創(chuàng)造性解決問題的核心——解決復(fù)雜商業(yè)問題不僅僅是對現(xiàn)有事實和數(shù)據(jù)進(jìn)行簡單的歸納總結(jié)，而是通過結(jié)構(gòu)化、系統(tǒng)性的思考問題，創(chuàng)造性地產(chǎn)出兼顧理性原則和人性關(guān)懷的解決方案。

AI為何做不到？——AI核心依托于計算機(jī)科學(xué)、數(shù)學(xué)、統(tǒng)計學(xué)、邏輯學(xué)、語義學(xué)等，可以基于邏輯學(xué)、語義學(xué)等理性原則做歸納、演繹，但沒法“無中生有”。

第二，支持關(guān)鍵決策的數(shù)據(jù)往往是稀缺的——解決企業(yè)的關(guān)鍵問題，往往需要有多元的方法、工具和渠道獲得經(jīng)過篩選的、專有的甚至稀缺的數(shù)據(jù)（而非僅僅是廣泛的數(shù)據(jù)），并進(jìn)行創(chuàng)造性地整合利用，幫助企業(yè)“知己知彼”。

AI為何做不到？——AI通用大模型所依托的數(shù)據(jù)是廣泛且開放的數(shù)據(jù)，并不能觸及到專有的、稀缺的、甚至被管控的數(shù)據(jù)。此次“CodeWall智能體事件”更凸顯企業(yè)核心專有數(shù)據(jù)被管控甚至離線的必要性，以規(guī)避數(shù)據(jù)安全風(fēng)險。

第三，以“人”為中心是企業(yè)存在的根本——真正解決復(fù)雜的企業(yè)問題，不僅僅是發(fā)現(xiàn)問題、提出方案，還需要讓變革發(fā)生，本質(zhì)上要回歸到人的組織、回歸到對人的行為改變和潛能發(fā)揮，同時也還是以“人”為客戶去創(chuàng)造價值。

AI為何做不到？——AI是人的工具，可以在特定業(yè)務(wù)流或場景下高效地工作，但可見的未來無法改變?nèi)说娜后w意愿和群體行為。

綜上，在“AI顛覆一切”的市場論調(diào)中，諸多企業(yè)使用AI也進(jìn)入到“大干快上”的階段。但麥肯錫內(nèi)部AI智能體被外部智能體“黑客侵入事件”恰恰給每個人及組織帶來了反思機(jī)會，提醒我們認(rèn)真思考到底應(yīng)該如何定位自身的工作及處理與AI的協(xié)作關(guān)系。

在發(fā)揮AI優(yōu)勢的同時，我們更應(yīng)該懂得怎樣管控AI所帶來的風(fēng)險，以及每個人如何保持自身的核心優(yōu)勢；在認(rèn)清AI的工作機(jī)制和利弊之下，學(xué)會如何通過與AI協(xié)作來高效構(gòu)建自身職業(yè)及企業(yè)發(fā)展的核心價值。

作者簡介：

華曉亮先生是CEO顧問及企業(yè)數(shù)智化增長賦能實戰(zhàn)專家，戰(zhàn)略新書《常青樹新法》作者；思略特(Strategy&)前戰(zhàn)略咨詢服務(wù)合伙人，同時擔(dān)任享有盛譽的實效營銷獎——“艾菲獎”的終審評委（2021-2022）、長江商學(xué)院關(guān)于數(shù)字化、國際化領(lǐng)域的特約嘉賓、法國里昂商學(xué)院私董會特聘嘉賓等

華先生近些年幫助多家企業(yè)制定AI驅(qū)動的新業(yè)務(wù)戰(zhàn)略及商業(yè)模式或+AI的新產(chǎn)品戰(zhàn)略，2022-23年在助力某頭部廚電品牌制定數(shù)字化頂層設(shè)計時，準(zhǔn)確預(yù)判了智能廚電的發(fā)展趨勢與時間節(jié)奏，輔助其核心管理團(tuán)隊抓住了人形機(jī)器人在廚房應(yīng)用的創(chuàng)新發(fā)展機(jī)會，實現(xiàn)了行業(yè)新標(biāo)準(zhǔn)制定和AI全托管廚房解決方案的先發(fā)優(yōu)勢；過去一年，助力某食品企業(yè)上市公司評估“食品+AI”的業(yè)務(wù)發(fā)展機(jī)會及技術(shù)路線，在此基礎(chǔ)上制定未來3年AI驅(qū)動的新業(yè)務(wù)戰(zhàn)略、發(fā)展路線圖及創(chuàng)新商業(yè)模式，為該企業(yè)在業(yè)內(nèi)打造科技驅(qū)動的業(yè)務(wù)領(lǐng)先優(yōu)勢打下堅實基礎(chǔ)。

近20年先后服務(wù)于IBM、埃森哲、聯(lián)想集團(tuán)、普華永道等多家全球500強(qiáng)機(jī)構(gòu)，在企業(yè)增長戰(zhàn)略、數(shù)字化頂層設(shè)計、出海市場戰(zhàn)略、品牌與營銷管理、DTC轉(zhuǎn)型與數(shù)字營銷、大數(shù)據(jù)等領(lǐng)域擁有豐富的業(yè)務(wù)實戰(zhàn)及管理經(jīng)驗；服務(wù)行業(yè)涉及食品飲料、時尚與奢侈品、消費電子、互聯(lián)網(wǎng)、家居用品、醫(yī)療器械、石油天然氣、光伏發(fā)電等

華先生的原創(chuàng)觀點文章常見諸于各類商業(yè)媒體，包括 China Daily 、 Retail Asia 、 21 世紀(jì)經(jīng)濟(jì)報道、中歐商業(yè)評論、經(jīng)濟(jì)觀察報、 SocialBeta 等；曾主編《未來企業(yè)之路》，榮獲新浪藍(lán)獅子“ 2010 年中國十大商業(yè)暢銷書”之一殊榮。