英國醫(yī)療系統(tǒng)緊急下架開源代碼：AI黑客威脅被夸大了嗎？

你可能以為，用公共資金開發(fā)的軟件，理所當(dāng)然應(yīng)該公開透明。但英國國家醫(yī)療服務(wù)體系（NHS England）最近做了一件反常識的事：把所有自己寫的軟件從公共視野里撤了下來，理由是怕AI黑客。

這個決定的截止日期是5月11日。在此之前，NHS England生產(chǎn)的軟件一直是開源的，放在GitHub上供任何人查看。原因很簡單——花的是納稅人的錢，成果理應(yīng)共享，其他機(jī)構(gòu)可以在此基礎(chǔ)上改進(jìn)，避免重復(fù)造輪子。但現(xiàn)在，新政策要求"所有源代碼倉庫默認(rèn)設(shè)為私有"，公開必須經(jīng)過正式批準(zhǔn)。

導(dǎo)火索是一個叫Mythos的AI。上個月，這個由Anthropic公司開發(fā)的系統(tǒng)被廣泛報道，稱其能夠發(fā)現(xiàn)幾乎任何軟件中的漏洞，可能讓黑客有機(jī)可乘。NHS England的新指導(dǎo)文件明確點名Mythos："公共倉庫顯著增加了源代碼、架構(gòu)決策、配置細(xì)節(jié)和上下文信息被意外披露的風(fēng)險，尤其是在AI模型具備大規(guī)模代碼攝取、推理和分析能力的快速發(fā)展背景下。"

但事情真的有這么嚴(yán)重嗎？英國政府自己支持的AI安全研究所（AISI）調(diào)查后的結(jié)論，和NHS England的緊張姿態(tài)形成了有趣的對比。他們發(fā)現(xiàn)，Mythos的攻擊能力其實有限——只能對付"小型、防御薄弱、存在漏洞的企業(yè)系統(tǒng)"，沒有證據(jù)表明真正安全的軟件或網(wǎng)絡(luò)會面臨風(fēng)險。

這就引出了一個值得拆解的問題：當(dāng)面對新技術(shù)威脅時，機(jī)構(gòu)的反應(yīng)是恰到好處，還是過度防御？

從NHS England的角度看，他們的顧慮并非完全憑空捏造。醫(yī)療系統(tǒng)的數(shù)據(jù)敏感性不言而喻，病歷、診療記錄、財務(wù)信息，任何泄露都可能造成嚴(yán)重后果。Mythos這類AI的出現(xiàn)，確實改變了安全博弈的格局。傳統(tǒng)上，開源社區(qū)有一種"眾目睽睽之下，漏洞無處藏身"的信念——代碼公開后，更多眼睛盯著，問題反而更容易被發(fā)現(xiàn)和修復(fù)。但AI的能力在于規(guī)模：它可以同時"閱讀"海量代碼，以人類無法企及的速度識別模式、推測漏洞。這種不對稱性，讓開源的安全邏輯受到了挑戰(zhàn)。

然而，安全專家們的批評同樣有力。多位專家指出，NHS England的舉措"不必要且適得其反"。這里的"適得其反"值得細(xì)品。開源軟件的一個隱性價值在于信任建立——當(dāng)代碼公開時，外部研究者可以獨立驗證其安全性，用戶也能確認(rèn)系統(tǒng)沒有暗藏后門。反過來，把代碼鎖起來，并不意味著它變得更安全，只是讓問題更難被發(fā)現(xiàn)。

英國郵政系統(tǒng)的Horizon IT丑聞就是一個慘痛教訓(xùn)。那套系統(tǒng)的代碼如果當(dāng)初是公開的，導(dǎo)致數(shù)百名郵局局長被錯誤指控盜竊和欺詐的軟件缺陷，或許不會隱藏多年。透明度有時是最好的糾錯機(jī)制。

更深層的張力在于組織慣性。NHS England的新政策與自身的服務(wù)標(biāo)準(zhǔn)直接沖突——那份標(biāo)準(zhǔn)明確要求員工將軟件開源，理由是"公共服務(wù)用公共資金建設(shè)，除非有充分理由，否則其基礎(chǔ)代碼應(yīng)供他人復(fù)用和改進(jìn)"。現(xiàn)在，同一份機(jī)構(gòu)文件被另一份文件推翻，而推翻的理由是一份AI安全威脅評估，與政府下屬研究機(jī)構(gòu)的結(jié)論相左。

這種矛盾暴露了技術(shù)治理中的一個常見困境：當(dāng)風(fēng)險評估權(quán)分散在不同部門時，誰的聲音占主導(dǎo)？是直接接觸技術(shù)細(xì)節(jié)的安全團(tuán)隊，還是獨立研究機(jī)構(gòu)的學(xué)術(shù)判斷？NHS England選擇了前者，但代價是背離了長期奉行的開放原則。

還有一個被忽視的維度：開源生態(tài)的協(xié)作價值。NHS England的軟件被其他機(jī)構(gòu)復(fù)用和改進(jìn)，這種網(wǎng)絡(luò)效應(yīng)一旦切斷，損失難以量化。英國政府在數(shù)字化服務(wù)上的投入本就面臨效率質(zhì)疑，此時增加協(xié)作摩擦，時機(jī)頗為微妙。

當(dāng)然，完全否定NHS England的謹(jǐn)慎也不公平。AI安全研究是一個快速演進(jìn)的領(lǐng)域，今天的"有限能力"不等于明天的威脅水平。Mythos或許確實只能攻擊薄弱系統(tǒng)，但醫(yī)療IT系統(tǒng)的防御水平是否 uniformly 堅固？不同醫(yī)院、不同承包商的實施質(zhì)量參差不齊，"默認(rèn)私有"或許是一種務(wù)實的風(fēng)險規(guī)避。

問題在于，這種規(guī)避是否經(jīng)過了充分的成本效益分析？指導(dǎo)文件中提到，公開代碼需要"明確且例外的需求"和"正式批準(zhǔn)"，這意味著決策權(quán)上收，靈活性下降。對于習(xí)慣了敏捷開發(fā)的團(tuán)隊來說，這可能意味著創(chuàng)新節(jié)奏的放緩。

更值得追問的是，如果Mythos級別的AI威脅真實存在，僅僅隱藏代碼是否足夠？真正的安全加固需要代碼審計、滲透測試、架構(gòu)改進(jìn)等多層措施。把倉庫設(shè)為私有，更像是一種"眼不見為凈"的心理安慰，而非系統(tǒng)性的安全升級。

這場爭論的最終裁決，或許要等到5月11日之后才能看清。屆時，NHS England的代碼庫將完成私有化遷移，而Mythos的能力邊界也會隨著更多研究而明晰。一個可能的結(jié)果是：威脅被證實夸大，開放原則悄然恢復(fù)；另一種可能是，新的AI攻擊案例浮現(xiàn)，私有化決策被追認(rèn)為先見之明。

但無論哪種結(jié)局，這個案例都提供了一個觀察窗口：當(dāng)機(jī)構(gòu)面對不確定的技術(shù)威脅時，如何在安全與開放之間尋找平衡點。NHS England的選擇是偏向封閉一端，但代價是犧牲了透明度帶來的信任紅利和協(xié)作效率。這個權(quán)衡是否值得，答案或許不在技術(shù)層面，而在治理哲學(xué)——你更擔(dān)心可見的風(fēng)險，還是不可見的代價？

對于普通讀者來說，這件事還有一個貼近生活的啟示：我們?nèi)粘Ｊ褂玫墓卜?wù)軟件，其安全邏輯正在經(jīng)歷深刻變化。AI不再只是聊天機(jī)器人或圖像生成器，它正在進(jìn)入基礎(chǔ)設(shè)施的安全評估領(lǐng)域，重新定義什么是"足夠安全"。下次當(dāng)你看到某個政府系統(tǒng)要求更新隱私政策時，背后可能就有類似的博弈在發(fā)生。

科學(xué)界目前還沒定論的是：AI輔助的攻擊能力，究竟會在多大程度上改變開源軟件的安全經(jīng)濟(jì)學(xué)。NHS England的實驗，無論成敗，都會成為這個辯論的重要數(shù)據(jù)點。