《經濟學人》封面文章｜美國開始意識到人工智能的危險力量

由于不可抗力的限流導致無法接收推送文章的問題，我們迫切需要以下操作：

點擊標題下方藍字 “一半杯 ” → 點擊右上角“...” → 點選“設為星標 ★ ”，這樣就更容易找到我們和收到推送文章！

保持愛讀文章，保持領先！

在Mythos之后，放任自流的做法在政治上已難以維系，在戰略上也不再明智。

是否應當把世界上最強大的新技術托付給少數幾個人？五位科技極客名氣之大，僅憑名字就足以讓人認出他們：達里奧·阿莫代伊(Dario Amodei)、德米斯·哈薩比斯(Demis Hassabis)、埃隆·馬斯克(Elon Musk)、馬克·扎克伯格(Mark Zuckerberg)和薩姆·奧爾特曼(Sam Altman)。他們對將塑造未來的人工智能模型擁有近乎神祇般的掌控力。特朗普政府一直袖手旁觀，即便這些模型已經獲得令人瞠目的能力也依然如此。政府相信，私人企業之間不受束縛的競爭，是確保美國在同中國的AI競賽中取勝的最佳方式。

直到現在。突然之間，美國對AI采取的這種放任式處理方式似乎即將走到盡頭。原因在于，這些模型令人眩目的進步同樣對美國自身國家安全構成威脅，令特朗普政府中一些原本更擔心監管過度的成員感到不安。與此同時，美國選民日益增長的反感情緒正在使AI變成一個政治爭議焦點。放任自流的做法在政治上已難以維系，在戰略上也不再明智。

分水嶺是Anthropic于4月7日宣布推出Claude Mythos。這家模型開發商的最新成果在發現軟件漏洞方面表現驚人，一旦落入不當之手，它將威脅從銀行到醫院等關鍵基礎設施。AI模型也日益帶來其他風險，從生物安全隱患到產業化大規模詐騙，不一而足。

Anthropic負責人達里奧·阿莫代伊明智地認為，Mythos過于危險，不適合面向普通用戶發布。相反，他將其保留給計算、軟件和金融領域約50家大型企業使用，以便這些企業增強自身防御能力。美國財政部長斯科特·貝森特對此深感不安，以至于召集各大銀行舉行緊急會談。

這并不是政府第一次采取行動。就在幾周前，阿莫代伊拒絕允許Anthropic的模型用于完全自主武器或大規模國內監控，隨后五角大樓介入。當時，特朗普政府同樣感到警覺，原因也是一家單一企業對一項事關國家安全的技術擁有如此強大的支配力。

選民中的反彈將進一步加大政府干預的壓力。民意調查正促使越來越多政界人士認為，AI將成為2028年選舉中的重大議題之一。美國人對AI的懷疑程度遠高于其他國家民眾。十分之七的美國人認為AI將損害就業機會，這一比例較一年前大幅上升，而且他們還遠未掌握充分證據。基層對數據中心的反對聲浪正在高漲，盡管AI與電價上漲幾乎沒有關系，甚至毫無關系。作為一個時代風向標，OpenAI負責人薩姆·奧爾特曼的住宅近日已兩次遭到襲擊。

歷史表明，對于AI這樣足以改變世界的技術而言，一個Mythos時刻不可避免。從約翰·D·洛克菲勒到亨利·福特，美國偉大的工業創新曾由少數男性主導，而這些人隨后獲得了極大權勢。最終，20世紀各國政府出手馴服權力過大的行業，從拆分標準石油公司的反托拉斯行動，到美聯儲的創設，再到AT&T的拆分，不一而足。那些年代的政治極化和社會躁動程度至少不亞于今天。而我們的測算表明，如今這些AI諸神的支配地位尚未超過他們那些歷史前輩。

但歷史同樣表明，控制AI將困難重重。部分原因在于，一旦事情出錯，代價極高。另一個原因在于，AI正以極高速度演進。

其中的取舍極為尖銳。經濟增長將受益于AI紅利的快速擴散，但潛在反彈很容易導致監管過度。什么都不做，可能讓美國容易受到惡意使用AI引發的混亂沖擊；但監管過度則會確保????贏得AI競賽。這使當下成為一個危險時刻。

時間已經不多。兩年前，在拜登政府時期，關于監管的討論主要圍繞AI的潛在風險。如今，其能力已經強大到令人警覺，而且每一次發布都會變得更強。創新速度意味著，過去需要幾年甚至幾十年展開的政府適當角色之爭，如今必須在數月內解決。

而且，采取更強干預路徑所面臨的技術障礙也令人望而生畏。國有化等政府控制工具并不有效，因為優秀工程師可以在企業之間自由流動，算力也已成為一種商品化資源。更糟的是，領先模型開發商只比開源競爭者領先數月，其中也包括????的開源競爭者。它們模型的能力遲早會向所有人開放。

即便如此，Mythos時刻仍可能成為控制AI的可行方案開始成形的節點。可信用戶將獲得最強大新模型的早期使用權：OpenAI正效仿Anthropic，把其最新工具推出給一組有限的、經過審核的網絡安全專業人士。在允許這些模型廣泛商業化之前，政府可以要求由行業主導的機構對其不同用途進行測試，并出具認證。

極客獻禮，不可不防

這一設想對大型模型開發商和政府都有好處。它避開了設立新監管機構的漫長過程。通過只允許少數高端用戶使用，它使模型開發商能夠收取更高價格，并限制稀缺算力的使用。與此同時，政府可以限制最強大模型的使用者范圍，從而降低????復制這些模型并更快追趕的風險。

但它也存在嚴重問題。有限發布將削弱競爭，并增強既有AI公司的影響力。它將減緩AI紅利的擴散，并在美國經濟內部制造一種雙層體系，使大量企業處于不利地位，因為它們會反復被排除在強大新模型的特權性早期訪問之外。如果打造AI防御能力需要很長時間，甚至根本不可能做到，又該怎么辦？開源模型又怎么辦？怎樣才能要求它們也遵守這些規則？

建立在這些基礎上的監管體系可能會被證明是不公正的。圈內人可以保護自己免受前沿威脅；圈外人則只能寄希望于好運。游說和獲取超額利潤的空間將極為巨大。這將考驗美國現代政治時代最明目張膽腐敗的一屆政府的誠實與能力。而一種把權力和財富進一步集中到少數AI諸神手中的解決方案，可能會加劇正在讓華盛頓感到擔憂的那種政治反彈。

此外，Mythos路徑至多只能是半套解決方案。AI安全無法僅靠一國之力實現。最終，它將需要國際合作，首先是與????合作。如今對網絡安全的新關注，也需要同對AI經濟和社會影響的緊迫思考相匹配。如何應對就業沖擊，以及如何設計一套適應AI時代且有利于勞動者的稅制，都是巨大難題，而目前還沒有人給出好的答案。這種狀況必須改變。Mythos時刻是AI安全的一記警鐘。它也要求人們在其他領域進行嚴肅思考。■