北京
人工智能公司Anthropic做了一件幾乎沒有企業會做的事：斥資數十億美元，在全球最火熱的賽道研發出一款性能遠超競品的模型，卻選擇不對外發布。這款名為Mythos的新模型展現出前所未有的網絡安全能力。它在OpenBSD這一以安全著稱的操作系統中找出了一個潛伏27年的漏洞；又在視頻編碼器FFmpeg中識別出一個存在16年的缺陷，這個問題曾躲過五百萬次自動化安全測試的篩查。
然而，Anthropic并未出售該模型的使用權，而是發起“玻璃翼計劃”(Project Glasswing)，聯合亞馬遜、蘋果、微軟、CrowdStrike等公司組建防御聯盟，承諾投入1億美元的算力資源，并向美國聯邦機構通報了相關風險。Mythos太過危險，不宜公開部署；同時又太過重要，不能束之高閣。
Mythos或許是新生事物，但這種困境并不陌生。2009年，我與肯尼斯·奧耶(Kenneth Oye)和斯科特·莫爾(Scott Mohr)聯合發表了一篇關于合成生物學安全影響的論文。這一領域既可能催生新型生物武器，也能顯著增強生物防御能力，其核心挑戰與當下如出一轍：強大的兩用技術在私營主體間擴散，而技術發展初期，攻擊者往往比防御者更先受益。生物學家羅杰·布倫特(Roger Brent)將這一困境命名為“死亡陰影之谷”.......
繼續閱讀
全文共計2626字
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
