北京
芯東西（公眾號：aichip001）
編譯 ZeR0
編輯 漠影
芯東西5月20日消息，據《福布斯》昨日報道，美國AI模型開發商Zyphra正在進行5億美元（約合人民幣34億元）的新一輪融資，美國芯片巨頭AMD也參與了投資。消息人士稱，Zyphra的估值將至少達到50億美元（約合人民幣341億元）。
Zyphra成立于2020年，開發先進的開源AI模型，并提供云基礎設施服務。大多數AI實驗室默認采用英偉達芯片，而Zyphra卻完全站在AMD派系，其模型的訓練和推理均在AMD硬件上運行，這既節省了成本，又帶來了供應鏈優勢。
Zyphra Cloud是一個由AMD提供技術支持的全棧式新云平臺，專為AI原生初創公司、企業和前沿AI超大規模數據中心而設計。
該平臺最初基于AMD MI355X GPU，支持領先的開源模型的無服務器推理，現已擴展到裸機AMD基礎設施，提供兩種主要部署模式：按需部署的裸機GPU集群，適用于靈活的工作負載；以及定制化的超大規模AMD基礎設施，適用于大規模訓練和推理部署。
目前，MI355的15兆瓦容量已投入使用。
Zyphra Cloud中，Zyphra Inference推理云提供生產級模型服務，專為大型MoE模型和具有長上下文以及大型KV和prefix cache的長時間運行的代理工作負載而設計，由MI355X GPU和TensorWave合作提供支持，可處理包括Kimi-K2.6、DeepSeek-V3.2、GLM-5.1等先進開源模型。其模型服務價格如下：
昨日，Zyphra預告將發布其基于MI355X的推理的首個端到端基準測試結果，并稱其推理優化顯著優于AMD基線，并縮小了MI355X和B200在運行Kimi K2.6、GLM-5.1、DeepSeek-V3.2等模型時的性能差距。
其優化包括：
- 樹狀注意力：用于長上下文注意力的平衡樹狀簡化
- TSP：在節點內部鏈路上保持模型并行組
- 跨內核、HIP圖、RCCL進行調優
- EAGLE推測性解碼針對ROCm進行了調整
更長的上下文時間能更好地發揮其優勢。隨著上下文時間的增加，TSP和樹狀注意力機制能夠帶來更大的性能提升，從而縮小與B200的差距。在單請求解碼和TTFT方面，B200當前仍領先于Zyphra的技術棧和AMD基線，但Zyphra看到了縮小差距的途徑。
Zyphra解釋了為什么選擇MI355X：每個GPU配備288GB HBM3E，而B200則配備180GB，這意味著更多的駐留KV和prefix cache、更大的模型、更長的上下文，實現更低的延遲和更高的吞吐量。
相比B200，MI355X的單節點HBM內存預算在GLM 5.1、DeepSeek-V3.2和DeepSeek-V4-Pro（即將推出）上大約翻了一番。
接下來，Zyphra計劃支持DeepSeek-V4-Pro，擴展到1.6T參數和1M上下文、訓練信息量化、基于擴散的推測器，以及服務引擎方面的工作。
該公司還計劃將支持范圍擴展至下一代AMD平臺，包括MI450系列及后續產品。
來源：《福布斯》，Zyphra
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
