SK海力士正式量產(chǎn)192GB容量SOCAMM2

與傳統(tǒng)的RDIMM相比，SOCAMM2帶寬提升逾兩倍，功耗降低75%以上。

今日，SK海力士宣布，公司正式量產(chǎn)基于第六代10納米級(jí)（1c）LPDDR5X低功耗DRAM的192GB（千兆字節(jié)）容量SOCAMM2產(chǎn)品。

SOCAMM2是一款將主要適用于智能手機(jī)等移動(dòng)端設(shè)備的低功耗內(nèi)存，針對(duì)服務(wù)器環(huán)境進(jìn)行優(yōu)化的內(nèi)存模塊，主要面向下一代AI服務(wù)器等應(yīng)用場(chǎng)景。SK海力士表示：“公司采用1c工藝的SOCAMM2，是專為高性能AI運(yùn)算優(yōu)化的解決方案。與傳統(tǒng)的RDIMM相比，其帶寬提升逾兩倍，功耗降低75%以上?！?/p>

該公司特別強(qiáng)調(diào)，該SOCAMM2產(chǎn)品是面向英偉達(dá)的Vera Rubin平臺(tái)設(shè)計(jì)的。此外，該產(chǎn)品可從根本上緩解數(shù)千億參數(shù)級(jí)AI大模型在訓(xùn)練與推理過程中所面臨的存儲(chǔ)瓶頸問題，SK海力士期待其助力能夠大幅提升整體系統(tǒng)的處理速度。

該公司還表示：“隨著AI發(fā)展從訓(xùn)練轉(zhuǎn)向推理階段，支持大型語言模型低功耗運(yùn)行的SOCAMM2作為下一代存儲(chǔ)器解決方案，正備受矚目。為滿足全球云服務(wù)供應(yīng)商（Cloud Service Provider）客戶需求，公司提前搭建起穩(wěn)定的量產(chǎn)體系?！?/p>

SK海力士AI Infra擔(dān)當(dāng)金柱善社長（CMO，Chief Marketing Officer）表示：“通過192GB容量SOCAMM2的產(chǎn)品供應(yīng)，公司建立了面向AI的存儲(chǔ)器性能新基準(zhǔn)。公司將與全球AI客戶緊密合作，成為‘客戶最信賴的面向AI的存儲(chǔ)器解決方案企業(yè)’。”

AI技術(shù)的發(fā)展正引領(lǐng)著計(jì)算領(lǐng)域的范式變革，而內(nèi)存技術(shù)則成為這一變革的關(guān)鍵所在。HBM與LPDDR內(nèi)存解決方案，對(duì)于釋放GPU的計(jì)算潛能起到了至關(guān)重要的作用。然而，隨著內(nèi)存需求的不斷增長，如何在有限的設(shè)備體積和成本內(nèi)容納更高容量的內(nèi)存，已成為一個(gè)挑戰(zhàn)。

同時(shí)，服務(wù)器的內(nèi)存消耗占據(jù)了相當(dāng)大的功耗比例。在配備每插槽TB級(jí)DDR5內(nèi)存的服務(wù)器中，DRAM的功耗甚至超過了CPU。為了應(yīng)對(duì)這一挑戰(zhàn)，英偉達(dá)設(shè)計(jì)了基于LPDDR5X內(nèi)存的Grace CPU，其功耗低于DDR5，同時(shí)通過借鑒AMD和英特爾數(shù)據(jù)中心級(jí)處理器的寬內(nèi)存總線設(shè)計(jì)，實(shí)現(xiàn)了高內(nèi)存帶寬。但迄今為止，LPDDR DRAM主要采用板載（On-Board）方式，直接焊接在設(shè)備主板上，而非模塊化設(shè)計(jì)。

而板載方式的缺點(diǎn)在于一是成本高昂，更換時(shí)必須整塊主板一起更換。二是缺乏靈活性，不支持升級(jí)，更換難度大。然而，對(duì)于基于GB200 Grace Blackwell的系統(tǒng)，英偉達(dá)不得不采用焊接式的LPDDR5X內(nèi)存封裝，因?yàn)槿狈δ軌驖M足其容量需求的標(biāo)準(zhǔn)LPDDR5X內(nèi)存模塊。

因此，SOCAMM橫空出世。SOCAMM的出現(xiàn)，不僅僅是一項(xiàng)技術(shù)的創(chuàng)新，更是一場(chǎng)深刻的行業(yè)革命。它以一種全新的模塊化設(shè)計(jì)，徹底改變了傳統(tǒng)內(nèi)存的使用方式。

在性能方面，SOCAMM的表現(xiàn)尤為突出，得益于其底層創(chuàng)新設(shè)計(jì)，包括128-bit總線和近CPU布局，這些設(shè)計(jì)優(yōu)化了信號(hào)完整性，減少了信號(hào)傳輸延遲，從而顯著提升了整體性能。SOCAMM數(shù)據(jù)傳輸速率可達(dá)8533Mbps，相比DDR5 RDIMM的6400Mbps，性能提升了約33%，可以滿足AI訓(xùn)練和高性能計(jì)算中對(duì)數(shù)據(jù)吞吐量的極高要求。在能效方面，SOCAMM同樣表現(xiàn)出色。其采用1.05V的低電壓供電，功耗僅為DDR5 RDIMM的1/3。結(jié)合液冷技術(shù)，SOCAMM能夠在高密度部署的場(chǎng)景下有效降低功耗，這對(duì)于數(shù)據(jù)中心的運(yùn)營成本控制和可持續(xù)發(fā)展具有重要意義。這些創(chuàng)新設(shè)計(jì)使得SOCAMM在性能、能效和空間利用方面都達(dá)到了新的高度，為高性能計(jì)算和存儲(chǔ)領(lǐng)域帶來了全新的解決方案。

據(jù)EBN稱，SOCAMM被視為下一代HBM，在小型PC和筆記本電腦中具有優(yōu)于傳統(tǒng)DRAM的性能和能效，這可能是關(guān)鍵所在。預(yù)計(jì)SOCAMM的出現(xiàn)將在整個(gè)半導(dǎo)體行業(yè)產(chǎn)生連鎖反應(yīng)，影響到三星電子、SK海力士等內(nèi)存廠商，以及Simmtech和TLB等基板公司。

目前，SOCAMM內(nèi)存技術(shù)適用于需要高性能內(nèi)存支持的場(chǎng)景，如AI計(jì)算、高性能計(jì)算、數(shù)據(jù)中心等。由于其可拆卸升級(jí)的特點(diǎn)，SOCAMM內(nèi)存技術(shù)還適用于需要頻繁更新硬件設(shè)備的領(lǐng)域，如游戲、圖形設(shè)計(jì)、虛擬現(xiàn)實(shí)等。隨著AI、大數(shù)據(jù)、云計(jì)算等技術(shù)的快速發(fā)展，對(duì)高性能內(nèi)存的需求日益增加。SOCAMM以其卓越的性能和能效比，正好滿足了這些領(lǐng)域?qū)?nèi)存的高要求。

*聲明：本文系原作者創(chuàng)作。文章內(nèi)容系其個(gè)人觀點(diǎn)，我方轉(zhuǎn)載僅為分享與討論，不代表我方贊成或認(rèn)同，如有異議，請(qǐng)聯(lián)系后臺(tái)。