美光送樣SOCAMM2模組 搶AI資料中心商機

DRAM 大廠美光 (MU-US) 今 (23) 日宣布，192GB SOCAMM2 (Small outline compression attached memory modules，小型壓縮附加記憶體模組) 已正式送樣給客戶，積極拓展低功耗記憶體在 AI 資料中心內的應用版圖。

美光指出，AI 創新與發展持續加速，資料中心生態系統正加速朝更節能的基礎架構轉型，以實現及驅動永續成長。隨著記憶體在 AI 生態系統中佔據日益關鍵的地位，低功耗的記憶體解決方案成為轉型的核心。

美光發表的 SOCAMM2 進一步強化 LPDRAM SOCAMM 記憶體模組設計之功能，在相同的規格尺寸中提供高出 50% 的容量。因為容量擴增，此模組能將即時推論工作負載中首個 token 生成的時間 (TTFT) 大幅縮減逾 80%。

這款 192GB SOCAMM2 搭載美光最先進的 1γ (1-gamma) DRAM 製程技術，使能源效率提升 20% 以上，進一步實現大型資料中心叢集的電源設計最佳化。

在全機櫃式 AI 部署環境中，由於可配置超過 40 TB 的 CPU 直連低功耗 DRAM 主記憶體，因此節能優勢將會格外顯著。SOCAMM2 的模組化設計提高了維修便利性，並為未來的容量擴展奠定基礎。

美光與輝達 (NVDA-US) 合作已五年，並首創將低功耗伺服器記憶體導入資料中心應用。SOCAMM2 將 LPDDR5X 極低功耗和高頻寬的既有優勢帶入 AI 系統的主記憶體。SOCAMM2 專為滿足大規模 AI 平台不斷演進的需求而設計，不僅提供 AI 工作負載所需的高資料傳輸量，同時實現全新層次的能源效率，為 AI 訓練與推論系統樹立新標竿。

美光看好，節能等優勢將使 SOCAMM2 成為未來幾年尖端 AI 平台的關鍵記憶體解決方案。

美光資深副總裁暨雲端記憶體事業部總經理 Raj Narasimhan 表示，隨著 AI 工作負載日益複雜且需求更嚴苛，資料中心伺服器必須提高效率，在每瓦功耗下產出更多 tokens。憑藉在低功耗 DRAM 領域公認的領導地位，美光能確保 SOCAMM2 模組具備卓越的資料傳輸量、能源效率、大容量，同時保有資料中心所需的頂尖品質。對於驅動次世代 AI 資料中心伺服器來說，這些優勢至關重要。

透過專門的設計特性和強化測試，美光 SOCAMM2 產品將原本為手機設計的低功耗 DRAM 升級為資料中心級的解決方案。美光在高品質資料中心 DDR 記憶體方面的豐富經驗，有助於確保 SOCAMM2 能充分滿足資料中心客戶嚴苛的品質和可靠性標準。

相較於同等級的 RDIMM，SOCAMM2 的能源效率提升逾三分之二，同時將高效能濃縮於體積僅三分之一的模組中，有效提升資料中心的空間利用率，並最大化容量與頻寬。SOCAMM 採用模組化設計與創新堆疊技術，提高系統維修便利性，有助於液冷伺服器的設計。

美光積極參與 JEDEC SOCAMM2 規範制定，並與業界夥伴密切合作，推動相關標準以加速低功耗技術在 AI 資料中心的應用，從而提升整體產業的能源效率。SOCAMM2 現已送樣給客戶，單一模組容量高達 192GB，傳輸速度達 9.6 Gbps。後續量產作業將配合客戶的產品推出時程規劃。