AMD 與高通擬引進 SOCAMM 記憶體技術，直追 NVIDIA 腳步

隨著代理型 AI 應用爆發，記憶體頻寬成為技術瓶頸。AMD 與高通正積極研發 SOCAMM 記憶體技術，透過模組化與整合 PMIC 設計，提供比 HBM 更靈活、比傳統 LPDDR 更強大的擴展性，預計將徹底改變下一代 AI 伺服器的架構佈局。

SOCAMM 記憶體正式浮上檯面

在當前 AI 技術飛速成長的時代，算力早已不是唯一的競爭標準，記憶體存取速度與容量往往才是決定勝負的關鍵。根據最新的產業消息指出，繼 NVIDIA 率先採用後，晶片巨頭 AMD 與高通也正積極將目光投向名為 SOCAMM 的記憶體標準。這種新型態的記憶體技術被視為解決代理型 AI (Agentic AI) 運算瓶頸的救星。由於現代 AI 模型需要處理海量的資料與 Token，傳統的記憶體方案已逐漸顯露疲態，而 SOCAMM 的出現，正巧填補了高頻寬記憶體 HBM 與傳統行動端 LPDDR 之間的效能鴻溝。

過往高性能 AI 晶片為了追求極致速度，往往傾向將 LPDDR5X 等記憶體直接焊接在 PCB 主機板上，雖然減少了訊號延遲，卻也犧牲硬體升級的靈活性。SOCAMM 則打破了這項僵局。它雖然基於低功耗的 LPDDR DRAM 技術，但卻採用非焊接的模組化設計，資料中心客戶可以根據需求彈性更換或升級記憶體容量。對於需要處理數百萬個主動 Token 的 AI 代理程序來說，SOCAMM 能夠提供高達 TB 等級的擴充能力，讓處理器在維持節能優勢的同時，擁有更廣闊的資料暫存空間。

雖然 NVIDIA 是 SOCAMM 的先行者，但 AMD 與高通顯然不打算只是照抄作業。這兩家公司正研發一種獨特的技術路徑，計畫採用正方形的模組配置方式，將兩組 DRAM 分別排列在兩個獨立的層級中。這種設計的核心目的在於強化電源管理效率。透過將電源管理整合晶片 (PMIC) 直接安置在 SOCAMM 模組上，晶片廠商能更精確地調控電力供應，確保記憶體在極高頻率下運作時依然保持穩定。這種做法不僅提升了效能表現，更大幅簡化主機板的電路設計複雜度，讓未來的 AI 機架設計能更加精簡且高效。

許多技術評論者可能會疑惑，在 HBM 高頻寬記憶體當道的今天，為何還需要 SOCAMM？事實上，這兩者並非競爭關係，而是互補的搭檔。雖然 HBM 的吞吐量無人能敵，但其成本高昂且擴充受限；SOCAMM 則以更具親和力的功耗表現與超大容量，擔任起 AI 運算中的短期大容量倉庫。

當下一代 Vera Rubin 或是 AMD 的未來 AI 叢集問世時，我們將有望看到這種混合記憶體架構成為主流，為全球的資料中心提供更具性價比且強大的運算支撐，進一步推動 AI 產業邁向新的里程碑。

消息來源

延伸閱讀

Intel 結合 EMIB 與玻璃基板技術亮相！10-2-10 堆疊架構將成下一代 AI 晶片關鍵推手