Tradingkey - 美光科技（MU）9月15日宣佈，已在多套服務器平台上成功演示全球首款512GB DDR5 RDIMM模組，速率最高可達9,200 MT/s。據美光官方新聞稿，該模組採用先進垂直互連封裝工藝，使單台24槽雙路服務器可支持最高12TB DDR5內存，同時運行功耗比四根128GB RDIMM低60%以上。

大語言模型（LLM）、智能體AI、實時推理和高核心數CPU負載，是這一輪服務器內存需求的主要推手。容量上不去，數據就得在內存和更慢的存儲層之間反覆搬運，延遲與能耗同步上漲。512GB RDIMM的價值在於把更大的數據集留在主存裏，減少對慢速存儲層的依賴，也就減少了昂貴的數據搬移。

摩根大通基礎設施平台首席信息官Darrin Alves表示，更高容量的內存技術有助於企業支撐更大規模的內存內負載、提升資源利用率，並增強現代計算環境所需的擴展彈性。

對數據中心運營商而言，這款超高密度內存模塊的另一大看點是能效。與採用4條128GB模組的方案相比，單條512GB模組的運行功耗降低逾60%，有望在提升內存容量的同時降低數據中心的電力消耗。

美光的內存技術突破：從加插槽轉向垂直堆疊

過去提升服務器內存容量的常規做法，是往板子上插更多條內存，代價是功耗、散熱和插槽數量同步上升。

美光這次動的是封裝：把多顆DRAM裸片垂直堆疊，再用硅通孔（TSV）在裸片之間完成互連，在單個DRAM封裝內把密度推到極限，同時保住現代數據中心架構要求的性能。一條模組頂替多條內存的位置，服務器廠商不必為容量重新設計整機。

美光雲內存事業部高級副總裁兼總經理Raj Narasimhan表示，美光持續推動內存技術節奏，512GB RDIMM讓服務器在既有物理尺寸內實現多TB內存，可以支撐更大的AI與數據庫負載、更高的虛擬化密度，以及更好的能效表現。

按美光給出的口徑，512GB RDIMM的運行功耗比四根128GB RDIMM低60%以上。同樣是512GB容量，前者是一條模組、一組走線、一套供電；後者是四條並行工作。

光稱在Spark支持向量機（SVM）這類內存受限的分析負載上，512GB RDIMM相比256GB DDR5配置最高可帶來1.4倍的性能提升。對RocksDB、Redis這類內存密集的數據庫與緩存平台，更高的單條容量意味着更高吞吐、更高併發，以及更省力的數據集擴容。

AMD與英特爾同步推進生態驗證

目前AMD與英特爾都在驗證這款512GB DDR5 RDIMM。

AMD計算與企業AI平台解決方案工程副總裁Amit Goel表示，隨着AI與數據密集型負載重塑基礎設施需求，AMD與美光的工程協作把計算與內存創新接在一起，幫助客戶釋放基於AMD平台的完整價值。

英特爾數據中心集團平台與系統工程總經理Karin Eibschitz Segal表示，AI及其他數據密集型負載的增長正在抬高對服務器基礎設施的要求，內存容量與帶寬對系統整體性能越來越關鍵；英特爾正與美光一起驗證512GB DDR5 RDIMM，為下一代服務器平台做準備。

美光預計512GB RDIMM將在2027年下半年進入量產，節奏與客戶需求對齊。目前這款512GB DDR5 RDIMM已在多套服務器平台完成演示，AMD與英特爾同時在做驗證，但從演示到規模部署之間仍有約一年半的窗口。這段時間裏，服務器內存的競爭焦點會從「插更多條」轉向「單條堆更高」，容量、帶寬與能效三者的平衡，將決定下一代AI服務器能裝下多大的模型、多熱的數據庫。

原文鏈接