端到端的 AI 記憶體和儲存產品組合,涵蓋資料中心及智慧邊緣,核心產品現已量產。

美光科技(Nasdaq: MU)宣布於 COMPUTEX 2026 期間展示其完整的 AI 最佳化記憶體與儲存解決方案產品組合,全面賦能下一代 AI 資料中心與智慧邊緣應用。隨著 AI 工作負載從模型訓練拓展到大規模推論,包括推理密集型和 AI 代理系統;從運算堆疊到記憶體階層中的各個層級,對記憶體和儲存的需求都大幅增加。
美光執行副總裁暨事業長 Sumit Sadana 表示:「AI 模型的上下文長度正以每年 30 倍的速度暴增[1],而單台伺服器的記憶體容量在過去三年間卻僅增長一倍[2]。現今的系統效能正前所未有地取決於記憶體頻寬和容量。此一半導體生態系的結構性轉型,使記憶體和儲存技術躍升為不可或缺的戰略性資產。美光憑藉從 HBM 到專為 AI 時代打造的 DRAM 和 NAND 解決方案,以一系列業界領先與首創產品,全面支援 AI 時代的需求。」

記憶體和儲存是 AI 資料中心效能的基礎

美光的資料中心記憶體和儲存產品組合共同組成 AI 運算專用的階層架構:HBM 驅動高速模型執行和 KV 快取。LPDDR 和 DDR 擔綱系統記憶體,負責調度編排與長上下文擴展,其中,LPDDR 具備更高效能。資料中心 SSD 完善了整個架構,為 KV 快取需求提供穩定容量,高容量 SSD 則是打造海量資料湖的堅實後盾。在此分層架構中,每一層都以美光為核心,最佳化延遲、頻寬、功耗、容量和成本,能有效分擔 GPU 的負載,進而最大化資料中心 Token 產出量。美光在其產品組合中取得的最新里程碑,正充分展現此一動能:
- HBM:透過 HBM4 36GB 12H,頻寬每提升 2 倍,大型語言模型(LLM)推論吞吐量便能提高6 倍(以每秒 Token 產出量計算)。[3]
- SOCAMM:美光獨家提供全球最高容量的 256GB SOCAMM2,相較於標準 RDIMM,功耗與佔用空間均驟減三分之二,進一步鞏固美光在低功耗資料中心記憶體領域的領導地位。[4]
- 高容量 RDIMM:美光已向客戶送樣採用業界領先 1γ(1-gamma)技術的 256GB DDR5 RDIMM,其傳輸速度最高可達 9,200 MT/s,不僅比現行量產模組加快 40%,相較於兩個 128GB 模組,其運作功耗降低超過 40% 。[5]
- 資料中心 SSD:美光 9650 SSD 是全球首款商用 PCIe® Gen6 SSD,專為 AI 推論和訓練工作負載提供高效能而設計。美光 6600 ION SSD容量高達 245TB,為密度和能源效率樹立新標竿;同時,其機架佔用空間縮減 82%[6],功耗也較 HDD 的部署減半[7]。


AI 始於雲端,在邊緣實現價值

隨著 AI 推論從資料中心延伸到 PC、智慧型手機、汽車和嵌入式系統,記憶體和儲存裝置的需求正發生根本性的轉變。美光正針對這波轉型積極布局:高密度 DRAM 可確保 AI 模型和代理型 AI 維持常駐運行,而美光的儲存解決方案則進一步進化成「主動作業層」,支援從 AI PC 上的本地模型快取、到車載即時感測器融合等各種應用,在各個邊緣端提供更快速、更即時的 AI 體驗。
- LPCAMM:LPCAMM2 搭配 LPDDR5X 可提供高達 9,600 MT/s 的傳輸速度,採用模組化、低功耗的 128 位元雙通道設計,專為更輕巧纖薄的 PC 設計。
- GDDR:GDDR7 提供高達5 TB/s 的系統頻寬,比 GDDR6 高 60%[8],AI 推論吞吐量最多可提升達 33%。[9]
- LPDDR:LPDDR5X 具備領先業界的低功耗效能優勢,能滿足 PC、智慧型手機、機器人及次世代車用平台上即時 AI 運算需求。
- 用戶端 SSD:美光 4600 PCIe Gen5 NVMe™ SSD 可在一秒內載入 LLM[10],相較於前一代 Gen4 SSD ,能源效率提升 107%。[11]
- 車用UFS:UFS 4.1 提供高達2 GB/s 的傳輸速度,效能為前一代的兩倍,同時具備 115°C 耐熱保護,並符合車規功能安全標準,適用於先進駕駛輔助系統(ADAS)與車載 AI 運算。


共同推動 AI 未來發展
AI 已徹底重塑記憶體的角色,使其轉化為舉足輕重的戰略性資產,驅使記憶體與運算單元在設計之初就必須進行緊密的協同合作以達到最佳效能。奠基於橫跨多代的 DRAM 與 NAND 製程技術領先優勢,包括近年推出 1γ DRAM 與 G9 NAND,美光目前正積極透過協同設計與工程合作,深化與生態系夥伴的技術協作,進一步加速 AI 平台落地,實現更卓越的系統級最佳化。同時,在美國、印度、日本、新加坡和台灣的製造擴展投資支持下,使美光得以在全球大規模落實創新成果。
[1] https://epoch.ai/data-insights/context-windows
[2] 資料來源:Trendforce 2026。
[3] 係基於美光內部模擬估算,使用 288GB HBM4 系統相較於現今採用的 288GB HBM3E GPU 系統,其 GPU FLOPs 提升 1.5 倍。
[4] 功耗減少三分之二的計算係基於單個 128GB、128 位元匯流排寬度之 SOCAMM2 模組,對比兩個 64GB、64 位元匯流排寬度之 DDR5 RDIMM 模組的功耗瓦數比較。佔用空間少三分之二的計算係由 SOCAMM2 的面積尺寸(14x90mm)與標準伺服器 RDIMM 模組面積相比較。
[5] 效能優勢係以 9,200 MT/s 產品對比 6,400 MT/s 產品計算所得。
[6] 機架空間的縮減計算:每 36U 可容納 720 顆 245.76TB SSD,總容量達 176.9PB,相較於每 36U 可容納 720 顆 44TB HDD,總容量為 31.7PB 之理論最大值。相較之下,HDD 部署(後者)需要比 SSD(前者)多 5.6 倍的機架空間。
[7] 美光 6600 ION 245TB SSD 峰值功耗為 30W,而每顆 44TB HDD 的峰值功耗則為 10W。44TB HDD 的功耗資訊未公開,比較係基於 36TB/32TB HDD 的峰值功耗進行而得。來源:exos-ds2046.1-2512-en_us.pdf
[8] GDDR7 與 GDDR6 元件針腳速度的規格級對比。
[9] 更高的頻寬有望提升 GDDR7 的推論負載效能。
[10] 測試所使用的 LLM 是 Llama2,其具備 130 億參數,檔案大小為 10.4GB
[11] 效能和能源效率聲明是基於 PCIe Gen4 Micron 3500 SSD 與 Micron 4600 SSD 的比較。