
隨著對 AI 工廠與前沿 AI 的需求日益增長,客戶需要能夠從單一機櫃高效擴展至 Gigawatt 等級大型 AI 叢集的基礎設施,同時實現效能、每瓦效能與每 Token 成本效益的最大化。AMD Helios 提供整合式的機櫃級建構模組,不僅簡化部署,更提供下一代 AI 基礎設施所需的算力、網路技術與開放軟體基礎。
AI 基設首選 AMD Helios 機櫃級解決方案
AMD Helios 機櫃級 AI 解決方案在低、中、高互動性水平下皆能提供最高的 Token 吞吐量效能,且自設計之初即採用開放式架構。與主要競爭解決方案相比,AMD Helios 提供眾多優勢,其中包括:
- 15% 的峰值 FP4 效能提升。
- 50% 的高頻寬記憶體 (HBM) 容量提升。
- 6% 的 HBM 頻寬提升。
- 50% 的向外擴展 (Scale-out) 頻寬提升。
- 高達 30% 的每美元 Token 產出提升,讓客戶在部署每個機櫃時獲得更多輸出量。
AMD AI 事業群資深副總裁 Vamsi Boppana 表示:「前沿 AI 基礎設施正在快速演進,客戶需要能夠提供卓越效能、同時隨著工作負載增長而高效擴展的平台。AMD Helios 將頂尖運算能力、高效能網路技術與開放軟體整合於統一的機櫃級平台中。這些技術相輔相成,賦予客戶靈活性,以加速大規模推論、前沿模型訓練以及下一代 AI 基礎設施的發展。」
AMD Helios 機櫃級解決方案
AMD Helios 擴展 AMD AI 產品組合,提供開放式機櫃級架構,旨在支援從單一機櫃到多機櫃叢集的大規模推論、前沿模型訓練與微調 (fine-tuning)。在 AI 正在重塑現代運算基礎設施之際,AMD 推出 AMD Helios,提供結合高效能運算、機櫃級架構與開放軟體的高度整合平台。詳細資料請參閱 Advancing AI 2026 大會的媒體資料。
- 專為前沿 AI 打造:AMD Helios 是專為前沿 AI 與 AI 工廠部署所設計的 AMD 機櫃級 AI 基礎設施平台,透過將第 5 代 AMD Instinct GPU (MI450 系列)、第 6 代 AMD EPYC 伺服器 CPU、AMD Pensando 網路技術與 AMD ROCm 軟體整合至基於開放標準的統一平台中,為高吞吐量推論、前沿模型訓練與微調提供可擴展的基礎。
- 領先業界的機櫃效能:AMD Helios 在針對大規模推論與前沿模型開發最佳化的統一架構中,提供 Exaflop 等級的 AI 效能。單一機櫃可提供高達 2.9 Exaflops 峰值 FP4 效能、1.4 Exaflops 峰值 FP8 效能、31 TB 的 HBM4 記憶體,以及每秒 1.7 PB 的記憶體頻寬。
- 可擴展的 AI 功能:AMD Helios 旨在實現從單一機櫃擴展至 Gigawatt 等級 AI 叢集。每個機櫃整合 18 個符合開放機櫃寬規範 (Open Rack Wide-aligned) 的 4-GPU 運算托盤 (共計 72 個 GPU),為叢集部署與擴展提供一致的建構模組。在叢集規模下,AMD Pensando Vulcano 800 AI 網路介面卡 (NIC) 可提供支援分散式推論、前沿模型訓練與快速超大規模 (hyperscale) 增長所需的高頻寬與低延遲連接性。
- 開放式基礎設施:AMD Helios 結合用於高效能向上擴展 (Scale-up) 的 UALink over Ethernet (UALoE) 技術,以及符合超乙太網路聯盟 (Ultra Ethernet Consortium) 標準的向外擴展 (Scale-out) 乙太網路,讓客戶能夠利用開放、基於標準的技術建構 AI 基礎設施。該平台亦納入縱深防禦 (defense-in-depth) 的機櫃級安全功能。AMD ROCm 軟體則可在跨機櫃與叢集規模的部署中,實現高吞吐量推論與統一的分散式訓練。
AMD 推出開放式 AI 基礎設施平台 AMD Helios 機櫃級解決方案,整合 AMD Instinct MI455X GPU、第 6 代 AMD EPYC 伺服器 CPU、AMD Pensando 網路技術與 AMD ROCm 軟體,以支援前沿 AI、大規模推論與基礎模型訓練。該平台提供 Exaflop 等級的效能,可從單一機櫃擴展至 Gigawatt 等級 AI 叢集,並在 AI 運算、記憶體容量、記憶體頻寬以及每美元產出 Token 產出方面超越主要競爭解決方案。


