AMD 在「資料中心與人工智慧技術發表會」上揭示將塑造運算未來面貌的產品、策略以及產業體系合作夥伴,推動新一波資料中心創新。AMD 與 Amazon Web Services (AWS)、Citadel、Hugging Face、Meta、Microsoft Azure 和 PyTorch 共同展示技術合作細節,為市場帶來新一代高效能伺服器 CPU 與新一代 AI 加速器 AMD Instinct 解決方案。
AMD Instinct 300 系列加速器助力生成式 AI 發展
AMD 董事長暨執行長蘇姿丰博士表示,AMD 在實現資料中心策略上再度向前邁出重要一步,擴大的第 4 代 EPYC 處理器產品陣容為雲端和技術運算工作負載提供領先業界的全新解決方案,而我們也與最大的雲端供應商發表全新公有實例和內部部署。AI 是塑造新一代運算的決定性技術,也是 AMD 最大的策略性成長機會。AMD 專注於加速 AMD AI 平台在資料中心的大規模部署,計劃於今年稍後推出 Instinct MI300 加速器,同時,為 AMD 硬體作出最佳化的企業級 AI 軟體產業體系將持續壯大。
為現代資料中心進行最佳化的運算基礎架構
AMD 揭示第 4 代 EPYC 處理器產品線的一系列更新資訊,為客戶提供滿足企業獨特需求所需的專業化工作負載。
- 進一步提升全球最頂尖資料中心 CPU 的效能-第 4 代 AMD EPYC 處理器持續擴大效能與能源效率的領先優勢。AMD 與 AWS 展示新一代 Amazon Elastic Compute Cloud (Amazon EC2) M7a 實例的預覽,搭載第 4 代 AMD EPYC 處理器 (代號為 “Genoa”)。此外,Oracle 宣布計劃推出搭載第 4 代 AMD EPYC 處理器的新款 Oracle Computing Infrastructure (OCI) E5 實例。
- 為雲端原生運算帶來頂尖效能-AMD 推出先前代號為 “Bergamo” 的第 4 代 AMD EPYC 97X4 處理器。憑藉每插槽 128 個 “Zen 4c” 核心,新款處理器為在雲端運行的應用提供最高的 vCPU 密度與領先業界的效能,同時帶來能源效率的領先優勢。Meta 指出第 4 代 AMD EPYC 97X4 處理器為 Instagram、WhatsApp 等 Meta 主流應用程式提供卓越效能;與第 3 代 AMD EPYC 處理器相比,第 4 代 AMD EPYC 97x4 處理器為 Meta 各種工作負載帶來顯著的效能提升,同時大幅度的減少 TCO,AMD 與 Meta 對 EPYC CPU 進行最佳化,以滿足 Meta 對功耗效率與運算密度的要求。
- 為技術運算打造更卓越產品-AMD 推出搭載 AMD 3D V-Cache 技術的第 4 代 AMD EPYC 處理器,是用於技術運算的全球最高效能 x86 伺服器 CPU。微軟宣布全面推出 Azure HBv4 和 HX 實例,採用搭載 AMD 3D V-Cache 技術的第 4 代 AMD EPYC 處理器。
如欲了解更多有關第 4 代 AMD EPYC 處理器的最新資訊,請參閱 AMD 官網,AMD 客戶證言請參閱此連結。
AMD Al 平台-The Pervasive Al Vision
AMD 發表一系列產品訊息,展現如何推展 AI 平台策略,提供客戶涵蓋雲端、邊緣、終端的硬體產品,結合與業界進行的深度軟體合作,發展可擴充與全方位的 AI 解決方案。
- 為生成式 AI 推出全球最先進的加速器-AMD 揭示 AMD Instinct MI300 系列加速器產品線的最新細節,包括推出 AMD Instinct MI300X 加速器,為全球最先進的生成式 AI 加速器。MI300X 採用新一代 AMD CDNA 3 加速器架構,支援高達 192 GB 的 HBM3 記憶體,提供大型語言模型推導與生成式 AI 工作負載所需的運算力與記憶體效率。憑藉 AMD Instinct MI300X 的大容量記憶體,客戶可處理 Falcon-40B 等大型語言模型,僅需使用一個 MI300X GPU 加速器就能處理 400 億個參數的模型。此外,AMD 推出 AMD Infinity 架構平台,將 8 個 MI300X 加速器整合至業界標準設計,打造極致的生成式 AI 推論與訓練環境。MI300X 將從第 3 季開始向各大客戶送樣。AMD 同時發表 AMD Instinct MI300A,為針對 HPC 與 AI 工作負載所開發的全球首款 APU 加速器,現已開始向客戶送樣。
- 向市場推出開放、經過驗證、可立即運行的 AI 軟體平台-AMD 展示為資料中心加速器所打造的 ROCm 軟體產業體系,展現其就緒性以及與產業領導者合作,聯手推動開放 AI 軟體生態系的發展。PyTorch 分享 AMD 與 PyTorch 基金會之間的合作,從上游全面提供 ROCm 軟體堆疊,透過 ROCm 5.4.2 版本在所有 AMD Instinct 加速器上為 PyTorch 2.0 提供即時的 Day-0 支援。這樣的整合為開發人員提供廣泛的 PyTorch AI 模型,可在 AMD 加速器上「開箱即用」。面向 AI 開發者的領先開放平台 Hugging Face 宣布將在 AMD Instinct 加速器、AMD Ryzen 和 AMD EPYC 處理器、AMD Radeon GPU、Versal 及 Alveo 自行調適處理器等 AMD 平台上最佳化數千個 Hugging Face 模型。
瞄準雲端與企業的強大網路產品陣容
AMD 展示陣容強大的網路產品線,包括 AMD Pensando DPU、AMD 超低延遲 NIC 與 AMD 自行調適 NIC。AMD Pensando DPU 結合軟體堆疊與「零信任安全性」以及領先業界的可程式化封包處理器,打造全球最智慧與最高效能的 DPU。AMD Pensando DPU 在 IBM Cloud、Microsoft Azure 和 Oracle Compute Infrastructure 等雲端合作夥伴大規模部署。在企業中,AMD Pensando DPU 部署在 HPE Aruba CX 10000 Smart Switch 中,並與領先的 IT 服務公司 DXC 等客戶合作,並透過 VMware vSphere Distributed Services Engine 分散式服務引擎為客戶加速應用程式效能。
AMD 發表代號為 “Giglio” 的新一代 DPU,目標為客戶提供更強效能與能源效率,預計在 2023 年底上市。
此外,AMD 發表 AMD Pensando Software-in-Silicon 開發套件 (SSDK),讓客戶能快速開發或遷移各項服務,在 AMD Pensando P4 可程式化 DPU 上進行部署,並與建置在 AMD Pensando 平台上豐富的現有功能並存運行。AMD Pensando SSDK 讓客戶能夠使用 AMD Pensando DPU 領先業界的效能,在其基礎架構上運行並打造客製化的虛擬化與安全功能,配合已建置在 Pensando 平台上的現有功能並存運行。