AMD 在「Advancing AI」活動上與微軟、Meta、Oracle、等國際大廠合作夥伴,展示其如何與 AMD 攜手合作帶來從雲端到企業與 PC 的先進人工智慧 (AI) 解決方案。AMD 於活動中推出多個全新產品,包括 AMD Instinct MI300 系列資料中心 AI 加速器、提供強大最佳化效能與支援大型語言模型 (Large Language Model,LLM) 的 ROCm 6 開放軟體堆疊,以及具備 Ryzen AI 的 Ryzen 8040 系列處理器,為 AI 發展帶來更強大的全新運算硬體。
AMD 於 Advancing AI 展示全新 AI 加速器
AMD 董事長暨執行長蘇姿丰博士表示,AI 是運算的未來,而 AMD 具有獨特優勢,能夠為定義此 AI 時代的端對端基礎架構挹注動能,範圍涵蓋大型雲端安裝、企業叢集到支援 AI 的智慧嵌入式裝置與 PC。AMD 看到對於全新 Instinct MI300 GPU 的強勁需求,此為全球最高效能的生成式 AI 加速器。AMD 也在與最大的雲端公司、領先業界的伺服器供應商以及最具創新性的 AI 新創公司攜手合作,為資料中心 AI 解決方案打造重要動能,將 Instinct MI300 解決方案快速帶進市場,從而大幅加速全面 AI 產業體系的創新進程。
推動從雲端到企業資料中心與超級電腦的資料中心 AI
AMD 在活動中與多家合作夥伴同台展現 AMD Instinct 資料中心 AI 加速器的強勁採用狀況與成長動能。
- 微軟闡述其如何採用 AMD Instinct MI300X 加速器於全新 Azure ND MI300x v5 虛擬機器 (VM),為 AI 工作負載進行最佳化。
- Meta 分享正在新增 AMD Instinct MI300X 加速器至其資料中心,並與 ROCm 6 結合來為 AI 推論工作負載挹注效能,也透過 Llama 2 模型陣容體認到 AMD 所做的 ROCm 6 最佳化效能。
- Oracle 發表其計劃提供搭載 AMD Instinct MI300X 加速器的 OCI 裸機運算解決方案 (OCI bare metal compute solution),也預計在接下來的生成式 AI 服務中納入 AMD Instinct MI300X 加速器。
- 最大資料中心基礎架構供應商宣布計劃於其產品組合整合 AMD Instinct MI300 加速器。戴爾科技集團宣布將 AMD Instinct MI300X 加速器與其 PowerEdge XE9680 伺服器解決方案整合,以模組化和可擴展格式為客戶帶來生成式 AI 工作負載的突破性效能。HPE 宣布計劃將 AMD Instinct MI300 加速器帶進其企業與高效能運算 (HPC) 產品。聯想分享計劃於 Lenovo ThinkSystem 平台搭載 AMD Instinct MI300X 加速器,帶來橫跨零售、製造、金融服務與醫療等產業的 AI 解決方案。美超微宣布計劃於其 AI 解決方案產品組合提供 AMD Instinct MI300 GPU。華碩、技嘉科技 (Gigabyte)、鴻佰科技 (Ingrasys)、英業達 (Inventec)、雲達科技 (QCT)、緯創 (Wistron) 與緯穎 (Wiwynn) 也計劃提供基於 AMD Instinct MI300 加速器的解決方案。
- Aligned、Arkon Energy、Cirrascale、Crusoe、Denvr Dataworks 與 Tensorwaves 等專門 AI 雲端服務供應商皆計劃為開發人員與 AI 新創公司提供可擴大存取 AMD Instinct MI300X GPU 的方案。
為市場帶來開放、經過驗證且準備就緒的 AI 軟體平台
AMD 展現在擴展支援 AMD Instinct 資料中心加速器的軟體產業體系之重大進展。
- AMD 發表為 AMD Instinct GPU 推出的最新版本開源軟體堆疊 ROCm 6,其為生成式 AI 進行最佳化,特別是大型語言模型。ROCm 6 可支援全新資料型式、先進繪圖與核心最佳化、最佳化函式庫與最先進的注意力演算法。相較於 MI250 上執行的 ROCm 5,於 MI300X 上執行的 ROCm 6 在 Llama 2 text generation 模型帶來高達 8 倍的全面延遲效能提升。
- Databricks、Essential AI 和 Lamini 這三家建立新興模型和 AI 解決方案的 AI 新創公司與 AMD 同台探討他們如何透過 AMD Instinct MI300X 加速器與開放 ROCm 6 軟體堆疊為企業客戶帶來差異化 AI 解決方案。
- OpenAI 正在為 AMD Instinct 加速器新增支援到 Triton 3.0,為 AMD 加速器提供開箱即用支援,讓開發人員能夠在 AMD 硬體上進行更高的抽象層工作。
欲了解更多關於 AMD Instinct MI300 系列加速器、ROCm 6 與 AMD AI 解決方案的成長產業體系的資訊,請參閱此連結。
在 AI PC 持續領先的地位
至今 AI PC 出貨量已達數百萬台,AMD 宣布推出全新領先行動處理器並發表最新 AMD Ryzen 8040 系列處理器,提供強勁的 AI 運算能力。AMD 也推出 Ryzen AI 1.0 軟體,藉由此軟體堆疊,開發人員能輕鬆部署使用預先訓練模型的應用,為 Windows 應用新增 AI 功能。AMD 也公布即將推出的新一代 “Strix Point” CPU,預計將在 2024 年推出。“Strix Point” CPU 將採用 AMD XDNA 2 架構,相較前一代提供超越 3 倍的 AI 運算效能提升,將帶來全新的生成式 AI 體驗。微軟也加入探討其如何在 Windows PC 的未來 AI 體驗與 AMD 緊密合作。