Press Release
AMD 宣布最新 AMD ROCm 6.2 開源堆疊軟體現已釋出,為 AMD Instinct 加速器系列帶來效能和效率最佳化的大幅成長。此次擴展了 vLLM 支援,並提供全新分析工具,讓開發人員更能發揮 Instinct 加速器優勢。
AMD ROCm 6.2 版本現已釋出
AMD 部落格文章提供關於新增功能和優勢的詳細資訊,包括:
- 擴展 vLLM 支援,以提升 Instinct 加速器的人工智慧 (AI) 推論能力。
- 全新 Bitsandbytes 功能可透過提升記憶體效率與效能來增強 AI 訓練和推論。
- 全新的離線安裝程式建立器可簡化 ROCm 的安裝體驗。
- 全新 Omnitrace 與 Omniperf 分析工具透過效能分析和精簡的開發工作流程來革新 AI 和高效能運算 (HPC) 的開發。
- 更廣泛的 FP8 支援可在使用更少記憶體的情況下進行更具效率的訓練,從而增強 AI 推論能力。
ROCm 6.2 帶來前所未有的 AI 加速器效能和效率提升,同時提供工具及支援,助力開發人員在 AI 專案中突破極限。