AMD Ryzen AI Halo 專為智慧代理打造，最高可提升 34% 代理編排速度

繼 AMD 先前於部落格文章中探討客戶端 CPU 在代理式 AI (Agentic AI) 時代中更趨關鍵後，AMD 發布最新部落格文章，繼續探討 AMD Ryzen AI Halo 效能，以及 AI 代理正如何重塑客戶端 AI (Client AI) 效能的評估標準。

AMD Ryzen AI Halo 助力代理式 AI 應用

隨著代理式工作流程除了模型推論外，更已廣泛延伸至文件處理、檢索、編排 (orchestration) 與驗證等環節，相較於單純的推理指標，端對端工作流程完成表現將成為衡量真實效能更具參考價值的關鍵指標。

部落格文章重點內容如下：

• AI 代理評估指標轉變：AI 代理的評估方式正在改變，不應僅以 Token 生成速度作為衡量標準，而應以完成且經過驗證的工作成果作為評估依據。因此，關鍵績效指標也轉向端對端工作流程的完成時間以及每次完成工作流程的成本。
• 針對實際工作負載進行端對端效能評估：在 HEPA 基準測試中，8 個管線階段 (pipeline stages) 中有 7 個階段由 CPU 執行，僅 Token 生成階段由 GPU 負責。測試結果顯示，AMD Ryzen AI Halo 率先完成工作流程，並以更低成本完成任務。在 Linux 作業環境下執行相同的五輪 (five-run) 工作流程測試時，搭載 AMD Ryzen AI Max+ 395 處理器的 AMD Ryzen AI Halo 相較於 NVIDIA DGX Spark Grace Blackwell (GB10)，具備以下優勢：
  • CPU 編排效能提升 34%。
  • 端對端工作流程完成速度提升 15%。
  • 單次完成工作流程成本降低 27%。

欲了解更多代理式 AI 如何改變客戶端 AI 效能的評估標準，請參考 AMD 部落格文章。