
AMD 發布最新白皮書,揭示在代理式 AI 時代下,CPU 於現代資料中心架構中的關鍵作用。代理式 AI 系統將多元 CPU 角色整合至單一工作流程中,而最新一代 AMD EPYC CPU 能針對各項特定任務進行最佳化,為客戶提供迎接未來 AI 發展的靈活性,同時帶來重要的運算處理能力。
AMD EPYC CPU 推進代理式 AI 發展
兩年前,規劃 AI 基礎設施主要以訓練階段所需的算力規模為核心;隨後,推論演變成為形塑基礎設施需求的主要因素。如今,AI 代理能將單一請求轉化為一連串動態流程,涵蓋資料檢索、工具呼叫、程式碼執行與結果產出。此一高度靈活的工作流程,使每次執行任務時對算力需求與部署節點的要求皆有所不同。
若基礎設施僅針對單一時間點的需求建構,將面臨無法符合未來需求的風險。因此,架構的靈活性不再只是一項附加特色,而是貫穿整個系統架構各層級的必要條件,包括支援代理式 AI 工作流程的 CPU。
為因應此趨勢,AMD 發表最新白皮書全面評估第 6 代 AMD EPYC 9006 系列 “Venice” 伺服器 CPU 在通用型、企業級、雲端原生、AI 以及高效能運算等多元工作負載下的效能表現,而非僅聚焦於少數特定工作負載。
第 6 代 AMD EPYC CPU 展現領先業界的效能表現:
- 在 SPECrate 2026 Integer 效能測試中,AMD EPYC 9996 伺服器 CPU 的每核心效能為 NVIDIA Vera 架構平台的 1.2 倍,平台級效能更達 2.24 倍。
- 在涵蓋伺服器端 Java、OpenSSL、MongoDB、Redis、NGINX 及交易處理等企業級與雲端原生測試中,AMD 測試結果顯示,其效能提升 2.4 倍至 3.7 倍。
- 與 Intel Xeon 6980P 處理器相比,AMD EPYC 9996 伺服器 CPU 在分子動力學、材料建模與天氣預報等領域,展現 1.8 倍至 3.13 倍的效能優勢。
- 在模擬 100 千瓦機殼配置下,AMD EPYC 9996 伺服器 CPU 吞吐量預估可達 Vera 架構平台的 3.4 倍。
強大的高負載每核心效能可加速對延遲敏感的工作任務,而卓越的核心密度則能支援高併發需求,並提升機殼級吞吐量。藉由多元化的處理器產品組合,客戶無須讓整體伺服器陣列 (Fleet) 採用相同的處理器,即可針對這兩類需求進行最佳化。
“Venice” 是基於此設計理念所打造的產品組合之一:四大產品系列運行於共同的軟體基礎之上,涵蓋 8 核心的邊緣部署、256 核心的旗艦級處理器,以及機殼級 AI 主機節點。代理式流程中的每個角色皆能採用最適合的處理器配置,無須為此建立獨立的運作環境。
“Venice” 目前已進入量產階段。各大 OEM 廠商的平台預計如期推出,各大雲端服務供應商則將於今年稍後開始部署。
完整部落格文章敬請參閱此連結。
相關資源:
- 更多關於架構細節、基準測試方法及完整工作負載評估,請參考《AMD EPYC 伺服器 CPU 架構與效能概覽》白皮書。
- AMD 執行副總裁暨資料中心解決方案事業群總經理 Forrest Norrod 文章《為瞬息萬變的 AI 世界建構基礎設施》。









