AMD 宣布與 Google 擴大合作，為 Google Cloud TPU 8tx 的主機基礎設施提供運算支援，結合 AMD EPYC CPU 效能、AMD Infinity Guard 安全功能與 x86 軟體相容性，以及 Google Cloud TPU 的 AI 加速能力，協助企業部署推論、微調與強化學習工作負載。藉由第 5 代 AMD EPYC 主機處理器支援 TPU 8tx 上的 Google Cloud 機密運算架構，企業無須犧牲資料保護，即可在雲端大規模執行高度敏感的 AI 工作負載。
Google Cloud TPU 8tx 主機基礎設施採用 EPYC
此次部署進一步鞏固 AMD EPYC 處理器作為加速 AI 基礎設施核心的地位。在採用 GPU 與客製化加速器建置的系統中，AMD EPYC CPU 為主機處理的首選，負責資料準備、協調工作負載，以及管理與加速器之間的通訊。透過 TPU 8tx，AMD 與 Google Cloud 將上述能力與基於硬體信任根安全機制 (Hardware-Rooted Security) 相結合，以因應 AI 正式部署的關鍵需求：保護使用中的資料。
AMD 資深副總裁暨運算與企業級 AI 事業群總經理 Dan McNamara 表示：「最強大的 AI 系統需要能匹配其所搭載加速器需求的 CPU 基礎。歷經多個世代的 EPYC 產品，我們在效能、記憶體頻寬與 I/O 方面建立了領先優勢，確保加速運算系統維持高效運作，背後更有我們與全球領先雲端服務供應商多年來的工程合作作為後盾。我們與 Google Cloud 的合作將此優勢導入 TPU 8tx，協助客戶以其最關鍵工作負載所需的效能與防護，擴大 AI 規模。」
Google Cloud AI 與運算基礎架構副總裁暨總經理 Mark Lohmeyer 表示：「當團隊將 AI 代理導入正式生產環境時，必須確信其資料與智慧財產權受到保護，即使是底層基礎設施亦然。藉由在 AI 超級電腦 (AI Hypercomputer) 中結合第 5 代 AMD EPYC 處理器與第 8 代 TPU 架構，我們首度為雲端 TPU 導入硬體強制執行的機密運算。客戶不僅能獲得晶片級的資料保護，還能享有現代推理模型所需的低延遲效能。」
藉由 AMD EPYC 處理器實現機密 AI
在 TPU 8tx 系統中，第 5 代 AMD EPYC 處理器負責工作負載編排、資料準備，以及與 TPU 加速器之間的高吞吐量通訊。此系統運用 AMD EPYC CPU 中的 AMD 安全加密虛擬化功能，並與 TPU 協同運作，將機密運算防護範圍從 CPU 延伸至所連接的加速器，協助保護在各元件之間流通的敏感資料。
在授予加速器直接存取受保護記憶體的權限之前，會先驗證其身分與安全性配置，協助確保客戶的提示詞、模型權重與中介資料，在 CPU 記憶體中以及在主機與加速器之間傳輸時，皆維持加密狀態，並在加速器執行期間進行硬體隔離。這些防護機制協助企業在推論與代理式 AI 應用中使用敏感資訊。
AMD EPYC 處理器同時是 Google Cloud 更廣泛機密運算產品組合的基礎：AMD SEV 技術協助保護機密 VM、機密 GKE、Confidential Space、Apache Spark 機密代管服務 (Confidential Managed Service for Apache Spark) 以及機密 Dataflow 的工作負載。TPU 8tx 則進一步將雙方合作延伸至機密 AI 加速領域。
經驗證的主機 CPU 基礎 支援 AI 架構
隨著超大規模雲端服務供應商、前沿實驗室與模型供應商建置日益專業化的 AI 基礎設施，CPU 的選擇對於系統效能與部署依然至關重要。加速器仰賴主機處理器供應資料、排程工作，並將 AI 工作負載與周邊的應用程式及服務串接。AMD EPYC 處理器是超過 10 家領先的超大規模雲端服務供應商與前沿 AI 實驗室的首選主機 CPU，涵蓋 GPU 與客製化 AI 加速器 ASIC。
無論是採用 AMD Instinct GPU、NVIDIA GPU 或客製化晶片的系統，AMD EPYC 處理器皆能勝任此角色。如此廣泛的支援，讓客戶無論選擇何種加速器，皆能採用經驗證的 CPU 平台，並獲得成熟 x86 軟體產業體系的支援。
奠基於 AMD 與 Google Cloud 歷經多個世代的合作
AMD 與 Google Cloud 的合作歷經多個世代的 EPYC 處理器，支援通用型、運算密集型、儲存密集型與加速型工作負載，合作成果涵蓋目前的 Google Cloud Compute Engine 的 C4D、N4D、H4D、Z4D 與 G4 虛擬機器。雙方多年來亦在企業級的安全技術上緊密合作，包括由 Google 安全專家針對 AMD 安全處理器韌體進行深度審查。
透過 TPU 8tx，雙方進一步擴大的合作協助企業在生產環境中運行現代推理與代理式 AI 工作負載，同時確保資料受到完善保護。
