OpenAI 工程師實測 AMD Helios 夥伴 Cerebras 晶片，直呼推理速度「快到不可思議」，任務秒殺完成，AMD 這步棋走對了！
OpenAI 工程師滿意 Cerebras 晶片效果
當一顆晶片的運算速度快到讓工程師「連切換視窗的時間都沒有」，就已經不只是效能數字好看而已了。OpenAI 內部工程師 Jeffrey Wang 最近在一場對談中，罕見的公開稱讚 Cerebras 晶片的推理表現，這款晶片正是 AMD 用來強化 Helios 機架系統的關鍵夥伴技術。這番出自第一線使用者的真實回饋也讓外界重新審視 AMD 在 AI 基礎設施佈局上的選擇是否真的下對了棋。
根據 Wang 的說法，OpenAI 內部已經有部分模型實際跑在 Cerebras 晶片上，而使用體驗讓他印象深刻。他形容過去某些任務可能要等上好幾分鐘才能跑完，換到 Cerebras 晶片後，任務往往在他還來不及切換到下一件工作之前就已經完成，工作效率因此明顯提升。對於熟悉 AI 開發流程的工程師來說，「等待模型跑完再進行下一步」原本是家常便飯，如今這道等待門檻被大幅壓縮，自然格外有感。
Cerebras 的 Wafer-Scale Engine 走的是一條和主流 GPU 完全不同的路線：它把整片矽晶圓做成單一顆巨大晶片，將數十萬個運算核心與數十 GB 的 SRAM 直接整合在同一塊晶片上，資料不需要跨晶片、跨機櫃搬運，自然大幅降低延遲。這種設計不只適合訓練，對於講求極速反應的推理任務更是如魚得水，能把中型模型、甚至大型模型的一大部分直接放進單一晶片的記憶體裡運作。
這次讓 OpenAI 眼睛一亮的 Cerebras 晶片，其實是 AMD Helios 機架系統佈局中的重要拼圖。AMD 與 Cerebras 已在 2026 年 7 月宣布技術合作，要打造結合 AMD Helios 機架系統與 Cerebras Wafer-Scale Engine 的分散式 AI 推理解決方案。分工模式上，AMD Helios 負責處理高吞吐量的提示詞與大型情境窗口運算，Cerebras 晶片則專攻對延遲極度敏感的權杖生成階段。兩套運算引擎搭配之下，預期可帶來最高 5 倍的每瓦每秒權杖產出效能。
這項合作方案預計最快在 2026 年下半年，先透過 Cerebras Cloud 對外開放，屆時企業客戶將能實際感受這套組合拳的推理速度優勢。值得一提的是，AMD 方面也表示，Helios 相較於 NVIDIA Vera Rubin NVL72 機櫃，在每美元可產出的推理權杖數量上有約 30% 的提升，等於是從效能與成本兩個面向同時對 NVIDIA 陣營發起挑戰。
AI 推理成本如今已成為資料中心獲利能力的關鍵變數，誰能用更少的電力跑出更多的權杖產出，誰就能在這場軍備競賽中掌握主導權。OpenAI 作為全球用量最大的 AI 模型供應商之一，內部工程師願意主動公開稱讚合作夥伴晶片的表現，某種程度上等於是替 AMD 與 Cerebras 這套組合方案打了一劑強心針。隨著 Helios 系統陸續在 2026 年第四季啟用，市場接下來最關注的，將是這套分散式推理架構能否在實際大規模部署中，持續維持展示時的亮眼表現。
延伸閱讀
