Intel 執行長 Pat Gelsinger 在 6/4 的主題演講中,推出了純 E-Core 的 Intel Xeon 6 處理器,並宣布了 Intel Gaudi 2 和 Gaudi 3 AI 加速器套件的定價,最後展示了突破性的 Lunar Lake 客戶端處理器架構,這些新產品將加速把 AI 拓展到不同應用領域上。
具備更高算力的新一代處理器架構 Lunar Lake
為了能在消費級產品提供更好的 AI 運算效能,Intel 本次公開了專為輕薄 PC 設計的 Lunar Lake 的架構細節。處理器核心由 4 個 P-Core + 4 個 E-Core 組成,與上一代產品相比,神經處理單元 (NPU) 提升 4 倍、能耗降低最高 40%,而新的 Xe2 圖形處理單元 (GPU) 效能提升 50%,整個平台提供高達 120 TOPS 的 AI 算力。
Intel Xeon 6
Xeon 6 具有 P-Core 和 E-Core 兩種,本次推出的是純 E-Core 的版本 (代號為 Sierra Forest),而代號為 Granite Rapids 預計下一季推出。
單顆 Xeon 處理器最高具備 288 個 E-Core,能帶來 2.6 倍的每瓦效能提升,機架效能提升 4.2 倍。
Intel Gaudi
Gaudi 可做為替代 NVIDIA H100 執行 LLM 的解決方案,提供更具性價比的 AI 生成性能,能以較低的總成本提供選擇和快速部署時間。
一套標準的人工智慧套件,包括八個 Intel Gaudi 2 加速器和一個通用基板 (UBB),提供給系統供應商的價格為 65,000 美元;一套包括八個 Intel Gaudi 3 加速器和一個 UBB 的套件價格為 125,000 美元。
預計在擁有 8,192 個加速器的集群中,Intel Gaudi 3 的訓練時間將比同等規模的 NVIDIA H100 GPU 集群快達 40%,而在擁有 64 個加速器的集群上,Intel Gaudi 3 的訓練吞吐量將比 NVIDIA H100 快達 15%,這是在 Llama2-70B 模型上的取得的資料。此外,預計 Intel Gaudi 3 執行流行的 LLM 模型,如 Llama-70B 和 Mistral-7B,將提供比 NVIDIA H100 的平均 2 倍快的推理性能,。