英特爾在美國紐約當地時間 12/14 舉行「AI Everywhere」發布會,會上推出無與倫比的 AI 產品組合,包含 Intel Core Ultra 處理器和第 5 代 Xeon 處理器,使客戶從資料中心、雲端、網路、邊緣到 PC 的 AI 解決方案無處不在。
內建 NPU 的 Intel Core Ultra 處理器正式發表
英特爾執行長 Pat Gelsinger 表示:「AI 創新有望將數位經濟的影響提升至全球總生產毛額的三分之一。英特爾正在發展使客戶能夠在所有應用之間無縫整合並有效運行 AI 的技術和解決方案,包括在雲端,以及越來越多資料產生和使用的終端上。」
呼應英特爾全球 AI 重要時刻,英特爾也在台灣正式發布全系列產品線,包括 Intel Core Ultra 處理器 (代號:Meteor Lake)、第 5 代 Xeon 處理器 (代號:Emerald Rapids),以及介紹最新版本的 OpenVINO 2023.2 工具套件。英特爾同時攜手合作夥伴,現場展示 10 台基於 Intel Core Ultra 的 PC,以及超過 25 台基於第 5 代 Xeon 處理器的系統和主機板,展現合作夥伴與台灣產業生態系強大的研發能量。
英特爾副總裁暨台灣分公司總經理汪佳慧表示:「英特爾的使命是透過精心規劃的平台、安全的解決方案和對開放生態系統的支持,讓 AI 無所不在。隨著今天全系列新產品的推出,我們的 AI 產品組合變得更加強大。同時,我們也獲得供應鏈生態系的支持,展現與合作夥伴共同發展下一代產品的最新成果,以及一起探索 AI 應用的無限可能。」
Intel Core Ultra 驅動 AI PC 和新應用
作為搭載 Intel 4 製程技術的首款處理器,Intel Core Ultra象徵著公司 40 年來最大的架構轉變。Intel Core Ultra 處理器將引領 AI PC 時代,是一款在運算、圖形、功耗、電池壽命和 AI 體驗全方面效能都表現出色的處理器。Intel Core Ultra 搭載首次推出的 AI 加速器 — 神經處理單元 (NPU),名為 Intel AI Boost,能實現全新水平的高效能 AI 加速,比前一代產品提高了 2.5 倍的能源效率。
此外,英特爾 AI PC 加速計劃正與 100 多家獨立軟體供應商緊密合作,將數百種 AI 應用程式導入 PC 市場,一系列高度創意、高效且有趣的應用將改變 PC 使用體驗。對於消費者和商用客戶來說,相對於競爭平台而言,這意味著在 Intel Core Ultra 上將能執行更廣泛的 AI 應用。例如,Adobe Premiere Pro 的內容創作者將能享受到比競爭產品高達 40% 的性能。
搭載 Intel Core Ultra 的 AI PC 現已在多家美國零售商上市。預估明年度全球將有超過 230 款筆記型電腦和個人電腦採用 Intel Core Ultra 處理器。展望 2028 年,AI PC 將占整體個人電腦市場八成,驅動工作、學習和創作的新應用。
活動現場亦展示來自宏碁、華碩、戴爾、神基科技、技嘉科技、聯想、LG、微星科技等合作夥伴的 10 台基於 Intel Core Ultra 的筆電 (依廠商英文名順序排列)。
Intel Core Ultra 基於 Foveros 3D 先進封裝技術所打造,使先進的 IP 架構能夠與先進製程匹敵,進而最佳化不同面向的表現和功能。結合全新效能核心 (P-core) 架構帶來顯著提升的每週期指令數 (IPC)、結合新的效率核心 (E-core) 和低功耗效率核心 (LP E-core),能提供比起競爭產品多 11% 的多工處理能力。
Intel Core Ultra 處理器內建 Intel Arc GPU,最高可配置達 8 個 Xe 核心、支援 Xe Super Sampling (XeSS)、DX12 Ultimate,且 GPU 效能較前一代產品幾乎翻倍。GPU 也支援先進的影像功能,包括包括硬體加速光線追蹤、網格著色、AV1 編碼及解碼、HDMI 2.1 以及 DisplayPort 2.1 20G。
全新英特爾處理器家族提供:
- 高達個 16 核心 (6 個 P-core、8 個 E-core、2 個 LP E-core)、22 個執行緒和新一代 Intel Thread Director,實現最佳工作負載調度。
- 最高 Turbo 頻率高達 5.1 GHz。
- 高達 64 GB LP5/x 和 96 GB DDR5 最大記憶體容量。
- 領先的無線功能,包括整合 Intel Wi-Fi 6E(Gig+) 並支援獨立的 Intel Wi-Fi 7 (5 Gig),可在更多地點實現 multi-gigabit 網路速度,反應速度表現如同有線網路,以及極高的可靠性。
- Intel Killer 軟體為遊戲玩家和創作者應用程式提供智慧連線最佳化和網路流量優先排序。
- Intel Bluetooth LE 音訊可實現低功耗、沉浸式、高傳真的 PC 音訊體驗,並支援新的 Bluetooth Auracast 功能,用於廣播音訊調節、個人音訊共享,增強助聽器和新輔助聽力服務的使用。
- Thunderbolt 4 帶來 40 Gbps 的連接速度,PC 可連接多個 4K 顯示器、快速儲存裝置以及其他配件。
- OpenVINO 工具套件僅需極少的程式碼更改且能自動偵測裝置,將工作負載引導到正確的運算引擎,透過 ONNX 和 ONNX Runtime 簡化工作流程以加快推論,進而增強 AI 運算性能。
關於搭載 Intel Core Ultra 的 Intel Evo Edition:Intel Evo 版本的筆記型電腦將持續提供最佳整體筆電體驗,透過 Intel Unison 提供優秀的行動效能、智慧協作和多裝置體驗。在全新 Intel Evo 驗證標章的裝置上,將提供以下優勢:
- 溫度更低、更安靜、效能更強、反應更快。
- 能源效率提高,在 Full-HD 的系統設計上,實際電池續航力超過 10 小時。
- 立即喚醒並快速充電。
- 包括 Microsoft Studio Effects 在內的視訊效果增強。
- 符合 VCX 鏡頭評測指標的優質鏡頭。
- 全新 Intel Unison 高階功能,可將PC延伸到平板或手機。
- 擁有至少 EPEAT 銀牌認證,體現負責任和永續的 PC 設計。
- Intel connectivity 軟體可為一般使用者生產力、協作、及娛樂實現智慧連線最佳化和網路流量優先排序。
新一代 Xeon 處理器帶來更強大的 AI 能力
第 5 代 Xeon 處理器帶來了效能和效率上的顯著提升。在相同熱設計功耗 (TDP),下,平均效能提升 21%,每瓦效能提升 36%。若遵循普遍的五年更新周期,從舊一代系統升級到新一代 Xeon 處理器的客戶其 TCO 可降低高達 77%。
基於過去世代的基礎,第 5 代 Intel Xeon 帶來新的創新,為客戶提供效能和效率優勢。支援每個 CPU 最多 64 個核心,其最高 LLC 快取是前一代的 3 倍。此外,為每個 CPU 提供 8 個DDR5 通道,支援高達每秒 5600 百萬傳輸 (MT/s) 的 DDR5,並透過 Intel UPI 2.0 增加插槽間的頻寬,提供高達每秒 20 兆傳輸 (GT/s) 速度。特定的第 5 代 Intel Xeon 處理器將透過領先的雲端服務提供商 (CSP) 支援 CXL Type 3 工作流程。
今年稍早隨第 4 代 Xeon 處理器推出的 Intel Trust Domain Extensions (Intel TDX) 在虛擬機器 (VM) 層級提供更高的機密性,增強隱私和對資料的控制,但僅透過特定的 CSP 提供。隨著第 5 代 Intel Xeon 處理器的推出, Intel TDX 將廣泛開放給所有 OEM 和 CSP 使用。在 Intel TDX 機密 VM 中,用戶作業系統和 VM 應用程式與雲端主機、虛擬機器管理程式和平台上其他 VM 的存取權限隔離。
Xeon 是市場唯一內建 AI 加速功能的主流資料中心處理器。全新第 5 代 Intel Xeon 處理器在多達 200 億參數的模型上,提供高達 42% 的推論和微調效能提升。它也是唯一一款具有一致且不斷改善 MLPerf 訓練和推論基準測試結果的 CPU。
透過 Xeon 內建的 AI 加速器,搭配最佳化的軟體和強化的遙測功能,為通訊服務提供者、內容提供者,以及包括零售、醫療保健和製造等廣泛垂直市場,提供更輕鬆的管理、更有效率的布署複雜的網路和邊緣運算負載。
第 5 代 Xeon 處理器也獲得合作夥伴的肯定。IBM 在其 watsonx.data 平台上發表了第 5 代 Intel Xeon 處理器的測試結果,其搜尋傳輸量 (Query Throughput) 比上一代 Xeon 處理器提高了 2.7 倍。Google Cloud 預計在明年導入第五代 Xeon,並指出 Palo Alto Networks 在使用 Google Cloud 的第 4 代 Xeon 的內建加速功能時,威脅偵測深度學習模型的性能提高了 2 倍。獨立遊戲工作室 Gallium Studios 轉而使用在 Xeon 處理器上執行的 Numenta AI 平台,相較在基於 GPU 的雲端平台上,其推論性能提高 6.5 倍,有效降低其 AI 遊戲 Prox 的成本和時延。這種卓越性能為先進的 AI 開啟了新的可能性,不僅在資料中心和雲端,更延伸至全球網路和邊緣運算的應用。
活動現場也展示超過 25 台基於第 5 代 Intel Xeon 處理器的系統和主機板,產品來自營邦企業、華擎科技、華碩、研華科技、仁寶科技、富士康工業互聯網、技嘉科技、廣積科技、鴻佰科技、英業達、立端科技、神雲科技、微星科技、新漢、和碩聯合科技、雲達科技、美超微、緯創、緯穎科技等合作夥伴 (依廠商英文名順序排列)。
此外,英特爾也宣布 Intel Xeon E-2400 正式上市。此入門級伺服器專為中小企業與裸機雲端託管 (Entry-level bare metal cloud hosting) 而設計。具備伺服器等級的可靠性,高成本效益和可管理性功能,提供高達 5.6 GHz 時脈、支援 DDR5 和 PCIe 5.0,並具備 Intel 極致渦輪加速技術 3.0 (Intel Turbo Boost Max Technology 3.0)。
隨著 2023 年一月第 4 代 Xeon 處理器以及今天第 5 代 Xeon 處理器的推出,英特爾將繼續履行對客戶的產品藍圖承諾。展望未來,明年將推出的未來世代 Xeon 處理器在能源效率和效能方面帶來重大進展。搭載效率核心 (E-core) 並擁有多達 288 個核心的 Sierra Forest 將於 2024 年上半年推出,具有效能核心 (P-core) 的 Granite Rapids 也將隨後上市。
滿足開發者所需的 AI 加速和解決方案
Intel Core Ultra 和第 5 代 Xeon 未來都將進入大眾從未想像過的應用場域。想像一下,根據客人的預算和飲食需求提供餐點選擇的餐廳、從源頭上發現品質和安全問題的廠房、可以看見人眼無法辨識的物品的超音波、精準管理電力的智慧電網。這些邊緣運算應用代表了增長最快的運算領域,其全球市場規模預計到本世紀末將激增至 4,450 億美元,其中 AI 的工作負載增長最為快速,而終端和客戶端設備對 AI 推論的需求是資料中心的 1.4 倍。
英特爾除了提供可靠的 AI 硬體技術,更致力提升使用效率及體驗,將 AI 加速功能融入開發者使用的 AI 框架 (如 PyTorch 和 TensorFlow),並透過 oneAPI 提供基礎函式庫,使軟體在不同類型的硬體上進行最佳化,以大幅提升運作效能。英特爾的開放式 oneAPI 和 OpenVINO 工具套件,提供開發者運用硬體加速來處理 AI 工作負載和解決方案,能快速建立、最佳化和布署 AI 模型,適用於各種推論應用。
英特爾最新版本的 Intel OpenVINO 2023.2,針對深度學習推論的開源軟體庫,增強對生成式與大型語言模型 (LLM) 的支援,開發人員可以透過 OpenVINO 在本地端或雲端直接布署 AI 推論,讓開發人員能夠更順暢的轉換模型,無需通過針對不同類型硬體的底層 API 重構模型,加速實現混合式 AI。
Intel OpenVINO 2023.2 版本主要更新:
- 提升使用者體驗:PyTorch 模型轉換更容易,並增加 Hugging Face 生態系統中的可用性和 OpenVINO 在 C/C++ 開發者使用的套件管理器。
- 生成式 AI 和大型語言模型 (LLM) 效能增強:在 Intel Core CPU 和 iGPU 上加速 LLM 模型推論,使用 INT8 模型壓縮,支援動態形狀,預覽支援 INT4 模型格式。
- 更高可攜性和性能:通過啟用 FP16 模型格式和整合額外加速庫來提高 LLM 的性能和降低延遲。