UNIKO's Hardware
  • 評測
    • 處理器
    • 主機板
    • 顯示卡
    • 記憶體
    • 儲存 | SSD | HDD | 外接盒
    • 水冷散熱器 | 空冷散熱器 | 風扇
    • 機殼 | 電源 | 配件
    • 顯示器
    • 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風
    • 筆記型電腦 | 桌上型電腦 | 電競掌機
    • 手機 | 分享器 | 無線網路
    • 顯示卡驅動 | 晶片組驅動
    • 其他硬體
  • 新聞
  • 新聞稿
  • 軟體
  • 聯絡
  • ZH-TW
    • ZH-TW
    • ZH-CN
    • EN
    • JA
    • KO
No Result
View All Result
UNIKO's Hardware
No Result
View All Result
UNIKO's Hardware
Home 新聞

要發威了嗎?Intel Gaudi 2 加速器於 Stable Diffusion 比 NVIDIA H100 快 55%

重要的已不再只是硬體本身

JC by JC
2024-03-12
in 新聞
0
Share on FacebookShare on Twitter

要發威了嗎?Intel Gaudi 2 加速器於 Stable Diffusion 比 NVIDIA H100 快 55%

Stability AI 最近發表的一篇部落格文章中,展示了 Intel Gaudi 2 與 NVIDIA H100 和 A100 GPU 加速器之間的 AI 基準測試對決。測試結果顯示,對於正在尋找快速且現成解決方案的使用者來說,Intel 的解決方案提供了極佳的性價比。

  • Intel Gaudi 2 與 NVIDIA 加速器的性能對決
    • Gaudi 2 對抗 H100 和 A100:性能與性價比兼備

Intel Gaudi 2 與 NVIDIA 加速器的性能對決

Gaudi 2 對抗 H100 和 A100:性能與性價比兼備

Stability AI 一直在開發能夠有效處理多樣化任務的開放模型。為了測試這一點,Stability AI 使用了包括 Stable Diffusion 3 在內的兩個模型,並在 NVIDIA 和 Intel 最受歡迎的 AI 加速器之間進行了基準測試,以比較它們的性能。

在 Stable Diffusion 3 中,Intel 的 Gaudi 2 AI 加速器取得了出色的結果。該模型範圍從 8 億到 80 億組參數,並使用了 20 億組參數版本進行測試。比較結果顯示,Intel Gaudi 2 比 H100 80GB GPU 快 56%,比 A100 80 GB GPU 快 2.43 倍,而 Gaudi 2 具備的 96GB HBM 記憶體也讓 Intel 產品取得些許優勢。


若將配置規模擴大到 32 個節點 (256 個加速器) ,Intel 解決方案的性能提升了 3.16 倍,每台設備每秒可輸出 49.4 張圖像,而 A100 僅為每秒 15.6 張。

儘管在訓練性能方面 Gaudi 2 AI 加速器表現出色,但由於 NVIDIA 在其 TensorRT 最佳化的進步,其在推理性能方面仍然佔據主導地位。在使用基本 PyTorch 的 Stable Diffusion 3 80 億組模型推理測試中,Gaudi 2 提供了與 Nvidia A100 相似的推理速度。但是,在使用 TensorRT 最佳化後,A100 生成圖像的速度比 Gaudi 2 快 40%。

這些測試結果顯示 AI 領域的競爭日趨激烈,並且最重要的不是硬體本身,而是每個特定加速器的軟體和相關最佳化。儘管硬體至關重要,但如果沒有堅實的基礎來驅動這些核心、記憶體和各種 AI 專用加速器,在這個領域將會遇到困難。

消息來源

延伸閱讀

Intel Gaudi 2 AI 加速器可使用 Llama 2 70B 模型生成文字

Tags: IntelNews 新聞AI
Previous Post

NVIDIA RTX 20 和 GTX 16 顯示卡非官方支援 Resizable BAR 有解!

Next Post

礦潮再現?!AMD Ryzen 9 7950X 成 AVX512 指令集加密貨幣性價比最高選擇

JC

JC

UNIKO's Hardware 網站編輯,關心3C科技天下事,平時喜歡評測和開箱,也是個愛打電動的宅宅

Next Post
礦潮再現?!AMD Ryzen 9 7950X 成 AVX512 指令集加密貨幣性價比最高選擇

礦潮再現?!AMD Ryzen 9 7950X 成 AVX512 指令集加密貨幣性價比最高選擇

INTEL THUNDERBOLT 5 BARLOW RIDGE 有可能出現在 Z890 主機板上嗎?

INTEL THUNDERBOLT 5 BARLOW RIDGE 有可能出現在 Z890 主機板上嗎?

升級不止一種方式,善用舊電腦以虛擬化打造多功能平台

升級不止一種方式,善用舊電腦以虛擬化打造多功能平台

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

ROG-玩家共和國專頁
Cloudways 主機

關於我們

UNIKO’s Hardware Follow us for the latest PC hardware news, unboxing, reviews and everything in-between!

UNIKO’s Hardware 玩家觀點看產品,真實呈現! 華人圈最可愛的電腦硬體評測開箱、3C業界新聞、電腦改裝、遊戲電競!

熱門標籤

主機板 (213) 儲存 | SSD | HDD | 外接盒 (69) 其他硬體 (7) 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風 (100) 手機 | 分享器 | 無線網路 (45) 新聞 (3887) 新聞稿 (1543) 機殼 | 電源 | 配件 (125) 水冷散熱器 | 空冷散熱器 | 風扇 (112) 筆記型電腦 | 桌上型電腦 | 電競掌機 (47) 處理器 (116) 記憶體 (60) 評測開箱 (1508) 軟體 (515) 顯示卡 (195) 顯示卡驅動 | 晶片組驅動 (346) 顯示器 (10)

熱門架站軟體教學

  • 什麼是 WordPress?
  • WordPress 架站的五大步驟
  • WordPress 三大新手主機完整比較
  • 如何用 WordPress 自架部落格
  • 如何用 WordPress 自架形象官網
  • 如何用 WordPress 自架型錄購物網站
  • 評測
  • 新聞
  • 軟體
  • 聯絡

Copyright © © 2025 UNIKO's Hardware All rights reserved. | 網頁設計: 帶路姬數位科技有限公司.

No Result
View All Result
  • 評測 & 開箱
    • 處理器
    • 主機板
    • 顯示卡
    • 記憶體
    • 儲存 | SSD | HDD | 外接盒
    • 水冷散熱器 | 空冷散熱器 | 風扇
    • 機殼 | 電源 | 配件
    • 顯示器
    • 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風
    • 筆記型電腦 | 桌上型電腦 | 電競掌機
    • 手機 | 分享器 | 無線網路
    • 顯示卡驅動 | 晶片組驅動
    • 其他硬體
  • 新聞
  • 新聞稿
  • 軟體
  • 聯絡

Copyright © © 2025 UNIKO's Hardware All rights reserved. | 網頁設計: 帶路姬數位科技有限公司.