UL Solutions 很高興宣布,Procyon AI 圖像生成基準測試將進一步擴展支援的 AI 推論技術,新增 Qualcomm AI Engine Direct (QNN) (INT8) 以及 AMD 最佳化版 ONNX (FP16)。
這些實作均與硬體廠商密切合作開發,旨在確保 AI 圖像生成效能的測量與比對能兼具可靠度與精確度,同時操作簡便,只需輕鬆按一下即可完成。
Procyon 新增推論引擎及支援 Windows on Arm
Procyon AI 圖像生成基準測試現已支援在特定 Windows on Arm 裝置上執行,並新增 Qualcomm AI Engine Direct (QNN) 推論引擎。此選項使用 INT8 精度權重量化模型,並搭配 INT16 啟用層 (activation layer)。
透過選擇比模型權重更高精度的啟用層,可在 Snapdragon X Elite 硬體上實現更加理想的圖像品質與效能平衡。
在比較不同推論引擎的測試結果時,同樣重要的是考量結果品質的差異。這可透過推論引擎生成的圖像視覺效果,以及 UL Solutions 網站上公佈的 Procyon AI 品質指標來衡量。
測試 AMD 最佳化 ONNX 於圖像生成效能
隨著新增支援 AMD 最佳化 ONNX FP16 模型,可用於 Stable Diffusion 1.5 和 Stable Diffusion XL,Procyon 圖像生成基準測試 (Windows 版本) 現已涵蓋針對 NVIDIA、Intel、AMD 及 Qualcomm AI 加速器最佳化的推論執行環境。
AMD 最佳化 ONNX 模型可應用於具備 獨立 GPU 或 內建 GPU 的系統。請參閱下方表格,了解支援的硬體與推論執行環境的詳細資訊。
由於 Procyon AI 基準測試已經能支援廣泛的推論技術,因此保持 Procyon 基準測試的更新非常重要。AI 推論軟體的更新可能帶來顯著的效能提升,這意味著使用舊版本的 Procyon 可能無法提供最準確的測試結果。
使用者可以前往 UL Solutions 網站,以深入了解更多 Procyon AI 圖像生成基準測試資訊。