上個月,UL Solutions 致力於進一步開發人工智慧推理基準測試產品,發布了人工智慧圖像生成基準測試。今天,UL Solutions 在 AI 電腦視覺基準測試中加入了對 Core ML AI 推理引擎的支援。透過此更新,UL Procyon 現在可用於測量在 Apple Silicon 上執行 macOS 電腦的 AI 推理效能。
UL Procyon AI 現已適用 macOS
UL Procyon AI 電腦視覺基準測試提供了有關 AI 推理引擎如何執行的見解,幫助您決定支援哪些引擎,讓您想要使用的硬體和平台上實現最佳效能。該基準測試支援多種領先的人工智慧推理引擎,基準分數能反映設備上推理操作的性能。
使用 Core ML 在 macOS 上執行電腦視覺基準測試執行,與 Windows 上使用命令列執行 AI 推理工作負載相同。 macOS 上的基準測試為您提供了四種加速器組合來執行工作負載:
- CPU
- CPU + GPU
- CPU + Neural Engine
- All (CPU + GPU + Neural Engine)
目前,AI 電腦視覺基準測試中 AI 模型都受到目前 Mac 硬體中的 Neural Engine 和 GPU 的支援。在比較推理引擎時,除了原始性能之外,準確性也很重要。 推理精確度和效能之間存在顯著的權衡和差異,特別是在比較 FP16 和 INT 推理引擎的結果時。UL Solutions 已經執行了自己的測試,測量 Procyon AI 推理基準支援的推理引擎的準確性。關於詳細信息,請參閱 UL Solutions 基準測試網站上的頁面。
更新免費開放給所有擁有 UL Procyon AI 推理基準測試有效年度許可證的 UL Procyon 客戶,您只需更新到最新版本的 UL Procyon 即可存取它。