UL Solutions 宣布推出 Procyon AI Text Generation Benchmark,這是一個基於 LLM 的新 AI 基準測試,適用於有興趣量化本地 LLM 效能和能力的企業。
Procyon AI Text Generation Benchmark 登場
測試 AI LLM 性能可能非常複雜且耗時。還有許多變量,例如量化、轉換和輸入標記的變化,如果配置不正確,可能會降低測試的可靠性。
UL Solutions 與許多人工智慧軟體和硬體領導者密切合作,確保基準測試軟體能充分利用您系統中的本地人工智慧加速器硬體。
這個新的基準測試支援來自眾多供應商的硬體,支援 AMD、Intel 和 NVIDIA 的 DirectML 以及 Intel 的 OpenVINO 獨立 GPU。使用所有支援的 AI 模型 (Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B) 進行測試,讓您可以衡量各種 LLM 使用案例的效能。
Procyon AI Text Generation Benchmark 現已可供 Procyon AI Benchmark 擁有者使用,它是對 AI 影像生成和 AI 電腦視覺基準的補充。隨著本地人工智慧基準的範圍不斷擴大,UL Solutions 致力於讓 Procyon 成為企業、科技媒體和供應商衡量最新 PC 本地人工智慧效能的首選。