AMD 的 AI 策略著重於透過廣泛的訓練和推論運算引擎組合、開放且成熟的軟體功能來支援產業體系,並透過共同創新培育 AI 產業體系。目前 Meta 發佈全新的 Llama 3 語言模型,AMD Ryzen AI PC 和 Radeon 7000 系列顯示卡的使用者,將能利用 LM Studio 在本機上執行這款語言模型,無需透過網路,保障資料安全與隱私。
AMD Radeon RX 7000 可執行 Meta Llama 3
透過搭載 AMD Ryzen AI 的 AI PC 或 AMD Radeon RX 7000 系列顯示卡,AMD 客戶無需任何程式開發技能,即可完全在本機體驗 Meta 近期發佈的 Llama 3 模型,其為 Meta 迄今為止功能最強的開源模型,在 HumanEval、GPQA、GSM-8K、MATH 和 MMLU 基準測試中取得出色的成績。Llama 3 具備 80 億和 700 億參數模型,前者適用於客戶使用案例,後者適用於更多的資料中心和雲端使用案例。
AMD Ryzen 7040 系列行動處理器 (Ryzen 5 7540U 和 Ryzen 3 7440U 處理器除外) 和 AMD Ryzen 8040 系列行動處理器 (Ryzen 5 8540U 和 Ryzen 3 8440U 處理器除外) 配備了專為處理新興 AI 工作負載而設計的神經網路處理器 (NPU)。高達 16 NPU TOPS (每秒兆次運算) 的處理效能讓使用者以卓越的能源效率執行 AI 工作負載。AMD Ryzen AI APU 更包括 CPU 和 iGPU,用於處理隨需 (on-demand) 任務。
AMD 將繼續致力於推進 AI,讓各行各業都能使用新一代 AI 模型,並從 AI 中全面獲益。而 AMD AI PC 讓每個人都能從 AI 消費性應用的成長中受益。
欲了解更多關於 AMD Ryzen AI 的資訊,請參閱此連結。欲了解更多關於 AMD Ryzen AI PC 的資訊,請觀看此影片。欲了解如何在 AMD 硬體上快速輕鬆地執行 Meta的Llama 3 Instruction 80 億參數模型,請參閱 AMD 部落格文章。