Intel Gaudi 2 AI 加速器成為 NVIDIA 晶片的最有力替代選擇，新的 Demo 示範使用 Llama 2 生成文字的強大能力。
Intel Gaudi 2：AI 加速新里程碑
Intel 的 Gaudi 2 AI 加速器展現出對 NVIDIA 晶片的強大競爭力，Hugging Face 展示了其使用 Llama 2 模型的文字生成能力。Gaudi 2 加速器在使用開源 Llama 2 大語言模型 (LLMs) 進行文本生成時，可支援到 70B 版本，展現 Intel 意圖在 AI 軟體生態系統中攻城掠地的野心。
最新的 Demo 裡，Hugging Face 展示使用相同的 Optimum Habana 管道和 Intel Gaudi 2 AI 加速器輕鬆生成文本的過程，不僅證明 Gaudi 2 能接受單個 / 多個提示，而且使用起來非常簡單，還可以在指令碼中處理自定義擴充元件。
隨著生成式 AI (GenAI) 革命的全面展開，使用開源大型語言模型如 Llama 2 進行文字生成已成為熱門話題。AI 愛好者以及開發人員正在尋求利用這些模型的生成能力來滿足他們自己的需求和應用，Hugging Face 的介紹文章裡也有步驟教學，有興趣的話可以參考之。
Intel 致力於在未來幾年加速其 AI 部門的發展。今年，該公司計劃導入第三代 Gaudi，即 Gaudi 3，預計將使用 5nm 製程，據報導將比 NVIDIA H100 速度更快、且價格更便宜。另外，該公司也計劃在下一代 Falcon Shores GPU 上實現自行設計，預計在 2025 年推出。
Intel 的 Gaudi 2 AI 加速器為 AI 文字生成帶來新的可能性，並證明其在生成式 AI 領域的競爭力。隨著技術的不斷發展和新一代 AI 加速器的推出，期待見證更多創新和應用的實現。
延伸閱讀
