AI 浪潮已席捲世界,台智雲在台灣 AI 超算年會中,基於開源大語言模型 BLOOM 推出「福爾摩沙大模型」(FFM-176B 及 FFM-7B);此次更全球首發「繁體中文強化版 FFM-Llama 2 大語言模型」,包含 70B、13B 及 7B 全系列,支援 Code Llama 程式開發與 Embedding 增強語意搜尋模型,提供雲端、地端及 AI PC 等多樣態大語言模型及完整 AFS (AI Foundry Service) 服務,加速企業 AI 2.0 落地應用。
台智雲推出 FFM-Llama 2 大語言模型
華碩雲端暨台智雲總經理吳漢章表示,「過去 30 年台灣 ICT 產業基於開放架構,一躍成為全球數位創新重要夥伴,在晶片、半導體、系統與資訊服務產業百花齊放。台智雲以開放模式提供可信賴大語言模型,累積 AI 超算功能及完整 AI 工具平台,降低企業進入門檻,加速 AI 2.0 應用;期待能與合作夥伴延續台灣產業優勢,實現普惠 AI、發展以人為本的智慧科技。」
台智雲 FFM-Llama 2 以最新大語言模型 Meta Llama 2 為基礎,藉由 AIHPC 超級電腦算力、高效平行運算環境與大語言模型切割技術,訓練大量台灣在地語料,大幅提升 FFM-Llama 2 繁體中文能力;全系列模型可進行微調、部署與推論,企業用戶亦能以自訂系統提示詞,讓AI模型思考更在地、更精準回應企業需求。
台智雲 AFS 推出全參數及高效率模型微調 (Parameter-Efficient Fine-Tuning;PEFT) 功能,在 GPTQ 4-bit 高性能壓縮技術最佳化下,提供經濟實惠的雲端或地端模型推論方案;「福爾摩沙大模型」發布至今,已服務超過 70 個大型企業,電信業者台灣大哥大便將智能客服導入生成式 AI 應用,未來可望擴展至集團不同產業面以精進客服效率。
利用台智雲「AIHPC 超級電腦服務」、「CCS (Container Compute Service) 容器運算服務內建生成式 AI 映像檔」、「AFS (AI Foundry Service) 企業級生成式 AI 解決方案」及「OneAI 機器學習 MLOps nocode AI 平台」4 大生成式 AI 算力平台,全方位滿足產業對生成式 AI 可信賴、可掌控、資料安全及地端部署需求。欲瞭解更多資訊請按此。