近期大型語言模型 (Large Language Model，LLM) 及生成式 AI (Generative AI) 的快速發展，開啟新世代 AI 新範疇。台智雲領先全台宣布成為第一個成功建置 1,760 億個參數的 BLOOM (BigScience Large Open-science Open-access Multilingual Language Model) 大模型，推出「AI 2.0 大算力顧問服務」一站式整合方案，整合新世代 AI 的基礎建設、開發環境及專業技術團隊服務。企業可透過台智雲服務快速投入 AI 應用研發，搶先進入 AI 2.0 世代。
台智雲 AI 2.0 一站式服務降低企業 AI 應用開發成本
台智雲技術長陳忠誠指出：「AI 技術結合大型語言模型已是產業科技發展的趨勢，企業要單獨執行 LLM 專案的難度極高，利用一站式 AI 2.0 大算力顧問服務，可更專心投入研發專案，大幅降低進入門檻。台智雲AIHPC高速運算平台結合技術資源團隊，以全新的服務模式，提供完整的 AI 外部支援，現今已有高科技研發製造、金融和零售領域企業正在洽談合作中。」
以台智雲完成的 BLOOM 大模型成果為例，資料集包含 46 種人類語言、13 種程式語言，參數量達到 1,760 億個，整體資料量高達 1.5TB 以上，運用了 840 個 GPU 做跨節點 (node) 訓練，除了效能逼近線性理論值外，也可收斂訓練結果，若欲增加效能，亦能用線性的方式擴容 (scale out)，增加 GPU 來提升平行運算能力。此外，企業自行推動 LLM 專案，需熟悉分布式訓練架構、建置 AIHPC 高速運算系統、理解微調技術 (fine-tune)、大模型推論 (inference)，布建門檻極高，若使用「AI 2.0大算力顧問服務」，可快速降低投入時間、技術成本、開發風險、硬體設備和人力投資等成本，打造自有生成式 AI 應用。欲了解台智雲「AI 2.0 大算力顧問服務」資訊請按此。
