英特爾發布與國際奧委會 (International Olympic Committee，IOC) 合作的更多細節，透過產業應用導向的生成式 AI 檢索增強生成 (RAG) 解決方案，進一步展示如何透過搭載 Intel Gaudi 加速器和 Intel Xeon 處理器的開放式 AI 系統，協助開發者和企業因應 AI 熱潮所帶來的各種挑戰。
英特爾透過開放 AI 系統解決各種挑戰
英特爾執行副總裁暨資料中心與 AI 解決方案總經理 Justin Hotard 表示：「與國際奧委會的合作展現英特爾致力提高 AI 可用性的決心。藉由建構開放的競爭環境，鼓勵創新和創造力，英特爾協助開發者和企業打造客製化 AI 解決方案，帶來實際的應用成果。英特爾也透過開放且協作的生態系，改變幫助運動選手的方式，並與合作夥伴一起創造更多的可能性。」
為奧運選手打造的 AI 聊天機器人
取得奧運參賽資格對選手而言只是開始，為幫助全球 11,000 名來自不同語言和文化的奧運選手導航場館路線，並遵守賽事規範，奧委會與英特爾合作開發了一款 AI 聊天機器人 ── Athlete 365。這款聊天機器人採用由英特爾 Gaudi 加速器和 Xeon 處理器驅動的 RAG 解決方案，能夠回應運動員的問題並進行互動，並於運動員在巴黎奧運選手村停留期間按照需求提供相關資訊，讓選手得以專注於訓練與競賽。
布署生成式 AI 解決方案時會面臨成本、規模、準確性、開發要求、隱私與安全性等挑戰。其中，RAG 對生成式 AI 工作負載來說相當重要，它能夠讓企業安全地利用專有資料，提高 AI 輸出的及時性和可靠度，進一步提升 AI 應用的品質與實用程度，這對於現今以資料驅動的世界而言相當重要。
英特爾透過與 AI 平台、開放性標準以及強大的軟體生態系共同合作，使開發人員能夠針對企業需求開發客製化生成式 AI RAG 解決方案。此次合作也展現了英特爾致力於提供開放、多供應商、穩健且可彈性組合的生成式 AI 解決方案。
生成式 AI RAG 解決方案的運作原理
為實現輕鬆布署 RAG 應用，英特爾與產業夥伴合作打造一個開源、可互通的解決方案。該生成式 AI 解決方案，是一種建構在開放企業 AI 平台 (Open Platform for Enterprise AI，OPEA) 專案基礎之上的產業導向、開箱即用、生產就緒的 RAG 解決方案。在為企業資料中心提供簡化的 RAG 解決方案布署方法同時，該生成式 AI 整合解決方案整合了來自多個 OEM 系統和產業合作夥伴提供的一系列元件，能支援高度靈活性和客製化。
此生成式 AI 整合解決方案，把基於 OPEA 的微服務元件整合到可擴充的 RAG 解決方案中，以用於布署英特爾 Xeon 和 Gaudi AI 系統。可無縫擴充 Kubernetes 和 Red Hat OpenShift 等成熟的編排框架，並提供具安全性和系統遙測功能的標準化 API。
- 透過開源軟體堆疊打破專用限制：幾乎所有大型語言模型 (LLM) 都是基於由英特爾 Gaudi 和 Xeon 提供支援的高抽象框架 PyTorch 進行開發，簡化在英特爾 AI 系統或平台上進行的開發。英特爾與 OPEA 合作開發用於 RAG 和 LLM 布署的開放式軟體堆疊，使生成式 AI 整合解決方案最佳化，並使用 PyTorch、Hugging Face 服務程式庫 (TGI 和 TEI)、LangChain 和 Redis Vector 資料庫建構。
- 滿足開發者需求：OPEA 為企業提供開源、標準化、模組化和異質的 RAG 流程，專注於開放性模型的開發，以及對各式編譯器與工具鏈的支援。這樣的基礎加速了針對獨特垂直應用案例的容器化 AI 整合和交付。藉由打造一個位於技術堆疊最前端、具備各式細節且可組合的框架，OPEA 釋放了 AI 全新的可能性。
借助生成式 AI 整合且全面的企業 AI 堆疊，英特爾提供完整的解決方案，可解決在企業和資料中心內布署和擴充 RAG 和 LLM 應用的挑戰。利用英特爾支援的 AI 系統、平台以及 OPEA 中達成最佳化的軟體，企業能以更高效率、更快速度充分駕馭生成式 AI 的潛力。
未來進展
增加最新 AI 運算技術的可用性，是企業在利用生成式AI實現關鍵業務成果時面臨的挑戰。英特爾透過與產業合作夥伴和客戶的策略合作，為生成式 AI 和 RAG 解決方案所驅動的 AI 服務持續創造新的機會。
英特爾致力於安全、負責任地推動 AI 的發展，並宣佈與 Google、IBM 和其他產業夥伴合作，成立安全 AI 聯盟 (CoSAI)，目的在於強化 AI 開發和布署過程中的可信任度和安全性。
即將在 9/24 至 9/25 於美國加州聖荷西舉辦的年度 Intel Innovation 大會上，英特爾將透過 Granite Rapids 和 Gaudi 3 進一步展示 AI 系統的領先地位和合作夥伴動能。
