前沿智慧正邁向本地端。NVIDIA、Microsoft 與合作夥伴於 IFA 2026 攜手推出更快速的推論技術與全新工具，讓代理更容易在 NVIDIA 硬體上完成設定並於本地執行。全新精巧型 NVIDIA RTX Spark Windows PC 也將於 10 月登場，為 AI 愛好者、開發者與創作者提供更多選擇，同時讓功能強大的代理也能在本地安全運行。
NVIDIA IFA 2026 展示最新技術成果
本次重點包括：
- Hermes Agent、OpenClaw 與 Perplexity Portable Computer 即將支援更簡便的 NVIDIA GPU 本地 AI 設定方式。
- 本地推論效能最高提升 1.9 倍 —— 全新 llama.cpp 與 vLLM 最佳化現已推出，可直接使用，亦可透過 LM Studio 與 Ollama 使用。
- NVIDIA PAIR —— 一項個人 AI 路由器工具，可在使用者區域網路中的多台 PC 之間智慧分配 AI 推論工作負載。
- NVIDIA RTX Spark 將於 10 月登場 —— Lenovo 與 Acer 將推出全新 Windows PC。Electronic Arts、Embark 與 Ubisoft 也是最新一批將旗下遊戲大作帶上 NVIDIA RTX Spark 的遊戲發行商與開發商。
此外，本地 AI 日前也迎來多項重要更新：
- Nemotron 3.5 Lightning —— 這款全新推出的 300 億參數模型，可在 NVIDIA RTX PC、RTX PRO 工作站、DGX Spark 與 Jetson 上執行。立即開始使用 Nemotron 3.5 Lightning。
- Z.ai 的 GLM-5.3-Flash 是一款多模態混合專家 (MoE) 模型，將代理 AI 帶到 DGX Station。
- Qwen 推出 Qwen3.8-Flash-Next，這款開放權重多模態混合專家模型可在 DGX Spark 與 DGX Station 上於本地執行；同時推出的 Qwen3.8-27B 則是一款 270 億參數開放模型，並針對 NVIDIA GPU 上的本地代理與程式開發工作負載進行最佳化。
- LTX 的 LTX 2.5 是一款針對 NVIDIA RTX GPU、DGX Spark 與 DGX Station 最佳化的開放世界影片生成模型，並加入 NVFP4、FastVideo 與 ComfyUI 的全新強化功能，讓本地生成速度更快、記憶體使用效率更高。
- MiniMax-H3 是一款具同步音訊的開放權重影片生成模型，可透過 ComfyUI 在 NVIDIA GPU 上於本地執行。FastVideo 與 NVIDIA 研究人員進一步合作推出 FastH3，這款開放權重、採用四步驟蒸餾的版本可將效能提升 7 倍。針對 NVIDIA RTX GPU 與 DGX Spark 最佳化的 FastVideo 配方也即將推出。
- Meta 的 Muse Glimmer 是一款 300 億參數開放權重模型，專為程式開發與代理 AI 工作負載打造，可在 GeForce RTX PC、DGX Spark、DGX Station 與 Jetson 上於本地執行。NVIDIA 也已推出支援 DGX Spark 的 NVFP4 量化技術，進一步提升本地部署的記憶體使用效率。
- DeepSeek v4 Flash 是一款 2,840 億參數混合專家模型，具備 130 億個啟用參數，可在由兩台 DGX Spark 組成的叢集與 DGX Station 上於本地執行。
讓本地代理程式更輕鬆上手
過去，要搭配本地模型啟動並執行本地代理程式並不容易，包括選擇模型、尋找相容的推論伺服器、調整量化設定，以及持續將所有元件維持在最新狀態。如今，這些在 RTX 與 DGX 系統上的使用門檻正逐步消失。
三款普及率極高的代理應用程式將在 Windows 上提供更簡便的本地模型設定方式。三者皆以 llama.cpp 為基礎，並整合 NVIDIA 最新推論最佳化技術。全新設定體驗可減少手動設定步驟，讓本地代理程式更容易啟動與執行。
Perplexity 上個月推出 Portable Computer 代理程式，將模型、調度功能與工具整合至單一應用程式體驗中，讓使用者能在 NVIDIA DGX Spark 等 Linux 系統上輕鬆於本地執行 Perplexity。
Perplexity Portable Computer 現已支援搭載至少 24GB VRAM、執行 Linux 的 NVIDIA RTX GPU，Windows 支援亦即將推出，將同樣簡便的設定體驗帶給更多 PC 使用者。使用者可在本地執行完整工作流程而不會耗用額度；若需要額外的研究或推理能力，也可選擇將部分工作交由 15 種以上的前沿雲端模型處理。Portable Computer 會在將內容傳送至雲端前先徵求使用者同意，協助將敏感資訊保留在裝置上。以下為應用範例：
- 工程：檢閱已連結 GitHub 儲存庫中的未結 PR，並將其分類為可處理、受阻、過期或待審查，同時為每一項標示下一步行動。系統也會找出未與最新合併內容同步的文件並加以修正，再針對相關變更建立 PR。
- 財務：讓代理分析過去兩年的券商摘要、合併 1099 稅務表單與報稅資料，追查持續產生最多可避免費用與稅務成本的持股，並為每項數據精確註明來源檔案與頁碼。運作過程中，文件皆不會傳送至聊天機器人。
- 新創公司：詢問啟用率為何停滯不前，代理便會在本地分析漏斗匯出資料，找出新註冊使用者從安裝到完成第一項工作的過程中在哪個環節流失，再將最重要的洞察直接發布至團隊的 Slack 頻道。
Hermes Agent 由 Nous Research 開發，是一項廣受數百萬人使用的通用型代理，在可靠性與自我改良能力方面表現出色。Hermes 不受特定模型或供應商限制，專為在本地系統上長時間執行而打造，因此非常適合 RTX PC、RTX PRO 工作站與 DGX Spark。
在 Hermes 中設定本地模型時，Windows 上的 RTX 與 DGX 系統將提供一鍵式設定體驗。代理會自動偵測 NVIDIA GPU、選擇合適的模型與設定，並透過整合的 llama.cpp 執行，且已內建 NVIDIA 推論最佳化技術，免除手動下載模型與調校的繁瑣步驟。Linux 支援也即將推出。
Hermes 啟動後，操作方式與在其他環境中相同。它能使用工具、在不同工作之間維持上下文、跨工作階段記憶資訊，並隨著時間建立可重複使用的技能，讓代理在持續使用後變得更強大。透過 GPU 在本地執行模型，不僅能維持快速效能，也可讓資料留在系統中。
OpenClaw 已成為開放式代理浪潮中最具代表性的計畫之一，也是 GitHub 上規模最大的 AI 計畫，擁有超過 38 萬顆星。其快速成長的社群也持續為研究、工程、專案管理與日常生產力打造各種工具與技能。
NVIDIA、Microsoft 與 OpenClaw 持續合作，讓 Windows PC 上的設定體驗更加簡便。為降低初次使用門檻，OpenClaw Windows App 簡化了最佳化本地模型的設定流程，支援任何搭載至少 24GB VRAM 的 RTX GPU。
更快的推論效能 全方位提升本地代理體驗
推論效能是維持本地代理即時反應的關鍵。NVIDIA 持續與開源 llama.cpp 與 vLLM 社群合作，加速 NVIDIA 各款本地平台上的代理 AI 工作負載。
透過 GeForce RTX 5090 上的核心最佳化、強化的推測式解碼技術與更快速的預填充，llama.cpp 的吞吐量最高可提升 1.9 倍。
vLLM 在 RTX PRO 6000 Blackwell 工作站版本上可達 1.2 倍效能，在兩個 DGX Spark 叢集上則最高可達 1.4 倍。FlashInfer 全新的 XQA 注意力核心 (attention kernels) 與後端最佳化，也有助於加速這兩個平台上的推論。
這些效能提升現已可透過 llama.cpp 與 vLLM 推論後端使用；使用者也可透過 LM Studio 與 Ollama 應用程式體驗這些效能提升。
善用閒置 PC 透過 NVIDIA PAIR 擴充本地 AI 運算資源
超過半數美國家庭擁有兩台以上 PC，而其中許多運算資源在一天中的大部分時間都處於閒置狀態。NVIDIA Personal AI Router (PAIR) 是一項免費的開源軟體工具，可讓這些系統協同運作，共同處理本地 AI 工作負載。
代理工作流程通常會將複雜工作拆分成多個可平行執行的小型工作，但當所有要求都爭用同一顆 GPU 時，效能便可能下降。PAIR 會自動偵測區域網路中的相容 PC，並將彼此獨立的推論要求路由至仍有可用運算資源的系統。PAIR 可搭配 Ollama 與 LM Studio 使用，並能隨著裝置加入或離開網路動態調整資源分配。
例如，使用者可以請 Hermes 整理雜亂的收件匣，依照需要立即處理、可以稍後處理或可略過的項目進行分類，建立「週日重整 (Sunday Reset)」計畫。Hermes 可將工作分配給多個子代理，而 PAIR 則會將這些工作分散至可用的 PC，避免所有工作都集中在同一顆 GPU 上排隊等候。
如此一來，本地代理便能取得更多運算資源、平行執行更多工作；當主要系統正在進行遊戲、創作或其他工作時，也能彈性地將 AI 工作負載移至另一台 PC。
NVIDIA PAIR Beta 版現已支援 Windows、macOS 與 Linux，並提供圖形介面與終端機介面，可搭配 NVIDIA GeForce RTX 20 系列及更新款 GPU、NVIDIA RTX PRO 工作站 GPU (Turing 架構及更新版本)、NVIDIA DGX Spark，以及 Apple M4 或更新款晶片使用。
前往 NVIDIA 技術部落格，開始使用 NVIDIA PAIR。
透過 RTX Spark 上的 CyberLink PhotoDirector AI PC Mode 打造強大的裝置端相片編輯體驗
開放式影像與影片模型讓藝術創作者能直接在 PC 上運用創意 AI 模型進行實驗，得以更自由地反覆調整並探索各種概念與想法，不必擔心 Token 快速耗盡，同時也能讓更多創作內容保留在裝置端，更兼顧隱私。
CyberLink 全新 PhotoDirector AI PC Mode 是率先將這些擴散模型直接整合至創意軟體的應用程式之一，讓藝術創作者能更輕鬆運用這些模型進行創作。AI PC Mode 將導入 PhotoDirector 365，並針對即將推出的 NVIDIA RTX Spark 進行最佳化，提供生成式編輯、影像強化、物件與干擾元素移除、背景移除與替換、人像精修，以及生成全新視覺內容等 AI 編輯工具。使用者也可依據不同工作需求，彈性選擇在本地或雲端進行處理。
在 NVIDIA GPU 上，PhotoDirector 採用 TensorRT-RTX 與 FP8，加速本地 AI 工作負載。
立即開始使用 CyberLink PhotoDirector 365 相片編輯軟體，並進一步了解 PhotoDirector AI PC Mode。此模式將隨 RTX Spark 於 10 月推出。
NVIDIA RTX Spark Windows PC 將於 2026 年 10 月登場
NVIDIA RTX Spark 將於今年 10 月推出，合作夥伴也於 IFA 2026 展示最新硬體。此次新公布的設計將加入現有六家 OEM 廠商的陣容，並預計於 10 月出貨。Acer 展示精巧桌上型 RTX Spark 概念設計，Lenovo 則公布 Yoga Pro 9n 與 Yoga 9n 2-in-1。
RTX Spark 為 Windows PC 開啟全新篇章，一台 PC 即可滿足創作者、玩家與 AI 代理的需求。RTX Spark 搭載效能強大的 1 Petaflop RTX Blackwell GPU、最高 128GB 統一記憶體，以及高效率 20 核心 Grace CPU，帶來出色的效能與能源效率。這款超級晶片讓兼具高效能、輕薄設計與全天候電池續航力的筆記型電腦成為可能，也能讓精巧型桌上型 PC 驅動持續運作的代理。搭配全新 Windows Agent 框架，代理即可在作業系統層級的控管下，安全地於背景執行。
日前 Gamescom 期間，Electronic Arts、Embark 與 Ubisoft 成為最新一批將旗下遊戲大作帶上 NVIDIA RTX Spark Windows PC 的發行商與開發商，正式加入今年 5 月於 COMPUTEX 宣布支援 RTX Spark 的發行商行列，包括 KRAFTON、NetEase、Riot Games 與 Xbox。請參考更多資訊。
立即登記，在 RTX Spark 筆記型電腦與桌上型 PC 開賣時接收通知。
NVIDIA 本地 AI 更多最新消息
- NVIDIA 於 Gamescom 帶來全新 RTX 技術與遊戲 —— NVIDIA 推出 DLSS 4.5 光線重建，採用全新第二代 Transformer 模型，可進一步提升光線追蹤與路徑追蹤遊戲的影像品質。於 Gamescom 也公布《007 初露鋒芒 (007 First Light)》、《控制：共振 (CONTROL Resonant)》與《戰爭機器：事變日 (Gears of War : E-Day)》等遊戲的全新 RTX 消息，並進一步擴大即將推出的 NVIDIA RTX Spark 遊戲支援陣容。
- DeepSeek Harness 正式登場 —— DeepSeek 全新開源 Harness 搭配 DeepSeek-V4-Flash，可在 NVIDIA DGX Station 與多台 DGX Spark 組態上，驅動本地代理 AI 程式開發工作流程。
- MLPerf Client v2.0 擴充 AI PC 基準測試 —— MLCommons 與 NVIDIA 及其他產業領導者共同開發並推出 MLPerf Client v2.0。此次更新新增代理 AI 與影像生成基準測試，並擴充大型語言模型測試，以評估實際的本地 AI 工作負載。
歡迎在 X、Instagram、TikTok 與 Facebook 上追蹤 NVIDIA RTX Spark，並訂閱 NVIDIA Local AI 電子報，掌握最新消息。也歡迎在 LinkedIn 與 X 上追蹤 NVIDIA Workstation。
請參閱軟體產品資訊聲明。
