UNIKO's Hardware
  • 評測
    • 處理器
    • 主機板
    • 顯示卡
    • 記憶體
    • 儲存 | SSD | HDD | 外接盒
    • 水冷散熱器 | 空冷散熱器 | 風扇
    • 機殼 | 電源 | 配件
    • 顯示器
    • 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風
    • 筆記型電腦 | 桌上型電腦 | 電競掌機
    • 手機 | 分享器 | 無線網路
    • 顯示卡驅動 | 晶片組驅動
    • 其他硬體
  • 新聞
  • 新聞稿
  • 軟體
  • 聯絡
  • ZH-TW
    • ZH-TW
    • ZH-CN
    • EN
    • JA
    • KO
No Result
View All Result
UNIKO's Hardware
No Result
View All Result
UNIKO's Hardware
Home 新聞稿

NVIDIA Chat With RTX 讓使用者輕鬆打造聊天機器人

自己的個性化 GPT 聊天機器人自己做

Press Release by Press Release
2024-02-19
in 新聞稿
0
Share on FacebookShare on Twitter
Press Release

NVIDIA Chat With RTX 讓使用者輕鬆打造聊天機器人

在配備 NVIDIA GPU 的雲端伺服器的支援下,全球每天有數百萬人都在使用聊天機器人。現在這些開創性工具將出現在搭載 NVIDIA RTX GPU 的 Windows PC 上,以便讓使用者在本機端快速使用量身打造的生成式人工智慧 (AI)。

NVIDIA 現已開放免費下載的技術展示內容 Chat with RTX,透過本機端的 NVIDIA GeForce RTX 30 系列或更高規格的 GPU,且具備 8GB 以上視訊隨機存取記憶體 (VRAM),可以讓使用者以自己的內容打造個人專屬的聊天機器人,更能維持隱私性,不用把資料上傳到網路。

NVIDIA Chat With RTX 正式開放下載 

Chat with RTX 利用檢索增強生成 (RAG)、NVIDIA TensorRT-LLM 軟體及 NVIDIA RTX 加速技術,將生成式 AI 功能引入有著 GeForce 技術支援的 Windows PC。使用者可以快速、輕鬆地將 PC 本機端上的檔案當成資料集,連接到 Mistral 或 Llama 2 這一類開源大型語言模型,以便快速查詢與上下文有關的答案。

使用者無需搜尋筆記或儲存的內容,只要在 Chat with RTX 工具輸入查詢內容,如「我的夥伴推薦拉斯維加斯的哪一間餐廳」等,該工具就會掃描使用者指向的本機端檔案,並且按照上下文提供答案。

Chat with RTX 工具支援包括 .txt、.pdf、.doc / .docx 和 .xml 在內的多種檔案格式,將應用程式指向有著這些檔案的資料夾,Chat with RTX 工具就會在幾秒鐘內將它們載入到檔案庫中。

此外,使用者還能加入 YouTube 影片和播放清單裡的資訊。在 Chat with RTX 工具裡輸入影片網址,使用者便能整合這些知識與聊天機器人,並進行上下文查詢,例如根據使用者最喜歡的網紅發布的影片內容推薦的旅遊資訊,或是依照頂尖學習資源獲得教學影片和操作方法。

Chat With RTX

Chat with RTX 可以在 Windows RTX PC 和工作站上以本機端的方式運行,能夠快速提供查詢結果,且使用者的資料仍能保留在裝置上。與依賴雲端環境的 LLM 服務不同,Chat with RTX 無需分享給第三方或是連結到網路,能讓使用者在 PC 本機端上處理敏感資料。

Chat with RTX 的使用需配備 GeForce RTX 30 系列或更高版本 GPU 且具備 8GB 以上的 VRAM ,並搭配作業系統 Windows 10 或 11 和最新的 NVIDIA GPU 驅動程式。

使用 RTX 開發以 LLM 為基礎的應用程式

Chat with RTX 展現出利用 RTX GPU 加速 LLM 的潛力,這款應用程式使用 GitHub 上的 TensorRT-LLM RAG 開發者參考專案構建而成。開發者可以使用該參考專案,為 RTX 開發和部署以 RAG 為基礎的私人應用程式,並且由 TensorRT-LLM 進行加速。深入瞭解如何建立以 LLM 為基礎的應用程式。

NVIDIA RTX PC 生成式人工智慧開發人員競賽活動現正火熱展開中,參賽者在 2/23 (五) 前繳交一款由生成式 AI 支援的 Windows 應用程式或外掛程式,就有機會贏得 GeForce RTX 4090 GPU、NVIDIA GTC 大會全程現場演講通行證等多項好禮!深入瞭解 Chat with RTX。

Tags: NVIDIA
Previous Post

AMD Software : Adrenalin Edition 24.2.1 驅動發布重點整理

Next Post

LGA1700 工控系統專用!映泰推出 BIOSTAR BIH61-AHA 工控主機板

Press Release

Press Release

原廠新聞稿編輯

Next Post
LGA1700 工控系統專用!映泰推出 BIOSTAR BIH61-AHA 工控主機板

LGA1700 工控系統專用!映泰推出 BIOSTAR BIH61-AHA 工控主機板

大容量 16GB VRAM!ASUS Dual Radeon RX 7600 XT 顯示卡榮耀上市

大容量 16GB VRAM!ASUS Dual Radeon RX 7600 XT 顯示卡榮耀上市

專業獲得國際肯定!兆勤科技成為全球唯一取得最高等級 CNA 的網通品牌

專業獲得國際肯定!兆勤科技成為全球唯一取得最高等級 CNA 的網通品牌

發佈留言 取消回覆

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

ROG-玩家共和國專頁
Cloudways 主機

關於我們

UNIKO’s Hardware Follow us for the latest PC hardware news, unboxing, reviews and everything in-between!

UNIKO’s Hardware 玩家觀點看產品,真實呈現! 華人圈最可愛的電腦硬體評測開箱、3C業界新聞、電腦改裝、遊戲電競!

熱門標籤

主機板 (213) 儲存 | SSD | HDD | 外接盒 (69) 其他硬體 (7) 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風 (100) 手機 | 分享器 | 無線網路 (45) 新聞 (3887) 新聞稿 (1548) 機殼 | 電源 | 配件 (125) 水冷散熱器 | 空冷散熱器 | 風扇 (112) 筆記型電腦 | 桌上型電腦 | 電競掌機 (47) 處理器 (116) 記憶體 (60) 評測開箱 (1508) 軟體 (516) 顯示卡 (195) 顯示卡驅動 | 晶片組驅動 (346) 顯示器 (10)

熱門架站軟體教學

  • 什麼是 WordPress?
  • WordPress 架站的五大步驟
  • WordPress 三大新手主機完整比較
  • 如何用 WordPress 自架部落格
  • 如何用 WordPress 自架形象官網
  • 如何用 WordPress 自架型錄購物網站
  • 評測
  • 新聞
  • 軟體
  • 聯絡

Copyright © © 2025 UNIKO's Hardware All rights reserved. | 網頁設計: 帶路姬數位科技有限公司.

No Result
View All Result
  • 評測 & 開箱
    • 處理器
    • 主機板
    • 顯示卡
    • 記憶體
    • 儲存 | SSD | HDD | 外接盒
    • 水冷散熱器 | 空冷散熱器 | 風扇
    • 機殼 | 電源 | 配件
    • 顯示器
    • 周邊 | 鍵盤 | 滑鼠 | 耳機 | 麥克風
    • 筆記型電腦 | 桌上型電腦 | 電競掌機
    • 手機 | 分享器 | 無線網路
    • 顯示卡驅動 | 晶片組驅動
    • 其他硬體
  • 新聞
  • 新聞稿
  • 軟體
  • 聯絡

Copyright © © 2025 UNIKO's Hardware All rights reserved. | 網頁設計: 帶路姬數位科技有限公司.