當人工智慧聊天機器人的風潮開始興起時，大多數人使用的是連接到雲端伺服器的聊天機器人。不過，讓聊天機器人在PC 和智慧型手機上本地運行的趨勢越來越明顯。今天，NVIDIA 推出了一種新方法，讓Windows PC 用戶可以建立自己的大型語言模型AI 聊天機器人，並連接到本機儲存的內容。

NVIDIA 稱其為本地LLM Chat with RTX，現在該公司網站上提供了演示版。顧名思義，您的電腦必須配備NVIDIA GeForce RXT GPU 才能運行這個本機聊天機器人。以下是具體的硬體需求：

• 圖形處理器-NVIDIA GeForce RTX 30 或40 系列圖形處理器或NVIDIA RTX Ampere 或Ada 代圖形處理器，至少配備8GB VRAM
• 記憶體- 16GB 或更大
• 作業系統- Windows 11
• Geforce 驅動程式- 535.11 或更高版本

下載並安裝後，您就可以將”與RTX 聊天”應用程式與您本地儲存的內容（如文件、PDF 文件、視訊等）連接起來。然後，您就可以使用本機資料集向聊天機器人提問，這樣聊天機器人就能為您提供答案，而無需篩選所有資料。

此外，RTX 聊天工具還可以在一些YouTube 影片中找到資訊。您只需將視訊URL 複製到應用程式中，然後就視訊內容提問。Chat with RTX 會為您提供答案。

當然，像”與RTX 聊天”這樣的本地LLM 應用程式的最大特點是，您可以擁有一個人工智慧聊天機器人，而不會將資料傳輸到公司的雲端伺服器，以用於培訓和其他目的。這樣做的代價是，你需要一台相當強大的電腦來運作它。

NVIDIA 將”與RTX 聊天”應用程式標註為免費技術演示。這可能表明，該公司計劃在未來某個時候將其轉變為具有更多功能的付費或訂閱應用程式。