NVIDIA的ChatRTX聊天機器人現在支援Google Gemma 模型、語音查詢等功能
英偉達(NVIDIA)正在更新其實驗性ChatRTX 聊天機器人,為RTX GPU 用戶引入更多人工智慧模型。這個在Windows PC 上本地運行的聊天機器人已經可以使用Mistral 或Llama 2 來查詢個人文檔,但現在支援的AI 模型列表正在不斷擴大,包括Google的Gemma、ChatGLM3,甚至還有OpenAI 的CLIP 模型,讓它更容易搜尋機器上的照片。
NVIDIA 在今年2 月首次推出了ChatRTX,當時名為”Chat with RTX”,它是一款示範應用,需要配備8GB 或更大VRAM 的RTX 30 或40 系列GPU 才能運作。該應用程式本質上是創建一個本地聊天機器人伺服器,可以透過瀏覽器訪問該伺服器,並輸入本地文檔甚至YouTube 視頻,從而獲得一個強大的搜尋工具,其中包含對您自己資料的總結和問題解答。
Google的Gemma 型號專為直接在高配筆記型電腦或桌上型電腦上運行而設計,因此將其納入ChatRTX 非常合適。 NVIDIA 的應用消除了在本地運行這些模型的一些複雜性,由此產生的聊天機器人介面可讓您在不同模型之間進行選擇,以便找到最適合您想要分析或搜尋的資料的模型。
ChatRTX 可從NVIDIA 網站下載,容量為36GB,現在也支援基於通用語言模型框架的開放式雙語(英文和中文)大型語言模型ChatGLM3。此外,還添加了OpenAI 的對比語言-圖像預訓練(CLIP),可讓您搜尋本地照片資料並與之交互,從而對模型進行圖像識別訓練。
最後,NVIDIA 也更新了ChatRTX,以支援語音查詢。 NVIDIA 整合了人工智慧語音辨識系統Whisper,讓使用者可以使用語音搜尋資料。