今天小編分享的互聯網經驗:Nvidia推出本地版聊天機器人“Chat with RTX”,歡迎閲讀。
據悉,英偉達(Nvidia)已于近日發布了名為 "Chat with RTX" 的 Demo 版個性化 AI 聊天機器人,并在其海外官網渠道中提供了下載鏈接。
據了解,這是一款适用于 Windows 平台的聊天機器人,由 TensorRT-LLM 提供支持,完全在本地運行。據官網信息顯示,想要安裝該聊天機器人應用,用户的系統配置需使用 Nvidia 的 30 系 /40 系顯卡(或 Ampere/Ada 架構的其他顯卡),且顯存至少為 8GB。此外,用户 PC 的也需為 16GB 及以上的運行内存、Win 11 系統、535.11 或更高版本的顯卡驅動。
據了解,Chat with RTX 支持多種檔案格式,包括文本、pdf、doc/docx 和 xml。只需将應用程式指向包含檔案的檔案夾,該聊天機器人就會在幾秒鍾内将其加載到庫中。此外,用户還可以提供 YouTube 播放列表的 URL 鏈接,該應用程式将加載播放列表中視頻的轉錄,使用户能夠查詢它們涵蓋的内容。
有觀點指出,從官方描述來看,用户可以通過不同的查詢,與使用 ChatGPT 相同的方式使用 Chat With RTX,但生成的結果将完全基于特定數據集,似乎更适用于生成摘要、快速搜索文檔等操作。(參考來源:IT 之家)。