挑战OpenAI！NVIDIA官宣AI聊天机器人，本地RTX就可运行

今天小编分享的科技经验：挑战OpenAI！NVIDIA官宣AI聊天机器人，本地RTX就可运行，欢迎阅读。

近年来，人工智能技术的飞速发展，催生了各种各样的创新应用。在这之中，AI 聊天机器人的发展在各个行业领網域中都展现出了巨大的潜力。那最近，作为全球领先的显卡制造商 NVIDIA 则宣布推出一款 AI 聊天机器人 "Chat with RTX"。根据描述，该机器人能够与用户进行自然、流畅的对话，最重要的是只需本地的 RTX 显卡即可运行。

Chat with RTX 借助检索增强生成（RAG）、NVIDIA TensorRT-LLM 軟體及 NVIDIA RTX 加速技术，将生成式 AI 功能引入由 GeForce 赋能的本地 Windows PC。相比于现在市面上主流的 AI 聊天，它并非是在网页和 APP 中运行，用户需要将其下载到个人电腦中。这样在效果上不仅运行速度会更快，在使用上也不会受太多外部因素的限制，真正意义上的本地运行。

用户可快速轻松地将桌面端上的资料当成数据集，连接到 Mistral 或 Llama 2 这一类开源大型语言模型，以便快速查询与上下文有关的内容。

这款 AI 聊天机器人不仅具备了出色的语义理解和自然语言的生成能力，还能够根据用户的需求提供个性化的服务和答复。用户可以加入 YouTube 视频和播放列表里的信息，在 Chat with RTX 里加入视频网址，并根据视频中的内容进行你想要的提问，它便会以极快的速度进行回复。这一突破性的技术将进一步推动人机互動的革新，并有望在智能助手、在线客服、教育辅助等领網域发挥重要作用。

作为人工智能领網域的巨头之一，OpenAI 一直以其先进的技术和研究成果著称，其开发的 GPT 系列模型在自然语言处理领網域表现出了惊人的能力。然而如今，NVIDIA 推出的最新 AI 聊天机器人 Chat with RTX 也展现出了强大的竞争实力，尤其是其能够在本地运行的特点，为用户提供了更多的选择和便利。

Chat With RTX 的用法很简单，只需一个下载安装的动作，就可以在自家的电腦上进行使用。当然除了要搭配 30 系以上的 GPU 之外，使用 Chat with RTX 还需要搭配作業系統 Windows 10 或 11 以及最新的 NVIDIA GPU 驱动。在大小上也需要用户空出约至少 35G 以上的空间大小，各位在安装上还请不要忘记检查下自己的硬碟空间是否充足。此外安装的过程对于网络也有严格的限制，想要体验的朋友可以看看自己是否满足以上条件。

如果说之前人们不使用 Chatgpt 等 AI 对话的技术，是担心泄露私人隐私于云端伺服器。那 Chat with RTX 是基于深度学习技术和大规模数据训练而成的，借助于强大的 RTX 显卡，在本地环境下即可运行，无需依赖于云端伺服器。你唯一需要的或许就只是配备好 GeForce RTX 30 系列或更高版本的 GPU（至少 8GB 显存）即可。

全新影驰 GeForce RTX 40 SUPER 系列 GPU 包括 GeForce RTX 4070 SUPER、4070 Ti SUPER 和 4080 SUPER，在 AI 工作负载方面，GeForce RTX 4080 SUPER 生成视频的速度比 RTX 3080 Ti 快 1.5 倍，生成影像的速度比 RTX 3080 Ti 快 1.7 倍。作为在 PC 上体验 AI 最佳的显卡系列，专用 AI Tensor Core 可提供高达 836 AI TOPS，在游戏、创作和日常工作等方面提供革命性的 AI 性能。