NVIDIA 推出了 ChatRTX，这是一种实验性 AI 聊天机器人，可让用户与 Windows PC 上的本地数据进行交互。
该程序因其直接在用户计算机上运行大型语言模型 (LLM) 的能力而脱颖而出，提供了隐私和处理能力的独特结合。 现在，通过添加 Google Gemma 模型和语音查询支持，ChatRTX 获得了更多功能。
ChatRTX 提供具有全球野心的本地聊天
如今，聊天机器人多如牛毛，许多设备中都集成了 Siri 和 Alexa 等虚拟助手。 然而，这些助手依赖于基于云的处理，这意味着您的查询和数据会传输到远程服务器。 ChatRTX 采用了不同的方法。 它创建了一个可通过网络浏览器访问的本地聊天机器人服务器，使您无需离开电脑即可与数据进行交互。
这种本地处理有几个优点。 首先，它确保您的数据隐私始终处于您的控制之下。 其次，它不需要持续的互联网连接，使得 ChatRTX 即使在离线情况下也可以使用。
运行 Gemma 和 ChatGLM3
最初，ChatRTX 为用户提供了两种 LLM 的选择： 米斯特拉尔 和 骆驼2。 这些模型允许用户分析文档、生成创造性的文本格式并根据他们提供的信息回答问题。 通过最新的更新，ChatRTX 显着扩展了其 LLM 库。 第一个主要补充是 谷歌的 Gemma 模型。 Gemma 专为功能强大的笔记本电脑和台式机而设计，将 Google 人工智能研究的功能直接引入 ChatRTX。 这种集成简化了在本地使用 Gemma 的过程，为用户提供了一个强大的工具，用于从其个人数据集合中执行信息检索和问答等任务。
除了 Gemma 之外，ChatRTX 现在也支持 聊天GLM3，一个独特的法学硕士，具有双语能力。 ChatGLM3 可以理解并生成英文和中文文本，这使其成为使用这些语言数据的用户的宝贵工具。 LLM 选项的扩展使用户能够根据自己的特定需求选择正确的模型，无论是分析英文文档、理解中文网页还是生成创意文本格式。
无需键盘即可与您的机器聊天
ChatRTX 的另一个令人兴奋的新增功能是其新发现的理解语音查询的能力。 此功能由 耳语，先进的自动语音识别系统。 Whisper 使用 AI 将口语转换为文本，允许用户通过语音命令与 ChatRTX 进行交互。 这种免提方法为以更自然、直观的方式与本地数据交互打开了大门。
想象一下，仅使用您的语音即可要求 ChatRTX 总结您扫描的文档或从电子表格中请求信息。 通过 Whisper 的集成，这些场景在 ChatRTX 环境中成为现实。
如何使用 ChatRTX
ChatRTX 专为 Windows 11 PC 设计，但它有特定的硬件要求。 为了顺利运行该程序，您需要一台配备以下功能的计算机：
- 至少 16GB RAM
- 强大的 NVIDIA GeForce RTX 30 或 40 系列显卡，至少具有 8GB VRAM
下载和设置
- 前往 NVIDIA 官方网站。 寻找 聊天RTX下载 部分。
- 下载 ChatRTX 安装程序并按照屏幕上的说明完成设置过程。
准备您的数据
ChatRTX 与本地计算机上存储的信息进行交互。 在使用 ChatRTX 之前，请确保您要分析的数据已组织好且可访问。 这可能涉及将您的文档、电子邮件、电子表格和其他相关文件存储在指定的文件夹中。
启动 ChatRTX 并选择法学硕士
- 设置完成后，启动 ChatRTX。 该程序创建一个可通过网络浏览器访问的本地服务器。
- ChatRTX 提供多种大型语言模型 (LLM) 可供选择。 最初，它提供了 Mistral 和 Llama 2，两者在文档分析、创意文本生成和问题回答方面各有优势。 最新更新引入了Google的Gemma模型和ChatGLM3（英汉数据双语模型）。
将您的数据提供给 ChatRTX
- ChatRTX 不会直接访问您的整个硬盘驱动器。 相反，您需要指定包含您希望法学硕士分析的数据的文件夹。 然后程序会将信息加载到其库中。
与 ChatRTX 交互
与 ChatRTX 交互的主要方式有两种：
-
文字提示： 您可以直接在 ChatRTX 界面中输入您的问题或说明。 清晰简洁地表达您的提示，指定您希望法学硕士如何处理您的数据。
-
语音查询（新功能）： 最新更新引入了由自动语音识别系统 Whisper 提供支持的语音查询支持。 单击 ChatRTX 中的麦克风图标并说出您的问题或说明。 Whisper 会将您的语音转换为文本，让您免提与 ChatRTX 进行交互。
一旦您向 ChatRTX 提供数据并提供提示或问题，所选的法学硕士将分析信息并在 ChatRTX 界面中提供结果。 结果的格式将取决于您提供的提示类型。 它可以是摘要文档、问题的答案，甚至是根据您的指示创造性生成的文本格式。
随着 NVIDIA 继续开发 ChatRTX，该平台如何发展将会很有趣。
未来会整合更强大的法学硕士吗？
ChatRTX 能否将其功能扩展到文本分析之外，并整合图像或音频处理工具？
只有时间才能证明一切，但 ChatRTX 当前的更新表明了 NVIDIA 致力于突破本地 AI 交互界限的承诺。
特色图片来源: 英伟达
