随着ChatGPT在2022年11月底的正式发布，AI工具可以说是正式出现在了大众的视野。随后AI技术开始呈现井喷式的发展，诞生了许多功能各异的AI软件。NVIDIA作为PC领域的领军者，自然也研究了许多有用的AI工具。先前只能基于NVIDIARTX的云端服务器使用的ChatWith RTX ，目前也已经支持在WindowsRTX PC或工作站上进行本地部署。这不仅极大地提升了搜索效率，更重要的是，它让用户在处理敏感资料时，无需再将数据上传至第三方或连接至网络，从而确保了用户在使用过程中的安全性。特别是对于耕升GeForceRTX 40SUPER系列显卡的用户来说，他们不仅在日常游戏中享受到了流畅的帧数体验，更在使用NVIDIA的AI工具时，感受到了显著的速度提升。
ChatWith RTX 促进了用户数据（无论是文档、笔记、视频还是其他形式的内容）与LLMs之间的直接连接，增强了其对上下文的理解和个性化。通过检索增强生成（RAG）、TensorRT-LLM和RTX加速，用户可以与定制的聊天机器人交流，快速获取根据其内容定制的答案。同时，用户可以快速轻松地将桌面端上的资料作为数据集，连接到Mistral或Llama2 这一类开源大型语言模型，以便快速查询与上下文有关的内容。
ChatWith RTX支持多种文件格式，包括文本文件、PDF、DOC/DOCX和XML，实现了流程的简化。只需在应用程序中指定包含目标文件的文件夹，几秒钟内，应用程序即可将它们加载到库中。
ChatWith RTX还支持用户输入视频网站YouTube播放列表的URL，使应用程序自动转录视频的内容，以进行查询，进一步丰富了对话体验。相信后续也会进一步支持国内视频网站的使用。
此外，对于开发者而言，ChatWith RTX是在GitHub上的TensorRT-LLMRAG 开发者参考项目基础上构建的。开发者可以从这个参考项目中获得灵感，打造和部署适用于RTX、基于RAG的应用，并由TensorRT-LLM加速，开启人工智能互动的新时代。
当然，强大的功能也需要优秀的硬件支持。要通过本地部署使用ChatWith RTX，用户需要搭载GeForceRTX 30 系列或更高版本的GPU（至少8GB显存），并且操作系统需要在Windows10 或者11，并更新至最新的NVIDIAGPU 驱动。
在此推荐最近发布的耕升GeForceRTX 40 SUPER系列显卡。该系列显卡搭载NVIDIAAda Lovelace架构，效能较上代显卡有着大幅提升。强大的AI性能能够帮助用户在使用ChatWithRTX和StableDiffusion时提升渲染速度，更快一步获得结果。而在游戏方面支持多项RTX技术，包括NVIDIADLSS 3.5和光线追踪技术，使游戏画面更加逼真细腻。
其中耕升GeForceRTX 4070 SUPER星极皓月OC外壳采用纯白的全金属设计，外观皎洁纯净。再加上全新的三风扇散热器仿佛冰霜般凛冽，为用户呈现出不同寻常的视觉和性能盛宴。对于对电竞游戏、生产力应用和AI创作有高需求的用户来说，这款显卡一定会是一个令人满意的选择。
