AI 赋能的编程助手为从学术项目到生产代码的各种项目提供实时协助，并针对 RTX AI PC 进行了优化。
编程助手 (AI 赋能的助手，可以建议、解释和调试代码) 正在从根本上改变经验丰富的开发者和新手开发者开发软件的方式。
经验丰富的开发者利用这些助手来专注于复杂的编程任务，减少重复性工作，并更快地探索新想法。新手程序员 (如学生和 AI 爱好者) 也可以受益于编程助手，这些助手可描述不同的实现方法或解释一段代码的功能和原理，从而加速学习。
编程助手可以在云环境或本地运行。基于云的编程助手可以在任何地方运行，但存在一些限制，并且需要订阅。本地编程助手不存在这些问题，但需要高性能硬件才能良好运行。
NVIDIA GeForce RTX GPU 可提供高效运行本地助手所需的硬件加速。
代码，遇上生成式 AI
传统软件开发包括许多单调乏味的任务，例如审阅文档、研究示例、设置模板代码、编写符合适当语法的代码、追踪错误和记录功能。这些任务是必不可少的，但可能会占用解决问题和设计软件的时间。编程助手有助于简化这些步骤。
许多 AI 助手与流行的集成开发环境 (IDE) (如 Microsoft Visual Studio Code 或 JetBrains 的 Pycharm) 相联，将 AI 支持直接嵌入到现有工作流中。
运行编程助手有两种方式：在云端或在本地。
基于云的编程助手需要将源代码发送到外部服务器，然后才能返回结果。这种方法可能会产生延迟，并施加使用配额。一些开发者更喜欢将代码保留在本地，特别是在处理敏感或私有项目时。此外，许多基于云的助手需要付费订阅才能解锁完整功能，这对于学生、业余爱好者和需要控制成本的团队来说可能是一个障碍。
编程助手在本地环境中运行，可免费提供以下功能：
在 RTX 上本地运行的编程助手具有众多优势。
开始使用本地编程助手
可以轻松在本地运行编程助手的工具包括：
● Continue.dev — VS Code IDE 的开源扩展，通过 Ollama、LM Studio 或自定义端点连接到本地大语言模型 (LLM)。该工具只需极少设置即可提供编辑器内聊天、自动补全和调试辅助。通过 Ollama 后端进行本地 RTX 加速，开始使用 Continue.dev。
● Tabby — 一款安全透明的编程助手，兼容多种 IDE，能够在 NVIDIA RTX GPU 上运行 AI。该工具提供代码补全、问答、行内交互编程等功能。在 NVIDIA RTX AI PC 上开始使用 Tabby。
● OpenInterpreter — 实验性但快速发展的界面，将 LLM 与命令行访问、文件编辑和代理任务执行相结合。是开发者执行自动化任务和 DevOps 式任务的理想选择。在 NVIDIA RTX AI PC 上开始使用 OpenInterpreter。
● LM Studio — 一款基于图形用户界面的本地 LLM 运行工具，提供聊天、上下文窗口管理和系统提示词。最适合在 IDE 部署之前以交互方式测试编程模型。在 NVIDIA RTX AI PC 上开始使用 LM Studio。
● Ollama — 一款本地 AI 模型推理引擎，能够对 Code Llama、StarCoder2 和 DeepSeek 等模型进行快速、私密的推理。它与 Continue.dev 等工具无缝集成。
这些工具支持通过 Ollama 或 llama.cpp 等框架提供的模型，并且许多工具现已针对 GeForce RTX 和 NVIDIA RTX PRO GPU 进行了优化。
了解 AI 辅助学习在 RTX 上的实际效果
Continue.dev 在一台搭载 GeForce RTX 的 PC 上运行，与 Gemma 12B Code LLM 配合使用，帮助解释现有代码、探索搜索算法和调试问题 — 全部都在本地完成。该助手就像一个虚拟助教，提供通俗易懂的指导、上下文感知的解释、行内注释以及针对用户项目量身定制的代码改进建议。
该工作流凸显了本地加速的优势：助手始终可用、即时响应并提供个性化支持，同时确保代码在设备上的私密性，使学习体验身临其境。
这种响应速度归功于 GPU 加速。Gemma 12B 这样的模型对计算的需求很高，特别是处理长提示词或跨多个文件工作时。在没有 GPU 的情况下，在本地运行这些模型可能会感觉很慢，即使是简单的任务也是如此。有了 RTX GPU，Tensor Core 直接在设备上加速推理，因此助手速度快、响应灵敏，能够跟上即时的开发工作流。
基于 Meta Llama 3.1-8B 模型运行的编程助手，在搭载 RTX 的笔记本电脑上的吞吐量比在 CPU 上快 5-6 倍。测试的数据是在 BS = 1、ISL/OSL = 2000/100、Llama-3.1-8B 模型量化为 int4 的情况下，每秒平均 Token 数。
无论是用于学术工作、编程训练营，还是个人项目，RTX AI PC 都能让开发者通过 AI 赋能的工具更快地构建、学习和迭代。
对于刚入门的用户，特别是正在培养技能或尝试生成式 AI 的学生，NVIDIA GeForce RTX 50 系列笔记本电脑采用专业 AI 技术，可独自胜任学习、创作和游戏的热门应用的加速。
加入 NVIDIA 的 Discord 服务器，与社区开发者和 AI 爱好者交流，探讨 RTX AI 的无限潜力。
每周，RTX AI Garage 系列博客都会为那些希望详细了解 NVIDIA NIM 微服务和 AI Blueprint 以及在 AI PC 和工作站上构建 AI 智能体、创意工作流、数字人、生产力应用等的用户提供社区驱动的 AI 创新和内容。
欢迎关注 NVIDIA 在微博、微信和哔哩哔哩的官方账号，获取最新资讯请订阅 RTX AI PC 新闻通讯。
请参阅有关软件产品信息的通知。
