JetBrains 基于人工智能的编程助手 Junie Local 自第一天起便可在 NVIDIA RTX Spark 平台上使用,同时,Windows 对配备至少 24 GB 显存的 RTX 显卡的支持也已进入稳定阶段。这使该代理能够在本地运行,读取代码、修改文件并运行测试,而代码无需离开设备。
RTX Spark 采用 Blackwell 架构图形处理器与 Grace 处理器,旨在让轻薄笔记本电脑和小型台式机运行更大的本地模型。根据 JetBrains 在该平台上的初步测试,Junie Local 的生成速度达到每秒 55 个令牌,同时针对推理的进一步优化仍在进行中。
实际会发生什么变化?
Junie Local 会根据图形处理器可用的内存自动调整上下文窗口大小。内存越大,代理在执行任务期间就能保留更多代码、工具输出和对话记录。它还会利用 Blackwell 中的 Tensor 核心高效执行 FP8 计算,并使用推测解码预先生成多个令牌,然后对它们进行统一验证。
据 JetBrains 介绍,本地体验不收取令牌费用,也没有使用配额,不要求订阅、注册账户或提供支付卡。不过,性能以及保留长上下文的能力仍取决于可用的硬件内存。
Windows 支持与要求
Junie Local 于 8 月发布时,要求使用配备 M5 芯片和 64 GB 内存的 Mac 电脑。9 月,JetBrains 为配备 24 GB VRAM 的 NVIDIA RTX 显卡推出了实验性支持,并在现在宣布该支持已稳定。
目前,该程序可在运行 Windows on Arm 的 NVIDIA RTX Spark 设备上使用,也可在配备 Ampere 或更新架构 RTX 显卡、且显存不少于 24 GB 的 Windows x64 电脑上使用,例如配备 32 GB 显存的 RTX 3090、RTX 4090 和 RTX 5090。运行该程序还需要 581 或更高版本的 NVIDIA 驱动程序,以及约 20 GB 的可用存储空间。
模型与使用方式
安装工具会自动重新构建设备配置,检查图形处理器和驱动程序,然后安装优化后的推理引擎、模型以及 Junie 集成。用户可以在 Qwen3.6-27B 与 Qwen3.8-3.6-27B-blend 之间进行选择。JetBrains 表示,后者是一个融合模型,将 Qwen3.8 的大部分编程能力与比 Qwen3.6 更短的推理结合起来。
要在 Windows 上开始安装,JetBrains 提供了 PowerShell 命令。启动 Junie 后,可以使用 /model 命令选择模型。随后,程序会下载所需组件、运行本地引擎,并将会话切换到该引擎。
限制与后续计划
本地支持并不意味着所有显卡或模型都能提供相同的体验;上下文大小和生成速度取决于内存与硬件。此外,每秒 55 个令牌这一数字只是初步基线,并非最终性能标准。JetBrains 表示,正在致力于增加更多模型、提升编程性能、减少完成任务所需的时间和内存,同时探索更高效的模型格式,并改进 RTX Spark 上的推测解码。