跳到正文
NVIDIA Blog· Gerardo Delgado·· 2 天前精选AI 评分66

NVIDIA 在 GTC Berlin 更新本地 AI 产品线,扩展 DGX 集群与智能体支持

Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents

AI 导读

NVIDIA 在 GTC Berlin 展示 RTX Spark、DGX Spark 和 DGX Station 本地 AI 产品线,并公布集群、模型运行及企业管理更新。

推荐理由

八台集群支持、模型启动器与共享推理入口将本地硬件连接到团队工作流,为比较个人设备与团队部署提供了具体依据。

正文 · AI 翻译

在 GTC Berlin 上,NVIDIA 正在展示其全系列本地 AI 硬件。RTX Spark于上周发布,为 Windows PC 上的个人智能体提供支持;DGX Spark支持开发者在 Linux 上构建应用并扩展其规模;而 DGX Station则服务于在 Linux 上运行前沿工作负载的企业团队,其 Windows 版本将于 12 月推出。

公布的消息包括:

  • Underdog Desktop Agent 现已支持 RTX Spark
  • DGX Spark 64GB 将于 10 月 23 日星期五上市
  • NVIDIA Sync 将于本月支持八台 DGX Spark,并新增 Model Launcher
  • DGX Spark 的 10 月软件更新新增 Wi-Fi Assistant,并更新 DGX Spark Skills
  • DGX Station 通过七项全新集成提升可管理性
  • Windows 版 DGX Station 将于 12 月推出,支持众多制造业应用和智能体运行框架
  • DGX Station 新增三个面向机器人技术的开源参考工作流
  • NVIDIA Cloud Functions 即将在 DGX Station 上开启抢先体验
  • 全新本地编程模型 Recursive Flint 现已支持 NVIDIA 本地硬件
  • 首日支持全新的 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 AI 模型
  • 为 llama.cpp 和 vLLM 推理引擎提供新的加速优化,并推出一组针对本地 AI 硬件优化的新模型检查点。

下文将详细介绍这些本地 AI 公告,另请查看演示和 GTC Berlin 上的会议。

阅读 NVIDIA 在欧洲发布的所有公告

RTX Spark 将个人智能体带到 Windows PC

RTX Spark 为 PC 开启新篇章——凭借高达 128GB 的统一内存和 1 petaflop 的 AI 算力,运行个人智能体、加速内容创作,并以 1440p 分辨率、每秒 100 帧畅玩游戏。

自 10 月 16 日发布以来,首批评测者对这一平台的评价如下:

“专业创作者梦寐以求的机器……” — CGMag

“为 AI 的未来而设计……” — The Verge

“一台性能极其强大、便携性和效率令人惊喜的机器……” — PCMag

Underdog 是一款专为完全本地化、注重隐私的 AI 打造的全新桌面智能体应用,如今也将其体验带到了 RTX Spark。借助其针对模型定制的 Husky 推理引擎,Underdog 可完全在设备端运行模型,让个人智能体在用户数据始终不离开 PC 的情况下完成工作。Underdog 现已开放下载。

为更好地帮助开发者和爱好者构建及定制本地智能体,许多 RTX Spark 笔记本电脑配备了已解锁的引导加载程序。

在 GTC 主题演讲中,NVIDIA 创始人兼 CEO Jensen Huang 展示了如何利用在 RTX Spark 上运行的 AI 智能体,通过 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 训练 Hugging Face 的 Microduck 机器人。

ASUS、Dell Technologies、HP、Lenovo、Microsoft 和 MSI 的笔记本电脑现已上市,Acer 的产品也将很快推出。

进一步了解 RTX Spark,并通过最新的 RTX Spark 操作指南开始使用。

DGX Spark 为开发者提供构建空间

全新 DGX Spark 64GB 系统可运行 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 等模型,将于 Friday, Oct. 23 起由合作伙伴陆续推出。

当工作负载需要更大容量时,开发者可以通过内置的 NVIDIA ConnectX-7 网络和 NVIDIA Sync Cluster Assistant连接多台 DGX Spark 系统。这使用户能够运行 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等先进的编程模型。

现在,DGX Spark 支持通过手动配置组建最多包含八台设备的集群,从而支持更大的模型、更长的上下文、并发智能体和分布式开发。这种配置非常适合共享单个集群作为后端的小型团队,每位开发者都可以针对同一模型运行并发会话。它提供 1TB 的统一内存,足以运行 GLM 5.3 等前沿级模型。

通过 DGX Spark 集群操作指南开始使用。

NVIDIA Sync Model Launcher 也将于本月晚些时候推出。它简化了在单台 DGX Spark 或集群上访问本地 AI 的过程。只需点击几下,Model Launcher 就会下载适合该配置的模型和容器,并将模型连接到 OpenCode。它会自动加载 DGX Spark Skills,用于故障排查、设备维护、访问官方文档以及提供其他工作流程指导。

10 月的 DGX Spark 软件更新带来了全新的 Wi-Fi Assistant,让用户能够在 DGX Spark 以一体机模式运行时切换网络。此外,DGX Spark Skills 还通过 OpenCode,直接在 NVIDIA Sync 中提供面向工作流程的故障排查和设备维护指导。

DGX Spark 系统可直接从 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 购买。

DGX Station 将前沿智能带到桌面

对于规模更大的团队,DGX Station 提供 748GB 的一致性内存和高达 20 petaflops 的 AI 性能,使开发者能够运行 GLM 5.3 等先进模型,并以媲美云端模型的速度为 30+ 用户提供服务。为进一步扩展规模,NVIDIA Sync 现已支持 DGX Station,简化了两台基于 Linux 的系统之间的连接。

通过与 Absolute Security、Cisco 旗下的 Splunk、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium的新集成,IT 团队可以通过企业级设置、管理和合规流程来管理 DGX Station 系统,从而帮助加快审批、降低部署风险,同时最大限度地缩短首个 token 生成时间。

借助即将推出的基于 Windows 的系统,开发者可以构建工作流,利用在 NVIDIA RTX PRO GPU 上运行的专业应用,并通过在 NVIDIA GB300 系统上运行大语言模型(LLM)的智能体进行操作——所有这些都在同一台机器中完成。

DGX Station for Windows 预计将于 December 由系统制造商合作伙伴推出,将本地 AI 扩展到企业已在使用的应用和操作环境中。工程师可以在 Windows 原生软件中运行本地模型和智能体,并访问同一系统上的 AI 模型、工具和智能体。

DGX Station for Windows 将支持来自 nTop、Dassault Systèmes、 Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera 的制造业应用,用于 AI 引导的设计、仿真、验证和工程自动化。用户将能够使用 Hermes Agent、Perplexity 或 Aible 在本地部署环境中运行智能体,在企业环境中实现智能体控制。

同样的本地可控计算模式也延伸到了机器人领域。DGX Station 为机器人团队提供专用算力,用于后训练、仿真和评估,无需等待共享基础设施即可缩短迭代周期。

NVIDIA 发布了三个开源参考工作流,将 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 引入 NVIDIA DGX Station。开发者可以利用这些工作流,通过强化学习优化 GR00T 1.7 模型、训练灵巧操作技能,以及对 Cosmos 世界模型进行后训练以生成合成数据。

NVIDIA Cloud Functions 即将在基于 Linux 的 DGX Station 上开放抢先体验。团队可以在共享目录中注册本地模型端点,并通过一个兼容 OpenAI 的统一入口访问它们。 

开发者可以升级端点背后的模型,而无需更改应用代码;团队成员则无需直接访问机器即可使用共享模型。这让 DGX Station 成为团队可在本地控制的推理服务。  

DGX Station 将本地迭代引入 AI 工厂开发。在 GTC Berlin 展会现场,NVIDIA 正在预览运行于 DGX Station 上的 DSX OS,以便在完整基础设施就绪之前模拟 AI 工厂运营。另一个演示将展示 DGX Station 系统如何为一个服务于 30 多名软件开发者的本地 token 工厂提供支持。

DGX Station 系统即日起由 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro 和 Exxact 出货。适用于 Windows 的 DGX Station 系统预计将于今年晚些时候由 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和 Supermicro 开始出货。 

推出 Recursive Flint——针对 RTX Spark 优化的全新本地编程模型

今天,前沿 AI 实验室 Recursive Superintelligence 发布了 Recursive Flint,这是一款专为快速、准确编程而构建的本地大语言模型。作为一款拥有 400 亿参数、25 亿活跃参数的 混合专家模型,Recursive Flint 可实现快速推理,并在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等智能体编程基准测试中表现出色。

Recursive Flint 使用 Recursive 的 Eureka Machine 构建,该系统用于大规模自动化 AI 研究。它可自动完成整个研究循环:提出想法、实施想法、运行实验以验证想法,并利用结果决定下一步尝试的方向——由此创建的专用内核在不改变模型权重的情况下,将 Flint 在 RTX Spark 上的生成速度提升了 55%。

开发者可以在 Hugging Face 上依据 Apache 2.0 许可证下载开放权重,并在 RTX Spark 和 DGX Spark 系统以及 GeForce RTX 和 RTX PRO GPU 上运行该模型。开发者还可以使用 NeMo Automodel 对模型进行后训练,以开展监督微调和低秩适应,即 LoRa,也可以使用 NeMo RL 进行组相对策略优化。 

新模型首日支持

NVIDIA 还将为 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B,以及 FLUX.3 Klein 扩散模型提供首日支持。 

Nemotron Bolt E4B 4GB 仅需 4GB 内存即可提供自然对话和多轮智能体能力,为 NVIDIA GeForce RTX GPU、NVIDIA Jetson 设备以及 RTX 和 DGX Spark 上的快速本地语音助手、交互式游戏角色和嵌入式界面提供支持。Bolt E4B 4GB 将于 10 月 23 日星期五发布。 

Black Forest Labs 的 FLUX 3 Image Klein 是一款拥有 56 亿参数的开放权重图像模型,可用于图像生成和编辑。经过 NVIDIA 优化的版本使其仅需 8GB 显存即可在 GeForce RTX GPU 上运行,并能在 RTX 5090 GPU 上用约四秒生成一张 100 万像素的图像。

MiniMax M3.1 Flash 是一款专为 NVIDIA DGX Station 和 DGX Spark 构建的全新开放模型,将长上下文 AI 带到桌面。Liquid AI 的 LFM2.5-24B-A2B 是一款开放权重推理模型,每处理一个词元仅激活其 240 亿参数中的 20 亿,因此速度足以直接在 PC 上运行可调用工具的私有 AI 智能体。

此外,NVIDIA 还发布了全新的模型检查点合集,针对本地 AI 硬件的 RAM 使用效率进行了优化,让前沿级开放模型在运行时仍能留出足够的内存用于 KV 缓存。每个检查点均经过量化,同时保持接近全精度的准确性,首批包括可在单台 DGX Spark 128GB 或 RTX PRO 6000 上运行的 Qwen3.8-Flash-Next-FP4-Local,以及可在两台系统上运行的 GLM-5.3-Flash-FP4-Local。

开发者从发布首日即可在 DGX Spark 和 RTX Spark 上使用NeMo AutoModel进行后训练,并可参考适用于Nemotron Bolt E4B、Flux 3 Image Klein等模型的示例方案。 

加速 AI 推理

NVIDIA 继续与 llama.cpp 和 vLLM 开源社区合作,加速本地硬件上的智能体工作负载。

在 llama.cpp 中,针对 Qwen 3.8 Flash Next 新增的 MTP 推测解码支持,使 NVIDIA RTX PRO 6000 Blackwell 上的端到端智能体任务速度最高达到原来的 1.4 倍。

在 vLLM 中,更快的推测解码以及针对 Qwen 线性注意力层的新 FlashInfer 预填充内核,使 DGX Spark 上使用 Qwen3.8 27B 的智能体任务速度最高达到原来的 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量最高达到原来的 1.2 倍。

查看NVIDIA 本地 AI 推理方案,尝试这些最新优化。

在X、Instagram、TikTok和Facebook上关注 NVIDIA RTX Spark,并订阅NVIDIA 本地 AI 新闻通讯,及时了解最新资讯。在LinkedIn和 X上关注 NVIDIA Workstation。 

请参阅 声明,了解有关软件产品信息的说明。 

阅读 NVIDIA 在欧洲发布的所有公告

来源:NVIDIA Blog · blogs.nvidia.com