NVIDIA 扩展 Agent Toolkit,新增企业数据知识基础与智能体工具
NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation、Kumo 系列开放模型及相关工具,帮助企业利用公司数据定制和管理智能体。
此次扩展把企业数据接入与智能体运行边界放在同一工具栈中,为理解企业如何兼顾数据利用和权限治理提供了具体参考。
智能体的实用性取决于其掌握的知识,可信度则取决于其运行所受的边界约束。
领先企业正在使用开源 NVIDIA Agent Toolkit——现已扩充新工具——来定制和控制智能体,利用公司数据为智能体的回答和行动提供依据,监控其行为并管理其运行方式。
NVIDIA Agent Toolkit 包括:
- 全新的 NVIDIA Agent Knowledge Foundation,配备 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- 工具和技能,例如 NeMo Relay 和 NeMo Compass
要开发能够完成实际工作、且从开发到部署全程可信的智能体,开发者需要一个整合模型、执行框架、运行时、数据和工具的开放智能体技术栈。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可用的企业情报。智能体可以查找相关信息,理解这些信息对业务的意义,并利用它们进行预测,帮助人们决定下一步行动。公司无需迁移数据、重建现有工作流或更改治理控制措施,即可使用 Agent Knowledge Foundation。
该基础平台配备 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库,后者可将原始公司数据转换为熟悉的业务概念——例如客户、产品和订单——并映射它们之间的关系。
它还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——帮助智能体查找相关公司信息,以回答问题并进行预测。
OpenShell 提供安全的运行时边界,让企业能够控制智能体可以访问的内容和可以执行的操作。NVIDIA NemoClaw 蓝图为构建安全、专用的智能体提供参考设计。最新的智能体优化 NemoClaw 蓝图为提升智能体智能水平提供循序渐进的起点,使其随着时间推移更好地完成工作。
企业采用 NVIDIA Agent Knowledge Foundation
全新的 NVIDIA Agent Knowledge Foundation 已在多家企业投入使用。
通过与 Palantir 合作,NVIDIA 的供应链部门正通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation,部署专用智能体,从专有数据中生成可指导行动的情报,预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为具备上下文感知能力的智能体提供支持。
Snowflake 正在让客户能够在其 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,释放更多预测能力。
NVIDIA Nemotron Retriever 模型让搜索更快、更准确。通过使用嵌入模型,Amazon OpenSearch Service 以更少的搜索步骤提高了相关性,而且几乎没有增加延迟。SAP 的 微调重排序模型运行速度提升至近 3 倍。ServiceNow 提高了重排序质量,同时将延迟缩短了近四分之一。Zoom 正在使用 Nemotron Retriever 模型,提升 Zoom AI Services 的文档理解、搜索相关性和上下文检索能力。
Amazon Web Services (AWS)、ClickHouse、 Cloudera、Cohesity、Dassault Systèmes、Dell、 Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也在基于 Agent Knowledge Foundation 进行构建。
参加这场 GTC Berlin 会议,了解如何在生产环境中构建、部署和优化专用智能体,获取更多信息。
来源:NVIDIA Blog · blogs.nvidia.com