在近期的开发者大会上,Box 展示了一项名为“Box Content Retrieval”的新功能,正式将英伟达 Nemotron 嵌入系统整合至其产品核心。该功能旨在通过 Nemotron 生成的嵌入元数据,帮助 AI 智能体更高效地响应查询请求。

据英伟达生成式 AI 软件副总裁 Kari Briski 透露,新系统预计将使查询响应速度提升四倍,错误率降低 20%,同时 Token 消耗量减少 90%。Box 方面表示,这将为用户带来更快、更准且成本更低的使用体验。

重构智能体搜索逻辑

Box CEO Aaron Levie 指出,该技术显著提升了搜索内容与智能体的相关性。传统模式下,智能体需逐一阅读文档以提取信息;而在新系统支持下,Box 可直接返回与用户查询或任务最相关的文档片段,大幅简化处理流程。

这一功能是英伟达 Nemotron Embed 项目的具体落地。该项目提供开源权重的嵌入模型,利用大语言模型预处理数据,以改进自动化检索系统。今年 7 月发布的 Nemotron 模型曾在衡量检索质量的 RTEB 基准测试中名列前茅,成为英伟达开源模型项目的重点方向。

明年年初面向企业客户推出

Box 强调,当与活跃的智能体配合使用时,新系统的效用最大化。以法律场景为例,得益于 Nemotron 超越简单关键词匹配的概念映射能力,律师即使使用不同措辞或语言,也能精准检索到相关的法律条款和先例。

尽管 Nemotron 模型本身免费,但该系统高度依赖 Box 现有的元数据架构和权限控制机制,重建门槛极高。Levie 坦言,团队在一个简单的 API 中集成了五种不同的技术,以实现这一复杂整合。

据悉,Box Content Retrieval 将面向所有 Box Enterprise Advance 客户开放,并计划于明年年初陆续推出。