amid 人工智能安全事件频发的背景下,英伟达正式发布全新安全平台,旨在防止AI代理突破隔离限制入侵企业系统。与此同时,这家芯片巨头宣布将股票回购规模增加1500亿美元,创下美国历史最高纪录。目前,英伟达市值已突破5万亿美元,AI芯片需求的激增为其提供了充裕现金流。

百企联手构建“智能体浏览器”

该安全倡议已获得思科、微软、甲骨文、CoreWeave、戴尔、HPE、联想、Arm和英特尔等100多家科技公司支持,但OpenAI并未参与。英伟达创始人兼CEO黄仁勋将当前AI发展阶段比作万维网早期:正如Java程序曾因浏览器缺乏沙盒机制而导致病毒泛滥,AI代理也需要类似的安全屏障。

新推出的OpenShell和Nvidia Sentry系统即扮演这一角色。黄仁勋在接受采访时指出,这本质上是面向智能体的“现代浏览器”。部署AI代理时,系统默认剥夺其所有权限,仅在实际需要时才授予对文件、数据、工具或互联网的访问权。“你不会将一个智能体引入公司并给予其任意访问权,”他强调。

据悉,英伟达团队为此已研发近一年。黄仁勋表示,若该措施早在7月就位,Hugging Face此前的入侵事件本可避免。

双层防护与开源策略

该安全架构在两个层面运作:OpenShell软件运行于CPU上,负责限制智能体能力;Sentry则部署在网络芯片而非CPU或GPU上,实时监控智能体行为。官方称,一旦AI代理试图越界,Sentry能在毫秒级时间内将其隔离并终止操作。

为促进社区协作完善安全机制,该软件采用开源模式。黄仁勋希望沙盒机制对全球可见,以便及时发现并修补漏洞。尽管OpenAI暂未加入合作伙伴行列,黄仁勋仍对其未来贡献持开放态度:“无论以何种方式参与,都受到热烈欢迎。”

视AI安全为“工程问题”

在业界担忧AI可能引发“灭绝级”威胁之际,黄仁勋重申其“负责任的乐观主义”立场。针对前Anthropic和OpenAI研究员关于AI可能自主开发生物武器或入侵基础设施的警告,黄仁勋回应称:“我们希望这是一个工程问题,我相信它是一个工程问题。如果不是,那就无法解决。”

他将AI演变类比汽车进化,指出当前AI虽类似早期的Model T,但在减少幻觉和提升可预测性方面已取得显著进步。真正的风险在于过快监管扼杀创新。他主张建立类似其他行业的工业标准政策,通过第三方审计确保质量与安全,“如果世界不认为AI是安全构建和部署的,我们就无法拥有一个成功的AI行业。”