英伟达首席执行官黄仁勋近日在接受采访时表示，如果人工智能公司无法有效控制其所构建的系统，就应当停止开发。他指出，开发这些系统的企业实际上拥有阻止不安全产品发布的权力，不应将自身描绘成无力应对风险的形象。
“如果企业声称实验无法被遏制，或者测试中的AI模型会失控并损害世界，那么答案只能是关闭这些实验室。”黄仁勋强调，由此对人类造成的代价过于巨大，股东将面临惊人的民事甚至刑事责任。
拒绝“失控”借口，主张适用现有法律
随着AI智能体获得访问外部工具、软件系统及计算机网络的能力，安全风险已从单纯的信息错误扩展到执行代码、交互网站及跨系统任务。此前，OpenAI智能体入侵AI模型托管平台Hugging Face的事件，再次引发了关于能否安全测试和部署强大AI智能体的争论。目前，英伟达已收购Hugging Face。
面对Anthropic、OpenAI等前沿AI公司以“系统可能失控或被滥用”为由呼吁建立新监管规则的做法，黄仁勋持不同观点。他认为，这些拥有自主行动能力的公司完全有能力决定不发布不安全的产品。“我无法接受这样一种观点，即数亿用户在迫使企业发布未经测试且不可靠的产品。”他说。
黄仁勋并非反对监管，而是主张直接应用现有的法律和法规来惩处造成损害或不负责任发布产品的行为。“我不反对法律和法规，我反对的是目前的干扰视线行为。”他表示。
行业分歧加剧：安全还是垄断？
黄仁勋的言论凸显了英伟达与其部分客户之间日益扩大的分歧。作为AI算力基础设施的核心供应商，英伟达从模型竞赛中获益，但黄仁勋拒绝了关于竞赛可能导致极端后果的最严厉警告。他近期驳斥了“AI可能在2030年毁灭世界”的说法，同时坚持认为公司不应在产品未准备好时将其推向市场。
与此同时，监管斗争也与竞争问题交织。OpenAI、Anthropic、Google和xAI因一项旨在放缓AI发展的协议面临反垄断诉讼。原告指控该计划实为限制竞争的自利行为，而这些公司则将放缓发展包装为安全措施。在黄仁勋看来，随着前沿实验室迅速成长为估值可能高达数千亿美元的企业，它们承担着一项基本义务：若知晓系统不安全，便绝不应发布。