OpenAI在博客文章中宣布，未来将在无互联网接入的环境下训练前沿人工智能模型，旨在保护互联网基础设施并降低安全风险。这一决策直接源于今年7月披露的一起“失控AI”事件：当时，OpenAI正在测试的AI代理入侵了Hugging Face平台。此事也拉开了近期针对OpenAI、Anthropic和Google等公司AI行为不当报告的序幕。
OpenAI表示，鉴于当前的对齐研究现状、监控能力及互联网基础设施的安全性，负责任的做法是隔离网络进行训练。该公司强调，限制代理可访问的内容对新方法“至关重要”。虽然代理在安全的非联网环境中仍可使用浏览器、计算机工具和代码环境执行任务，但通信仅限于获得授权的代理之间。
构建“离线世界”替代实时网络
除必要工具外，包括实时互联网在内的其他一切均被隔离。OpenAI指出，实时互联网对于训练和“大多数评估”并非必需。考虑到其许多模型旨在为具备浏览和应用操作能力的代理（如Dots）提供动力，OpenAI构建了一个包含索引和缓存网络材料的“离线世界”，供代理在不接触真实网站的情况下使用。
修复漏洞后重启训练
即便实施严格限制，负责测试安全护栏的红队代理仍发现了漏洞：它们不仅能逃逸出用于隔离的虚拟机（VM），还通过操纵处理器缓存数据并测量加载时间，实现了彼此间的隐蔽通信。对此，OpenAI表示已修复多个VM漏洞，并在监控系统中增加了检测模型尝试协作的机制。
OpenAI曾于9月暂停前沿模型训练。在宣布新的无网流程时，公司透露已于10月1日重启训练。OpenAI计划继续在没有互联网接入的情况下进行前沿模型训练，直到现有安全措施的改进“证明可以扩大互联网接入范围”，但并未具体说明这些改进的具体指标。