
“我被告知,因通过非授权渠道与第三方互动,公司认为存在信任破裂。”Tomek Korbak表示。他是上月被OpenAI解雇的三名安全研究人员之一。
据媒体报道,OpenAI安全团队在一次泄露事件调查中,要求这三名研究人员打开个人手机接受检查。调查人员将AI安全研究员Ryan Greenblatt列为疑似泄密者,但Greenblatt对此予以否认。目前尚无独立证据验证这一说法。
消失的消息
此次泄露调查源于9月1日的一篇报道。该报道指出,OpenAI最新模型Astra采用了一项新技术,在增强能力的同时使思考过程更加隐蔽。OpenAI首席科学家Jakub Pachocki称该报道“令人困惑”,引发业界关于AI推理能力的广泛讨论。
在检查手机时,安全官员发现部分研究人员在与Greenblatt的Signal聊天中启用了“消息自毁”功能。一周后,OpenAI在同一天下午2点召见这三人并将其解雇。
被解雇的三人分别是Korbak、Mikita Balesni和Jasmine Wang。Balesni和Korbak表示,OpenAI领导层将“消息自毁”功能作为解雇理由之一。三人均坚称,从未在公司外部分享任何机密信息。
OpenAI的回应
OpenAI向媒体表示,内部调查发现这三名员工违反了公司关于敏感信息的规定。公司强调:“解雇并非因为员工提出安全关切或公开发声。”
一名发言人称,使用Signal未获批准,但这并非唯一原因。Korbak反驳称,“消息自毁”是硅谷的一项基本安全最佳实践。
Wang则表示,她被告知因反复查看高管邮件而被解雇。她称早在近一年前就请求OpenAI移除该权限。上个月,她误开了一封敏感邮件并立即上报,但OpenAI方面表示对访问权限本身并无异议。
Greenblatt的回应
Greenblatt曾任Redwood Research首席科学家,目前在METR工作。METR曾聘请他协助审查Hugging Face事件日志,当时OpenAI的代理程序出现失控。他向媒体表示,自己高度重视保密性,从未向记者分享此类信息。
他在X平台发文称:“基于这篇报道,OpenAI对我提出了虚假指控。”他指出,三名研究人员告诉他,OpenAI指控他帮助向媒体泄露架构细节,这是不实之词。虽然记者在报道发布前联系过他,但他除对一篇博文提出一个请求外,未发表其他评论。
Greenblatt还否认了阅读包含敏感架构细节内部备忘录的指控。他表示,自己只看到了经批准、不含敏感信息的版本,认为OpenAI混淆了两份文件。他强调,这些Signal聊天是与职业联系人的正常沟通,在科技行业中使用Signal十分常见。
保持AI推理可见
这三位研究人员整个夏天都在致力于保持AI推理过程的可见性,重点关注模型用于解决问题的书面草稿——“思维链”(chain-of-thought)。在10月写给OpenAI董事会的一封信中,他们敦促公司与外部安全组织合作。
“我能想到的对我们解雇的最好解释是:与审计员交谈被视为过度的安全关切,使用‘消息自毁’被视为过度的安全措施,而我们本应把握分寸。”Korbak在X上写道。