
OpenAI于周五重申解雇三名AI安全研究员的决定。该公司明确表示,此举系因三人不当处理敏感信息,而非因其表达对技术风险的担忧。
这家由山姆·阿尔特曼领导的公司发布声明称,内部调查显示Jasmine Wang、Mikita Balesni和Tomek Korbak“违反了关于处理敏感信息的明确政策”。OpenAI指出,调查发现的信任危机比三人在公开信中所述的更为严重,因此坚持不解雇他们的决定。
“我们必须非常明确,这些决定并非关于提出安全关切或公开发声。”OpenAI补充道,公司鼓励此类对话,并认为其对做出正确决策“至关重要”。
研究员警告“寒蝉效应”
此前一天,这三位被解雇的研究人员在社交媒体发布致OpenAI安全委员会的公开信,题为《OpenAI无法独自实现AI安全》。信中警告,突然终止雇佣将对公司文化产生“寒蝉效应”,导致前同事因恐惧而不敢像以往那样自由发言和工作。
信中指出,AI“不是一项普通的技术”,OpenAI也“不是一家普通的公司”。他们写道:“从事安全工作的人最先看到风险,我们依赖与外部专家的密切合作来找出应对方法。”信中还强调,“在没有恐惧的情况下自由行动”以及拥有明确的内部程序,本身就是一种至关重要的安全机制。
强调行业承诺与监测能力
在周五的回应中,OpenAI表示同意维护前沿模型的“可监测性”需要包括自身在内的全行业承诺。“可监测性长期以来是我们研究计划的核心部分,也是我们持续投入大量资源的领域。”该公司称。
OpenAI对涉及前研究员的结果表示“深感遗憾”,并赞扬了他们对公司AI安全的贡献。公司再次强调:“这些决定并非因为他们提出了安全关切。我们始终鼓励这样做,并且将来也会一直如此。”