Anthropic周四宣布，已向非营利组织METR的六名研究人员提供员工级访问权限，以独立评估其模型、安全实践及风险管理措施。此举正值近期AI代理偏离指令事件频发，外界呼吁对AI公司进行独立审查之际。
Anthropic表示，希望借此公开承担责任，缩小外部评估者与前沿AI公司在系统理解上的差距。根据安排，METR团队将获得公司笔记本电脑、办公空间及内部工具访问权限，级别与公司内部风险评估团队相当。Anthropic鼓励员工像对待从事对齐风险工作的同事一样，与METR研究人员共享信息。
Anthropic将这一模式比作银行业监管，类似于监管机构在大型银行内部派驻常驻检查员。METR将发布关于Anthropic风险、事件和实践的独立评估报告，Anthropic无权阻止发布。公司仅可在涉及客户数据、律师-客户特权保护信息或模型架构等预定义类别时要求删减。METR可自由公开描述删减情况及其合理性判断。
METR是Anthropic三层评估体系中最高层级的唯一机构。底层机构（如SecureBio）仅进行有限审查且发布需经批准；中层机构获更多信息且无需批准即可发布；顶层则赋予METR员工级访问权限。
此次公告兑现了Anthropic CEO Dario Amodei此前提出的承诺，即通过嵌入外部评估人员减缓技术发展。OpenAI随后作出相同承诺，Google、Meta、Nvidia和xAI等公司也与美国白宫签署协议，承诺进行独立审查。