Alice宣布已与Inflection AI和AI21达成合作，针对安全性和安全任务对NVIDIA Nemotron开源模型进行训练。该项工作旨在削弱有害模型行为的同时，确保其性能不降低。
此次合作涵盖NVIDIA开源权重的两个关键用例：一是考察个人AI在长对话中的行为表现；二是测试企业AI代理抵御间接提示注入攻击的能力。Alice利用其对抗性数据库，从现实世界的威胁和使用模式中提取数据，对NVIDIA Nemotron模型进行后训练（post-train）和微调。
个人AI：解决阿谀奉承与依恋问题
在与Inflection AI的合作中，双方致力于解决个人AI中的阿谀奉承（sycophancy）和不健康依恋问题。项目使用了NVIDIA Nemotron 3 Super 120B-A12B模型。Alice开发了红队测试数据集，用于测试模型在重复交互过程中的行为，特别是当用户处于脆弱状态或试图随时间推移操纵系统时的表现。
Alice创建了超过20种角色，包括良性但易受伤害的用户以及对抗性用户，用于多轮红队演练，从而捕捉比单提示安全测试更广泛的对话风险。数据显示，经过该数据微调后，Inflection AI旗下个人AI产品Pi的对齐得分提高了30%，同时不必要的拒绝率保持在1.6%。
Inflection AI指出，这项工作反映了安全测试更广泛的转变，即从识别明显有害的提示转向衡量长期交互中的行为。Inflection AI首席执行官Sean White表示：“仅仅询问模型是否能识别并拒绝有害提示已不再足够。我们需要了解AI如何在数百次交互中表现，是否支持人类自主性而非依赖性。我们与Alice和NVIDIA的合作证明，可以在不牺牲有用性的前提下，将这些原则训练到强大的开源模型中。”
企业安全：抵御间接提示注入
第二个项目与AI21合作，重点解决间接提示注入问题。在此类攻击中，恶意指令被隐藏在AI代理处理的数据源（如电子邮件、文档）中。随着AI代理获得对企业内部系统、文件和工具的访问权限，这一威胁日益受到关注。
Alice构建了强化学习环境，不仅训练模型识别攻击，还训练其在面对攻击时继续执行合法任务，以避免因过度防御而拒绝看似有风险但实际合法的工作流程。AI21使用这些环境对NVIDIA Nemotron 3.5 Super VL进行了后训练。双方表示，这项工作使模型对间接提示注入的韧性提高了41个百分点，其性能可与GPT-6.1 Sol竞争。
AI21联合创始人兼首席执行官Ori Goshen表示：“拥有模型意味着拥有它的失败方式，而不仅仅是它能做什么。我们在Alice提供的野外攻击痕迹上对NVIDIA Nemotron 3.5 Super-VL进行了后训练，使其能够抵御实际到达企业的攻击，同时保持其原本设计的行为。”
这些项目反映了行业向可在内部调整的开源权重模型转变的趋势，而非仅依赖系统提示或外部护栏。NVIDIA软件高级总监Joey Conway表示：“Alice与Inflection AI和AI21的合作展示了在后训练Nemotron时使用现实世界的对抗数据如何带来强大的安全性，这正是开源模型旨在解锁的创新类型。”