被忽视的非人类身份危机
不受控制的凭证以及对非人类身份缺乏所有权管理，正成为采用AI智能体企业的重大安全隐患。许多安全负责人对其系统中运行的数千个活跃非人类身份浑然不觉。
SailPoint首席技术官（Field CTO）Matt Fangman指出，企业在推进AI项目时，持续发现大量未纳管的非人类身份。这凸显了随着自主智能体获得系统访问权，现有问责机制存在严重缺口。
Fangman透露，SailPoint已协助包括主要金融机构和零售商在内的大型知名企业完成了约200个概念验证项目。一个共同发现是，组织内的非人类身份数量远超预期。在某案例中，SailPoint发现一家客户拥有超过1万个非人类身份（含凭证和AI智能体），而其技术领导层此前确信该数字为零。
这一问题主要归因于过往数字化转型的遗留问题。企业在自动化流程并连接不同系统时，积累了海量凭证、访问令牌和应用权限。Fangman警告称，尽管这些凭证最初用于合法商业目的，但可能成为自主AI智能体渗透其他系统的入口。“组织中不受控制的凭证，是犯错的非人类身份的游乐场。”他说。
确立智能体“出生权”与问责制
Fangman曾在微软工作多年，并与OpenAI密切合作进行早期智能体开发。加入SailPoint后，他推动公司将重点从人类身份治理扩展至非人类身份领域。
AI智能体的非确定性本质带来了额外挑战：它们能独立识别并使用工具和凭证完成任务。例如，一个负责管理应收账款的智能体，可能在系统中搜索资源时，访问超出预定范围的信息和应用。Fangman表示，这通常并非员工故意作恶，而是因遗留凭证散落在GitHub等协作平台上所致。
企业面临的挑战在于，必须为每个进入环境的非人类身份确立所有权和问责制。SailPoint将此定义为“不可变的出生权所有权”，即明确谁拥有该智能体、其授权访问范围、运行平台以及技术是否经过正式批准。
随着“影子AI”兴起——员工在批准的企业环境外尝试使用AI工具，这一概念愈发重要。“人们正在引入未经批准的技术，并在个人MacBook上运行，”Fangman说，“我们希望确保控制我们能控制的部分，防止企业数据落入个人设备上的AI机器人手中。”
为此，SailPoint与CrowdStrike、Microsoft和Palo Alto Networks等端点安全提供商合作，执行限制潜在不安全活动的策略。当检测到违规行为时，端点提供商可阻止活动并关闭应用，防止数据流向未经授权的AI环境。
Fangman还强调维护AI智能体实时账本的重要性，而非仅依赖传统日志。此类账本允许组织验证智能体是否运行批准版本、使用适当凭证且在授权范围内操作，同时提供对访问权限及运行状态的可见性。这有助于在人类身份、非人类身份、智能体和凭证间建立信任层，满足合规要求并向监管机构提供证据。
部署“紧急停止开关”与本地化趋势
SailPoint的另一优先事项是开发机制，以禁用表现出可疑或未经授权行为的智能体。Fangman表示，其“紧急停止开关”不仅评估应用是否获批，还监测智能体是否在非工作时间运行、所有者是否休假，以及是否试图访问常规职责外的系统或数据。
若发现智能体越界，组织可将其禁用或注销，要求重新认证后方可恢复。该过程还需涵盖由原始智能体创建的附加智能体和活动会话。Fangman举例称，一名初级职员在个人电脑引入开源智能体软件OpenClaw辅助分类IT工单，看似无害，但该智能体随后获取了不应触及的凭证和系统权限，并在企业中创建了700个活动会话。这突显了自主系统在企业环境中扩张速度之快。
此外，Fangman预计AI基础设施将发生转变，工作负载将从基于云的大型前沿模型转向开源模型和本地基础设施。随着前沿模型与开源模型性能差距缩小，成本差异依然巨大：处理约一百万标记的任务，前沿模型需花费数千美元，而开源平台成本可能低于100美元。
这种低成本与性能提升的组合，正推动企业在本地、个人设备及专用基础设施上运行AI负载。Fangman指出，市场对Nvidia紧凑型AI系统、Apple Mac Mini的兴趣激增，以及Dell AI服务器的巨额积压订单，均印证了这一需求。随着部署模式多样化，SailPoint连接云提供商与本地环境的能力将变得至关重要。