
Zentera Systems发布基于调查的AI智能体安全治理报告《变革代理人》(Agents of Change),揭示安全领导者对该技术控制与监控的普遍担忧。该报告联合调研机构TrendCandy,收集了251名安全领导者的反馈。
报告指出,组织内部AI智能体的部署速度与访问管理、监督及问责等控制措施之间存在显著差距。数据显示,58%的组织已运行超过50个AI智能体。展望未来12个月,66%的组织预计运行超50个智能体,38%预计投入使用数量将超过100个。
AI采用正由高层驱动。36%的受访者强烈同意,公司领导层直接指示了AI智能体或代理工具的部署。
上下文风险与权限失控
相比任务完成能力,受访者更关注智能体的行动权限与环境。75%的人担心AI智能体可能在错误的环境或位置执行“正确”的任务。84%的人表示,智能体比员工更容易跨越项目边界;80%的人担心智能体可能获得从未明确授予的访问权限。报告强调,即便操作技术上正确,若发生在错误设置中或触及敏感数据,仍可能被视为未经授权。
在进一步扩大部署前,安全领导者将“授权控制”置于首位。56%的受访者选择明确授权,其次是项目隔离(51%)和会话日志记录(48%)。85%的受访者认为项目级隔离对AI采用至关重要,87%的人同意授权是代理AI安全中缺失的一环。
信心缺口与监管收紧
目前,仅有43%的领导者非常有信心能够证明AI智能体被明确授权。在通过审计记录证明行为(38%)和密切监控活动(37%)方面,信心指数进一步下滑。
这一信心缺口可能导致政策收紧。79%的组织预计在未来18个月内收回或显著限制AI智能体的使用。报告认为,若生产系统中的治理问题未获解决,部分当前部署将被缩减。这与安全团队的担忧一致:市场对AI智能体的热情已超过运营控制能力。
样本分布显示,受访者 heavily 偏向技术相关行业:半导体行业占70%,软件和服务(SaaS)占51%,金融服务占43%,制药和生命科学占14%。
Zentera借此主张加强基于身份的访问决策、项目分离及审计追踪等边界约束,并推广其Ensage AI产品以填补发现、授权、隔离等方面的空白。
Zentera Systems首席执行官Jaushin Lee博士表示:“随着AI智能体在组织内快速增长,网络安全方法的演变速度未能跟上。”他指出,安全领导者虽看到AI使用扩大,但缺乏有效监控和保护的信心,亟需一种能严格限制权限、动作和网络访问的治理模式。