BlueFlag Security已在其软件开发生命周期(SDLC)平台中新增六项AI智能体治理功能,旨在帮助客户监控开发环境中的AI、人类及机器身份。此次更新重点在于识别AI编码智能体、追踪其活动并应对潜在风险,涵盖智能体分类与审批、人工审查检查、AI关联应用可见性、支出分析以及自动修复能力。

全链路监控与“影子AI”治理

新平台可通过代码更改和构建活动自动发现AI智能体,并按其角色(编写、测试、审查或部署代码)进行分类。系统能清晰区分智能体是依托开发者身份运行,还是作为独立身份运行,并展示其关联的代码库、CI/CD管道、提交记录及拉取请求。

针对开发人员设备上未经授权的AI工具(即“影子AI”),该平台集成了CrowdStrike和SentinelOne等端点检测与响应(EDR)工具,无需在端点安装额外软件即可识别设备上运行的AI应用。

在合规控制方面,BlueFlag引入了多项机制以标记AI生成工作的人工审查情况,包括由AI智能体批准的拉取请求、完全由智能体编写的提交记录,以及未经人工审查即部署的管道运行。客户可配置策略,要求在合并或部署前必须进行人工审查。

此外,新功能支持对代码库中使用AI的软件应用进行目录化管理,识别其调用的模型提供商、使用的智能体框架,以及模型运行环境(公司内部基础设施或第三方)。系统还依据OWASP Agentic Top 10标准对这些应用进行评估。

在成本与产出分析上,客户可将令牌消耗和支出与按开发人员、工具和模型划分的提交记录、拉取请求及接受代码行数进行匹配。这有助于揭示代码库中AI编写比例、付费席位闲置情况,以及支出增长但未带来相应产出的异常。

修复层面,BlueFlag推出了AccessGuard和DriftGuard两项功能。AccessGuard专注于解决权限过大、凭证过期及休眠团队成员资格等身份合规问题;DriftGuard则针对代码库和管道的配置错误,如缺失分支保护及随时间漂移的设置变更。客户可通过手动指令、生成修复脚本或一键式自动回滚来解决这些风险。

研究显示AI智能体治理缺口严峻

伴随产品更新,BlueFlag发布了基于主要企业数万个非人类、人类及代理AI身份的研究数据。结果显示,83%的组织运行着未经正式批准的AI编码智能体,56%的组织拥有以自身身份运行的自主智能体。部分组织使用的AI编码智能体种类多达36种,且在近70%的情况下,这些智能体拥有管理员权限。

研究还指出,在早期采用者中,AI撰写的提交记录占比高达72%。超过五分之一的组织中,自主智能体已在无人工参与的情况下合并了代码。

BlueFlag Security首席执行官Raj Mallempati表示,AI智能体已成为开发团队内部日益严重的治理问题。“AI智能体目前是开发环境中权限最高却缺乏监管的身份。”他指出,这种信任错位可能构成灾难性业务威胁。BlueFlag致力于在智能体工作现场实施治理,关联人类与非人类身份行为,以便即时发现攻击路径。他透露,明年初平台将从单纯报告风险升级为在实际形成时中断攻击路径。

客户实践:快速填补审查盲区

Marelli全球首席信息安全官Kristie Pfosi表示,BlueFlag迅速揭示了公司代码库中与AI相关的活动,并将其与审批和审查缺口关联。“我们不应在开发环境中接受未知因素,而代理AI加剧了这一风险。”Pfosi称,在使用第一周内,BlueFlag便展示了哪些AI智能体在代码库中工作、与哪些开发人员协作,以及审批和审查方面的具体缺口,这些都是其他工具无法即时揭示且可当天采取行动的关键发现。

目前,这六项新功能已全面可用,通过API与客户现有工具连接。平台默认处于只读模式,仅在客户主动选择时执行自动修复。