人工智能代理的规模化部署，正迫使企业重新审视安全治理、人类问责及监督机制。在AWS Reimagine 2026大会上，一项基于对23个行业128家组织、154位高管进行的为期九个月的保密研究指出，组织必须将治理嵌入系统底层，并确保人类对最终结果负责。
研究显示，许多企业仍沿用针对数月期IT项目的审查流程，来处理仅需数天甚至更短的AI实验。当两周的实验需等待一个月获批时，团队往往选择绕过审批。这种滞后导致政策失效，将操作逼入“地下”。一位受访领导者坦言，CIO们曾花费多年治理“影子IT”，如今却面临规模扩大十倍的“影子AI”挑战。
安全、隐私和数据泄露是主要技术风险。组织担忧专有数据、客户信息或商业机密通过员工未经监督使用的第三方AI工具隐形泄露。尽管AWS委托Strand Partners进行的调查显示，超半数欧洲中小企业和大型企业已使用AI，但仅有24%的组织拥有负责任的AI使用文档化方法，仅10%制定了数据治理策略。
波士顿大学信息服务与技术副总裁兼CIO Chris Sedore估计，该校40%至50%的人员每周至少使用一次AI。“部分使用发生在学校提供的模型中，但也有一部分处于失控状态。”
隐私边界与信任重建
电子邮件、聊天记录和会议纪要构成了数据的“人类层”。虽然挖掘这些数据具有价值，但访问权限引发隐私担忧。休斯顿卫理公会主校区首席执行官兼首席创新官Roberta Schwartz回忆，曾有一名医生质疑AI项目意味着领导层在监控其私人消息。Schwartz澄清事实并非如此，并指出员工需要约一年的系统使用经验，才能建立对AI的信任——即相信AI仅揭示组织层面的模式，而不窥探个人隐私。
为建立信任，组织在处理薪资、人力资源决策或个人通信等敏感数据前进行脱敏，确保“AI接收信号而非身份”，并向员工透明说明数据使用方式。
将规则写入系统
部分组织在启动AI项目前实施风险分类。Bradesco首席数据官兼数据与AI总监Rafael Cavalcanti构建了一个分类树，根据用例是否涉及个人数据、运行模式（实时或批量）以及是否需要“人类在环”来判定风险等级和控制措施。
针对AI代理，研究建议从人工审批起步，仅在证明其可靠性后逐步扩大自主权，并保留收回权限的选项，“将其视为新员工的试用期”。由于代理可能误解或绕过嵌入式规则，安全限制应设置在代理外部。
此外，跨国监管差异加剧了治理复杂性。Standard Bank云赋能首席技术官Duncan Macdonald指出，在22个国家运营时，企业需避免因少数国家的限制而影响其他地区的业务范式。
广泛使用，微薄成果
高采用率并不等同于高成效。一家处于AI旅程早期的组织数据显示，其AI采用率达88%，但在5000多次会话中，极少产生实质性的工作成果提升。
效率提升也需结构化规划。RAK IDO首席技术官Dr. Rashed Iqbal表示：“若能在一个小时内完成四小时的工作，却没有规划如何利用节省下的三小时，对公司而言并无益处。”
与此同时，初级人才缺口依然存在。AI消除了曾帮助初级员工培养判断力的重复性工作，尽管各组织正在尝试解决方案，但受访者均未给出明确答案。