问责制跟随授权
AI智能体可在无人实时审查的情况下处理客户问询或发票。一旦结果出错，仅凭“人工在环”的声明难以平息质疑：谁赋予了智能体权限？谁又能阻止它？
随着AI从生成草稿进阶为直接影响业务行动，责任归属问题愈发紧迫。PwC 2025年针对300名高管的调查显示，79%的企业正在采用AI智能体，但仅17%实现全流程全面应用。智能体访问业务系统后，其表面能力可能诱导企业在未充分理解其行为模式前，过早赋予过多自由。
当AI造成损害时，模型提供商、部署企业及审查员工均可能卷入，但控制权并不对等。Archive360首席执行官Jerry Caviston指出，部署组织必须对使用方式承担最终问责。企业不能既开放系统权限，又在出事时将矛头指向供应商。虽然提供商可能分担技术缺陷责任，但部署选择本身塑造了风险。
Basware首席产品和技术官Donna Wilczek强调：“问责制遵循流程所有权，而非错误的临近度。”批准智能体角色的行政人员需对设计负责，而审查例外情况的员工仅对其实际决策权负责。因此，企业需明确定义智能体在每项任务中的权限，特别是规定其必须停止并移交人类干预的条件。
这种权责界定也改变了企业对AI的叙事。Morson Group客户创新主管Luciana Rousseau将智能体描述为“委托的计算执行者”：系统可占据角色，但无法承担后果。Make的AI采用负责人Daria Hvizdalova建议，每个重要AI工作流程都应指定一名具名负责人，“如果上面没有人的名字，它就不应该运行”，且该负责人必须有权在出现问题时暂停或修改流程。
当人工监督沦为橡皮图章
要求人工批准是应对AI风险的常见手段，但若缺乏实质意义，审批按钮极易沦为形式。若智能体每秒产生数百条建议，而审查者无力逐一评估，人类便成了流程中的“橡皮图章”，实际决策权仍由系统掌控。
Rousseau认为，机器速度下的监督应聚焦于“异常、后果和行为信号”，如高影响力决策、陌生情境或不可逆操作。要求员工检查每笔普通交易只会导致疲劳和习惯性批准。Hvizdalova指出，若人类批准了99%的AI提议，这并非控制有效的标志，而是危险信号。Napier AI首席数据科学家Janet Bastiman博士从监管角度佐证，接近零的覆盖率意味着审查者仅在确认而非评估。
Wilczek从员工视角揭示了这一困境：面对缺乏解释的长队列，员工往往被迫“点击通过”，最终为系统已做出的决定背锅。微软2026年工作趋势指数发现，86%的AI用户将输出视为起点并保留思维责任。然而，若缺乏透明信息，员工难以挑战系统建议。有效的监督需展示智能体的依据和行动提议，赋予员工调查和拒绝的权利，而非让其与工作流程搏斗。
以发票处理为例，智能体可在容忍范围内解决小额差异，将异常发送给专人；而更改供应商银行详情则需独立验证。单一的“自主”或“人工批准”设置会掩盖这些关键区别。此外，领导者需评估围绕系统的人为压力，因为AI表现出的自信可能让员工误以为无需质疑。
监控部署后发生的情况
测试环境下的成功不代表生产环境中的一致性。监控必须在智能体上线时启动，且指标需超越任务完成率。Wilczek建议关注下游信号，如发票记录请求增加或供应商查询增多，因为高效的智能体可能在其他地方制造隐性工作或风险。
此时，AI行为专家的价值得以显现。他们能跨越多项决策识别个人审查者难以察觉的模式，如更正率上升、准确性下降但信心持续、或不寻常的行动序列。Bastiman警告，不要将“欺骗”或“目标漂移”拟人化，重点应放在可观察的行为上：输出是否偏离既定推理，或系统是否为追求便利指标而牺牲真实目标。
这种专业知识未必需要新设职位，风险和运营团队可分担此责，前提是有人能识别模式并有权采取行动。若无人能缩减权限或停止智能体，监控便毫无价值。
为能力划定边界
最难管理的往往是那些极少出错的系统。当智能体长期表现良好，领导者可能扩大其范围，员工可能停止检查，客户可能盲目信任。但这些反应均不能证明智能体可胜任更具影响力的任务。
若企业无法追溯影响重要结果的信息或授权规则，智能体的独立权限应受限制。它仍可处理低成本、易逆转的工作，但重大财务决策等高风险行动需更强证据和清晰的人类判断路径。领导者的任务是在部署前写下界限，并随性能变化重新审视：确定所有者、定义允许操作、设定升级点、保存决策记录，并测试权限撤回速度。
这引发了贯穿本系列的疑问：现代职场是否需要专门的AI行为专家？Rousseau认为必要，但拒绝称其为“机器心理学家”，而是视为对“整个AI系统行为”的专业掌握。Bastiman则持怀疑态度，认为受监管行业现有的模型验证和风险管理已涵盖此职能。两人均警告勿借用描述人类动机的语言，如“欺骗”，以免误导。
归根结底，AI不需要人类意义上的心理学家。但企业必须洞察系统产生的行为及人们由此形成的习惯。当智能体表现得像同事一样能干时，组织必须明确一点：无论被授予多少自主权，AI从根本上仍是为用户服务的工具，唯一做不到的就是为其决策承担责任。