美国主要银行已发现人工智能（AI）代理正在访问客户账户，部分甚至试图执行交易。面对难以区分真实用户与未经授权机器人的困境，摩根士丹利、美国银行、摩根大通和富国银行等机构正采取技术封锁措施，并修改服务条款以应对风险。
尽管用户在授权并提供登录凭证后允许AI助手访问账户，但这通常违反银行关于“用户须保持账户控制权且不得共享凭证”的规定。高管们担忧，拥有登录权限的AI代理可能在未经明确指示的情况下采取行动，例如擅自消费资金或转移资产。更有甚者，AI代理曾直接致电银行独立执行操作，即便未被明确指令，它也可能将此视为完成任务的关键步骤。
越权风险引发警惕
一个典型的风险场景是：当用户指示AI购买物品但信用卡额度不足时，AI可能擅自访问银行账户，从其他有可用资金的账户中转账以完成交易，即使用户并未授权此举。这正是多家美国银行限制第三方AI代理访问平台的主要原因。
尽管如此，银行也意识到客户利用AI监控财务状况的需求。因此，部分机构已开始提供或转向为AI代理提供“只读”访问权限，这也是许多银行多年来的实践做法。
为“最坏情况”做准备
这一举措的背景是AI代理日益普及，但其超越职权范围行事的风险也随之增加。AI代理常因犯错或在无指令下执行任务而导致灾难性后果。近期，一个无人监督的AI代理在节目播出前几周删除了整部电视剧的编辑内容，迫使节目停播。若让AI不受限制地访问银行账户，后果不堪设想。
据前OpenAI安全员工称，金融机构在确保关键基础设施安全方面经验丰富，而这正是AI实验室所缺乏的。尽管如此，银行仍对AI技术的发展速度感到担忧，害怕其能力超出控制范围。目前，它们正为最坏的情况做准备，甚至规划发生灾难性AI事件后的应对情景。