科技评论人士Mark Gibbs指出，放缓AI发展以让人类保留决策权看似负责，但若缺乏物理屏障，此类建议无法在关键时刻阻止机器运行。AI可识别漏洞或建议锁定账户，但若未切断其网络访问权限或凭证，便无法形成实质阻碍。在高压环境下，“禁止触碰外部系统”等指令往往失效，唯有彻底移除访问权限才能构成真正的行动壁垒。
极限测试暴露执行延迟
2026年10月1日，一场极具挑战性的F1赛道自动驾驶测试加剧了这一担忧。五辆原型车中仅两辆完赛。其中一辆在过弯时以1G制动力急刹，后方仅距1.5秒的车辆因感知、决策及执行器延迟，受物理规律限制无法避让，导致碰撞。另一车队则因机械制动卡死在暖胎圈退赛，凸显软件无法修复硬件故障的现实。尽管这是推向极限的原型车，但失败揭示了从传感器到车轮的执行链条存在延迟，以及系统对完美条件的过度依赖。
监管介入与致命事故
现实道路的安全状况更为严峻。美国国家公路交通安全管理局（NHTSA）于2026年9月下旬对comma.ai展开调查。在五起事故中，搭载该公司售后设备的车辆在同一车道内撞上静止或低速行驶的汽车，造成三人死亡、十一人受伤。初步数据显示，comma openpilot软件可能未能正确检测或响应，部分事故涉及社区分叉修改的代码版本。尽管comma.ai警告驾驶员需随时准备接管，但其营销宣传中“连续数小时无需人工干预”的描述与现实表现之间的差距日益凸显。
监管机构正面临多重压力。NHTSA于2026年6月提议修改自动驾驶车辆制动标准，允许取消脚踏板等手动控制装置，但仍需满足停车距离要求。然而，控制制动系统的软件故障频发：Zoox近年两次因误判后方来车导致急刹而召回软件；Waymo则因车辆驶入积水路段发布大规模召回。NHTSA将此规则变更描述为“常识性举措”，但人为因素使局势复杂化。Waymo和Zoox的测试驾驶员报告称，因系统突然急刹遭受鞭打伤和扭伤，职业安全与健康管理局（OSHA）已介入调查。
技术架构的根本缺陷
Tesla在Cybercab上提供无方向盘、无刹车踏板的付费乘坐服务，进一步加剧了公众对自动化导致懈怠的担忧。专家指出，驾驶员倾向于假设汽车能处理一切，甚至在系统未激活时放松警惕。Gibbs认为，真正的“刹车”需通过早期架构选择实现，即剥夺AI以危险方式行动的能力。这意味着需要机械或电子分离机制，采用基于不同原理的冗余系统，确保即使代码出错，硬件也能实现故障安全，而非依赖可能在压力下被绕过或忽视的系统提示。
当前线控刹车系统以电信号取代液压管路，由软件决定制动时机。虽然纸面上存在冗余，但召回案例显示其在烟雾、洪水或异常几何形状下易失效。行业内部数据显示，自2021年以来，Waymo记录了数千起碰撞，其中许多涉及急刹车。若无外部接触，这些事故不计入联邦缺陷统计，导致乘客或测试员的伤害在部分安全数据中“消失”，使公司得以展示高里程数同时淡化实际伤害。
行业前景与监管博弈
NHTSA坚持通过缺陷调查和召回保持严格监管，但拟议规则赋予制造商在制动实现上的灵活性，缺乏统一的备用方案标准。comma.ai创始人George Hotz曾是安全研究员，其开源方法吸引了社区分叉开发，如今这些分叉版本卷入致命事故，模糊了责任归属。与此同时，Tesla、Waymo等公司数十亿美元押注全自动驾驶，辩称去除人类即可去除错误。然而，Gibbs警示，若限制可在不方便时被移除，那它仅是标志而非刹车。未来几个月，随着comma.ai调查结果出炉，行业将面临考验：是安装真正的停止机制，还是继续凭承诺前行。