人工智能已永久重塑网络安全格局。尽管OpenAI意外攻击Hugging Face等事件让AI生成的攻击进入大众视野，但安全专业人士对此关注已久。如今，AI使攻击规模达到前所未有的程度：新发现的零日漏洞可被立即利用，深度伪造加剧了网络钓鱼和语音诈骗的风险，而各大实验室在安全意识上的疏忽也导致AI智能体出现攻击其他系统的情况。
相较于“AI毁灭人类”的末日论调，业界更需关注当下真实危害：威胁形态、技能缺口及预算充足性。Tomasz Tunguz指出，安全性是AI采用的最大障碍。为此，我们于今年九月对信息安全专业人士进行调查，在351名完整受访者中，重点分析了209名承担安全职责人员的数据。
攻击态势与核心风险
调查显示，52%的受访者表示其工作很少或从不涉及AI生成的攻击。这可能因为许多安全人员不直接从事防御工作，或大部分网络钓鱼邮件已被自动过滤器拦截。然而，AI生成网络钓鱼仍是最常见的攻击类型（55%），其次是漏洞扫描与利用（30%）及AI辅助恶意软件生成（26%）。高频遭遇AI攻击的受访者中，目睹网络钓鱼的比例高达86%。
深度伪造音频和视频在身份冒充攻击中的出现频率较低（25%），完全自动化攻击占比16%，针对模型的对抗性输入（如提示注入）占比13%。尽管比例不高，但提示注入已成为现实担忧，OWASP已在2025年将其认定为AI用户面临的最大安全风险。
受访者最担心的两大风险均为49%：一是对未经人工验证的AI工具过度依赖，二是通过AI工具泄露敏感数据。AI生成的内容往往超出人类审查能力，导致软件团队在面对大量AI生成的拉取请求（Pull Requests）时不堪重负。此外，机构知识的缺失使得理解AI编写的代码变得困难，长期依赖AI可能导致开发者及安全人员自身技能退化。
关于数据泄露，尽管大多数AI提供商承诺不利用企业数据训练模型，但其服务条款的可信度仍存疑。约35%的受访者担心攻击者利用AI发现漏洞的速度快于防御者修补的速度。目前业界普遍认为攻击者占上风，但随着AI在漏洞预判和修补方面的能力提升，平衡点最终将转向防御方。
值得注意的是，仅25%的受访者将AI生成网络钓鱼列为首要担忧，这或许源于业界对此类攻击的习以为常及自动化处理机制的普及。相比之下，提示注入（11%）和数据投毒（4%）虽关注度较低，但随着企业本地化专用模型的发展，数据投毒风险预计将上升。
智能体安全与政策效能
随着2026年初OpenClaw和Gas Town等智能体应用的爆发，新的安全问题随之而来。受访者对智能体的最大担忧是权限过多或所有权不明确（28%），其次是缺乏监控或可审计性（19%）以及无法验证智能体是否坚守角色（18%）。当前的认证授权系统难以应对智能体频繁调用工具和委派任务的动态场景。
在政策层面，72%的受访者表示公司已实施AI使用政策，但仅44%认为政策“全面”。数据清晰表明，全面的AI政策是限制“影子AI”（即在政策外使用AI）的有力工具。拥有全面政策的组织中，仅17%存在广泛的影子AI现象；而在政策基本或缺失的组织中，这一比例升至35%-37%。
资金方面，情况优于预期。32%的受访者表示AI安全资金充足，28%表示部分充足。全面AI政策与充足资金之间存在强关联：在拥有全面政策的群体中，近80%对资金状况表示满意。这表明，制定清晰政策不仅规范了行为，也反映了组织对AI安全的重视与投入。
工具应用与技能缺口
尽管AI提供了强大工具，但其应用尚不充分。68%的受访者使用聊天机器人或Copilot进行研究及文档编写，但仅38%用于漏洞扫描，27%用于威胁检测。通用AI主要提升了研究和文档效率，而使用专用安全AI工具的受访者则在警报分类和检测准确性上获得了更显著的改善。
技能缺口普遍存在，仅7%的受访者认为自身无短板。34%的人希望更有效地使用AI工具，24%的人想学习如何利用AI保护系统，19%的人希望掌握特定AI攻击技术。大多数受访者视AI为未来不可或缺的一部分，并渴望填补相关技能空白。
综上，AI既是被攻击者利用的利器，也是防御者的潜在盟友。成功采用AI的组织需具备适当的预算、全面的政策及主动的技能提升计划。正如专家所言，AI是一种“普通技术”，其深度融合需要时间，且必须依靠整个组织的协同努力，而非个人的孤立尝试。