21世纪经济报道记者王俊北京报道
2026年的AI大事记中，“安全”应该留下姓名。
尽管聚光灯似乎总是聚焦于市场资本以及持续迭代的技术，但安全问题业已成为监管与行业的显学。5月份，欧洲央行紧急召开安全会议，警告各大银行：最新大模型Mythos正在威胁金融系统；7月份，OpenAI的一款Agent越狱，持续攻击Hugging Face，一周后才被发现；就在最近，欧盟委员会人工智能办公室正式对OpenAI 和 Anthropic 的模型越狱情况开展调查……
国内层面，最新公布的《国家信息化“十五五”规划》中专设了“安全保障”的章节，除却已经在业内推进的智能体、端侧AI、拟人化互动服务的评估备案，还提到了“人工智能密码防护”“基于大模型的漏洞挖掘与防护技术研发应用”等。
安全与合规，过去常被当作企业发展的“刹车片”：花钱、费力、拖慢上线速度。但在AI时代，它正从外部约束转为内生属性，并变成一种竞争力，乃至公共产品。
写进规划里的密码防护体系与大模型漏洞挖掘技术
与国家信息化“十四五”规划相比，国家信息化“十五五”规划专设了安全保障与法律法规专章，其中提到：“推动网络安全技术创新和产业发展，鼓励发展安全可靠的信息产品和服务。”这是对安全行业的整体鼓励性措施。
具体来看，包括“加强人工智能密码防护体系建设”。
一直以来，密码学是一门攻防学问，密码的安全性依赖于“对抗性审查”，即目前已知的攻击办法都无法攻破它。此前，这种攻防受制于人的精力与专业门槛，推进速度慢。而 AI 的出现，同时释放了“发现漏洞”与“攻击”两种能力。它既可以是坚固的盾，也可以是精准击穿防线的矛。
上述Mythos被欧洲央行预警，正是因为它发现漏洞的能力太强，这种能力既可以助力修复漏洞，更可以被黑产利用。此后，7月29日，Mythos Preview仅用60小时便攻克两项密码学难题，并发现数千个零日漏洞。相比之下，人类验证这些发现耗时近一个月。
密码防护体系的根基正在松动，AI时代需要划定新的密码安全防线。
除却密码防护体系建设外，国家信息化“十五五”规划中还提到了“推进基于大模型的漏洞挖掘与防护技术研发应用”。
当前，市场上已经有不少相关产品，既有以OpenAI GPT-5.5-Cyber为代表的安全专用模型，也有微软Security Copilot等漏洞分析辅助系统，以及一批开源的安全工具。
不过，与密码防护体系面临的问题类似，AI也在重构漏洞分析与安全防御的技术范式。一方面，AI提升了漏洞发现、分析的能力，同时，也扩大了漏洞被潜在利用的广度。
9月底到10月初，韩国9家金融机构接连发生客户数据外泄事件，据称目前至少有65,000条个人信息和信贷数据被盗取。韩国政府启动了全天候网络安全紧急状态，总统下令彻查。根据CrowdStrike的报告，此次网络攻击事件的核心工具是一个开源的AI渗透测试代理ARTEX，这次大规模攻击很可能是在仅1名人类黑客的指挥下实施的。
此前，攻防战的另一方站着顶级黑客，但现在门槛被拉低，只要会写提示词、懂得调动工具，“漏洞分析工具”就可能变成“漏洞攻击工具”。
北京邮电大学网络空间安全学院教授李祺认为，应把安全基因内嵌于模型开发管线，将制度规范前移至部署许可环节，将生态协作扩展为信息共享与风险共担的共治格局，才能走出一条可持续发展的治理之路。
AI安全不应是“拖累”
对于AI产品，国家信息化“十五五”规划中重申了评估备案机制：优化生成式人工智能备案机制，建立重点领域应用安全风险评估制度，完善智能体、端侧大模型、拟人化互动服务等新形态的评估备案。
目前，智能体、端侧大模型、拟人化互动服务等新形态的评估备案在稳妥推进中。
以近两年话题度居高不下的手机智能体为例，7月，Apple智能、华为小艺AI大模型、OPPO AndesGPT、vivo蓝心端侧大模型、小米澎湃AI、三星盖乐世AI以及努比亚豆包手机大模型等7款大模型通过网信备案。9月，阶跃、荣耀YOYO Claw、小米miclaw等也通过了备案。
长期以来，业界普遍认为“安全合规是一件奢侈品”，安全总是与“限制”“拖慢速度”等绑定在一起，但是在AI时代，安全不仅是嵌入大模型、AI产品的内生基因，搭建防线的基石，更是一项竞争优势。随着AI应用于金融、医疗、法律等高风险的业务场景，数据保护能力、系统可靠性、模型行为的稳定可控以及坚固的防线，恰恰是客户最在乎的部分。
以近日披露招股书的Anthropic为例，该公司一直将安全作为重要的商业策略。在招股书中，Anthropic称，“安全研究是我们业务的核心，任何强大到足以带来我们所预期的AI巨大利益的技术，同时也带来风险。”Anthropic陈述了自己覆盖“训练、评估、可解释性、保护和监测”的安全研究组合，并表示，在开发期间以及发布前后会评估每个模型的风险，并采取适当的手段来缓解这些风险，包括推迟新模型的发布。
不仅如此，Anthropic将可靠的安全措施、可预测的模型行为与可证明的问责能力，列为企业选择AI合作伙伴的决定性标准。“商业成功与对安全的严肃承诺并不冲突。我们构建了历史上增长最快的业务之一，同时在每一个阶段都将安全作为核心优先事项，”招股书中提到。
AI时代的信任根基如何搭建决定了AI的走向，这也是国家信息化“十五五”规划中所强调的“鼓励发展安全可靠的信息产品和服务”的意义所在。
