10月28日,十四届全国人大常委会第十八次会议表决通过了关于修改《中华人民共和国网络安全法》的决定。修改后的《网络安全法》将于2026年1月1日起正式施行。此次修改在原有监管体系上,首次将人工智能治理纳入法治轨道,并强化了主体责任与处罚力度。
《网络安全法》修改
AI安全法治迈上新台阶
此次《网络安全法》的修改,主要有三方面需要重点关注。
责任更重:本次修改明确“网络运营者处理个人信息,应当遵守本法和《中华人民共和国民法典》、《中华人民共和国个人信息保护法》等法律、行政法规的规定”。这意味着《网络安全法》与《个人信息保护法》等法律形成合力后,监管执法将更严密。
处罚更严:《网络安全法》修改后规定,对于网络运营者和关键信息基础设施运营者,“造成大量数据泄露、关键信息基础设施丧失局部功能等严重危害网络安全后果的,由有关主管部门处五十万元以上二百万元以下罚款,对直接负责的主管人员和其他直接责任人员处五万元以上二十万元以下罚款;造成关键信息基础设施丧失主要功能等特别严重危害网络安全后果的,处二百万元以上一千万元以下罚款,对直接负责的主管人员和其他直接责任人员处二十万元以上一百万元以下罚款。”更明确的惩罚标准,要求各类机构切实落实主体责任,强化安全建设。
AI治理入法:本次修改最大的亮点,无疑是将人工智能治理明确写入法律。根据规定,“国家支持人工智能基础理论研究和算法等关键技术研发,推进训练数据资源、算力等基础设施建设,完善人工智能伦理规范,加强风险监测评估和安全监管,促进人工智能应用和健康发展”。这为AI产业的高速发展提供了明确的法律预期:鼓励创新,但必须在安全轨道上进行。
AI的健康发展
必须配以法治的“缰绳”
近年来,全球范围内AI应用呈现爆炸式增长,从企业内部的知识库、代码助手,到面向公众的聊天机器人、文生图工具,AI正深度融入生产和生活的方方面面。然而,这种深度融合也带来了前所未有的安全“攻击面”。
一是AI工具与应用,作为复杂的软件系统,本身面临基础设施和软件安全风险,如系统漏洞、数据泄露、模型篡改等;二是AI工具虽然提高了内容产出质量,但同时生成的内容可能包含误导信息或偏见内容,被用于不良目的,如钓鱼邮件和恶意软件的编写,降低网络攻击等犯罪门槛。AI安全的挑战不再局限于技术层面,而是贯穿数据、模型、内容与应用全链路的系统性风险。
新修改的《网络安全法》将AI安全提升至战略高度,既是当下之需,也是时代必然。对所有涉足AI业务的企业而言,安全与伦理应成为产品研发的DNA,贯穿数据采集到模型部署的全流程,开展常态化安全测试评估已成为实现AI安全的必要前提。
主动合规
筑牢企业健康发展的安全基石
此次《网络安全法》的修改,是一次立足当下、面向未来的系统性升级。同时,它也为政企机构清晰地传递出一个信号:合规不再只是监管要求,而是企业赢得市场信任与持续发展的基石。
第一,必须将网络安全视为生存与发展的生命线,切实压实主体责任。各政企机构,均应抓住新法施行前的窗口期,主动梳理数字资产、排查风险,对照新法要求及时整改,避免“带病上线”。应重点核查网络关键设备的安全认证、数据存储的加密标准、员工账号弱口令等关键环节,系统性地做好数字健康管理。
第二,坚持科技创新的同时,必须筑牢安全底线。面对AI大模型应用伴生的数据投毒、提示注入、越狱攻击等新型安全挑战,政企机构应建立贯穿AI全生命周期的安全测评与风险闭环管理机制,尽快完善内部AI安全管理制度,建立算法备案与伦理审查流程,定期开展算法安全风险评估,从被动合规转向主动治理。
安全,绝不能再是“亡羊补牢”的事后补救,而应是“未雨绸缪”的主动规划。作为数字安全测试评估赛道领跑者,网络靶场和人才建设领军者,永信至诚将继续依托「数字风洞」产品体系及丰富的AI项目落地经验,助力政企机构提升数字健康管理能力,保障数字健康,带给世界安全感。
往期精选
赛事演练
核心产品
完
(来源:永信至诚的财富号 2025-10-29 17:10) [点击查看原文]