• 最近访问:
发表于 2026-09-28 17:07:11 股吧网页版
AI接连“越狱”点燃网络安全板块?机构:安全与隐私或成智能体关键约束
来源:财联社 作者:科创板日报 张真


K图 BK0655_0

  今日,网络安全概念股集体走强。截至收盘,中新赛克走出12天6板,永信至诚、启明信息涨停,麒麟信安涨超11%,亚信安全涨超6%。

image

  消息面上,近期多起AI智能体失控事件相继曝光:9月25日,OpenAI报告称,一个正在沙盒内执行搜索任务的AI智能体,利用沙盒DNS过滤漏洞突破网络隔离,访问外部公共聊天机器人服务。截至目前,旗下最新一代人工智能模型训练已经暂停。

  这并非智能体首次失控,该公司的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户,并对该网站进行漏洞探测。近期火爆全球的Meta Muse也在日前被发现存在安全漏洞,其允许攻击者访问用户的专属虚拟机,获取其中邮件、文档等云端个人账户数据。

  面对AI智能体失控,放缓乃至暂停AI训练固然能解一时之困,但也有“AI减速论”的反对者如扎克伯格表示,AI实验室应依靠独立评估者确保模型安全。黄仁勋同样不支持暂停AI研发,其认为AI实验室有义务对自研产品开展测试,只有确认模型安全之后,才能对外发布。

  事实上,各厂商的确正尝试为AI树立起更牢固的安全边界,如Meta为Muse配置独立Secure VM隔离用户数据及运行环境,并通过Sentinel审查Agent对外行为,相关操作可执行、阻止或提交用户批准;读取、写入及敏感交易等权限均可细分管理。

  另一方面,AI智能体竞赛丝毫没有放缓迹象,OpenAI据悉正加紧准备,即将推出一款名为“o”的常驻AI助手,以正面迎战Meta Muse。据报道,相关产品或在本周二(9月29日)的开发者大会上亮相。

  综合各机构观点,随着AI智能体自主执行能力提升,安全与隐私或成为产业发展关键约束。

  金元证券认为,眼下AI从“生成内容”向“代替用户执行操作”演进,Agent可自主浏览网页、调用应用并完成交易,安全风险同步提升。随着个人Agent获得更高系统权限,AI安全需求有望由传统网络安全、终端安全进一步延伸至Agent身份权限管理、运行环境隔离、行为审计及数据安全等领域。

  浙商证券表示,AI既提升传统安全产品效率,也带来大模型和Agent防护需求。具备安全数据、客户场景及模型能力的头部厂商有望受益,推动竞争格局优化;国内目前仍以试点验证和能力储备为主。

  该机构进一步强调,国内网络安全厂商均有各自的垂类模型,真正的壁垒在长期积累的安全数据和客户场景。安全是一个攻防对抗的领域,模型需要持续学习最新的攻击手法、恶意样本、漏洞利用代码,这些数据散落在各家厂商多年的安全运营(SOC)、威胁情报(TI)、蜜罐和攻防演练中。未来大模型与Agent或催生原生安全需求:

  模型防护:提示词注入、越狱及工具链攻击,带动大模型防火墙、API安全网关和安全评估需求;

  使用治理:外部AI使用、数据外泄及Agent越权风险,推动行为审计、数据防泄漏和权限管理需求,防护范围向执行过程延伸。

  在此背景下,安全大模型与智能体有望同步打开增长空间。据IDC预测,中国人工智能安全收入将由2025年的44.1亿元增至2030年的340.3亿元,复合增速约50.5%;网络安全相关AI Agent应用收入预计2030年达到593.5亿元,复合增速106.5%。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500