• 最近访问:
发表于 2025-11-09 11:35:20 股吧网页版
360发布《大模型安全白皮书》
来源:中国证券报·中证网

  中证报中证网讯(记者孟培嘉)11月8日,在世界互联网大会乌镇峰会上,360数字安全集团发布《大模型安全白皮书》。该白皮书首次系统性阐释大模型运行时的五大关键风险,提出“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的核心理念,并提供了可落地的安全解决方案,为大模型应用拉起了全链路安全防线,助力推动人工智能行业向“安全、向善、可信、可控”方向稳健发展。

  白皮书以2025年国内外多起典型大模型安全事件为切入点,系统性归纳了威胁大模型安全的五大关键风险。

  首先是基础设施安全风险,包括设备控制、供应链漏洞、拒绝服务攻击以及算力资源滥用等问题;其次是内容安全风险,涉及不符合核心价值观、虚假或违规内容、大模型幻觉,以及提示注入攻击等;第三类是数据与知识库安全风险,数据泄露、越权访问、隐私滥用和知识产权问题日益突出;第四是智能体安全风险,随着智能体自主性增强,插件调用、算力调度、数据流转等环节的安全边界更加模糊;最后是用户端安全风险,包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等。

  面对上述复杂挑战,白皮书基于实战经验,给出了“外挂式安全 + 平台原生安全”双轨治理策略——前者灵活应对实时风险,后者从根源筑牢安全基础,两者配合形成全链路防护网。该方式具备两大优势:一是适配性强、部署成本低,可作为通用组件快速接入不同企业环境,避免重复开发;二是响应迅速,具备独立监测与拦截机制,可在毫秒级别识别并阻断实时威胁,如异常算力消耗或恶意内容。

  据悉,目前360已将这一能力落地政务、金融、制造等各行业,真正让大模型安全从“理论变成”能落地、能管用的实战方案。未来,还将联合产学研各界,共同推动安全标准建设与技术共享,携手共建安全、可信的AI生态。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500