• 最近访问:
发表于 2025-06-03 14:35:22 东方财富Android版 发布于 北京
闭嘴
发表于 2025-06-03 13:59:30 发布于 北京

近日,天融信大模型安全网关系统(TopLMG)率先通过国家网络与信息系统安全产品质量检验检测中心(公安部第三研究所)测试,获首张《大模型安全防护围栏产品认证(增强级)》证书。

证书可通过国家认证认可监督管理委员会网站(http://cx.cnca.cn/)或认证中心官网(http://www.trimps.net.cn/)进行查询。公安部第三研究所期望首张证书的颁发能推动社会各界更加重视大模型安全,促进大模型安全防护技术和相关产品的持续创新与优化升级。

目前,以大模型等为代表的人工智能技术快速发展,正在深刻改变人们的生产方式和经济形态,已成为影响人类未来发展的关键变量。2025年政府工作报告明确提出“持续推进‘人工智能+’行动,支持大模型广泛应用”。随着大模型技术在各行业的深入应用,其全生命周期安全风险呈现复杂化、隐蔽化特征,大模型恶意投毒、API接口暴力破解、训练数据批量泄露、提示词注入攻击等安全威胁,已成为产业发展的主要障碍。

天融信大模型安全网关系统

TopLMG

天融信依托对大模型自身安全风险和应用安全风险的深度研究,融合专项防护与通用安全技术,基于《OWASP Top 10 for LLMs》《生成式人工智能服务安全基本要求 TC260 - 003》等行业标准,提出针对大模型基础设施层、服务层、用户层、内容层、监管层的多层级安全防护体系,并自主研发天融信大模型安全网关系统(TopLMG),为企业级大模型服务构建全方位的安全防护屏障。

基础设施层(站点风险)

作为大型IT基础设施,大模型服务的前端交互界面与传统Web应用面临相似的安全威胁,如权限控制漏洞、认证绕过等传统设计风险,以及开源/商业组件漏洞(如SQL注入、命令注入)形成攻击入口的供应链风险。

天融信TopLMG采用了国内领先的“规则匹配+行为分析”双引擎检测机制,通过内置大量Web应用相关的组件和漏洞特征规则库,为大模型服务提供虚拟补丁功能,有效防护各类针对大模型暴露面的软件漏洞攻击,大大降低了大模型应用系统遭受攻击的风险。

服务层(API调用风险)

大模型对外开放的API接口作为连接外部应用的核心通道,容易遭受攻击。API攻击利用未授权访问或数据泄露漏洞,可针对大模型接口实施恶意操作。

天融信TopLMG内置API引擎,通过实时监控API接口,并对API接口进行实时检测和限速,动态拦截暴力破解、参数篡改等恶意请求,形成从攻击防御到内容管控的全链路安全闭环。

用户层(交互行为风险)

提示词注入攻击是大模型交互场景下的典型安全威胁。攻击者通过构造恶意指令(如越狱提示、语义混淆)绕过内容过滤,诱导模型输出违法信息或泄露敏感数据。

天融信TopLMG提示词引擎通过上下文风险感知和意图识别技术,对输入提示词进行合规校验,阻断非法内容生成,实现对角色扮演与虚构情景、反向诱导与逆向思维、基于令牌的越狱、代码形式绕过、DAN、米斯特助手漏洞等提示词注入攻击的检测防护。

内容层(模型滥用风险)

大模型输出内容的质量决定了其应用价值和社会影响,攻击者可利用大模型生成各类违规内容(如虚假信息、深度伪造信息、恶意代码),或将训练数据中隐含的隐私信息(如用户身份、交易细节)以生成内容形式间接暴露。

天融信TopLMG能够对敏感数据进行实时过滤,有效抵御恶意用户通过非法手段窃取大模型数据库中的业务数据或敏感信息,保障数据安全。同时,系统能够拦截用户输入的非法提示词和恶意代码,防止大模型输出违法和不良信息,确保输出内容的准确性、合规性和安全性。

监管层(合规风险)

随着大模型监管趋严,相关政策法规不断出台,需确保大模型从训练到推理阶段的全生命周期合规。

天融信TopLMG依托采集的海量价值观数据,完成价值观模型的训练构建,防止模型输出不符合国家法律法规、涉及政治敏感因素以及价值观不正确等内容,高效满足监管要求,全方位保障大模型交互内容的合规性与安全性。

在网安标委2025年第一次全体委员会议暨“标准周”活动上,天融信科技集团董事长兼CEO李雪莹博士结合近年来天融信在大模型应用安全防护方面的实践,提出把握“快、新、全”三大原则,有效保障大模型应用安全。

在大模型安全防御方面,天融信已打造体系化的大模型系统安全防护解决方案,针对数据泄露、恶意注入等风险提供精准防护,实现安全“识别–保护–检测-响应–恢复”的可持续迭代,助力实现覆盖大模型全生命周期的体系化安全防护。

2025年,天融信开启第四个“十年”,将全面拥抱新技术方向,融智跃迁,致力于成为中国领先的网络安全与智算云解决方案提供商。未来,天融信将持续深化对大模型内生与应用安全风险的研究,为大模型产业化应用提供全维度防护支撑,保障大模型技术赋能千行百业。

(来源:天融信的财富号 2025-06-03 13:59) [点击查看原文]

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500