• 最近访问:
发表于 2025-04-30 15:41:19 股吧网页版
奇安信董事长齐向东:人工智能大模型爆发 引发三重安全风险
来源:证券日报

K图 688561_0

  本报记者李乔宇

  “人工智能大模型应用在各行各业迎来大爆发,新兴场景层出不穷,带来无限生产力、创造力,同时也带来巨大安全风险。”4月29日至4月30日,第八届数字中国建设峰会在福建福州举办,会议期间,奇安信科技集团股份有限公司(以下简称“奇安信”)在接受《证券日报》等媒体记者采访时表示。

  齐向东强调,第一,“小数据”“一失万无”。他告诉记者,“小数据安全”成为数字经济时代的核心关切点。数据是驱动数字经济发展的“石油”,人工智能是“发动机”。“过去,提到数据我们想到的都是大数据,规模大,但碎片化、质量参差不齐,数据价值挖掘和变现难。现在有了人工智能,尤其是大模型,传统企业开始把所积累的设计数据、生产数据、安装调试数据等通过去粗取精、去重整合、分类标注等加工处理,形成精华小数据。对企业而言,一旦精华小数据被窃取、被泄露、被篡改,企业常年积累的核心竞争力会瞬间崩塌。”他表示。

  第二,大模型融通百业,“裸奔”上线极有可能引发业务停摆的链式危机。齐向东援引数据表示,奇安信资产测绘鹰图平台监测发现,8971个Ollama大模型服务器中,有6449个活跃服务器,其中近九成都在“裸奔”,“导致任何人,不需要任何认证就可随意调用、在未经授权的情况下访问服务。”

  第三,部分企业对AI过度依赖,一旦大模型决策失准会引发“蝴蝶效应”。从外部攻击视角看,黑客可以通过漏洞利用、数据投毒等方式,干扰大模型的决策,披着大模型的外衣作恶。从内部运营视角看,如果内部员工在更新知识库时,引入错误信息会污染模型学习环境,使其输出错误结论。

  为了应对这些风险,奇安信针对AI大模型的垂直新场景,创新研发安全产品,护航千行百业踏实地向人工智能要生产力;同时把AI技术深度集成到安全产品中,促进安全防护提质增效。

  “我们围绕大模型应用,推出了大模型安全空间、奇安天界大模型安全一体机,为基于大模型的智能业务应用保驾护航。”齐向东表示。

  “在数字经济发展过程中,网络安全是底线根基和上限支撑,是价值创造的强劲引擎。”齐向东强调,数据要素流通、人工智能应用、算力网络构建出更繁复的新兴场景,这些场景的落地必须以网络和数据安全为前提,否则所有创新成果都可能因为漏洞而化为泡影。同时全球科技博弈日益加剧,以人工智能为核心的新技术成为大国角力战场,倒逼着网络安全持续创新,实现技术自主可控,为数字经济构建安全护城河。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500