• 最近访问:
发表于 2025-06-16 06:18:30 股吧网页版
人民日报谈人工智能热的冷思考②:拧紧新技术发展的“安全阀”
来源:人民日报

  重视AI安全,不是给这辆疾驰向未来的列车套上枷锁,而是铺平轨道,让其沿着健康可持续的方向,跑得更快、更稳

  人工智能浪潮奔涌向前,带来前所未有的发展机遇,也带来不容忽视的风险挑战。“声音克隆”导致电信诈骗防不胜防,“换脸视频”引发的造谣诽谤时有出现,“AI幻觉”让生成内容真假难辨……今天,技术的“双刃剑”效应愈发具象化。经济合作与发展组织数据显示,2024年AI风险事件总数比2022年增加了约21.8倍,并呈快速发展态势。

  有人认为,当下正值AI抢位发展关键期,不应做过多限制;有人则觉得,技术问题会随发展自行得到解决,不必过早干涉。其实不然。要看到,一方面,“先放手后治理”,可能让“小风险”逐步叠加,变为“大问题”,治理代价会更大;另一方面,规范并不等于“设限”,如果放任技术沿着有违公序良俗、有悖产业规律的方向狂奔,有可能导致错失发展良机。重视AI安全,不是给这辆疾驰向未来的列车套上枷锁,而是铺平轨道,让其沿着健康可持续的方向,跑得更快、更稳。

  习近平总书记指出:“要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。”落实好这一重要要求,才能平衡技术发展与安全,推动人工智能更好造福社会。

  技术每前进一步,治理就要跟进一步。时时有边界,技术方能在合理框架内有序前行,不越界;规矩跟得上,技术才会在正确轨道上稳健发展,不逾矩。技术发展的历程,也应是政策法规不断完善的过程。

  持续织密安全防护网,既要为发展划定红线,也要为创新留足空间。从发布《生成式人工智能服务管理暂行办法》,实行包容审慎和分类分级监管;到公布《互联网信息服务深度合成管理规定》,要求给相关AI内容“进行显著标识”;再到印发《人工智能生成合成内容标识办法》,推进从生成到传播全链条治理……近年来,以网络安全法、数据安全法等为依据,AI领域的政策文件不断出台,推动人工智能治理沿着法治轨道向前迈进。始终跟随技术前进的步伐动态完善政策法规,方能实现促进发展和依法管理的有机统一。

  企业是推动人工智能发展的重要力量,也是直面用户的第一道安全防线,必须担负起主体责任。人工智能技术日新月异,但无论形势如何变化,情况如何复杂,“技术向善”应始终是企业追求的原则。以生成式人工智能为例,腾讯宣布,对违规“AI洗稿”发文行为的主体进行限制和清理;抖音明确,对不当利用AI生成虚拟人物的内容严格处罚;今日头条披露,2024年处理低质AI内容超93万条。企业“立规矩、明边界”,既有效防范了风险,也促进了生成式人工智能健康发展。企业增强责任感,不断拧紧“安全阀”、系紧“安全带”,确保技术进步服务于人、造福于人,才能在激烈市场竞争中赢得信任和支持。

  发展的问题要靠发展来解决。以技术对技术,以技术管技术,才能真正筑牢安全的底线。针对AI造假,合合信息推出新型检测技术,可捕捉图像篡改过程中留下的细微痕迹,慧眼辨伪;面向网络诈骗,浙江一团队开发“电子标识”,嵌入的音视频若被用于AI加工,就会触发“引信”,破坏生成后的内容;奇富科技研发智能风控系统,2024年发布AI反诈提醒13.8万次,劝阻潜在被骗者超2.9万人。善用“技防”,以技术之盾抵御技术之矛,“通过魔法打败魔法”,安全防护会更及时、更智能、更高效。

  在规范中释放活力,在创新中筑牢防线,这是保障人民群众合法权益的必需,也是推动我国人工智能健康有序发展的必然。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
郑重声明:用户在社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500