近日，2025（第二届）“金灵光杯”中国互联网创新大赛颁奖仪式圆满落幕。凭借在网络信息安全领域的持续深耕，东方通“深伪有害智能检测系统”项目荣获本届大赛“信息通信安全专题赛—生成式人工智能安全方向”优秀奖。
为充分发挥互联网对经济发展的放大、叠加和倍增作用，展示互联网及相关领域的最新成果，彰显互联网的创新活力与影响力，推动数字经济和实体经济深度融合，第二届“金灵光杯”中国互联网创新大赛（以下简称“大赛”）应势启动。作为大赛的重要组成部分，“信息通信安全专题赛—生成式人工智能安全方向”由中国信息通信研究院承办，聚焦生成式人工智能安全的前沿技术与应用创新，旨在推动行业安全能力建设，构建安全可靠的人工智能应用生态。
该专题赛围绕“技术创新”与“应用创新”两大方向，面向全国企事业单位、高等院校、科研机构及行业组织公开征集优秀项目。经过严格的形式审查和初赛专家评审，从创新独特性、发展前瞻性、应用实效性及安全合规性四个维度进行综合评判，东方通凭借在信息安全领域的综合技术实力、深厚实践积累以及持续创新，其“深伪有害智能检测系统”从众多参赛项目中脱颖而出，赢得该专题赛优秀奖。
当前，生成式人工智能（AIGC）技术飞速发展的同时，也带来了虚假内容泛滥、有害信息传播等安全风险，涉黄、涉赌、暴恐等有害内容借助 AI 技术加速扩散，为社会治理、行业安全与公众权益带来严峻挑战。对此，东方通“深伪有害智能检测系统”项目聚焦应对生成式人工智能（AIGC）所带来的虚假内容与有害信息双重风险，研发出一套集成真实性检测与有害内容识别的多模态系统。通过分析内容的内在逻辑矛盾、物理规律异常及生成特征残留，系统能够实现对AI合成内容的精准识别。该项目成果能够有效在亿级内容审核、实名认证入网、金融反欺诈、司法电子证据认证等多个场景提供有力支撑。
深伪有害智能检测系统创新优势
该系统创新性地融合了深度语义解析、跨模态一致性验证、数字指纹追踪及多模态有害特征识别四大技术，构建了覆盖内容全生命周期的安全防护体系。在多模态融合检测、主动防御机制及实时处理能力三大维度实现技术跨越，形成突破性创新优势：
突破单点检测局限 构建多模态协同体系
构建覆盖图像、音频、视频、文本的全栈式深度伪造与有害内容识别框架，区别于传统单点检测方案，通过跨模态特征融合与多域特征协同，实现从单模态伪造痕迹挖掘到多维度交叉验证的跃升。
应对新型AI生成技术 增强动态对抗防御能力
引入对抗样本库自动更新机制（深度伪造样本与有害内容对抗样本），结合防御性蒸馏技术，本系统对新型人工智能算法生成视频的误检率降低11%，对有害内容的拦截率提升9%，显著提升模型鲁棒性。
五大突破提升实时处理与泛化能力
采用频域伪造痕迹增强机制，在图像与音频检测领域采用多模态频域注意力增强技术，突破传统注意力机制对频域伪图像的感知瓶颈，音频端提出多倒谱系数联合频域卷积架构，使未知 AI 合成检测能力提升 8.5%；
针对视频压缩规避检测问题，将动态伪造行为解耦为空间形变与时序速度异常，较主流方案提升10.3%；
语义解析突破关键词局限，可精准识别双关语与隐晦表达有害内容，同时，针对重要领导人讲话内容的真伪语义对齐，识别AI生成的虚假政令，为内容审核提供智能化决策支持；
数字指纹追踪技术采用感知哈希算法与区块链技术，构建不可篡改的传播溯源链，助力“清朗·AI伪造内容治理”专项行动高效处置伪造、有害信息；
构建生成缺陷知识图谱，突破传统黑箱检测模型的信任瓶颈，检测结果可解释性达90%以上，高效支撑 AI 内容治理。
应用场景与成效
本项目构建“被动检测+主动防御”双轨架构深度伪造防控体系，凭借其全模态覆盖、高精度检测与主动防御能力，在基础电信运营商、政务、金融、社交媒体等领域展现出显著应用价值。
在基础电信运营商领域，可深度融入运营商网络基础设施与业务场景，对5G通话、实名认证等高风险场景实施实时鉴伪，赋能推动“清朗·AI伪造内容治理”向自动化、精准化演进，同时构建多模态内容审核中枢，审核短信、图片、短连接等多样化内容，形成全方位、智能化的安全防护网络；
在政务安全领域，能够实时筛查虚假政务视频、伪造官员言论等内容，有效应对 AI 换脸生成的虚假政务信息，守护政务公信力；
在金融风控领域，音频模块嵌入银行呼叫中心系统，实时拦截TTS伪造声音的转账请求，精准监测 “倍投”“包赢”等涉赌关键词，强化反诈风控能力；
在社交媒体领域，针对短视频平台日均数十亿条 UGC 内容，系统凭借 25 张 / 秒的图像检测并发能力与 4K 视频单帧分析＜320ms 的处理速度，实现虚假内容与有害信息的实时拦截。
（来源：东方通的财富号 2025-10-21 09:02） [点击查看原文]
