近日,Soul App发布《2025年第三季度生态安全报告》(以下简称“报告”)。报告详尽披露了第三季度平台在生态安全领域所取得的进展,全面展示了Soul围绕“技术+制度+教育”三维治理体系的创新实践与显著成效。这标志着Soul在用户信息保护、反欺诈、未成年人守护、网络暴力治理及社区共治等关键领域的持续投入和能力升级。
在第三季度,Soul持续深化AI前沿技术的应用,构建全方位、高智能的安全防护体系,通过不断完善技术手段,平台在前端拦截和中端处置能力上实现提升。Soul App针对性地迭代升级了多项AI反欺诈模型,重点发力于提高识别准确率和降低误伤率,确保用户体验的顺畅与安全。
一是对基于AI大模型的图片反欺诈模型进行了深度优化,取得了显著成果。数据显示,误伤量级大幅下降约80%,而识别覆盖率则提升至90%以上,实现了对主流图片生产场景的全面、精准防护;二是平台完成人设大模型优化升级,高风险人设识别覆盖率由不足50%提升至70%以上,有效增强了对潜在欺诈人设的提前预警和识别能力,将风险阻断在用户接触初期;三是持续保持与监管部门及公安机关的紧密合作,积极参与到打击违法有害信息的行动中。第三季度,平台向全国推送各类违法有害线索100余个,调证协查80余次,并参与其他警企合作工作3次,以实际行动帮助构建起坚实的安全防线。
在第三季度中,平台违规内容机审直接拦截量439万,同时对相关跟帖、评论处理量1578万;处置违规账号30.6万个,并对同设备下存在多个违规账号进行拉黑备案;针对群聊生态,第三季度日均中断违规语音超5600条,日均拦截违规文字消息2.6万条,确保群聊空间的文明有序。高强度的治理力度,有效遏制了违规内容的滋生。
Soul深知社区生态的安全健康离不开每一位用户的积极参与。在第三季度,平台持续推进“社区共建共治”体系,并加大用户教育力度,提升全员数字素养。
报告显示,内容推荐官、风纪委员等在任社区共建用户数量已超过7.8万人,其中,日均站内内容推荐官在任用户5.1万人,日均参与投票和投票人数均稳定增长。社区成员日均贡献2.2万+次投票,通过这一高度参与的方式,最终日均产生2900+个优质帖子,形成了“用户参与治理,治理反哺优质内容”的良性循环。
《2025年第三季度生态安全报告》不仅是一份阶段性的工作总结,更是Soul App对全体用户乃至整个社会的安全承诺书。在过去一个季度,Soul依靠其强大的AI技术能力、严格的制度执行力以及日益壮大的社区共治力量,成功构筑了一道智能化的安全防线。