• 最近访问:
发表于 2026-11-01 23:43:30 股吧网页版
优质内容入模型、处置AI魔改 平台加速未成年人保护治理
来源:人民网

  人民网北京11月1日电(记者孙阳)日前,小红书在“大城小聚·城市会客厅——未成年人保护治理开放日”现场公布未成年人保护治理阶段性进展:暑期扩充超300万篇优质笔记进入未成年人模式,今年7月至9月处置AI魔改、毒动画等相关违规笔记超12万篇,针对“小圈层暗语”搭建自进化语义识别体系,日均学习“新暗语”超2000个。平台同时宣布,“未来薯地计划”全面升级,从线上延伸到线下,未来一年将联合全国博物馆、动植物园、体育户外等青少年友好机构,共同组织至少100场面向青少年的线下活动。

  小红书未成年人保护与治理相关负责人介绍,今年暑期,平台根据青少年高频搜索和兴趣偏好,全面扩充未成年人模式内容池,内容覆盖艺术审美、科学与自然、生活实践、体育与运动、人文历史、阅读与写作等十大方向。入池笔记均来自站内优质博主,内容先经平台大模型筛选,再由人工复核。

  在增加优质供给的同时,平台集中清理AI魔改、毒动画和不良暗语等违规内容。平台结合AI特征识别、图像识别技术和经典动画IP库,精准召回儿童邪典、AI魔改和不良恶搞内容;同时,深挖批量制作传播团伙,采取封号禁言处置,对涉嫌违法犯罪的线索移交公安机关,依法追究法律责任。

  针对“小圈层暗语”“日抛型梗”更新快、隐蔽性强等治理难点,平台搭建自进化语义识别体系,自动召回新出现的变体和暗语。该负责人表示,未成年人的正常表达平台不会随意干预,但有人借这些暗语售卖违规商品或传递不良信息,平台将依法依规处置。

  据介绍,小红书围绕隐私肖像保护、财产反诈教育、身心健康建设等搭建保护机制,并通过风险感知、模型巡检、蓝军攻防、安全回查四种手段交叉验证,建立“主动感知、提前预警”的全景治理网络。

  财产反诈教育方面,平台设置未成年人模式、直播身份认证、算法引入识别及全覆盖反诈教育四层防线。今年暑期,平台算法识别出满足高危特征的涉诈犯罪团伙,并向公安机关提供线索。开学季,针对“厌学”情绪抬头,平台在搜索侧进行专项干预,优先置顶“开学焦虑怎么缓解”“恢复上学幸福感Tips”等正向引导内容。

  据介绍,“未来薯地计划”内容共建工作开展3个月以来,已有超过200家机构媒体、青少年友好出版社、博物馆等机构加入。小红书副总裁许磊表示,“把安全底线守住,把真实生活打开。小红书是连接真实生活的社区,真实生活也是青少年成长不可替代的练习场,未来一年期待跟生态伙伴一起,共建青少年健康成长空间。”

  北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉表示,“在场感”和“体验感”,是帮助青少年重建专注力和真实社交能力的重要途径。“这样的成长空间,没有任何一方能够独自建成:平台要提供守护与引导,场馆要敞开大门,学校要打破围墙,家庭要把周末还给孩子。”

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500