警惕!未成年人上瘾AI虐向视频
来源:21世纪经济报道
家长们注意了,你手机里可能藏着孩子正在看的“恐怖动画”,播放量高达百万,由AI生成。
最近,不少家长发现孩子用大人手机看一些毛骨悚然的视频,可爱的玩偶遭受各种血腥暴力虐待,被扔进火锅,甚至上演“妈妈吃掉孩子”的恐怖情节。这类视频全是AI生成的,大量流传于抖音和B站等视频平台,一条展示虐待画面的名为“anon犬的观察实验”的视频,播放量已达141万。
这些视频打着“略向慎入”的标签,略向意思是“虐向”,通过病态的感官刺激博取关注,刻意制造猎奇、恐怖与不适吸引人观看,评论区里充斥着“还不够虐”等言论。当孩子们无意间点进去看了一个之后,算法还会推送更多同类视频。
针对“虐向”视频传播的问题,哔哩哔哩负责人表示,对最新出现的涉嫌侵害引导的内容已展开全面排查,从严管控,目前在搜索及内容端已展开定向处置。抖音表示,《抖音社区自律公约》鼓励用户创作积极、有价值的优质作品,对此类新型邪典内容坚决打击,已对相关违规内容予以下架处置。
AI时代让有害内容的生产变得更简单,推送观看防不胜防,无论是在社会伦理还是法律层面,都在挑战底线。虐向视频被有心之人利用、引流,甚至会催生畸形产业链,让未成年人价值观扭曲,产生社会危害性。
家长要注意了,多和孩子沟通,并立即检查孩子常用的设备,开启未成年人模式。监管部门和视频平台等各方也要尽快将责任落到实处。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》