据央视新闻消息,近日,演员温峥嵘自曝遭AI盗播,多个直播间出现她的带货形象,互联网上俨然出现了一支“赛博温峥嵘”大军。她曾在直播间质问:“你是温峥嵘,那我是谁?”不料,对方立刻将她拉黑。温峥嵘无奈表示:“我现在就很难证明我是我。”这一事件引发网友广泛讨论,甚至登上了热搜。
据报道,当前有多个直播间同时出现 “温峥嵘” 的影像,但这些均非她本人出镜。此类内容要么是 AI 合成的虚假直播,要么是盗播、录播的过往片段。这些赛博分身,不仅让明星形象集体失控,而且让消费者陷入维权困境。有粉丝虽然识破了骗局,一天内举报了18个仿冒直播间,但“根本举报不过来啊,举报一个又新增一个”。
这一现象并非偶然。据悉,AI“分身”营销已形成完整黑色产业链,从提供“换脸工具包”到批量生产虚假视频,再到通过“无人直播”24小时引流,提供一条龙服务。甚至还有专门的黑产团队从事AI明星带货,很多AI明星账号背后是同一批人,今天用某明星脸卖化妆品,明天假冒另一个明星卖保健品。
不管是盗播还是用AI合成,对温峥嵘和其他明星本人来说,都是对他们肖像权、声音权的侵犯,扰乱其正常商业合作。对消费者而言,基于对明星信任下单的背后,可能是商品质量低劣、售后维权无门的风险。令人担忧的是,随着双11促销活动的临近,AI盗播现象可能进一步激增,非官方直播间销售的商品可能存在假货风险。
在带货直播间和广告短视频中滥用AI深度伪造技术,无疑是对营商环境的破坏,也损害了消费者的权益。究其根源,乱象背后是平台“流量为王”逻辑的默许甚至纵容。今年9月1日起,由国家互联网信息办公室等制定的《人工智能生成合成内容标识办法》开始施行,要求所有AI生成的文字、图片、视频等内容,都要“亮明身份”,即添加标识以明确其来源和真实性。但仅添加标识,显然无法及时“打假”一个又一个赛博分身。平台治理若仅满足于“事后封号”却不愿压实主体责任,治理便难逃“按下葫芦浮起瓢”的困境。
面对赛博分身乱象,监管不能乏术。平台除了明确标识,还要加强实时监测等技术手段强化审核,对未明确标注的虚拟直播间实施限流或封禁。同时,需要建立便捷举报通道,将违规行为与商家信用评级绑定,提高造假成本,不能让用户陷入“我很难证明我是我”的尴尬困境。更重要的是,平台的流量倾斜与算法机制要不断投向更真实、有价值的内容,让有保障、有品质、有售后的商品得到更多曝光,而非唯流量是从。
近两年,AI深度合成名人、换脸换声的视频层出不穷、屡禁不止,温峥嵘绝不是最后一个被AI分身拉黑的明星。唯有让“失信者付代价、纵容者担责任”,才能打破流量至上的恶性循环。当每一张“赛博面孔”都能被清晰标注,虚拟主播与直播电商才能在技术浪潮中乘风破浪。真正的“爆款”无法靠捷径投机取巧,需要脚踏实地积累的信任,才有真正的厚积薄发。