翻遍详情页找不到一张真实商品图、冲着探店博主的美图到店却发现没这款商品、逼真的明星/博主带货视频竟是AI仿造……
一年一度的“双11”大促正热火朝天地进行着，但由此滋生的种种乱象却令消费者深感困扰。AI技术推动各类消费场景创新的同时，如何确保治理水平同步提升，成为行业共同关注的话题。
今年以来，从监管部门到各大电商平台、社交媒体及短视频内容平台，无一不在强化AI治理，治理方向重点聚焦于AI生成内容标识、AI假图与恶意篡改内容治理、AI仿冒名人带货、未成年人保护等领域。
乱象1
AI换脸明星、达人带货
近日，知名女演员吴越发微博公开维权，一起利用AI深度合成仿冒名人带货的网络乱象由此进入公众视野。短视频账号“花姐美肤日记”利用AI换脸、AI拟声技术，高度还原吴越的面部特征、神态举止与个人声线，制作虚拟带货短视频。视频中，AI生成形象模仿吴越的语气语态推介护肤品，刻意表述产品系个人主动甄选、孕妇适用、值得放心购买，营造本人代言、权威背书的假象，借以博取消费者信任、实现流量变现。此外，在其主页还有视频使用了演员海清和奥运冠军邓亚萍的AI形象带货。为规避法律追责，运营方仅在视频角落用极小字体标注“含AI生成内容”。目前，涉事账号已被平台永久封禁，相关侵权视频全部下架清理。
类似的案例还有美妆博主遭遇AI换脸。近期，浙江杭州互联网法院审结了一起AI深度合成肖像权案。拥有159万粉丝的美妆博主于某，被杭州一家护肤品公司擅自抓取其公开短视频和直播素材，通过AI换脸、换声批量制作了30多条“于某亲测推荐”的虚假带货视频，法院认定构成肖像权侵权，涉事两款护肤品累计销量突破10万单，营业额约740万元。法院认定构成肖像权侵权，判令下架致歉并赔偿。
乱象2
AI编造虚假剧情围猎中老年群体
与此同时，由AI合成的虚拟数字人则让中老年群体陷入消费陷阱。近日，一批名叫“小海”的苦命男孩在短视频平台上批量涌现。这些“小海”对着镜头一口一个“姨姨妈妈”，哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有七旬老人独自坐火车前去探望。
近日，央视曝光这些“苦命男孩”并非真实存在，而是由商家账号批量复制。这些账号共用同一张十几岁少年面孔，剧本高度雷同：单亲家庭、在校被欺负、躲教室啃馒头、校园带货大赛“还差最后几单”等，利用中老年人的同情心诱导下单带货，售卖豆浆粉、杂粮饼、抹布、阿胶、翡翠吊坠等，商品价格往往高于其他平台。
南都记者检索发现，电商平台上仍有大量针对中老年的AI短视频，且并未标注AI生成。如假发商家“eureke优丽可”批量制作突出家庭矛盾、虚构产品效果的AI视频。视频中，谢顶、头发稀疏或两鬓斑白的老人戴上假发套即刻容光焕发，背着老伴儿约会年轻异性。“丝奈儿假发旗舰店”则用婆媳矛盾赚取流量。视频中，一名面色凶煞的婆婆在婚礼现场要求新娘为其洗脚，被新娘泼了一盆水，假发被水冲走后她大惊失色，捂着光头痛苦不已。视频仅左下角一行小字“内容疑似AI生成，请谨慎甄别”，半透明，老年人即便戴上老花镜也难以看清这行小字。
乱象3
AI生成卖家秀、买家秀误导消费者
“现在买家秀、卖家秀都用AI了，这不是把消费者当傻子骗吗？”双11临近，不少消费者发帖怒斥电商平台被AI生成的图片占领。
南都N视频记者检索发现，女装、鞋服等品类大量使用AI模特图已成为行业常态，其中不乏I.T、MLB、SPAO等知名服装品牌以及百万粉丝的网店。这些店铺普遍采用AI生成图片、短视频做商品宣传，仅少数标注由AI生成。
其次，很多商家不提供实物图，甚至将AI生成的素材谎称为“实物拍摄模特试穿”，部分鞋服店铺用AI生成虚假线下门店图，虚构海外品牌背景；还有洞洞鞋的商品主页，却挂着用AI生成的手工皮鞋制作画面，产品描述与实物严重不符；甚至有商家用AI伪造奥运冠军为商品代言的形象。
此外，连评论区买家秀也使用AI生成的假图片，编造用户消费体验。对此，广东希曼律师事务所合伙人律师张振仕向南都记者分析称，《电子商务法》第17条规定，不得以虚构交易、编造用户评价等方式进行虚假或者引人误解的商业宣传，欺骗、误导消费者。《反不正当竞争法》第9条规定，经营者不得对其商品的用户评价作虚假或者引人误解的商业宣传，欺骗、误导消费者。商家利用AI生产买家秀，“用虚假的人，说虚假的话”，致使消费者基于错误认知下单，不仅侵犯消费者的知情权，而且构成消费欺诈。
（南都此前报道《知名品牌网店AI乱象：虚构奥运冠军代言，模特图惊现三只手》）
乱象4
美食探店博主实为AI批量生成
“超级无比可爱，先拍照还是先吃呢？”“排了好久的队，总算吃上了”“吃完念念不忘，已经六刷了”……
近日，来自上海的小雨（化名）总是刷到这些看似真诚分享的探店图文，精致诱人的美食图片让她忍不住一一收藏，并前往帖子里提到的一家甜品店打卡。让她惊讶的是，线下店里根本没有图片里的这些美食。
崎本的店用AI制作的甜品照片引流，门店却并没有售卖该商品。
南都N视频记者检索发现，小雨提到的甜品店名为“崎本的店”，是一家主打日式生吐司的面包店，目前在北京、上海、深圳、杭州、成都等城市有数十家分店。其中广州白鹅潭万象城店9月底开业以来，时常引发排队。南都记者去现场询问，门店也没有图片中的甜品。
小雨的困惑并非个例。不少网友反馈自己经常刷到看起来十分诱人的甜点美食，但点进店铺后发现这家餐厅根本不卖甜品。如一家名为“醉东”的苏浙菜，却有大量博主晒出AI生成的甜品、馒头类美食图片，南都记者询问该图片是店里的哪一道菜，对方回复称“图片放错了”。
上海一家江浙菜餐厅大量使用AI生成的探店图片引流。
为何主打真实点评的“探店实拍”竟也被AI占领？南都记者进一步检索发现，大量AI技术公司在社媒上对外宣称可低成本制作探店视频。如一家公司给出的“AI本地探店短视频报价方案”显示：一条15秒的探店短视频39元，30秒的探店短视频定价59元，包月价低至30元以内。这一价格显著低于真实达人探店的成本。此外还有自媒体推出各类AI探店视频教学，营销话术包括“用四张图片即可生成一条探店视频”、“用AI做真人感探店Vlog”、“一分钟制作爆款AI探店视频”等。
【治理】
AI应用进入强监管
今年以来，无论是监管部门，还是平台，都在推进AI乱象整治，围绕AI内容标识、假图篡改、仿冒带货、未成年人保护等重点发力。
中央网信办自2026年4月起持续开展“清朗·整治AI应用乱象”专项行动，集中清理涉及AI的违法不良内容，依法查处违规平台及账号，对AI技术滥用乱象实施常态化整治。
其中第二阶段工作聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
据中央网信办通报，部分典型案例涉及的情形包括利用AI“魔改”经典、生成“数字泔水”，AI制作发布虚假不实信息，AI假冒仿冒他人，制作发布暴力低俗等信息，AI侵害未成年人权益，利用AI“托管”从事网络水军活动，AI产品服务和应用程序违规等。
据悉，下一步，网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。
另外，今年5月，中央网信办部署指导网站平台规范短视频内容标注，明确将内容标注设为发布必经环节，发布者须从虚构演绎、AI生成、营销信息、转载内容、个人观点、无需标注6类“必选标签”中选择对应类别方可完成发布。
10月20日，市场监管总局等七部门联合印发《广告产业发展「十五五」规划》，提及规范人工智能生成式广告发展，加强平台企业数据、算法、流量和规则监管。在治理层面，规范明确“加强企业自治能力建设，引导企业建立人工智能生成广告内容审核等内部合规审查机制，落实主体责任”，“细化直播电商中广告活动的认定准则、监管规则与执法原则，明确新业态场景下重要广告活动主体的认定及责任义务”。
平台加强AI乱象治理
在平台治理方面，2025年3月，淘宝启动AI假图治理，严打利用AI假图欺骗消费者、侵害原创品牌商家的行为。2026年1月，淘宝天猫在商家服务大会上宣布上线售后AI假图识别模型，4月该模型正式上线，并率先向高评分商家开放反馈入口。
抖音于2025年9月发布《关于升级AI内容标识功能的公告》，进一步规范平台上的AI内容创作与传播。《公告》显示，抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。
小红书平台于今年8月发布AI治理规则公告，在AI标识方面，对于以AI虚拟人形象运营的账号，呼吁创作者如实说明创作方式，帮助其他用户知道“正在与什么样的账号互动”，主动标识后流量不会受到影响。笔记无论是完全由AI生成，还是经AI润色的再创作，呼吁创作者发布笔记时主动声明。对于未主动标注的AI内容，平台识别后将统一添加标识。
小红书AI治理规则公告。
美团则使用AI识别假门店，启用食安治理大模型。针对消费者担心的“线上看着像个正规店，线下却不是那么回事”，一些商家通过AI生成等方式弄虚作假的问题，美团今年3月对食品安全AI大模型“星眸”进行了全面升级，应用范围从主要聚焦后厨识别，扩展到商家入驻审核、门店真实性核验、后厨环境预警等多个环节，建成了一套覆盖全流程的智能识别系列。
美团关于AI生成合成内容标识的公告。
拼多多也在今年8月发布《关于进一步规范商家AI生成图片合规应用的公告》，宣布针对商家AI生成图片应用开展专项治理。平台将重点规范AI生成商品图片与实物不符、AI生成商品虚假使用案例/效果、AI生成不规范文字以及未按要求添加AI生成内容标识等行为。
