21世纪经济报道记者肖潇报道
每周,“合规周报”会盘点上一周国内外人工智能、互联网平台治理、科技竞争上值得关注的动态。
本周,我们重点关注北京海淀区人民法院近期开庭的AI侵犯名誉权案,一名律师被AI编造了贿赂法官、伪造印章等犯罪记录,而AI服务方百度辩称这是无法避免的幻觉问题。
此外,我们还关注Kimi喊话百度,要求其下架付费广告里的盗版网站——“狸猫换太子”的仿冒混淆行为,是市场监管局开始重点打击的对象,但传播平台的责任很少被关注。
春节大战白热化,微信对元宝、千问、文心一言的红包进一步限制,会不会复现2021年“微信屏蔽淘口令”的场景?接下来也值得重点关注。
AI生成虚假犯罪信息案开庭,百度辩称“幻觉无法避免”
2月6日,一起AI侵犯名誉权案在北京海淀区人民法院开庭。该案原告为一名律师,被告为北京百度网讯科技有限公司。
据《澎湃新闻》报道,原告黄律师在2025年5月检索百度发现,百度AI自动生成了几条关于他的严重虚假负面信息,包括威胁法官、介绍贿赂、伪造印章、非法吸收公众存款等刑事犯罪。有人将百度AI生成的该虚假信息传播给他正在代理案件的委托人及委托人家属,给他带来巨大困扰和损失。
黄律师因此提起诉讼,要求百度公司立即停止名誉权侵害行为,并发布澄清和道歉声明;赔偿100万元职业信誉损失和5万元精神损害抚慰金。
据黄律师透露,该案近日在法院一审开庭,百度在庭审中辩称人工智能既不是自然人,也不是法人。百度提供中立技术服务,并未发布诽谤或侮辱信息,不存在任何主观过错。
百度还提出AI幻觉不可避免的抗辩理由。“本案行为是人工智能生成,也包含了原告连续高频词搜索导致AI产生幻觉。该人工智能幻觉在当下发展过程中属于行业通行但现阶段无法予以消除。AI幻觉不是百度故意所为。AI幻觉不是缺陷,会通过技术迭代。”
黄律师对此表示,自己曾使用豆包、腾讯元宝、阿里千问、DeepSeek等其他AI平台进行互动,均未生成类似严重失实的虚假内容。因此他认为AI幻觉不能成为免责事由。
AI幻觉的担责纠纷越来越多。今年1月初,杭州互联网法院还宣判了“国内AI幻觉第一案”。从该起法院判决来看,AI公司还暂时不用对幻觉承担绝对责任——前提是AI没有回复违法有害信息,以及公司采取了一定技术措施。
垦丁律师事务所律师程念当时告诉21记者,“国内AI幻觉第一案”透露了两个值得关注的信号:第一,判决认定生成式AI属于“服务”而非“产品”,适用过错责任原则;
第二,不同AIGC内容有不同的注意义务:“违法有害信息”有严格的结果性审查义务,而“一般性不准确信息”只需要确保在过程中采取了有效措施,提高准确性即可。
杭州互联网法院在认定被告公司无过错时,特别强调了其已履行的三项核心义务:显著提示义务(在交互界面明确提示AI生成内容可能存在不准确)、功能可靠性义务(采用检索增强生成RAG等行业通行技术提升准确性)以及合规备案义务(大模型已完成相关备案并通过安全评估等)。这些合规红线值得AI服务方特别注意。
“AI幻觉是个业界大问题。”另一位从事医疗数据合规的业内人士当时向21记者坦言。幻觉引起的用户纠纷越来越多,他认为,在实践中更关键的是能否对问题的数据来源、训练方式,进行全面溯源,从而进一步纠错和预防。
Kimi喊话百度,要求下架“仿冒混淆”的付费广告
1月31日,月之暗面旗下AI产品Kimi通过微博发文求助,指出在百度搜索"Kimi官网"时,前四条结果均为冒充混淆网站,且标题刻意标注"官网"字样,严重误导用户。这些网站均为付费竞价广告,底部能看到的广告标识提示。
尽管百度未对事件公开回应,但此后网友发现,百度很快将Kimi官网置顶,并添加了“官方”标识。Kimi随后删除了喊话微博。
“狸猫换太子”的AI虚假宣传行为在2025年被尤其关注。近日市场监管总局公布了5 起 AI 不正当竞争典型案例,其中4起都涉及仿冒混淆、搭便车行为。
比如其中一起,北京一家科技公司利用其运营的网站,推广名为“DeepSeek 本地部署工具”的软件,并在网页多处使用“DeepSeek”字样以及官方图标。公司还使用了竞价排名的方式利用 DeepSeek 知名度,取得不正当市场竞争优势。
市场监管总局指出,仿冒混淆、虚假宣传等传统不正当竞争行为利用正在向人工智能领域延伸,阻碍了行业健康发展。该行为违反了《网络反不正当竞争暂行规定》第三十三条和《中华人民共和国反不正当竞争法》(2019 年修正)第十八条,被要求立即停止违法行为,处罚款 5000 元。不过,在这些案件中,均未出现传播平台被追责和处罚的情况。
微信接连屏蔽元宝、千问、文心一言红包外链和口令
2月4日,微信表示屏蔽了腾讯元宝的红包链接。微信认为,元宝相关春节营销活动存在通过“做任务”“领红包”等方式诱导用户高频分享链接到微信群等场景,干扰平台生态秩序、影响用户体验、对用户造成骚扰。
当天,元宝的分享机制迅速改为红包口令,复制后打开App即可使用。但是微信于2月6日进一步封禁了阿里千问和文心一言的红包口令,不再允许微信用户复制口令。元宝的红包口令随后也遭到限制。

在2021年的双11购物营销活动中,“微信屏蔽淘口令”就曾成为热搜。当时,微信中不能直接打开淘宝链接。而淘宝为了规避微信的屏蔽,把分享到微信的淘口令,变成了不易识别的“火星文”。
本次限制的背景是AI春节大战白热化,大厂集体瞄准C端入口。腾讯在2月1日上线了元宝春节红包活动,用户下载并更新至最新版本即可参与“分10亿现金”活动,最高可领1万元;而千问2月6日也开启了“千问春节 30 亿大免单”,只要下载和更新千问App,打开就能领取 25 元无门槛免单卡。
欧盟要求谷歌:不能封闭生态,允许其他AI平等访问数据
欧盟近期发布公告,欧盟反垄断监管机构将指导谷歌开放生态,确保竞争环境的公开公平。
在其中一项诉讼程序中,监管机构将阐明,谷歌应如何向第三方AI服务提供商提供与自身人工智能服务(如 Gemini)相同的功能,确保它们获得同等有效的访问权限。
在另一份文件中,委员会将详细说明谷歌应如何以公平、合理和非歧视性条款,向其他搜索引擎提供商提供谷歌搜索所持有的匿名排名、查询、点击和浏览数据,以及AI聊天机器人提供商访问这些数据的资格。
快手因网络安全问题被罚1.19亿元
2月6日,据北京市网信办通报,针对快手此前出现色情低俗内容直播的问题,依据网络安全法等法规,对平台处罚1.191亿元人民币罚款,并责令其限期改正、依法依约处置账号、从严处理责任人。
快手同一时间发布了致歉声明,表示诚恳接受处罚。“由于公司技术管理原因,应急处置不及时,导致平台出现大量色情内容”。快手表示,已对风险意识、安全基础设施、应急响应机制和内部管理措施进行全面排查整改。
值得注意的是,网络安全法2025年年末进行了修订,新变化之一便是大幅提高处罚上限。尽管2026年1月1日才施行的新法,无法追溯快手12月发生的网络安全事件,但本次处罚无疑透露出更强的网络安全处罚信号。尤其是对于大型平台,今后面临的合规处罚将是严厉的。