21世纪经济报道记者章驰北京报道
每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护上值得关注的动态。
本周，我们重点关注国安部提醒警惕人工智能数据投毒和污染；23款APP及SDK侵权被通报。
海外方面，马斯克称将在Grok的回答中引入广告；“最强模型”GPT-5发布后评价褒贬不一，奥特曼回应；谷歌DeepMind发布Genie3；苹果计划首度进入AI搜索引擎领域。
监管治理
国安部提醒警惕人工智能数据投毒和污染
8月5日，国家安全部提醒大家，人工智能的训练数据存在良莠不齐的问题，其中不乏虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。
通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，将干扰模型在训练阶段的参数调整，削弱模型性能、降低其准确性，甚至诱发有害输出。研究显示，当训练数据集中仅有0.01%的虚假文本时，模型输出的有害内容会增加11.2%；即使是0.001%的虚假文本，其有害输出也会相应上升7.2%。
受到数据污染的人工智能生成的虚假内容，可能成为后续模型训练的数据源，形成具有延续性的“污染遗留效应”。当前，互联网AI生成内容在数量上已远超人类生产的真实内容，大量低质量及非客观数据充斥其中，导致AI训练数据集中的错误信息逐代累积，最终扭曲模型本身的认知能力。
23款APP及SDK侵权被通报
工业和信息化部信息通信管理局8月4日发布关于侵害用户权益行为的APP（SDK）通报。
近期，经组织第三方检测机构进行抽查，共发现23款APP及SDK存在侵害用户权益行为，包括保卫萝卜2、贪吃蛇大作战等。通报APP及SDK应按有关规定进行整改，整改落实不到位的，工信部将依法依规组织开展相关处置工作。
AI动态
马斯克称将在Grok的回答中引入广告
8月6日，马斯克在面向广告商的一场讨论中表示，计划在其人工智能产品Grok中引入广告推送机制，以后Grok回答问题时将会插入广告内容。在本次讨论前，X平台在向广告商发送的一份邮件中还表示，平台已利用xAI的技术提高了广告的相关性，并重新训练了用于衡量广告点击转化为销售的模型。自6月以来，网络广告的转化量增长了40%。此前Meta就已经证明大模型有助于提升广告效果，不久前季报电话会上Meta透露，本季度Instagram的广告转化率在AI的加持下大约提升了5%，Facebook提升了3%。
“最强模型”GPT-5发布后评价褒贬不一，奥特曼回应
8月8日，OpenAI官宣推出GPT-5。据介绍，这款新模型的智能水平远超该公司此前发布的所有产品，且已向全体用户开放使用。在各项功能中，GPT-5的编程能力尤为抢眼。官方将其定义为“迄今为止最强大的编码模型”，尤其在复杂前端生成与大型代码库调试领域表现出众。
对于GPT-5的表现，OpenAI首席执行官山姆·奥尔特曼赞不绝口：“无论是显而易见的还是微妙的，感觉都好多了。GPT-5让人感觉像是在与各个领域的专家交谈——一位博士级别的专家。”他还表示，该系统是公司向通用人工智能（AGI）这一终极目标迈进的“重要一步”。
但是在GPT-5发布后的24小时内，这款新模型收到了褒贬不一的评价。周五，奥特曼对部分用户反馈作出回复，承认系统存在技术故障。“从今天开始，GPT-5会显得更聪明些，”他表示，“昨天自动切换器出现故障，大半天都无法正常工作，导致GPT-5表现得异常迟钝。”
谷歌DeepMind发布Genie3
8月6日，DeepMind发布其第三代通用世界模型Genie3。该公司称此模型基于文本或图像提示，可实时生成高一致性、可自由探索的3D虚拟世界，分辨率达720p、帧率24fps，单次交互时长能达到数分钟。
相比于上一代，Genie3能实现更高的分辨率和更长的交互时长。用户将能够通过提示生成支持长达几分钟的连续、可交互世界环境，而Genie2能生成的交互时长只有10到20秒。模型比较有价值的突破是，其具备约1分钟的视觉记忆能力，用户离开场景后返回时，虚拟3D世界的环境细节仍可以保持连贯。
苹果计划首度进入AI搜索引擎领域
8月3日消息，苹果计划首度进入AI搜索引擎领域，试图与行业竞争对手一较高下，这一动向标志着苹果在生成式AI方向上发生重大转变。
苹果已于今年初成立了一个名为“Answers,KnowledgeandInformation”（简称AKI）的内部团队，该团队由前Siri项目负责人RobbyWalker领导，目标是打造“类ChatGPT的AI搜索体验”，尽管苹果高层内部对该方向曾存在“保留态度”，但从目前的举动来看，苹果已正式朝此迈进。值得一提的是，苹果此前曾表达过对AI搜索初创公司Perplexity的兴趣，这也为苹果推进相关AI搜索业务埋下伏笔。
