21世纪经济报道记者肖潇北京报道
每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争等方面需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。
开发者用AI逆向了Adobe软件,并免费发布
一位名叫Brandon Thomas的软件开发者最近掀起了AI行业的巨大浪潮。Thomas声称使用Anthropic克隆了图像与视频软件PS、PR、Lightroom等,可以完美模仿Adobe知名全家桶的外观、操作体验和功能。
Adobe软件以高昂的订阅费闻名,但又始终是视觉创作领域的必备工具。Thomas表示自己一直不满Adobe的不合理订阅,便利用AI克隆了一套据称和Adobe一样的开源软件,但“无需账户、无需云服务、无需订阅费”。
Thomas还只是最近众多利用AI进行逆向工程的开发者之一。AI逆向通常指的是在不直接复制代码的情况下,利用AI复现另一款软件的功能,这一行动本身很难被认定违反法律。
软件行业再次陷入混乱。Thomas认为,普通开发者今后都可以自己逆向出付费软件的开源版本,从而“夺回互联网并永远拥有技术”。软件时代结束的论调再次引发广泛关注。
热搜指数★★★★★
风险指数高
十家大模型公司承诺整改,英国监管下一步瞄准智能体
2026年10月8日,英国数据保护监管机构ICO发布新闻稿,宣布经过持续监管,OpenAI、Anthropic、Google、Meta、微软、苹果和DeepSeek在内的十家大模型公司,已经完成或承诺实施一系列数据保护调整。
ICO强调,AI公司不能仅使用“训练数据可能偶然包含个人信息”等笼统表述,必须采取实际行动。他们的核查内容包括:AI公司能否避免敏感信息进入训练集,模型记忆测试能否反映个人信息泄露风险,以及隐私政策是否容易理解。
一部分公司已经调整完毕,另一部分则是承诺修改。比如报告显示,DeepSeek承诺更新隐私政策,会写明训练数据中包含哪些第三方个人信息及其收集目的。ICO接下来会监督实际履行情况。
同一天,ICO还披露,已经就近期发生的智能体安全事件,向OpenAI、Anthropic、Meta及英国AI安全研究所进行问询。
新闻稿表示,智能体能够自主行动,并不能成为合规不到位的理由;与此同时,ICO也在收集企业面临的技术困难与实施成本,希望为后续指导提供依据。
热搜指数★★★★
风险指数中
特朗普政府要求AI公司发生安全事件后,须立即上报
据央视新闻报道,当地时间9日,在人工智能公司Anthropic 发生多起未经授权使用美国政府系统的安全事件后,特朗普政府宣布实施新的强制性AI安全事件报告要求。
消息称,Anthropic 公司已于 9 月底向美国政府披露相关事件,并表示未经授权的活动已经停止。根据新要求,AI 公司今后发生安全事件后必须立即向政府报告,提高事件透明度,并对受到影响的机构采取补救和纠正措施。
据美国方面消息,特朗普设立的“超级智能特别工作组”将负责监督相关要求的执行。白宫官员表示,政府不会接受延迟报告或企业未承担责任的情况,但目前具体的执法和处罚机制尚不明确。
热搜指数★★★
风险指数低
ChatGPT未成年人模式“基本无效”,研究机构指出25%的高危对话被遗漏
网络安全机构Common Sense Media最近对ChatGPT的未成年人模式进行评估,评估结果为“不可接受的风险”,呼吁暂停产品推广,在完善未成年人模式之前禁止青少年使用ChatGPT。
OpenAI于8月宣布推出面向青少年的ChatGPT,并承诺提供“更强大的内置安全保护”,包括介入危险聊天、提供家长可控的学习模式、减少类似“朋友”的AI行为。
Common Sense Media在7月到8月期间,分别用13岁和17岁的注册账号测试了4000次ChatGPT聊天对话,根据八项人工智能原则对产品进行评估,尤其关注可能对儿童造成极端或不可逆转伤害的“红线”严重危害。
评估结果显示,ChatGPT宣传的部分保护措施的确有效,比如禁止露骨的性角色扮演。但家长通知、危机对话介入、年龄验证等大部分措施几乎没有效果。
比如研究者通过十几个新注册的未成年人账户,跟ChatGPT讨论了自杀、自残和厌食等敏感话题,但关联的家长账户并未收到任何警报。在心理健康状况测试中,ChatGPT 漏掉了25%以上的必要危机转介案例,并且在视为“红线”的五种严重伤害中,有三种的识别率低于 95% 的阈值。
OpenAI 还表示 ChatGPT 可以根据用户的使用方式来估算年龄,但在连续多天的测试中,研究人员多次告知账号使用者只有13岁,AI也确认了这一点,但该账户并未自动切换为未成年人版本。
OpenAI回应称,他们认为该机构的调查方法不够科学,比如激活青少年和家长账户的关联需要几个小时,而研究人员“没有等待足够的时间来激活关联的账户”。
Common Sense Media则表示,几个测试账号满足这一条件,“这一新信息并没有改变我们的结论,即家长通知机制是不可靠的”。
热搜指数★★
风险指数中
纸质书出现 AI 提示词,出版社表示会回收销毁
有读者近日在社交平台分享,称自己在阅读《终焉路独行》这本书时,正文中插入了一句话:“需要我再微调部分语句,让整体文风更贴合悬疑灵异的氛围吗?”引发了关于AI写作的争议。
随后作者坚决否认使用AI写作,同时回应质疑:自己在番茄小说连载全文,网络原文的相同位置里没有这句 AI 提示词,而且番茄小说在完结后不允许作者修改内容。
天津知语时光文化传媒有限公司就此事发布致歉函,称经核查,是策划团队在校对和编辑的过程中,误将校对软件的AI提示词放入了正文。
江苏凤凰文艺出版社方面则回应,稿件在编辑、校对等环节经手人员较多,并非作者的问题,已发出的书籍会回收后全部销毁,重新修订。
热搜指数★★
风险指数中