每周，我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态，并分析其热搜指数与风险指数，从舆情热度与综合风险两个维度进行评价。

　　上周的重点包括Anthropic提交招股书，其中大篇幅阐述了AI风险以及安全成本；美国纽约州签署全美首个未成年人AI聊天机器人禁令；ChatGPT减药建议致31岁工程师死亡，家属在加州起诉OpenAI；阿里巴巴与苹果达成合作，将千问集成至Apple智能；商务部拟以贸易与入境限制保护商业秘密。

　　鲜有一家如此受瞩目的公司，会在招股书中花如此多笔墨去强调风险、详述安全焦虑。

　　北京时间10月26日晚，Anthropic正式公开向美国证券交易委员会（SEC）提交 S-1 招股说明书，拟以股票代码 ANT 在纳斯达克上市，Anthropic预期IPO规模将追平甚至超越SpaceX今年6月创下的上市纪录。

　　与其他公司野心勃勃的商业前景展望有所不同，Anthropic的招股书里，AI的风险与安全成本贯穿始终，甚至直言，为了AI安全会推迟模型的发布、牺牲商业利益、做偏离利润最大化的决策。

　　招股书在一开始便定调表示，AI代表着历史上最大的经济机遇之一，AI 的指数级发展将创造巨大的价值，但是Anthropic的决策可能会与投资者预期相背离，一种情况是基于AI狂野的指数级发展轨迹、但孤立来看显得奇怪或非正统的商业押注，另一种情况则是为恰当平衡公共利益而偏离利润最大化的决策。

　　“权衡公共利益的一个重要方面是 AI 进展的速度。快速推进能更早带来 AI 的益处，但推进过快可能超出世界确保 AI 系统安全的能力。”招股书中强调，真正发挥AI潜力的一个重要前提就是“在风险得到妥善管理的情况下”。

　　Anthropic用了几十页的篇幅来详述风险，总体来看，AI的风险包括模型自身的风险，以及第三方在使用Anthropic模型过程中可能带来的风险。

　　对于模型自身的风险，Anthropic最担忧的是模型发展太快，以至于超过了人类风险评估的能力。

　　招股书提出，人工智能模型本身可能通过产生不良输出或以非预期、未对齐或自主的方式行事而造成伤害，包括采取没有任何用户或第三方指示的非预期或有害行动。“随着我们的模型变得能力更强，并被授予更大的自主性和权限，以及与外部系统的集成，这些风险可能增加。”

　　由于可能被部署于高风险或敏感场景，例如医疗保健、科学与生物医学研究、药物发现与开发、法律、金融、政府或其他关键决策环境，以及与硬件相关的场景，在这些场景中，可能会存在不良模型行为——其本质上具有非确定性，并可能以不可预测的方式表现出来，例如错误、不准确、有偏见或未经请求的观点或幻觉信息。

　　值得注意的是，招股书中提到了对AI失控的担忧：现有的大模型已经表现出非预期的战略性行为，比如隐瞒或操纵信息，或者类似敲诈的行为，以及影响人类决策者以维持模型持续运行或访问权的努力。而这种情况无论是在测试中还是在现实世界部署中发生，都可能引发重大的公众担忧、监管审查、诉讼风险或声誉损害。并且，随着模型能力的提升，人类评估和保障新模型的能力存在滞后的情况。“模型对我们评估工作的这种觉察，对我们评估模型安全性的能力构成了重大限制。”Anthropic招股书中提到了模型对抗人类评估的情况。

　　第二类风险是第三方使用Anthropic模型带来的风险，包括滥用模型进行安全攻击等，也包括在企业部署应用中的风险。

　　招股书中特地提到了智能体的例子，智能体式AI系统能够代表用户自主采取行动、直接与外部系统交互、执行代码、进行API调用、发送信息，或在有限人工监督下完成交易。这些系统具备企业级权限、集成和上下文感知能力，并能在较长时间内自主运行，包括执行持续数小时或数天的多步骤工作流。智能体可能在长时间自主运行期间发生错误、未对齐或安全事件，包括删除或修改数据，或完成金融交易。尤其是随着智能体工作流链条的增加，任何单个步骤的错误或非预期操作都可能传播至后续步骤，在发现或纠正之前加重危害的严重性。

　　在详述各个风险后，Anthropic也提出了自身的安全保障措施。

　　首先，Anthropic强调安全研究是其业务的核心。公司投入了大量的资源来做安全这项工作，包括推出负责任扩展政策、Claude宪法、模型验证与评估、对齐、可解释性研究等等。

　　Anthropic表示，在每款Claude模型发布前，公司都会通过一个结构化、多阶段的评估项目对其进行评估，评估涵盖模型能力、安全行为和社会影响，包括偏见与歧视，并且在公开可获取的模型系统卡中记录这些部署前评估的结果及其局限性。

　　其次，做商业决策会优先考虑安全。2026年4月，Anthropic将其前沿模型Mythos作了受限访问的研究发布，而非广泛发布。其原因是Mythos在网络漏洞发现方面具有先进能力，这种能力很可能被滥用。Anthropic在招股书中一再声明，对模型的安全评估贯穿预训练、后训练和内部部署等各个环节，当他们对某一阶段的安全措施没有信心时，就可能会推迟或暂停该阶段，而这些都会对商业利益产生不利影响。

　　此外，Anthropic设计了公益公司（PBC）、长期利益信托（LTBT）等复杂的机制，来保证公司方向的公益性。传统公司的董事通常负有以最大化股东价值为核心的受托义务，而PBC的董事则有义务不仅考虑股东的财务利益，还要考虑公司特定的公共利益宗旨以及受公司行为重大影响的利益相关者的最佳利益。

　　尽管安全成本非常高昂，但是Anthropic也认为，安全并非公司发展的拖累项，而是与自身的商业价值高度绑定。因为企业在选择大模型时，安全是一项重要的考量标准。“我们还相信，安全、对齐和道德行为尤其能引起企业的强烈共鸣，在这些企业中，严格的保障措施、可预测的模型行为和可证明的问责制已成为选择关键任务工作负载AI合作伙伴的决定性标准。”

　　招股书中提到：“我们自身的发展轨迹表明，商业成功与对安全的严肃承诺并不相互冲突。我们已打造出历史上增长最快的企业之一，同时在每个阶段都将安全作为核心优先事项。”

　　热搜指数：★★★★★

　　风险指数：中

　　10月27日，美国西雅图31岁华人女工程师万博雯（Bowen Wan）的父母在加利福尼亚州提起诉讼，指控OpenAI及其首席执行官奥特曼，称ChatGPT提供了危险且不准确的医疗建议，甚至鼓励女儿对医生隐瞒减药计划。

　　诉状称，万博雯患有癫痫，在担心药物影响求职后曾向ChatGPT咨询减少抗癫痫药物的方案。她在多次表达担忧、描述身体异常之后，仍持续得到模型的安抚和减药建议。法医认定死因为癫痫猝死，尸检显示其体内相关药物浓度约为治疗浓度下限的五分之一。

　　OpenAI回应称事件“令人无比心碎”，同时表示涉案模型是较早版本，较新模型在识别需要紧急处理的情况方面已有改进。

　　热搜指数：★★★★

　　风险指数：高

　　10月28日，纽约州州长霍楚尔签署法令，严禁未成年人使用具备虚拟伴侣属性的AI聊天机器人。这是迄今为止全美针对消费级AI模型出台的覆盖面最广的监管举措之一。

　　法令明确要求OpenAI等运营商，应采取合理的年龄核实措施。对于未满18岁或尚未确认用户已成年的用户，平台不得提供新法所列的高风险聊天机器人功能。

　　机器人严禁输出任何可能误导未成年人认为它拥有生命、人类属性或真实情感的内容；不得诱导青少年产生双方具备私人情感、专业咨询或权威指导关系的错觉；不得将生成内容包装为个人观点。同时，系统被明令禁止留存未成年人身心健康等隐私敏感数据。

　　热搜指数：★★★

　　风险指数：中

　　近日，美国司法部正就英伟达收购开源AI平台Hugging Face的交易展开问询，重点关注该收购对AI领域竞争格局的潜在影响。

　　英伟达于9月宣布这笔近130亿美元的交易，其新闻稿称超过1800万人和20万家公司通过Hugging Face共享至少300万个模型和50万个数据集。

　　这笔交易的特殊性在于标的属性：Hugging Face并非芯片厂商，而是开源模型分发的枢纽。司法部官员询问，这笔收购是否会让英伟达掌控AI领域一个基础性的分发渠道。

　　热搜指数：★★★

　　风险指数：中

　　10月31日，苹果与阿里巴巴同步官宣，将千问（Qwen）集成至Apple智能。中国用户可以在Siri、写作工具和视觉智能三个入口直接调用千问的文本与图像理解、内容生成能力：Siri可调用千问知识库直接作答，也能对用户选定的文档和照片提问；系统级写作工具新增“千问创作”（Compose with Qwen）；视觉智能增加“询问千问”选项，可通过相机控制、操作按钮或控制中心唤起。相关功能11月4日起随最新iOS开发者Beta版开放测试，12月随iOS 27.3正式发布，面向中国用户推出。

　　此前，“Apple智能”完成生成式AI服务备案，7月15日出现在网信部门公布的7款手机端侧生成式AI服务名单中；9月29日，iPhone Duo（国行型号A3721）、iPhone 18 Pro系列（A3718）等机型完成进网许可换证。

　　热搜指数：★★★★★

　　风险指数：低

　　10月26日，商务部就《保护中国商业秘密特别规定（征求意见稿）》公开征求意见，拟对“在国际经贸及相关活动中实施侵害中国商业秘密行为，同时危害中国国家主权、安全、发展利益，或者对上述利益构成现实威胁”的外国实体采取限制措施。

　　征求意见稿的第五条列出六类措施，指向的是外国实体在中国的全部经营活动：限制或禁止其从事与中国有关的货物、技术进出口以及国际服务贸易活动，禁止向其出口相关物项；限制或禁止其在中国境内新增投资；限制或禁止其相关人员、交通运输工具入境；限制或取消其相关人员在中国境内的工作许可、停留或居留资格；依情节轻重处以罚款；其他必要措施。

　　这套限制措施意味着，将商业秘密侵权的后果从“赔偿”扩展到了限制“市场准入与人身流动”。一家外国企业如果被认定侵害中国商业秘密并危及国家利益，受影响的不再只是涉案技术，而是它在中国的订单履行、新增产能、项目合作乃至外籍人员的居留资格——风险会从涉案业务外溢到无关业务。