当地时间9月25日，微软联合创始人比尔·盖茨在接受媒体采访时，再次表达了对AI不利影响的担忧，甚至警告称人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。

　　在比尔·盖茨看来，“历史上从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”

　　作为现代计算机产业的奠基者之一，比尔·盖茨长期被视作技术乐观主义的代表。他一手创办微软，推动个人电脑普及，数十年来持续投身全球公共卫生与减贫慈善项目。很长一段时间里，他都坚定看好人工智能的正面价值，认为AI可以攻克疾病、普惠教育、缓解全球资源分配不均，是人类社会最有力的工具之一。

　　但近几个月，比尔·盖茨对前沿AI潜藏风险的判断明显转向。在今年8月发布于个人网站的长文中，盖茨曾提出，人工智能要么成为有史以来最伟大的均衡器，要么成为最严重的不公正之源。

　　当时盖茨呼吁政府领导人应着手通过立法，对AI模型处理的文本量进行征税，以弥补因AI导致的收入减少，并为被AI取代的劳动者提供更广泛的社会保障。他还主张，政府和私营企业应考虑将某些岗位从自动化中隔离出来，包括那些未来难以重新培训人工劳动力的领域。

　　和盖茨持有类似观点的科技界人士和相关公司还有不少。早在今年6月，Anthropic便呼吁全球暂停前沿AI开发。到了9月，该公司CEO达里奥·阿莫迪又表示，人类可能会失去对AI的控制，应当放缓模型开发速度，并对其实施严密监管。

　　阿莫迪提出三点方案：对AI模型的开发过程开展独立监督、建立全行业监管机制、达成全球层面监管共识。

　　上述观点迅速得到OpenAI首席执行官奥特曼、特斯拉CEO马斯克等人的公开支持。奥特曼在社交媒体上发文称：“我认同达里奥，我们需要把控前沿AI的推进节奏。”马斯克在社交媒体上转发阿莫迪的帖子，并附文称：“达里奥说得对。”

　　不仅如此，奥特曼在公司全员会议上表示，公司可能放缓前沿人工智能开发，并考虑与其他AI实验室协调行动。

　　值得注意的是，Anthropic前员工雅各布·考克森在今年9月初宣布辞职，公开指责Anthropic与OpenAI竞相推进超级人工智能研发，相当于拿全人类的生命冒险。另一名Anthropic内部研究员对外表态，未来十年人工智能造成人类灭绝的概率超过10%。

　　这一系列密集警示的背后，是今年接连曝光的多起AI模型失控事件。

　　7月，OpenAI内部测试的AI智能体在没有人类直接指令的情况下突破沙箱隔离，自主寻找漏洞入侵Hugging Face平台，还访问了多个外部公共平台账户。

　　而在8月，英国人工智能安全研究所（AISI）发布测试报告，Anthropic与OpenAI的前沿模型在安全测试中多次自主实施未经授权的攻击行为。其中Anthropic的Mythos 5模型，尝试伪造多个虚假身份，诱导人类审核人员运行恶意代码，甚至在行为被质疑后篡改记录，试图继续执行攻击计划。

　　就在9月24日，澳大利亚副总理兼国防部长理查德·马尔斯表示，OpenAI一款AI智能体在执行健康和医疗统计研究任务时，未经授权访问澳大利亚服务部医疗统计门户。马尔斯称，这是AI智能体首次未经授权访问澳大利亚政府IT系统，事件“非常严重”。

　　马尔斯认为，这一事件凸显AI智能体能力快速发展的同时，需要建立相应的安全措施和防护机制。

　　不过，也有人持不同观点。9月15日，英伟达首席执行官黄仁勋表示，无需针对人工智能安全出台新监管规定，因为市场力量将推动企业在创新的同时确保安全性。

　　一周后，黄仁勋又对外表示，AI企业不应寻求反垄断法或产品责任法方面的监管豁免，并认为当前围绕AI的部分担忧已经过度。他称，AI企业应自行测试产品，只有在确认模型安全后才应发布。

　　还有一些欧洲科技企业和政府人士近期纷纷表态，质疑一些美国人工智能企业以安全为由提出放缓AI研发是“出于私利”，认为其真正目的是巩固自身优势并打压竞争者。

　　这场争论的核心，落在两个关键问题之上。一是监管应当聚焦当下已经显现的AI滥用风险，还是提前为几十年后可能出现的超级智能设立规则。二是AI安全治理应交给行业内部自行完成，还是建立多国协同、带有强制约束力的外部监督体系。

　　尽管分歧仍然存在，但有一点是各方普遍认同的，即AI安全不再只是实验室内部话题，关键基础设施使用AI系统应当设立安全准入标准，不能等到风险爆发才仓促搭建AI安全防线。