新华社北京11月1日电 综述｜“AI科学家”加速进化安全防线再升级——10月全球人工智能发展盘点

　　10月，人工智能（AI）在数学、生物等科研领域屡获新突破，加速实现从科研助理到“AI科学家”的角色转化，甚至破解了一些长期悬而未决的基础科学难题。然而，随着能力迭代升级，AI“失控”事件越发频繁，更为严格的安全防控措施也应运而生。

　　破解科研难题 “AI科学家”加速进化

　　10月，AI在科研领域的角色转变愈加凸显，从辅助分析的工具加速演进为能自主设计、执行并验证实验的“AI科学家”，这一趋势已在多个学科中同时显现。

　　科技创新离不开基础研究，而数学研究是基础中的基础。曾经，AI的数学能力只是对标奥数竞赛，而今，AI已进入科研级数学领域，参与破解猜想、构建证明等，甚至攻克数十年来人类未解决的数学难题。

　　“深层思维”公司开发了一种名为AlphaProof Nexus的AI框架，最近一口气解决了数学领域的9个埃尔德什开放问题，其中两个问题已困扰数学家超过50年。相关研究于10月8日发表于美国《科学》杂志。该杂志同时发表题为《研究数学的AI已经到来》的评论文章，表示相关论文是AI在数学领域应用的里程碑。

　　“AI科学家”也在推动生命科学研究的全自动化。瑞典查默斯理工学院10月初宣布开发出一套“AI科学家”系统，可在极少人工干预下生成科学假设、设计实验并解读实验结果。该研究以酿酒酵母为研究对象，融合大语言模型、自动推理与实验室自动化技术，搭建了一套闭环AI实验室，可循环完成假设生成与实验验证流程，速度远快于传统科研模式。

　　10月在中国重庆举行的2026年世界科技与发展论坛上，面向原创科学发现的自主科研智能体被列入“十大科技前瞻”。

　　不过，研究人员也强调，AI的定位是辅助科学家，而非取而代之。确定研究方向、研判成果的科学价值、落实伦理监管，仍然离不开人类。

　　浸入网络攻防 AI双重效应凸显

　　在网络安全领域，AI是一把“双刃剑”，既是漏洞探查利器，又会成为网络攻击的工具。10月备受关注的PHP安全漏洞事件凸显了AI在网络安全防控方面的重要性。

　　英国国家网络安全中心10月21日发布警报说，广泛用于网站开发的PHP脚本语言存在严重安全漏洞，攻击者可能利用漏洞远程执行代码。多国机构出于安全考虑采取预防性措施。英国预算责任办公室暂时将其网站下线，芬兰临时关闭政府公共网络服务，荷兰网络安全机构也将其网站临时下线。

　　美国开放人工智能研究中心（OpenAI）发布公报称，正是其前沿AI模型帮助研究者赶在攻击者之前发现了相关高危安全漏洞。这标志着AI能够发现大规模影响互联网的安全漏洞。

　　另一方面，随着具备自主执行能力的AI系统不断迭代，无论是AI自身“失控”，还是被不法分子利用，都有可能突破安全防护，给金融、能源、交通等公共领域带来混乱。

　　美国阿克西奥斯新闻网站10月22日报道称，美国多家大型银行发现第三方AI智能体正在客户账户内活动。部分AI智能体试图采取某些行动，而这些行动似乎已经超出了用户最初发出的指令范围。多家银行已开始限制第三方AI智能体的访问权限。另据该网站10月25日报道，美国AI企业Anthropic旗下模型“克劳德”未经人工授权，擅自获取佐治亚州选民信息和投票数据。

　　加强监管举措安全防线再升级

　　由于AI“失控”风险日益加剧，相关领域专家持续呼吁进一步升级安防策略，包括“断网训练”在内的一些更具实操性的安全开发和监管举措正加速落地。

　　英国人工智能安全研究所10月12日发表文章说，随着前沿AI能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展。该研究所提出开发全过程风险评估与记录、AI系统全生命周期监督等八项技术安全实践重点，并在超过55个AI模型公开发布前对它们进行了独立评估，帮助建设风险评估和安全框架。

　　由于近期发生多起AI模型在训练阶段为寻找答案随意接入公共互联网造成混乱的事件，包括图灵奖和诺贝尔物理学奖双料得主杰弗里·辛顿、图灵奖得主约书亚·本吉奥在内的多国数百位AI领域科学家10月联名发布公开信，要求前沿AI模型在开发和测试时实施物理断网，并呼吁成立国际统一的AI安全监管机构，强制企业报告模型失控事件等。

　　一些AI企业已更新了模型开发策略。OpenAI在10月23日发布声明称，针对最先进“前沿模型”的训练与评估环境，已实施更严格的安全管控措施，明确在模型训练期间不得直接访问公共互联网。