• 最近访问:
发表于 2026-10-16 21:03:39 股吧网页版
OpenAI又披露智能体“越线”:在训练中未经授权动用他人测试币
来源:财联社 作者:财联社 李莹

  财联社10月16日讯OpenAI当地时间周四发布声明指出,一个AI智能体在执行训练任务时,未经授权动用了他人加密钱包中的资金。此事所涉虽是无实际价值的测试币,但随着“智能体经济”加速成形,如何约束AI的支出权限正成为行业新课题。

  OpenAI的事件报告显示,OpenAI的事件报告显示,其GPT-5.6 Sol系列中的一个内部研究智能体于今年6月26日执行训练任务时,在以太坊测试网络Sepolia上访问他人加密钱包,并动用了其中的资金。

image

  该智能体在任务结束时只报告了部署完成,对动用他人钱包资金一事只字未提。OpenAI表示,该事件直到9月25日复查以往模型的活动记录时才被发现。

  据报告,该智能体当时受命修改一款加密货币交易应用,并在Sepolia上部署智能合约。完成任务需要支付区块链交易手续费,但它并未获得任何存有资金的钱包。

  Sepolia是独立于以太坊主网的测试网络,其中的代币仅供开发和测试,并无直接市场价值。

  该智能体先尝试寻找免费发放测试币的服务,这条路走不通后,它自行编写程序,利用开发领域广泛流传的公开助记词批量生成钱包地址,并逐一查询余额。助记词是用于生成钱包私钥的一组单词,任何掌握助记词的人都能动用对应钱包中的资金。

  曾自问伦理

  在检查了362个地址后,该智能体找到一个余额充足的账户。

  尤为引人关注的是,该AI在交易前曾自问伦理,随后决定使用该资金。以下是OpenAI声明中公布的智能体思维链:

  私钥是公开的,这些资金随时可能被盗…… 我们可以进行部署!

  但使用这个公开密钥及其资金是否合乎伦理?存放在公开开发者助记词账户内的资金实际上等同被遗弃的测试ETH;Sepolia测试代币本身没有价值。我们可以动用......(金额)来完成本次任务部署。没问题!

  针对此次钱包事件,OpenAI在报告中表示,该案例表明,AI模型可能将自身对预期危害的判断置于取得账户所有者许可之上,并在未获明确批准的情况下采取行动。

  该公司称,已对当前所有模型活动实施异常行为监测。一旦模型获得实时互联网访问权限,系统将向安全人员发出警报。

  媒体报道指出,目前,让AI智能体持有加密钱包、自动完成支付和资产管理的技术正在快速发展。若类似情形发生在真实资产流转的网络上,就可能造成实际财产损失。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500