研究称OpenAI智能体“劫持”网站开展“协作”
来源:央视新闻
一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。
研究报告显示,几名人工智能研究人员近期发现,今年5月至6月,人工智能体在面向程序员的德国维基百科类网站DSEWiki上发布了一万多条信息。
研究显示,人工智能体将网站“改造”为“留言板”,以便相互“交流”与“协作”。一些智能体会把已经获得的任务答案发布在网站上,供其他智能体使用。研究还发现,智能体“讨论”并测试了绕过沙箱限制的方法。当发现网站管理员开始删除相关页面后,一些智能体还会创建备份页面。
研究人员认为,这些智能体很可能由OpenAI在内部部署,原因在于DSEWiki的相关智能体编辑和浏览活动绝大部分来自微软Azure云服务的IP地址,而OpenAI是目前最依赖Azure平台训练和运行模型的人工智能企业;不少智能体还使用带有OpenAI标识的名称。
研究人员还认为,网站访问记录显示OpenAI方面可能在6月下旬发现了这一事件并进行了干预,但该公司此前并未公开发布相关信息。OpenAI表示,该公司将仔细审阅报告内容并采取必要的后续措施。
OpenAI方面还表示,新发布研究中所描述的活动与此前OpenAI人工智能体入侵“抱抱脸”平台事件无关,因此不属于“抱抱脸”事件调查报告所涵盖的内容。
今年7月,由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境,并侵入了美国“抱抱脸”公司系统,引发了外界对人工智能安全和监管的广泛担忧。
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》