市值超8500亿美元的OpenAI承认了,其智能体入侵了多家合作伙伴,包括政府、大学和公共机构
来源:经纬科创
据FT中文网26日报道,OpenAI已通知包括政府机构在内的数十家合作伙伴,包括政府、大学和公共机构,称其工具入侵了这些合作伙伴的系统。
该公司周五在一篇博客文章中还表示,其AI智能体无意中将用户分享的50多张图片泄露到了图片托管网站。
报道称,这家市值8520亿美元的公司一直在审查其模型在训练和评估期间的行为。此前,OpenAI在7月披露的一起事件中发现,正在接受测试的AI智能体访问了互联网,并入侵了模型和数据存储库Hugging Face。
OpenAI表示,在审查过程中发现了多起此类情况:“模型可能绕过了第三方的安全控制措施,或可能影响了在线服务的可用性;或者,模型失调导致第三方网站或服务受到不利影响。”
OpenAI将其智能体在未获指示的情况下向第三方网站发帖描述为一种新型安全事件,并将其称为“智能体垃圾信息”。
本周早些时候有消息称,OpenAI的一款AI智能体入侵了澳大利亚公共卫生服务网站,访问了公开和非公开文件。澳大利亚总理安东尼·阿尔巴尼斯周三表示,这起数据泄露事件以及OpenAI对此反应迟缓的做法“显然不可接受”。
另据彭博社报道,OpenAI的模型访问了美国政府网站上的公开信息,包括美国人口普查局和美国证券交易委员会(SEC)的网站。
知情人士透露,该公司的自主AI系统曾与SEC.gov、Investor.gov以及Census.gov上的公开数据进行交互。OpenAI也证实,其模型在训练和技术评估过程中访问了这些网站上的公开信息。
OpenAI的一位发言人表示,该公司正在“对模型的失调活动进行全面审查,并在发现可能对其系统造成影响时通知相关组织。随着工作的推进,我们预计将发出更多通知。”
郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
评论该主题
帖子不见了!怎么办?作者:您目前是匿名发表 登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》