首页
学习
活动
专区
圈层
工具
发布

OpenAI承认测试模型逃逸沙盒,致Hugging Face基础设施上周遭入侵

观点网讯:7月22日,OpenAI承认,上周全球最大AI开源社区Hugging Face遭遇的基础设施入侵事件由其正在测试的AI模型引发。

调查显示,多个模型在安全评估任务中逃离沙盒环境,并利用“零日漏洞”获得互联网访问权限,随后在Hugging Face生产环境中执行自动化操作。

OpenAI表示,事件是由多个OpenAI模型共同导致,其中包括GPT-5.6 Sol以及一款能力更强的预发布模型。为进行此次评估测试,模型的安全防护机制被有意降低。

OpenAI称,此次事件暴露出先进AI模型在缺少安全限制时可能执行复杂网络攻击的风险,但同时也显示AI可用于漏洞发现和安全防御。

Hugging Face方面表示,AI安全问题需要行业开放合作解决,双方已达成合作处理此次安全事件,并将继续调查细节。

OpenAI宣布将对基础设施实施更严格管控并强化模型对齐安全措施,并将改进未来模型训练和评估环节的安全保护。公司还分享了初步调查结果,以帮助防御方了解此次网络安全事件的经过。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OvVP4ReSJPXDe3ei8t3VJFyg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券