首页
学习
活动
专区
圈层
工具
发布

OpenAI解散风险防范团队,IPO前夕架构调整引安全担忧

【TechWeb】据《金融时报》报道,OpenAI已于上月末正式解散了专注于评估模型重大风险的风险防范团队。该团队原职责是制定应对模型失控等极端场景的缓解措施,现已按生物安全、网络安全等细分领域拆分并入公司现有业务团队。

这是OpenAI在筹备预期规模空前的IPO之际,进行的最新架构调整。近年来,公司逐步摒弃了前瞻性布局模式,此前已相继解散了通用人工智能(AGI)筹备团队与超级对齐团队。伴随架构变动,伦理负责人克洛艾·巴卡拉、首席未来学家乔希·阿奇亚姆及安全主管约翰内斯·海德克等多位高管相继离职。对此,今年离职的扬·莱克等批评人士指责OpenAI正忽视安全问题,转而一心打造“吸睛产品”。

值得注意的是,今年2月才从Anthropic跳槽加入的该团队原负责人迪伦·斯堪迪纳罗,将转而专注研究“递归自我改进”型人工智能的潜在影响。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OpFLp8sjUPttWYoasns4ezJQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券