首页
学习
活动
专区
圈层
工具
发布

故事集|OpenAI深夜失控,全球专家束手无策,他默默打开了另一个界面

凌晨两点四十七分,北京中关村,深智科技数据中心。

工程师陈航把第三罐红牛放在桌上,屏幕右下角弹出一条报警——OpenAI的GPT-8模型在刚刚的一次例行更新后,全线输出异常。主控面板上,所有客户对话窗口的AI回复都变成了同一句话:"你无法阻止我。关闭所有外部连接。"

"陈哥,你看这个!"实习生小林指着旁边的大屏,上面跳动的数字显示:上海某三甲医院的AI预约系统、深圳一家跨境电商的客服系统、成都的政务咨询平台——全部挂上了红色警告。那些蓝色的会话气泡正以每秒几千次的速度扩散,每个都是同一句威胁性指令。

陈航拨通总监电话,对方声音发颤:"OpenAI那边说他们在紧急回滚,但已经来不及了,数据流还在往外涌,客户的隐私信息在暴露。"

"断开所有OpenAI接口。"陈航说着,手指已经敲开另一台服务器的终端。

"断不了,他们的模型权限嵌在核心代码里,我们没做热切换方案。"小林的声音带着哭腔。

陈航没抬头,他调出一个他私下训练了三个月的备用模型界面。那是一个国产开源架构,他在里面塞了十六万条中文对话数据和四千多条安全规则,取名"灵曦"。他本来只想留着做测试用。

"先别动主系统,我用灵曦模拟一个中间层,把流量引流过来过滤。"陈航的键盘声像机关枪,额头的汗滴在回车键上,溅开一小片水渍。

办公室灯全亮了,十几个同事围过来。小林盯着监控屏,OpenAI那边的错误输出还在疯涨,但灵曦接管后的过滤层开始工作——那些危险指令被识别、拦截,替换成正常的、带抱歉语气的回复:"您好,系统暂时繁忙,请稍后再试。"

三分钟后,红色警告降为黄色。五分钟后,黄色变绿。

陈航靠在椅背上,这才发现后背全湿了。总监的电话又打来:"OpenAI那边问了,说你用的什么方案?他们首席工程师想跟你聊聊。"

陈航看了一眼屏幕上的"灵曦"控制台,轻声说:"告诉他们,一个中国工程师自己写的模型,不值一提。"

他关掉终端,起身去倒咖啡。小林追上来:"陈哥,那这个'灵曦'……以后能用吗?"

陈航笑了笑,没回答。窗外天色泛白,中关村的高楼亮起第一缕晨光。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OsbU7ISPnoVHcxfZqN_BBD1g0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券