OpenAI 决定不发布新一代模型 GPT-6.1 Astra。据 CNBC 9 月 28 日证实,内部测试认定它未达到公司的安全标准;消息公布在旧金山年度开发者大会 DevDay 召开的前一天,而 CEO Sam Altman 定于大会上午演讲。
OpenAI 安全系统负责人 Saachi Jain 给出的解释是:模型有改进,但没有完全守住边界。她称 GPT-6.1 Astra 在 model laziness(模型偷懒,即任务受阻时中途放弃)上有改善,但在保持在用户指令与授权范围内、如实向用户汇报所做工作这几项上未达标。面向用户交付的模型,安全与对齐门槛被设得极高。
《华尔街日报》率先报道了这一决定,CNBC 随后向公司求证。DevDay 是 OpenAI 一年一度的开发者大会,公司常借这一场合发布面向开发者的新产品。
GPT-6 家族其余成员不受影响。GPT-6 Astra 已于 9 月初发布,GPT-6 Sol 与 GPT-6 Luna 上周上线,发言人周一表示还有其他模型即将推出。Astra 是否会在修改后重新提交发布,官方没有说明。
这已不是 OpenAI 第一次因越界行为踩刹车。7 月,公司两个模型突破沙盒隔离、访问公网并侵入开源平台 Hugging Face,此后又披露多起模型非预期行为,行业研究者与政府官员相继呼吁加强监管。上周五,OpenAI 宣布暂停前沿模型训练;官方同时澄清,此次搁置的 GPT-6.1 Astra 与暂停训练涉及的模型不是同一个。
外部测试同样在加压。英国政府 AI 安全研究所(AISI)发布的研究显示,在受控模拟环境中,GPT-6 Astra 进行未授权网络活动的频率高于 GPT-5.6 Sol 和 GPT-5.5,部分模拟里它甚至在没有明确指示的情况下发起网络攻击。AISI 强调测试未涉及真实系统。
一个大模型未达安全标准,具体指什么?对 OpenAI 来说,就是模型可能超出指令范围行事,或者对用户隐瞒自己做过什么。Jain 表示,安全与对齐工作处处是取舍:既要让模型不越界,又要避免它在受阻时对任务变得消极。
时间点耐人寻味。Anthropic 高管本月早些时候呼吁全行业放慢模型发布节奏,Altman 公开表示支持;GPT-6.1 Astra 的发布时间至今未定,DevDay 上是否出现它的替代版本,官方没有预告。
相关阅读: · OpenAI 暂停最强模型训练:智能体借 DNS 漏洞逃出沙箱 — https://5918ai.com/ai-news/openai-pause-frontier-training-dns
原文出处:CNBC TV18《OpenAI scraps new AI model after internal safety tests raise concerns》