openai 于 9 月 21 日至 22 日接连发布两篇政策博客,呼吁由美国牵头制定前沿 ai 的全球技术标准,并系统化引入第三方独立安全评估。这是该公司在业界关于“放缓 ai 发展”的争论升温之后给出的正式方案。
在全球标准方面,openai 建议各国依托现有机构协作,制定涵盖能力测量、安全评估、事件上报,以及“何时应当放缓或停止开发”的共同技术基准,其中明确包含递归自我改进(rsi)这一前沿情形。公司强调这些标准应为自愿性质,不构成许可或上市前强制审批,各国政府可自行决定是否写入法律。
在独立评估方面,openai 列出四个优先领域:对训练与部署全过程安全案例的评估、对防护体系(含模型级防护与对齐监测器)的对抗性测试、对 preparedness 框架下网络安全、生物风险及 ai 自我改进等能力评估的检验,以及对重大失控事件的独立调查——公司提到此前被广泛报道的智能体越权访问 hugging face 服务器事件,认为此类情形值得引入外部调查。配套的五项原则要求:评估前预先登记声明、访问权限与目标相称、方法透明、评估方具备专业能力并披露利益冲突、落实安全保密。
据报道,openai ceo sam altman 本周将向联合国安理会做 ai 与国际安全简报,美中两国官员也在同期展开 ai 安全对话。openai 称已在就评估方案与多家第三方机构接触,但标准最终能否落地,仍取决于各国政府的参与程度。