← 2026年10月14日 简报 · 于韩国时间 20:00 更新时加入

P2 模型 待确认 语言模型安全与对齐20:00 更新OpenAI

OpenAI下一代模型采用“循环Transformer”,因推理过程难以监控而着力保障安全(报道)

发布 2026年10月13日

已核实(事实)

The Information于当地时间13日援引知情人士报道称,OpenAI正集中开展对齐和安全工作,为发布尚未公开的下一代旗舰模型做准备。新模型所用的“循环Transformer(Loop Transformer)”架构可能使模型的推理过程更难监控,因此OpenAI正在确保模型及测试环境的安全性。发布时间尚未确定。

意义(解读)

让输入反复经过同一层的结构,会使推理在思维链(CoT)文本之外、即在内部表征中进行,这可能导致目前基于CoT监控的安全技术失效。这是下一代模型的架构设计与安全监督方式之间的冲突首次被具体揭示。

可信度 中 · 待补官方来源

来源

更多关于 OpenAI