← 2026年10月14日 简报 · 于韩国时间 20:00 更新时加入
OpenAI下一代模型采用“循环Transformer”,因推理过程难以监控而着力保障安全(报道)
发布 2026年10月13日
已核实(事实)
The Information于当地时间13日援引知情人士报道称,OpenAI正集中开展对齐和安全工作,为发布尚未公开的下一代旗舰模型做准备。新模型所用的“循环Transformer(Loop Transformer)”架构可能使模型的推理过程更难监控,因此OpenAI正在确保模型及测试环境的安全性。发布时间尚未确定。
意义(解读)
让输入反复经过同一层的结构,会使推理在思维链(CoT)文本之外、即在内部表征中进行,这可能导致目前基于CoT监控的安全技术失效。这是下一代模型的架构设计与安全监督方式之间的冲突首次被具体揭示。
可信度 中 · 待补官方来源
来源
- 媒体 오픈AI, 추론 감시 어려운 '루프 트랜스포머' 적용 모델 안전 확보에 전력 AI Times(韩国)
更多关于 OpenAI
-
OpenAI将于22日在首尔举办“OpenAI DevDay Exchange: Seoul”,设智能体开发与Codex安全议程,AWS和LG CNS分享案例(报道)
据ZDNet Korea报道,OpenAI将于10月22日在首尔江南区面向韩国开发者和技术创业者举办“OpenAI DevDay Exchange:...
-
美国8个州以“ChatGPT对儿童不安全”为由起诉OpenAI(报道)
艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷、蒙大拿8个州分别对OpenAI提起诉讼,指控其对儿童造成伤害,并在ChatGPT的安全性问题上误导消费者。The Verge称,Reuters率先报道了此事。
-
OpenAI公布Amp案例:借助GPT-6 Astra、Ultrafast、GPT-Live-1和“Sign in with ChatGPT”将智能体扩展到编码之外
OpenAI介绍了Amp的应用案例。Amp正借助GPT-6 Astra、Ultrafast、GPT-Live-1和“Sign in with ChatGPT”,将智能体的用途扩展到代码编写之外的工作。摘录中没有具体成效数据。
-
OpenAI公布SentinelOne采用“Daybreak”的案例:“恶意软件分析从数周缩短至数小时”
据OpenAI称,安全公司SentinelOne借助OpenAI Daybreak,将原本需要数周的恶意软件分析缩短至数小时,从而有余力调查更多威胁。摘录中未说明测量方式和适用范围。
-
OpenAI公布Third Moment Research案例:运行1万个智能体超过36小时的AI研究机构
OpenAI介绍了AI研究机构Third Moment Research的案例。该机构利用GPT-6 Astra、GPT-6.1 Sol、Codex以及面向安全的Daybreak,运行1万个智能体超过36小时。这些智能体被设计为可连续数天专注于一项任务,并在使用中不断改进。