← AI 术语表

AI 术语表 · 进阶 · 智能体 · 安全与对齐

Auto-review

Auto-review(自动审查)是 OpenAI 的编程智能体 Codex 在尝试执行超出沙箱范围的操作时,由另一个“审查智能体”代替人来判断是否批准的功能。它并不扩大权限,只改变由谁来审查原本就需要批准的请求。

关于这个术语
难度
进阶 · 需要了解内部原理的专业术语
加入时间
2026-10-16
通俗解释 这类似于员工每次把物品带出办公室都要经过团队负责人审批,现在改由一位按既定标准判断的专职安全人员代为审批。不过,安全人员也只是按标准判断,这并不意味着它和人亲自查看一样可靠。

有何不同

编程智能体通常在沙箱(隔离的工作空间)中读取和修改文件。当需要越过沙箱边界,例如访问网络或在允许范围之外写入文件时,它会向人请求批准,并在人回复之前暂停工作。Auto-review 会把这一批准请求发给另一个审查智能体,而不是人。主智能体仍在同样的沙箱、同样的审批策略、同样的网络和文件限制下工作。唯一改变的是“由谁审查批准请求”。

人工批准与自动审查

人工批准原有方式

  • 人逐一亲自判断每个请求
  • 人离开座位,工作就停止

自动审查Approve for me

  • 审查智能体做出判断并留下理由
  • 被拒绝时寻找更安全的途径或询问用户
  • 权限范围不变

공통 只有越过沙箱边界的操作才需审查

两种方式都基于同样的沙箱和审批策略运行,区别在于由谁查看批准请求。

如何运作

主智能体在只读或仅可写入工作文件夹等受限模式下工作。需要越过边界的操作时,它会请求批准;如果开启了自动审查,该请求会发送给审查智能体。审查智能体判断该操作能否执行,并一并返回理由。获得批准则工作继续;如被拒绝,主智能体会被要求寻找明确更安全的其他方法,或者停下来询问用户。

自动审查的流程主智能体 → 批准请求; 批准请求 → 审查智能体; 审查智能体 → 继续执行(批准); 审查智能体 → 更安全的方法(拒绝); 更安全的方法 → 主智能体(重试); 更安全的方法 → 停下并询问用户主智能体在沙箱内工作批准请求越过边界的操作审查智能体判断 + 理由继续执行更安全的方法寻找其他途径停下并询问用户批准拒绝重试
自动审查的流程 主智能体的批准请求发给审查智能体而不是人。获得批准则执行;被拒绝则寻找更安全的途径或询问用户。

如何开启

在 ChatGPT 桌面应用中,在输入框下方的权限菜单中选择“Approve for me”。在 CLI 或本地 Codex 配置中,将 approvals_reviewer 设为 auto_review,并把审批策略设为 on-request 这类会询问人的方式。仅修改审批策略不会改变审查者。如果审批策略为 never(不询问),就根本没有需要审查的请求,自动审查也就没有意义。组织管理员设定的配置优先于个人配置。

注意事项

OpenAI 文档说明,Auto-review“改变的是审查者,而不是授予权限”。它不会增加可写文件夹、开放网络或削弱受保护路径。但由于最终判断由 AI 做出,审查智能体仍有可能错误批准危险请求。桌面应用在用户试图给安全模型授予完全访问权限(Full Access)时会弹出警告,并推荐改用“Approve for me”。处理重要系统时,同时保留由人亲自确认的人在回路会更安全。

示例

假设开发者让 Codex 修复一个 bug,工作过程中智能体为下载外部软件包而请求网络访问批准。以前,开发者一离开座位,工作就会停在那里。开启 Auto-review 后,审查智能体会查看该请求并批准或拒绝;如被拒绝,主智能体会寻找更安全的方法或询问开发者。本站曾介绍过一则报道,称 OpenAI 向所有登录 ChatGPT 的用户免费提供 Codex 的这一“自动审查(Auto-review)”功能。

本站出现过的地方

相关术语

参考资料