Auto-review
Auto-review(自动审查)是 OpenAI 的编程智能体 Codex 在尝试执行超出沙箱范围的操作时,由另一个“审查智能体”代替人来判断是否批准的功能。它并不扩大权限,只改变由谁来审查原本就需要批准的请求。
有何不同
编程智能体通常在沙箱(隔离的工作空间)中读取和修改文件。当需要越过沙箱边界,例如访问网络或在允许范围之外写入文件时,它会向人请求批准,并在人回复之前暂停工作。Auto-review 会把这一批准请求发给另一个审查智能体,而不是人。主智能体仍在同样的沙箱、同样的审批策略、同样的网络和文件限制下工作。唯一改变的是“由谁审查批准请求”。
人工批准与自动审查
人工批准原有方式
- 人逐一亲自判断每个请求
- 人离开座位,工作就停止
自动审查Approve for me
- 审查智能体做出判断并留下理由
- 被拒绝时寻找更安全的途径或询问用户
- 权限范围不变
공통 只有越过沙箱边界的操作才需审查
如何运作
主智能体在只读或仅可写入工作文件夹等受限模式下工作。需要越过边界的操作时,它会请求批准;如果开启了自动审查,该请求会发送给审查智能体。审查智能体判断该操作能否执行,并一并返回理由。获得批准则工作继续;如被拒绝,主智能体会被要求寻找明确更安全的其他方法,或者停下来询问用户。
如何开启
在 ChatGPT 桌面应用中,在输入框下方的权限菜单中选择“Approve for me”。在 CLI 或本地 Codex 配置中,将 approvals_reviewer 设为 auto_review,并把审批策略设为 on-request 这类会询问人的方式。仅修改审批策略不会改变审查者。如果审批策略为 never(不询问),就根本没有需要审查的请求,自动审查也就没有意义。组织管理员设定的配置优先于个人配置。
注意事项
OpenAI 文档说明,Auto-review“改变的是审查者,而不是授予权限”。它不会增加可写文件夹、开放网络或削弱受保护路径。但由于最终判断由 AI 做出,审查智能体仍有可能错误批准危险请求。桌面应用在用户试图给安全模型授予完全访问权限(Full Access)时会弹出警告,并推荐改用“Approve for me”。处理重要系统时,同时保留由人亲自确认的人在回路会更安全。
示例
假设开发者让 Codex 修复一个 bug,工作过程中智能体为下载外部软件包而请求网络访问批准。以前,开发者一离开座位,工作就会停在那里。开启 Auto-review 后,审查智能体会查看该请求并批准或拒绝;如被拒绝,主智能体会寻找更安全的方法或询问开发者。本站曾介绍过一则报道,称 OpenAI 向所有登录 ChatGPT 的用户免费提供 Codex 的这一“自动审查(Auto-review)”功能。