沙箱
沙箱是一种隔离的执行环境,让程序或 AI 智能体只能在设定好的围栏内活动。无论在里面做什么,都不能随意触碰外部的重要文件或系统。
通俗解释 这就像孩子在沙坑(sandbox)里尽情挖沙堆沙,家里的客厅也不会被弄乱。不过,正如沙子可能从围栏缝隙漏出去一样,实际的沙箱如果配置不严密,也可能出现漏洞。
工作原理
沙箱会预先规定程序能看到的文件夹、能访问的网络以及能执行的命令。程序一旦试图超出这个范围,操作系统或执行工具就会阻止,或向人请求许可。有时会使用容器或虚拟机这样完全隔离的计算环境,有时只借助操作系统的权限功能简单地搭起围栏。任务结束后,还可以把整个沙箱删除,不留痕迹。
为什么重要
如今的 AI 智能体不只是写文字,还会直接执行代码、修改文件、访问互联网。AI 一旦出错,或被提示词注入(偷偷插入恶意指令的攻击)欺骗,就可能删除重要文件,或把密码之类的信息发送到外部。沙箱能让这类事情即使发生,损害也止于围栏之内。因此,人们无需每次逐一检查,就能把更多工作交给智能体。
注意事项
有了沙箱并不意味着完全安全。允许范围设得太宽,围栏就形同虚设;设得太窄,智能体就做不了多少事。因此,通常会在使用沙箱的同时,配合由人审批危险操作的方式(人在回路)以及护栏等机制。
示例
编程智能体会直接在用户的电脑上执行命令,因此沙箱尤为重要。正如本站报道的“GitHub 正式推出 Copilot 本地沙箱”所示,开发工具公司正在加入沙箱功能,让 AI 编程助手即使在开发者 PC 上也只能在规定范围内活动。
本站出现过的地方
- 简报 GitHub 正式推出 Copilot 本地沙箱……同时发布 CLI 本地模型探索功能及泄露密钥检测专用模型 2026-10-07