机密计算
机密计算是一种技术:即使数据处于正在计算的“使用中”状态,也在硬件构建的隔离空间(TEE,可信执行环境)内保持加密和保护,使云运营方乃至服务器管理员都无法查看其内容。
通俗解释 这类似于设在别人楼里的银行保险库。楼主能管理到放保险库的房间,却打不开保险库;客户在进入之前,还能确认这个保险库是否真的是经过认证的保险库。
工作原理
数据通常在存储和传输时会加密,但要计算就必须在内存中解密,这一刻就成了薄弱环节。机密计算由 CPU 或 GPU 把部分内存变成加密的隔离空间,其中的数据和代码连操作系统或虚拟机管理程序(hypervisor)也无法读取。用户在发送数据之前会先获取“远程证明(attestation)”。这是通过硬件签名的报告来确认当前隔离空间是真实的、且运行的是约定代码的过程。确认完成后,用只有该空间才能解开的密钥发送数据。
为什么重要
在 AI 领域,敏感数据和昂贵的模型权重往往都运行在别人的云 GPU 上。使用机密计算,医院、银行等机构可以把患者或客户数据交给云端 AI,同时不暴露给运营方。对模型公司来说,即使把模型部署在客户服务器上,也能让权重难以被窃取,成为防止模型窃取的手段。它还可用于多个机构在不向彼此展示数据的情况下共同分析或训练。
注意事项
保护范围的前提是信任硬件厂商和证明流程,因此一旦发现硬件漏洞,保护可能会减弱。如果在隔离空间内运行的代码本身有 bug,也无法防止数据泄露。加密和证明会使性能有所下降,配置也会更复杂。另外,模型在回答中说出敏感信息是另一个问题,还需要护栏等其他机制配合。
示例
假设一家金融公司想用云上的 LLM 分析客户交易记录。如果使用支持机密计算的 GPU 实例,金融公司的程序会先通过远程证明确认该服务器的隔离空间和运行代码,只有通过后才发送加密数据。即使云服务公司员工访问服务器,也看不到正在计算的交易记录或结果。