기밀 컴퓨팅 Confidential Computing
기밀 컴퓨팅은 데이터가 계산되는 '사용 중' 상태에서도 하드웨어가 만든 격리 공간(TEE, 신뢰 실행 환경) 안에서 암호화된 채로 보호해, 클라우드 운영자나 서버 관리자조차 내용을 들여다볼 수 없게 하는 기술이다.
어떻게 작동하나
보통 데이터는 저장할 때와 전송할 때는 암호화되지만, 계산하려면 메모리에서 풀어야 해서 그 순간이 약점이 된다. 기밀 컴퓨팅은 CPU나 GPU가 메모리 일부를 암호화된 격리 공간으로 만들어, 그 안의 데이터와 코드는 운영체제나 하이퍼바이저도 읽지 못하게 한다. 사용자는 데이터를 보내기 전에 '원격 증명(attestation)'을 받는다. 하드웨어가 서명한 보고서로 지금 격리 공간이 진짜이고 약속한 코드가 돌고 있는지 확인하는 절차다. 확인이 끝나면 그 공간에서만 풀 수 있는 키로 데이터를 보낸다.
왜 중요한가
AI에서는 민감한 데이터와 값비싼 모델 가중치가 모두 남의 클라우드 GPU 위에서 돌아가는 경우가 많다. 기밀 컴퓨팅을 쓰면 병원·은행 같은 곳이 환자나 고객 데이터를 클라우드 AI에 맡기면서도 운영자에게 노출되지 않게 할 수 있다. 모델 회사 입장에서는 고객 서버에 모델을 두더라도 가중치를 빼 가기 어렵게 만들어 모델 탈취를 막는 수단이 된다. 여러 기관이 서로 데이터를 보여 주지 않고 함께 분석하거나 학습하는 데도 쓰인다.
알아 둘 점
보호 범위는 하드웨어 제조사와 증명 절차를 믿는 데서 출발하므로, 하드웨어 취약점이 발견되면 보호가 약해질 수 있다. 격리 공간 안에서 도는 코드 자체에 버그가 있으면 데이터가 새는 것까지는 막지 못한다. 암호화와 증명 때문에 성능이 다소 떨어지고 설정도 복잡해진다. 또 모델이 답변으로 민감한 정보를 말해 버리는 문제는 별개라서 가드레일 같은 다른 장치가 함께 필요하다.
예시
한 금융사가 고객 거래 내역을 클라우드의 LLM으로 분석하려 한다고 하자. 기밀 컴퓨팅을 지원하는 GPU 인스턴스를 쓰면, 금융사의 프로그램은 먼저 원격 증명으로 그 서버의 격리 공간과 실행 코드를 확인하고, 통과했을 때만 암호화된 데이터를 보낸다. 클라우드 회사 직원이 서버에 접근해도 계산 중인 거래 내역이나 결과를 볼 수 없다.