AI Trend Research

← AI 용어집

AI 용어집 · 기초 · MLOps·LLMOps · 언어 모델

체크포인트 Checkpoint

체크포인트는 모델을 학습하는 도중이나 끝난 뒤 특정 시점의 가중치(와 학습 상태)를 파일로 저장해 둔 것이다. 학습을 이어 하거나, 그 시점의 모델을 꺼내 쓰고 비교하는 데 쓴다.

용어 정보
난이도
기초 · 소식을 읽을 때 자주 만나는 기술 용어
추가
2026-10-12
쉽게 말하면 게임의 세이브 포인트와 같다. 중간에 전원이 꺼져도 마지막 세이브부터 이어 할 수 있고, 마음에 드는 시점의 세이브를 골라 다시 불러올 수도 있다.

어떻게 작동하나

학습은 수많은 단계(step)를 거치며 가중치를 조금씩 고쳐 가는 과정이라, 일정 간격마다 그 시점의 상태를 저장한다. 학습을 이어 하기 위한 체크포인트에는 가중치뿐 아니라 옵티마이저 상태, 학습률 일정, 현재 단계 수 같은 정보도 함께 담긴다. 그래서 장비 고장으로 학습이 멈춰도 처음부터 다시 하지 않고 마지막 체크포인트에서 재개한다. 학습이 끝나면 여러 체크포인트를 평가해 가장 좋은 것을 최종 모델로 고르기도 한다.

체크포인트가 쓰이는 순서

  1. 1
    학습 진행단계마다 가중치를 고침
  2. 2
    주기적 저장가중치·옵티마이저 상태
  3. 3
    중단 시 재개마지막 체크포인트부터
  4. 4
    평가·선택가장 좋은 시점을 고름
  5. 5
    배포용 내보내기가중치만 가볍게
학습 중 저장해 둔 시점을 재개와 선택에 활용한다.

어디서 보게 되나

학습 코드를 돌리면 checkpoint-1000처럼 단계 번호가 붙은 폴더가 쌓인다. Hugging Face에서는 배포된 모델 자체를 흔히 '체크포인트'라고 부르고, 저장소의 브랜치나 리비전으로 학습 중간 시점을 함께 공개하기도 한다. 업계 소식에서 '내부 체크포인트'라고 하면 아직 공개하지 않은 개발 중인 모델 버전을 뜻하는 경우가 많다. 이미지 생성 커뮤니티에서도 내려받는 모델 파일을 체크포인트라고 부른다.

알아 둘 점

학습 재개용 체크포인트는 옵티마이저 상태까지 담아 가중치만 담은 파일보다 몇 배 커질 수 있어 저장 공간 계획이 필요하다. 서빙에는 가중치만 있으면 되므로 배포용으로는 가벼운 파일만 따로 내보낸다. 마지막 체크포인트가 늘 가장 좋은 것은 아니며, 과적합이 시작되기 전 시점이 더 나을 수 있다. 같은 이름의 모델이라도 체크포인트(리비전)가 다르면 결과가 달라지므로 운영 환경에서는 어떤 리비전을 쓰는지 고정해 두는 것이 좋다.

예시

이 사이트에는 Google이 차세대 모델의 내부 체크포인트를 테스트 중이라는 보도가 소개됐는데, 여기서 체크포인트는 개발 중인 특정 시점의 모델 버전을 가리킨다. 실무에서는 사내 파인튜닝을 돌리며 여러 단계의 체크포인트를 저장해 두고, 평가 점수가 가장 좋은 것을 골라 safetensors 가중치만 내보낸 뒤 서빙에 올린다.

이 사이트에서 나온 사례

함께 보면 좋은 용어

사전 학습 파인튜닝 safetensors 과적합 실험 추적 모델 레지스트리