AI 용어집 · 기초 · MLOps·LLMOps
MLOps Machine Learning Operations
MLOps는 머신러닝 모델을 만들고, 서비스에 배포하고, 운영하면서 계속 고쳐 나가는 전 과정을 자동화하고 체계적으로 관리하는 방법입니다. 모델 개발(ML)과 운영(Ops)을 하나로 잇는다는 뜻입니다.
어떻게 작동하나
데이터를 모아 정리하고, 모델을 학습시키고, 성능을 평가한 뒤, 통과한 모델을 서비스에 배포합니다. 배포 뒤에는 예측이 잘 맞는지, 들어오는 데이터가 학습 때와 달라지지 않았는지 지켜봅니다. 문제가 보이면 새 데이터로 다시 학습해 이 과정을 반복합니다. 이 고리를 사람이 손으로 돌리지 않고 자동화 도구와 정해진 절차로 돌리는 것이 MLOps의 핵심입니다.
MLOps의 반복 고리
계속 쓸 만한 모델
- 1데이터 준비
- 2학습
- 3평가
- 4배포
- 5모니터링
- 1. 데이터 준비 모으고 정리하기
- 2. 학습 실험 기록 남기기
- 3. 평가 기준 통과 여부
- 4. 배포 서비스에 올리기
- 5. 모니터링 성능·드리프트 감시
왜 중요한가
연구 단계에서 잘 맞던 모델도 실제 서비스에서는 시간이 지나며 성능이 떨어지기 쉽습니다. 세상이 바뀌면 들어오는 데이터도 바뀌기 때문입니다(데이터 드리프트). 또 어떤 데이터와 설정으로 만든 모델인지 기록이 없으면, 문제가 생겼을 때 원인을 찾거나 이전 모델로 되돌리기 어렵습니다. MLOps는 이런 재현성·추적성·안정성을 갖추게 해 줍니다.
알아 둘 점
MLOps는 특정 도구 하나가 아니라 실험 추적, 모델 레지스트리, 모델 서빙, 모니터링 같은 여러 구성 요소와 일하는 방식을 묶어 부르는 말입니다. 처음부터 모든 것을 갖출 필요는 없고, 보통 기록·배포 자동화부터 시작해 단계적으로 넓혀 갑니다. 조직 문화도 중요해서, 데이터 과학자와 운영 엔지니어가 같은 절차를 공유해야 효과가 납니다. LLM을 다루는 경우에는 이를 확장한 LLMOps라는 말을 따로 쓰기도 합니다.
예시
쇼핑몰의 상품 추천 모델을 생각해 봅시다. 계절이 바뀌면 사람들이 찾는 상품도 바뀌어 추천이 잘 안 맞기 시작합니다. MLOps를 갖춘 팀은 클릭률 같은 지표가 떨어지는 것을 모니터링으로 먼저 알아채고, 최근 데이터로 모델을 다시 학습시켜 평가한 뒤, 기준을 넘은 모델만 자동으로 배포합니다. 새 모델이 문제를 일으키면 모델 레지스트리에 저장된 이전 버전으로 바로 되돌립니다.