← AI 용어집

AI 용어집 · 입문 · 언어 모델

파운데이션 모델 Foundation model

파운데이션 모델은 아주 많은 데이터로 미리 폭넓게 학습해 두어서, 조금만 더 가르치거나 지시를 주면 여러 가지 일에 두루 쓸 수 있는 큰 AI 모델이다. 한 가지 일만 하는 모델과 달리 여러 서비스의 '토대'가 된다.

쉽게 말하면 기초 교육을 폭넓게 받은 신입 사원과 비슷하다. 부서마다 처음부터 새로 뽑지 않고, 같은 사람에게 업무 교육만 조금 더 시키면 영업도 기획도 맡길 수 있다. 다만 사람과 달리 모델은 스스로 경험을 쌓아 가지 않고, 학습한 데이터 범위에 크게 묶인다.

어떻게 작동하나

먼저 인터넷 글, 책, 코드, 이미지, 영상처럼 아주 많고 다양한 데이터로 사전 학습을 한다. 이 과정에서 모델은 특정 과제의 정답을 외우기보다 언어나 이미지의 일반적인 패턴을 익힌다. 그다음 쓰임새에 따라 파인튜닝으로 조금 더 가르치거나, 프롬프트로 할 일을 알려 주기만 해서 챗봇, 코딩 도우미, 이미지 설명 같은 여러 서비스에 쓴다. LLM이 대표적인 예이고, 이미지·영상·음성·로봇 동작을 다루는 파운데이션 모델도 있다.

하나의 토대, 여러 쓰임새방대한 데이터 → 사전 학습; 사전 학습 → 파운데이션 모델; 파운데이션 모델 → 챗봇(파인튜닝); 파운데이션 모델 → 코딩 도우미(프롬프트); 파운데이션 모델 → 이미지 설명방대한 데이터글·코드·이미지·영상사전 학습파운데이션 모델챗봇코딩 도우미이미지 설명파인튜닝프롬프트
하나의 토대, 여러 쓰임새 방대한 데이터로 사전 학습한 모델 하나를 파인튜닝이나 프롬프트로 여러 서비스에 나눠 쓰는 구조다. 오른쪽 쓰임새는 예시다.

왜 중요한가

예전에는 번역, 요약, 분류처럼 일마다 따로 모델을 만들고 데이터를 따로 모아야 했다. 파운데이션 모델은 한 번 크게 학습해 두면 여러 일에 다시 쓸 수 있어서, 새 서비스를 만드는 비용과 시간이 크게 줄어든다. 그래서 많은 기업이 직접 거대한 모델을 만들기보다 이미 있는 파운데이션 모델 위에 자기 서비스를 얹는 방식을 택한다. 반대로 이런 모델을 직접 만들 수 있는 능력은 국가와 기업의 경쟁력으로 여겨져, 소버린 AI 논의와도 이어진다.

알아 둘 점

학습에 엄청난 데이터와 GPU 같은 연산 자원이 들어서 만들 수 있는 곳이 많지 않다. 학습 데이터에 섞인 편향이나 잘못된 정보가 그 위에 만든 모든 서비스로 퍼질 수 있다. 여러 일을 '두루' 잘하지만, 특정 분야에서는 그 분야만 다룬 전문 모델보다 못할 수도 있다. 또 환각처럼 그럴듯하지만 틀린 답을 내는 문제는 파운데이션 모델에도 그대로 남아 있다.

예시

이 사이트 소식 중 투모로로보틱스가 공개한 로봇 파운데이션 모델 '하빌리스 브레인 0'이 좋은 예다. 언어 모델이 글쓰기 전반의 토대가 되듯, 로봇 파운데이션 모델은 여러 로봇 동작을 폭넓게 익혀 두고 이를 다양한 작업에 쓰려는 시도다. 영상과 오디오를 함께 만드는 'Kandinsky 6.0 Video'처럼 글이 아닌 영상 분야에서도 파운데이션 모델이라는 이름이 쓰인다.

이 사이트에서 나온 사례

함께 보면 좋은 용어