AI 용어집 · 기초 · 언어 모델 · 효율·인프라 · 안전·정렬
Decision model 의사결정 모델
의사결정 모델은 문장을 지어내는 대신 미리 정해 둔 선택지 가운데 어느 쪽에 해당하는지를 확률로 판단하는 AI 모델이다. 예를 들어 이 글이 정책 위반인지 아닌지를 판정한다.
무엇인가/무엇이 다른가
보통의 LLM(대규모 언어 모델)은 질문을 받으면 답을 글로 길게 써 줍니다. 의사결정 모델은 글 대신 결과별 확률을 내놓습니다. 예를 들어 '이 메시지는 금지 항목에 해당한다'와 '해당하지 않는다' 가운데 어느 쪽일 가능성이 얼마나 되는지를 알려 주는 식입니다. 선택지가 미리 정해져 있어서 LLM보다 빠르고 저렴하게 돌릴 수 있다는 점이 가장 큰 차이로 꼽힙니다.
어떻게 작동하나
속은 LLM과 같은 트랜스포머 구조를 쓰기 때문에 쉬운 말로 적힌 규칙이나 정책을 읽고 이해하는 유연함은 그대로 남아 있습니다. 대신 출력을 정해 둔 몇 가지 선택지로 좁혀서, 긴 답을 한 글자씩 만들어 내는 과정을 건너뜁니다. 그래서 기존에 쓰던 단순한 분류기처럼 빠르게 판정하면서도 복잡한 기준을 적용할 수 있습니다. 판단 기준이 바뀌어도 모델을 다시 학습시키지 않고, 새 기준 문서만 건네면 된다는 점도 장점으로 소개됩니다.
왜 주목받나
TechCrunch에 따르면 TypeSafe AI가 9월에 의사결정 모델 'Jev'를 내놓았고, 곧이어 OpenAI와 Amazon도 경쟁 모델을 공개하면서 이 분야가 화제가 됐습니다. 초기에 주로 거론된 쓰임새는 AI 에이전트가 엉뚱하게 행동하지 않도록 감시하는 일이었습니다. 지금은 사람이 올린 게시물을 검토하는 콘텐츠 모더레이션으로도 넓어지고 있습니다. 로컬 실행 도구인 Ollama도 v0.40.0부터 애플 실리콘 Mac에서 의사결정 모델 몇 가지를 지원한다고 밝혀, 개인 컴퓨터에서 돌려 보는 일도 쉬워지고 있습니다.
알아 둘 점(한계)
확률로 답한다고 해서 판단이 늘 옳은 것은 아닙니다. 모델이 틀리면서도 높은 확신을 보일 수 있습니다. Jev로 금융 보고서의 근거 인용을 검증한 연구에서는 숫자는 같은데 엉뚱한 항목을 인용한 경우를 놓치기도 했습니다. 동시에 올바른 다른 인용을 지지하지 않는 일도 생겨, 오류를 잘 잡는 것과 올바른 근거를 살리는 것 사이에 맞바꿈 관계가 있다고 보고됐습니다. 또 다른 연구는 제목에서 이런 모델이 선택지에 붙은 정의보다 이름표에 더 끌려갈 수 있다는 문제를 제기합니다. 아직 새로 등장한 분야라 용어의 범위와 성능 평가는 계속 정리되는 중입니다.
예시
콘텐츠 모더레이션 기업 Musubi는 실시간 모더레이션용 경량 의사결정 모델 'PolicyLM-1.7B'를 오픈웨이트로 공개했습니다. 쉬운 영어로 적은 콘텐츠 정책을 메시지에 적용해, 각 메시지가 정책에서 정한 범주에 해당하는지 아닌지를 판정합니다. 회사는 한 건을 50밀리초 안에 처리하고, 비용과 속도는 소셜 플랫폼에서 쓰는 기존 분류기와 비슷한 수준이라고 밝혔습니다. 정책이 바뀌어도 다시 학습시킬 필요가 없어, 정책 담당자가 기준을 자주 고칠 수 있다는 점을 강점으로 내세웠습니다.