AI 용어집 · 입문 · 언어 모델
시스템 프롬프트 System Prompt
시스템 프롬프트는 사용자가 대화를 시작하기 전에 AI 모델에 미리 넣어 두는 기본 지시문입니다. 모델이 어떤 역할을 맡고, 어떤 말투로 답하고, 무엇을 하면 안 되는지를 정해 줍니다.
어떻게 작동하나
LLM과 나누는 대화는 보통 여러 메시지가 쌓인 형태로 모델에 들어갑니다. 그중 맨 앞에 놓이는 것이 시스템 프롬프트이고, 그 뒤로 사용자 메시지와 모델의 답이 이어집니다. 모델은 학습 과정에서 시스템 프롬프트를 사용자 메시지보다 더 우선해서 따르도록 훈련되는 경우가 많습니다. 시스템 프롬프트도 결국 컨텍스트 윈도 안에 들어가는 글이라서 토큰을 차지합니다.
왜 중요한가
같은 모델이라도 시스템 프롬프트에 따라 고객 상담원, 코딩 도우미, 번역기처럼 전혀 다른 서비스가 됩니다. 회사는 이 프롬프트로 서비스의 성격, 답변 형식, 지켜야 할 안전 규칙을 정합니다. 사용자가 매번 같은 설명을 반복하지 않아도 되므로 쓰기도 편해집니다. AI 에이전트에서는 쓸 수 있는 도구와 작업 순서를 알려 주는 역할도 맡습니다.
알아 둘 점
시스템 프롬프트는 강한 안내일 뿐 절대적인 잠금장치가 아닙니다. 프롬프트 인젝션이나 탈옥처럼 교묘한 입력을 쓰면 모델이 지시를 어기거나 시스템 프롬프트 내용을 털어놓을 수 있습니다. 그래서 비밀번호처럼 민감한 정보는 넣지 않는 것이 좋고, 중요한 규칙은 가드레일 같은 별도 장치로 한 번 더 막습니다. 너무 길거나 서로 부딪히는 지시를 넣으면 모델이 일부를 놓치기도 합니다.
예시
기업용 챗봇을 만들 때 개발자는 API로 모델을 부르면서 "당신은 ○○ 쇼핑몰의 상담원입니다. 배송·환불 질문에만 답하고, 모르는 내용은 상담원 연결을 안내하세요" 같은 시스템 프롬프트를 함께 보냅니다. 사용자는 이 문장을 보지 못하지만, 챗봇은 이 지시에 맞춰 답의 범위와 말투를 정합니다.