AI 용어집 · 입문 · 언어 모델
프롬프트 엔지니어링 Prompt Engineering
프롬프트 엔지니어링은 AI 모델이 원하는 답을 잘 내도록 질문이나 지시문(프롬프트)을 설계하고 다듬는 일입니다. 모델을 새로 학습시키지 않고 입력하는 글만 바꿔 결과를 개선하는 방법입니다.
어떻게 작동하나
LLM은 입력된 글을 바탕으로 다음에 올 말을 이어 쓰기 때문에, 입력을 어떻게 쓰느냐에 따라 답이 크게 달라집니다. 흔히 쓰는 기법으로는 역할을 정해 주기, 목표와 조건을 분명히 쓰기, 원하는 답의 예시를 몇 개 보여 주기, 단계별로 생각하게 하기(CoT) 등이 있습니다. 답의 형식(표, 목록, JSON 등)을 지정하는 것도 포함됩니다. 결과를 보고 지시문을 고쳐 다시 시험하는 반복이 핵심입니다.
왜 중요한가
파인튜닝처럼 모델을 다시 학습시키려면 데이터와 비용이 많이 들지만, 프롬프트는 글만 고치면 되므로 빠르고 저렴합니다. 같은 모델이라도 프롬프트가 좋으면 정확도와 일관성이 눈에 띄게 좋아질 수 있습니다. 그래서 AI 서비스를 만드는 개발자뿐 아니라 일반 사용자에게도 유용한 기술이 되었습니다.
알아 둘 점
모델이 똑똑해지면서 예전처럼 특정 문구를 외우는 요령의 효과는 줄어드는 추세입니다. 대신 모델에게 어떤 정보와 도구를 언제 넣어 줄지 설계하는 컨텍스트 엔지니어링으로 관심이 넓어지고 있습니다. 또 어떤 모델에서 잘 되던 프롬프트가 다른 모델에서는 잘 안 될 수 있습니다. 그래서 프롬프트를 바꿀 때는 Evals 같은 평가로 실제로 나아졌는지 확인하는 것이 좋습니다.
예시
회사에서 회의록 요약 기능을 만든다고 해 봅시다. "요약해 줘"라고만 쓰면 길이와 형식이 매번 달라집니다. "결정 사항, 담당자, 마감일을 세 항목으로 나눠 목록으로 정리하고, 회의록에 없는 내용은 쓰지 마"라고 바꾸고 좋은 요약 예시를 하나 덧붙이면, 결과가 훨씬 일정하고 쓸모 있어집니다.