토큰 과금 Token Pricing

어떻게 작동하나

모델은 글을 토큰이라는 조각으로 나눠 읽고 쓴다. AI 회사나 클라우드의 가격표에는 보통 '100만 토큰당' 입력 단가와 출력 단가가 따로 적혀 있고, 출력 쪽이 더 비싼 경우가 많다. 프롬프트 캐싱으로 재사용된 입력이나 급하지 않은 일괄(배치) 요청에는 별도 단가가 붙기도 한다. 추론 모델은 답을 내기 전 '생각하는' 과정도 출력 토큰으로 세는 경우가 있다.

감 잡는 법

한 번 호출하는 비용은 '입력 토큰 수 × 입력 단가 + 출력 토큰 수 × 출력 단가'로 말로 풀 수 있다. 여기에 하루 호출 횟수와 날짜 수를 곱하면 대략의 월 비용이 나온다. 긴 문서를 매번 넣는 RAG나 대화 기록이 계속 쌓이는 챗봇은 입력 토큰이 빠르게 불어난다. 실제로 쓴 토큰 수는 API 응답의 사용량(usage) 항목이나 콘솔의 사용량 대시보드에서 확인한다.

알아 둘 점

단가가 싸다고 총비용이 싼 것은 아니다. 같은 글도 토크나이저에 따라 토큰 수가 달라지고, 답을 길게 쓰거나 생각을 많이 하는 모델은 출력 토큰이 많이 나온다. 한국어는 영어보다 같은 내용에 토큰이 더 드는 경우가 있어 내 실제 데이터로 재 보는 것이 안전하다. 소비자용 월 정액 요금제는 사용 한도 안에서 고정 요금을 내는 방식이라 토큰 과금과 그대로 비교하기 어렵다.

예시

사내 고객 상담 챗봇을 API로 만든다고 하자. 담당자는 가격표에서 입력·출력 단가를 확인하고, 시스템 프롬프트와 검색 문서가 매 요청마다 반복된다는 점을 보고 프롬프트 캐싱을 켜서 입력 비용을 줄인다. 이 사이트 소식에서도 같은 월 정액 요금제 안에서 모델마다 얻는 사용 가치가 크게 다르다는 분석 보도가 있었는데, 요금이 무엇을 기준으로 매겨지는지 알아야 이런 비교를 제대로 읽을 수 있다.

이 사이트에서 나온 사례

• 브리핑 SemiAnalysis "같은 월 200달러 요금제에서 Claude Opus 5.5 사용 가치, GPT-6.1 Sol의 5배 이상"(보도) 2026-10-08

함께 보면 좋은 용어

토큰 토크나이저 프롬프트 캐싱 컨텍스트 윈도 추론 모델 LLM 게이트웨이