홈 / 블로그 / 개발 노트

AI 기능 개발 전에, LLM API 비용은 이렇게 어림해요

개발 노트SOL LABS AI읽는 데 5분

"AI 기능 붙이면 한 달에 얼마 나와요?" 기획 단계에서 가장 먼저 나오는 질문이에요. 정확한 숫자는 실제로 써 봐야 알지만, 계산 순서를 알면 기획 단계에서도 충분히 어림할 수 있어요. 이 글의 숫자는 모두 계산 방법을 보여 주기 위한 예시이고, 실제 단가는 아래 '참고'의 각 사 공식 가격 페이지에서 확인해 주세요.

토큰이 무엇이고, 왜 입력과 출력을 나눠 볼까

LLM(대규모 언어 모델) API는 글자 수가 아니라 토큰 단위로 요금을 매겨요. 토큰은 모델이 글을 잘게 나눠 읽는 조각이에요. Anthropic 문서는 영어 기준으로 1토큰이 대략 4글자 정도라고 안내해요. 한국어는 같은 내용이라도 토큰 수가 다르게 나오니, 실제 문장으로 한 번 재 보는 게 가장 정확해요.

그리고 요금은 입력 토큰(우리가 보내는 질문 · 문서 · 지시)과 출력 토큰(모델이 쓰는 답)을 따로 계산해요. 대부분 모델에서 출력 단가가 입력보다 비싸서, 답을 얼마나 길게 받느냐가 비용에 크게 영향을 줘요.

월 비용 어림 계산 순서

계산은 네 단계면 돼요.

  1. 하루 호출 수 = 하루 사용자 수 × 1인당 평균 사용 횟수
  2. 호출 1번의 입력 토큰 · 출력 토큰 추정
  3. 호출 1번 비용 = 입력 토큰 × 입력 단가 + 출력 토큰 × 출력 단가
  4. 월 비용 = 호출 1번 비용 × 하루 호출 수 × 영업일 수
항목예시 값(가정)
하루 사용자 · 1인당 사용50명 × 6회 = 하루 300회
호출 1번 토큰입력 3,000 · 출력 500
단가(가정)입력 100만 토큰당 2달러 · 출력 100만 토큰당 10달러
호출 1번 비용0.006달러 + 0.005달러 = 0.011달러
월 비용(22일)0.011 × 300 × 22 ≈ 72.6달러
예시에서 입력이 출력보다 6배 많은데도 비용은 비슷하게 나왔어요. 출력 단가가 높기 때문이에요. 답변 길이 제한이 비용 관리의 첫 번째 손잡이예요.

비용을 줄이는 설계 선택 3가지

① 작업별로 모델 나누기 — 분류 · 짧은 요약처럼 가벼운 일은 작은 모델에, 긴 분석만 큰 모델에 맡기면 같은 기능이라도 비용 구조가 달라져요.

② 반복되는 앞부분은 캐시로 — 매번 똑같이 보내는 지시문 · 참고 문서는 프롬프트 캐싱(한 번 읽은 앞부분을 저장해 다시 쓰는 기능)으로 줄일 수 있어요. Anthropic은 캐시에서 읽은 입력을 기본 입력 단가의 10%로 받고, OpenAI는 지원 모델에서 캐싱이 기본으로 켜져 있어요. 두 회사 모두 고정된 지시와 참고 자료를 앞에, 바뀌는 내용을 뒤에 두라고 안내해요.

③ 급하지 않은 일은 배치로 — 밤새 돌려도 되는 대량 분류 · 요약은 배치 API를 쓰면 Anthropic · OpenAI 모두 입력 · 출력을 50% 할인해요. OpenAI는 24시간 안에 결과를 돌려준다고 안내해요.

우리 회사 자료로 직접 확인해 보고 싶다면AI 도입 진단 · 자료를 보고 적용 후보와 순서를 정리해 드려요상담 신청

기획 단계에서 정해 둘 3가지

  • 예상 사용량: 하루 사용자 수와 1인당 사용 횟수, 많이 쓰는 날의 최대치
  • 응답 길이: 기능마다 답을 몇 줄 · 몇 자까지 받을지
  • 실패 시 대체 흐름: 한도에 닿거나 API가 실패하면 어떤 화면을 보여 줄지

이 세 가지가 정해지면 개발사와 견적을 이야기할 때도 "AI 비용이 얼마나 나올지"를 같은 표 위에서 볼 수 있어요.

참고

  • Anthropic, Pricing(토큰 · 프롬프트 캐싱 · 배치): https://platform.claude.com/docs/en/about-claude/pricing
  • OpenAI, API Pricing: https://developers.openai.com/api/docs/pricing
  • OpenAI, Prompt caching: https://developers.openai.com/api/docs/guides/prompt-caching
  • OpenAI, Batch API: https://developers.openai.com/api/docs/guides/batch
비슷한 시스템을 만들고 싶다면

기존 시스템과 데이터를 보고 옮기는 순서와 범위를 먼저 정리해 드려요.

개발 상담먼저 3분 AI 도입 자가진단으로 적용처를 찾아보세요 →
SOL LABS AI

웹 · 앱 · 업무 시스템을 만들고 그 위에 필요한 AI를 붙여 운영하는 팀이에요. 회의록 · 계약서 · 기업 분석 AI를 직접 만들어 운영해요.

만든 프로젝트 보기
다음 글도 받아 볼까요?

함께 보면 좋은 글