사내 문의 봇이나 고객 응대 초안 도구처럼 AI 기능을 붙여 보면, 어느 순간 이런 말을 듣게 돼요. "어제는 짧게 답하더니 오늘은 길게 써요", "존댓말이었다가 반말이 섞여요". 모델을 바꿔야 하나 고민하기 전에 먼저 열어 볼 곳이 있어요. 바로 시스템 프롬프트예요.
시스템 프롬프트는 무엇을 담는 곳인가요?
Anthropic의 Claude 개발 문서는 시스템 프롬프트를 역할 · 말투 · 꾸준히 지킬 행동을 정하는 곳으로 설명해요. 역할을 한 문장만 정해 줘도 답의 초점과 말투가 그 용도에 맞춰진다고 안내하고 있어요. Google의 Gemini API 문서도 '시스템 지침(system instructions)'이라는 이름으로 모델의 동작을 미리 정해 두는 방법을 따로 다뤄요.
헷갈리지 않게 두 자리를 나눠 보면 이래요.
| 넣는 곳 | 담는 내용 | 예시 |
|---|---|---|
| 시스템 프롬프트 | 바뀌지 않는 규칙 | 역할, 말투, 금지 사항, 답 형식 |
| 사용자 메시지 | 그때그때 바뀌는 일 | 오늘의 질문, 붙여 넣은 자료 |
답이 들쭉날쭉한 기능을 열어 보면, 규칙이 사용자 메시지 쪽에 흩어져 있거나 시스템 프롬프트 안에 서로 부딪히는 문장이 섞여 있는 경우가 많아요.
4칸 틀로 정리해요: 역할 · 할 일 · 하지 말 일 · 답 형식
처음부터 길게 쓰기보다 아래 4칸을 채우는 것부터 시작해요.
- 역할 — 누구로서 답하나요? 예: "너는 온라인 쇼핑몰의 주문 문의 담당자야."
- 해야 할 일 — 꼭 하는 행동이에요. 예: "주문번호가 없으면 먼저 주문번호를 물어봐."
- 하면 안 되는 일 — 선을 그어요. 예: "환불 가능 여부를 확정해서 말하지 마."
- 답 형식 — 길이와 모양이에요. 예: "존댓말, 3문장 이내, 마지막 줄에 다음 할 일 1개."
4칸을 채운 예시는 이렇게 생겼어요.
[역할] 너는 온라인 쇼핑몰의 주문 문의 담당자야.
[할 일] 주문번호가 없으면 먼저 물어보고, 배송 상태는 확인된 정보만 말해.
[하지 말 일] 환불·교환 가능 여부를 확정하지 마. 가격·재고를 지어내지 마.
[답 형식] 존댓말, 3문장 이내, 마지막 줄에 다음 할 일 1개.자주 생기는 실수 3가지
- 서로 부딪히는 문장 — "자세히 설명해"와 "짧게 답해"가 같이 있으면 AI는 매번 다르게 골라요. 어느 쪽이 우선인지 적어 두세요.
- '적당히', '알아서' — 기준 없는 말은 결과도 흔들려요. "3문장", "표 1개"처럼 숫자나 모양으로 적어요.
- 예외를 안 적음 — 모르는 질문이 들어왔을 때 어떻게 할지("모르면 모른다고 답하고 담당자 연결을 안내해")를 꼭 넣어요.
바꿀 때마다 같은 질문으로 비교해요
시스템 프롬프트는 한 번에 완성되지 않아요. 고칠 때마다 늘 쓰는 질문 10개를 정해 두고 고치기 전 · 후 답을 나란히 비교해요. 실제 사용자가 자주 하는 질문, 답하면 안 되는 질문, 애매한 질문을 골고루 섞어 두면 좋아요.
비교할 때는 세 가지만 봐요.
- 형식을 지켰나요? (길이 · 말투 · 구조)
- 하면 안 되는 말을 했나요?
- 모를 때 모른다고 했나요?
이 확인을 건너뛰면 한 군데를 고치다 다른 곳이 망가져도 모르고 배포하게 돼요. 바꾼 날짜와 이유를 한 줄씩 남겨 두면, 나중에 답이 이상해졌을 때 어디서부터 달라졌는지 빨리 찾을 수 있어요.
참고
- Anthropic, Claude 개발 문서 'System prompts': https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/system-prompts
- Google, Gemini API 문서 'System instructions': https://ai.google.dev/gemini-api/docs/system-instructions
웹 · 앱 · 업무 시스템을 만들고 그 위에 필요한 AI를 붙여 운영하는 팀이에요. 회의록 · 계약서 · 기업 분석 AI를 직접 만들어 운영해요.
만든 프로젝트 보기