"우리 회사 규정집을 읽고 답하는 챗봇을 만들고 싶어요." 이런 AI를 만드는 대표적인 방법이 RAG예요. 만들기 시작하는 건 쉬운데, 쓸 만한 품질로 만드는 건 몇 가지 지점에서 갈려요. 그 지점을 다섯 가지로 정리했어요.
Retrieval-Augmented Generation의 줄임말이에요. 질문이 오면 먼저 회사 문서에서 관련 부분을 찾고(검색), 찾은 내용을 AI에게 근거로 주어 답을 만들게(생성) 하는 방식이에요. AI가 모르는 회사 내용을 지어내지 않게 하는 장치예요.
1. 문서가 최신인가요
AI는 받은 문서만큼만 똑똑해요. 개정 전 규정과 개정 후 규정이 같이 들어가 있으면 옛날 답을 할 수 있어요. 문서마다 담당자와 개정일을 정하고, 바뀌면 다시 반영하는 흐름부터 만들어요.
2. 문서를 어떻게 자르나요
긴 문서는 작은 조각으로 나눠 저장해요. 너무 잘게 자르면 앞뒤 맥락이 끊기고, 너무 크게 자르면 엉뚱한 부분까지 딸려 와요. 조항 · 소제목 같은 문서의 구조를 따라 자르는 게 대부분 가장 잘 맞아요.
3. 답에 근거가 붙나요
- 답마다 어느 문서 몇 조를 참고했는지 함께 보여 주기
- 근거를 못 찾으면 "문서에서 찾지 못했어요"라고 답하게 하기
- 사용자가 근거 원문을 바로 열어 볼 수 있게 하기
근거가 보이면 사람이 맞는지 바로 확인할 수 있어서, AI 답을 믿고 쓸 수 있는지가 크게 달라져요.
우리 회사 자료로 직접 확인해 보고 싶다면AI 도입 진단 · 자료를 보고 적용 후보와 순서를 정리해 드려요상담 신청4. 누가 어떤 문서를 볼 수 있나요
인사 규정, 급여 자료처럼 모두가 보면 안 되는 문서가 있어요. 검색 단계에서부터 질문한 사람의 권한으로 볼 수 있는 문서만 찾게 해야 해요. 이걸 나중에 붙이려면 구조를 다시 짜야 하니 처음부터 설계에 넣어요.
5. 품질을 어떻게 재나요
"잘 되는 것 같다"로는 개선할 수 없어요. 실제 직원들이 자주 묻는 질문과 정답을 모아 시험지를 만들고, 문서나 설정을 바꿀 때마다 같은 시험지로 점수를 비교해요.
| 볼 것 | 질문 |
|---|---|
| 찾기 | 정답이 들어 있는 문서를 찾아왔나? |
| 답하기 | 찾은 문서와 맞게 답했나? |
| 모를 때 | 문서에 없는 내용을 지어내지 않았나? |
회사 문서를 밖으로 내보내기 어렵다면 검색과 AI 모델을 모두 사내 서버에 두고 같은 구조로 만들 수 있어요.
웹 · 앱 · 업무 시스템을 만들고 그 위에 필요한 AI를 붙여 운영하는 팀이에요. 회의록 · 계약서 · 기업 분석 AI를 직접 만들어 운영해요.
만든 프로젝트 보기