AI 챗봇을 운영하다 보면 이런 요구가 반드시 등장합니다.

  • “조건에 따라 다른 문서를 참고해야 해요”
  • “한 번 검색으로는 답이 안 나옵니다”
  • “정책 + 가이드 + 예외 조항을 함께 봐야 해요”

이때 단순한 검색 방식으로는 한계가 있기 때문에 검색 워크플로우(Search Workflow)를 사용하게 되어요.

검색 워크플로우란 무엇인가?

검색 워크플로우는 RAG 검색을 한 번만 하는 게 아니라, 질문에 따라 검색 과정을 단계적으로 설계하는 방식입니다.

RAG의 일반적인 검색은 질문 → 검색 → 답변이라는 단순한 플로우를 가지게 되는데요, 검색 워크플로우에서는 프로세싱이 좀 더 길어집니다.

→ 질문 분석
→ 어떤 검색이 필요한지 판단
→ 조건부 재검색
→ 결과 조합
→ 최종 답변 생성

즉, 검색 자체가 하나의 프로세스가 되는 것이죠.

왜 검색 워크플로우가 필요한가?

기업 환경에서 우리가 질문하는 질문들은 단순하지 않습니다. 예를 들어,

  • “이 정책이 A 상황에도 적용되나요?”
  • “작년과 현재가 어떻게 달라졌나요?”
  • “이 규정의 예외 조건은 무엇인가요?”

이 질문들은 공통적으로 문서를 나눠서 봐야 하고, 조건을 판단하고 결과를 종합해야 하는데, 기본 검색은 이런 사고 과정을 지원하지 못하지요. 반면 검색 워크플로우는 ‘어떤 순서로 무엇을 찾아야 하는지' 설계할 수 있다는 장점이 있습니다.

나두에이아이의 검색 워크플로우 옵션


나두에이아이는 검색, 분기, 재검색, 결과 병합까지 미리 구조화된 검색 워크플로우를 설정만으로 제어할 수 있는 빌더입니다. 나두에이아이에 탑재된 검색 워크플로우 옵션들은 다음과 같아요.

✅ 1. 단순 (Simple RAG)

질문을 벡터/키워드로 검색하고 상위 문서 몇 개 선택해서 바로 답변을 생성해요.
빠르고 비용도 가장 낮고 실시간 응답에 적합하는데, 조건/예외/비교 질문에는 약합니다. 문서가 정확한 FAQ 챗봇이나 사내 검색용 챗봇에는 적합합니다.

🔁 2. 반복 (Iterative RAG)

1차 검색 후 답변 생성 시도를 할 때 정보가 부족하면 다시 검색하여 보완된 근거로 재답변을 합니다. 단순 RAG보다 정확도가 높고 한 번의 검색 실패를 보완 가능하지만 응답 속도는 더 늘어나는 단점이 있어요. 매뉴얼 Q&A나 정책 문서 또는 한 문서 안에 정보가 분산된 경우 사용하면 좋습니다.

🧭 3. Progressive RAG (점진적 검색)

질문을 단계적으로 쪼개서 접근하는데요, 큰 범위 문서를 검색해서 관련 섹션을 식별하고 세부 근거 정보를 재검색한 다음 답변을 생성해요. 복합한 질문에도 문맥을 이해하고 비교/조건/절차 질문에 적합합니다. 다만 그 만큼 비용이 높고 코드로 구현하기에는 난이도가 꽤 높아요. 법무, HR 또는 기술 매뉴얼에 적합해서 기업용 RAG에 많이 사용됩니다.

🧪 4. CRAG (Corrective RAG)

답변을 생성한 뒤 스스로 검증하고 수정해요. 생성한 답변의 근거 신뢰도를 평가하여 부족하면 다시 검색해서 수정된 답변을 생성합니다. 환각이 크게 감소하고 근거없는 답변을 최소화할 수 있어 정확도가 중요한 시스템에 적합해요. 단점으로는 예상되는 듯이 처리 비용입니다. CRAG 기술의 자세한 내용은 별도 포스트를 참고해주세요!

🧠 5. Self-RAG

"이 질문에 검색이 필요한가?", "지금 근거가 충분한가?", "더 찾아야 하는가?" 를 모델이 스스로 질문하고 그 판단에 따라 검색 단계를 조절해요. 그렇기 때문에 불필요한 검색을 줄일 수 있고, 질문 난이도에 따라 최적화를 할 수 있어요. 모델의 판단 품질에 의존해야 하는 단점이 있지만 다양한 유형의 질문이 섞인 챗봇에는 적합합니다.

🎯 6. Adaptive RAG

문서 타입, 질문 패턴, 검색 성능을 기준으로 워크플로우 자체를 다이내믹하게 전환해요. FAQ이면 단순 RAG를 적용하고, 규정 질문이면 Progressive RAG, 애매한 질문 CRAG를 적용해서 정확도와 비용의 밸런스를 최적화할 수 있죠. 기업 전사 문서 통합 챗봇이나 다양한 부서의 문서가 섞여있는 경우에는 적합해요.

구축이 아닌 검색 설정만으로 테스트해보세요


모든 질문을 같은 검색 방식으로 처리하면 AI 챗봇이 제대로 작동하지 않을 가능성이 높아요. 우리가 업무를 할 때는

  • 사실을 확인하는 질문
  • 절차를 물어보는 질문
  • 비교를 요구하거나 판단을 구하는 질문
  • 예외 조건을 묻는 질문 등

다양한 종류의 질문이 있기 때문에 질문과 문서 유형에 맞는 검색 전략이 필요합니다.

나두에이아이에서는 설정만으로 서로 다른 RAG 전략을 바로 바꿔가며 테스트할 수 있기 때문에 문서 성격에 맞는 전략을 빠르게 찾고, 실제 질문으로 성능을 비교하고 운영 중에도 전략을 조정할 수 있어요.

현재 RAG 파이프라인을 구축중이시거나 계획이 있으신가요? 다양한 기술들을 검토해서 최적의 RAG를 만들고 싶으신가요? 나두에이아이로 만들어보세요!

나두에이아이 문의하기