RAG 실패는 한 점이 아니라 연결된 단계의 연쇄이며, 가장 앞에서 끊긴 근거 경로부터 복구해야 합니다.
RAG는 여러 구성 요소를 연결하기 때문에 결과가 틀렸다는 사실만으로 원인을 알 수 없습니다. 존재하지 않는 문서, 잘린 조건, 잘못된 후보, 충돌 문맥, 생성의 과장, 가짜 인용이 같은 오답으로 보일 수 있습니다. 실패 경로를 순서대로 추적해야 합니다.
AI 핵심 지식 52편 중 30편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
RAG 실패 경로 지도
| 경로 | 관찰 신호 | 첫 확인 |
|---|---|---|
| 자료·청킹 | 정답 원문이나 조건이 색인에 없다 | 원문 범위·버전·청크 경계 |
| 검색·재정렬 | 정답은 있으나 상위 후보에 없다 | 질의·방식·후보 수·순위 |
| 문맥·생성 | 정답 후보가 있는데 답이 벗어난다 | 충돌·배치·충실성·거절 |
| 인용·권한 | 출처가 틀리거나 비공개 정보가 노출된다 | 원문 연결·필터·승인 |
오답을 역추적하는 순서
- 최종 답의 잘못된 주장을 최소 단위로 표시한다.
- 그 주장의 정답 원문이 색인과 검색 후보에 있는지 확인한다.
- 최종 문맥의 위치·충돌·중복과 생성 충실성을 본다.
- 인용 연결·권한 필터·갱신 상태를 확인해 원인을 기록한다.
가장 앞선 실패는 자료가 없거나 잘린 경우다
사용자가 묻는 사실이 원자료 집합에 없다면 검색과 생성 단계를 조정해도 근거 기반 답을 만들 수 없습니다. 문서가 수집되지 않았거나, 최신 버전이 빠졌거나, 접근 권한 때문에 제외되었을 수 있습니다. 원문은 있지만 PDF 추출 과정에서 표와 각주가 사라지거나 OCR 오류로 핵심 단어가 깨질 수도 있습니다. 청킹이 조건과 결론을 나누면 정답 문장이 색인에 있어도 완전한 근거가 되지 못합니다. 이 단계의 실패는 검색 결과만 보고는 구분하기 어렵기 때문에 정답 원문의 존재와 색인된 청크를 직접 대조해야 합니다. 문서 ID, 버전, 갱신일, 원문 오프셋을 유지하면 누락 지점을 찾기 쉽습니다. 권한 때문에 의도적으로 빠진 자료를 단순 품질 실패로 처리해서는 안 됩니다. 시스템이 답할 수 없는 범위를 명시하고 안전한 거절을 반환해야 합니다. RAG 오답을 만났을 때 프롬프트부터 바꾸지 말고, 먼저 정답 근거가 지식 저장소와 청크 안에 실제로 존재하는지 확인하는 이유입니다.
검색은 정답을 놓치거나 잡음을 앞세울 수 있다
정답 청크가 존재해도 질문과 문서 표현이 다르면 키워드 검색이 놓칠 수 있고, 희귀 코드와 부정 조건은 벡터 검색이 약하게 볼 수 있습니다. 질의 변환이 사용자의 의도를 잘못 확장하거나 핵심 제한을 제거할 수도 있습니다. 첫 검색 후보 수가 너무 적으면 정답이 재정렬 단계에 도달하지 못합니다. 반대로 후보를 과도하게 늘리면 중복과 유사하지만 틀린 문서가 상위를 차지합니다. 재정렬 모델이 도메인 용어를 제대로 구분하지 못하거나 긴 청크의 중요한 부분이 잘리면 순위가 뒤집힐 수 있습니다. 검색 실패를 진단할 때는 정답 청크가 후보 집합에 있는지와 최종 상위 문맥에 있는지를 나눠 봅니다. 질문 유형별로 키워드·벡터 신호가 어떻게 기여했는지 로그를 확인하고, 점수 자체를 정답 확률로 오인하지 않습니다. 검색을 고친 뒤에는 기존 질문의 순위가 나빠지지 않았는지 회귀 평가가 필요합니다. 한 질문의 정답을 올리는 수동 가중치가 다른 질문군을 망칠 수 있기 때문입니다.
좋은 근거도 문맥 구성과 생성에서 망가질 수 있다
정답 청크가 최종 후보에 포함되어 있어도 생성기에 전달되는 방식에서 실패가 생깁니다. 관련 문장이 긴 문맥의 중간에 묻히거나, 같은 주제의 오래된 문서와 최신 문서가 충돌하거나, 중복 청크가 한 견해를 과도하게 강조할 수 있습니다. 문서 제목과 날짜, 출처 경계가 사라지면 모델은 어느 문장이 우선인지 판단하기 어렵습니다. 생성 지시가 답을 반드시 만들도록 압박하면 근거가 부족해도 빈칸을 추정할 수 있습니다. 근거에 없는 연결을 덧붙이거나 일부 조건을 빼고 더 강한 결론을 말하는 실패도 있습니다. 진단할 때는 최종 문맥을 그대로 고정해 사람이 정답을 낼 수 있는지 먼저 봅니다. 사람이 가능하지만 모델이 틀리면 문맥 배치, 지시, 생성·검증 문제에 가깝습니다. 주장마다 지지 문단을 연결하고, 관련 정보가 없을 때 답을 보류하는지 평가합니다. 더 많은 문맥을 넣는 것이 항상 해결책은 아니며 질문에 필요한 근거를 선명하게 배치하는 것이 중요합니다.
인용·권한·갱신 실패는 운영에서 큰 피해가 된다
답의 내용이 대체로 맞아도 인용이 다른 문서를 가리키면 사용자는 검증할 수 없습니다. 존재하는 링크가 주장을 지지하지 않거나 문서의 오래된 버전을 가리키는 경우도 있습니다. 접근 권한 필터가 검색 뒤에만 적용되거나 캐시에 권한 정보가 남으면 비공개 문서 내용이 노출될 수 있습니다. 문서가 삭제·수정됐는데 색인 조각이 남아 있으면 더 이상 유효하지 않은 근거를 계속 반환합니다. 인용 단계에서는 문서 ID와 원문 위치, 버전, 확인일이 일치하는지 확인해야 합니다. 권한은 색인 접근, 후보 회수, 최종 문맥, 응답 표시의 여러 지점에서 강제합니다. 로그에는 민감 내용을 최소화하면서 어떤 문서와 권한 판정이 답을 만들었는지 추적 가능해야 합니다. 장애 대응 시에는 잘못된 청크를 빠르게 비활성화하고 영향받은 질문을 재평가할 수 있어야 합니다. RAG의 신뢰성은 데모의 정답률보다 자료의 생애주기와 권한 변경을 안전하게 반영하는 운영 능력에서 드러납니다.
판단 체크리스트
- 오답 주장의 정답 원문이 지식 저장소와 청크에 존재하는가
- 정답 청크의 후보 회수와 최종 순위를 각각 확인했는가
- 최종 문맥의 충돌·중복·배치와 생성 충실성을 보는가
- 인용 버전·원문 위치·권한·삭제와 갱신 경로를 추적하는가
자주 생기는 오해
- RAG 오답은 프롬프트를 자세히 쓰면 고쳐진다 — 정답 자료와 검색 후보가 없으면 생성 지시만으로 근거를 복구할 수 없습니다.
- 정답 문서가 검색됐으면 검색은 성공이다 — 최종 문맥에 필요한 구간이 들어오고 중복·충돌·권한이 정리되어야 합니다.
실패를 앞단부터 찾는 기준
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 정답 원문·조건이 색인에 없다 | 자료·파싱·청킹 실패 | 검색 튜닝 전에 원문 경로를 복구한다 |
| 정답 후보는 있으나 최종 문맥에 없다 | 검색·재정렬·선택 실패 | 후보 회수와 순위 단계를 분리한다 |
| 문맥은 충분하지만 답·인용이 틀리다 | 생성·충실성·인용 실패 | 주장별 근거와 출력 검증을 점검한다 |
자주 묻는 질문
문서를 더 많이 넣으면 실패가 줄까요?
정답 범위는 넓어질 수 있지만 중복·충돌·권한·잡음도 늘어 단계별 평가 없이 개선을 보장하지 않습니다.
검색 점수가 낮으면 바로 거절해야 하나요?
점수 분포를 평가 세트로 보정하고 질문 유형과 다중 근거 필요성을 함께 봐야 합니다.
오래된 문서는 삭제하면 끝인가요?
색인·캐시·인용·평가 정답에서 모두 제거되었는지 확인하고 영향 질문을 다시 검사해야 합니다.
한 번에 어떤 로그를 남겨야 하나요?
질의 변환, 후보 문서 ID·순위, 최종 문맥, 생성 답, 인용 연결과 권한 판정을 민감 정보 범위 안에서 남깁니다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2027-07-27
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때