규칙이 명확하고 익숙한 작업은 지시부터 시험하고, 경계와 형식이 말로 설명하기 어려울 때 대표 예시를 추가합니다.
Zero-shot은 예시 없이 지시만으로 과업을 수행하게 하는 설정이고, few-shot은 입력 문맥에 몇 개의 시범을 함께 제공하는 설정입니다. 예시는 모델을 새로 학습시키는 데이터셋이 아니라 이번 요청에서 패턴을 보여 주는 문맥입니다. 따라서 개수보다 무엇을 대표하고 무엇을 빠뜨리는지가 중요합니다.
AI 핵심 지식 52편 중 20편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
지시와 예시의 선택 기준
| 방식 | 적합한 상황 | 주요 위험 |
|---|---|---|
| Zero-shot | 규칙과 출력 기준을 짧게 설명할 수 있다 | 용어 경계를 다르게 해석할 수 있다 |
| Few-shot | 형식·톤·분류 경계를 시범으로 보여 줘야 한다 | 예시의 편향과 순서를 따라갈 수 있다 |
| 혼합 | 명시 규칙과 대표·반례 시범이 모두 필요하다 | 문맥이 길어지고 충돌 지점이 늘어난다 |
예시를 넣기 전 판단 순서
- 지시만으로 작은 검증 세트를 먼저 실행한다.
- 오류를 형식, 규칙, 경계 사례로 분류한다.
- 오류 유형을 대표하는 최소 예시와 반례를 고른다.
- 예시 순서와 표현을 바꿔 결과가 과도하게 흔들리는지 본다.
Zero-shot은 아무 정보도 주지 않는다는 뜻이 아니다
Zero-shot을 ‘설명 없이 모델에게 맡기는 것’으로 이해하면 출발부터 잘못됩니다. 예시가 없을 뿐 목표, 입력 범위, 라벨 정의, 출력 형식, 금지 조건은 여전히 필요합니다. 분류 작업이라면 각 라벨의 의미와 서로 겹칠 때의 우선순위를 지시로 표현할 수 있어야 합니다. 요약 작업이라면 보존해야 할 사실과 버릴 수 있는 장식을 구분해야 합니다. 규칙을 문장으로 명확히 적을 수 있고 일반적인 언어 과업에 가까우면 zero-shot은 가장 단순한 기준선이 됩니다. 단순한 기준선이 중요한 이유는 예시가 실제로 개선을 만들었는지 비교할 수 있기 때문입니다. 처음부터 많은 시범을 넣으면 어떤 시범이 도움을 주고 어떤 시범이 편향을 만들었는지 알기 어렵습니다. 먼저 지시만으로 작은 검증 세트를 돌리고, 실패를 모은 뒤 예시가 필요한 오류만 찾습니다. 결과가 괜찮더라도 한두 개의 쉬운 사례만 보지 말고 긴 입력, 모호한 표현, 거절해야 할 입력을 포함해 봅니다. Zero-shot은 완성형 기법이 아니라 가장 적은 문맥으로 과업 정의의 선명도를 검사하는 출발점입니다.
Few-shot 예시는 설명하기 어려운 경계를 보여 준다
예시의 가장 큰 가치는 정답을 베껴 쓰게 하는 데 있지 않습니다. 자연어 규칙으로 길게 설명해야 하는 경계를 입력과 출력의 쌍으로 압축해 보여 주는 데 있습니다. 고객 문의를 세 등급으로 나누는 업무에서 ‘불만’과 ‘긴급 위험’의 경계가 모호하다면, 경계 가까이에 있는 대표 사례가 도움이 됩니다. 출력이 엄격한 구조를 따라야 할 때는 완성된 예시가 필드 간 관계를 보여 줍니다. 다만 쉬운 정답만 나열하면 모델은 어려운 사례에서 무엇을 해야 할지 배우지 못합니다. 대표 사례, 경계 사례, 처리하지 말아야 할 반례를 균형 있게 선택해야 합니다. 예시 안의 우연한 문구, 길이, 인물 이름, 순서가 규칙처럼 복제될 수도 있으므로 불필요한 특성을 줄입니다. 정답뿐 아니라 왜 그 라벨인지 짧은 근거를 포함할지는 과업에 따라 시험해야 합니다. 근거가 장황하면 출력에도 불필요한 설명이 따라올 수 있습니다. Few-shot은 ‘많을수록 좋다’가 아니라 모호한 결정 경계를 가장 적은 시범으로 드러내는 설계 문제입니다.
예시는 작은 데이터셋처럼 검토한다
몇 개뿐인 예시도 선택 편향을 가질 수 있습니다. 특정 지역, 말투, 길이, 성공 사례만 포함하면 모델이 그 표면 패턴을 과업의 본질로 오해할 수 있습니다. 예시를 고를 때는 실제 입력 분포에서 자주 나오는 사례와 실패 비용이 큰 사례를 분리해 봅니다. 같은 규칙을 따르지만 표현이 다른 사례를 넣어 표현 다양성을 확보하고, 비슷해 보이지만 다른 결론을 내려야 하는 쌍을 통해 경계를 드러냅니다. 예시 순서도 영향을 줄 수 있으므로 순서를 바꾸거나 일부를 제거해 결과가 얼마나 변하는지 확인합니다. 검증 세트와 예시 세트를 섞지 않는 것도 중요합니다. 평가할 정답을 그대로 시범에 넣으면 품질을 과대평가하게 됩니다. 민감 정보나 저작권 문제가 있는 실제 데이터를 예시로 복사하지 말고 구조를 보존한 합성 사례를 별도로 검토합니다. 예시가 길어 문맥을 많이 차지하면 현재 입력과 핵심 지시가 밀릴 수 있습니다. 따라서 각 예시가 어떤 오류를 줄이기 위해 존재하는지 기록하고, 목적이 겹치는 예시는 줄이는 방식으로 관리해야 합니다.
선택은 정확도 한 점이 아니라 안정성으로 판정한다
Zero-shot과 few-shot 중 어느 쪽이 낫다고 일반화할 수는 없습니다. 비교할 때는 동일한 입력 묶음과 동일한 판정 기준을 사용해야 합니다. 전체 정답률만 보면 드문 위험 사례가 가려질 수 있으므로 오류 유형별 결과를 따로 봅니다. 형식 준수, 라벨 경계, 근거 충실성, 거절 판단처럼 업무에 중요한 항목을 나눕니다. 같은 요청을 여러 번 실행하거나 표현을 조금 바꿨을 때 결론이 유지되는지도 확인합니다. Few-shot이 평균 결과를 높였지만 특정 예시의 단어를 과도하게 복제한다면 운영 위험이 남습니다. 반대로 zero-shot이 약간 낮아도 관리가 쉽고 변화에 덜 민감하면 단순한 방식이 나을 수 있습니다. 예시를 추가할 때마다 검증 세트의 실패 유형이 실제로 줄었는지 확인하고, 줄지 않으면 예시 대신 지시 정의나 검색 자료를 고쳐야 합니다. 선택의 목적은 화려한 프롬프트를 만드는 것이 아니라, 필요한 품질을 가장 작은 문맥과 가장 낮은 유지 비용으로 재현하는 것입니다.
판단 체크리스트
- 지시만 사용한 기준선 결과를 남겼는가
- 예시마다 줄이려는 오류 유형이 정해져 있는가
- 대표 사례와 경계 사례, 반례가 구분되어 있는가
- 예시 순서·표현 변화에 결론이 과도하게 흔들리지 않는가
자주 생기는 오해
- Zero-shot은 프롬프트를 짧게 쓰는 방식이다 — 예시가 없다는 뜻이며 목표와 규칙, 출력 계약은 여전히 필요합니다.
- Few-shot 예시는 많을수록 좋다 — 예시는 문맥을 차지하고 편향을 만들 수 있어 각 예시의 목적과 한계가 분명해야 합니다.
예시가 필요한 때와 해가 되는 때
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 형식 오류만 반복된다 | 완성 출력의 관계를 보지 못했다 | 짧은 정답 예시 한두 개를 추가한다 |
| 경계 사례가 자주 뒤집힌다 | 라벨 정의만으로 구분이 어렵다 | 가까운 정례·반례 쌍을 제공한다 |
| 예시 문구를 그대로 복제한다 | 표면 특성이 규칙처럼 작동한다 | 표현을 다양화하고 불필요한 특성을 제거한다 |
자주 묻는 질문
예시는 몇 개가 적당한가요?
고정된 정답은 없습니다. 지시만으로 남는 핵심 오류를 덮는 최소 개수에서 시작해 검증 결과로 늘립니다.
예시에 설명 과정도 넣어야 하나요?
설명 자체가 필요한 출력이면 유용할 수 있지만, 불필요한 근거 문구를 복제하는 부작용도 함께 평가해야 합니다.
실제 고객 데이터를 예시로 써도 되나요?
권한과 개인정보를 먼저 확인해야 합니다. 가능하면 민감 정보를 제거하고 경계만 보존한 검토된 사례를 사용합니다.
예시를 바꿀 때마다 다시 평가해야 하나요?
예. 작은 예시 집합은 한 사례의 영향이 커서 추가·삭제·순서 변경 후 같은 검증 세트로 비교해야 합니다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2027-07-27
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때