다음 토큰 예측: 언어 모델이 문장을 이어 쓰는 학습 원리
언어 모델은 앞선 토큰을 조건으로 다음 토큰의 확률 분포를 학습하고 선택된 토큰을 문맥에 다시 붙이는 과정을 반복해 긴 출력을 만듭니다.
다음 토큰 예측은 단순 자동완성보다 풍부한 패턴을 학습할 수 있지만, 확률이 높은 문장이 외부 세계에서 참이라는 보장은 별도의 문제입니다.
AI 핵심 지식 52편 중 11편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
자기회귀 언어 모델의 한 단계
| 단계 | 계산 | 오류 가능성 |
|---|---|---|
| 문맥 입력 | 이전 토큰 순서를 모델 표현으로 변환 | 절단·토큰화·위치 정보 손실 |
| 분포 계산 | 어휘의 각 다음 토큰에 조건부 점수 부여 | 학습 데이터 편향·과신 |
| 토큰 선택 | 디코딩 규칙으로 후보 하나를 결정 | 무작위성·반복·퇴화 |
| 문맥 갱신 | 선택 토큰을 뒤에 붙여 다음 단계를 반복 | 초기 오류가 이후 문장에 누적 |
한 문장이 생성되는 순서
- 프롬프트를 토큰화하고 문맥 표현을 계산한다.
- 어휘 전체에 대한 다음 토큰 점수를 확률로 변환한다.
- 정한 디코딩 규칙에 따라 한 토큰을 선택한다.
- 선택 토큰을 입력 뒤에 붙여 새 분포를 계산한다.
- 종료 토큰이나 길이·정책 조건에서 생성을 멈춘다.
학습 데이터가 스스로 다음 문제와 정답을 만든다
연속된 텍스트가 있으면 앞부분을 입력으로, 바로 다음 토큰을 목표로 삼는 예제를 대량으로 만들 수 있다. 별도의 사람이 모든 문장에 라벨을 붙이지 않아도 원문 순서가 학습 신호를 제공하므로 자기지도학습이라고 부른다. 모델은 각 위치에서 실제 다음 토큰에 높은 확률을 주도록 손실을 줄인다. 이 목표를 반복하면 문법, 어휘 관계, 문서 형식, 자주 함께 나타나는 사실과 추론 패턴 일부를 파라미터에 압축할 수 있다. 그러나 학습 신호는 텍스트가 맞는지 검증하지 않고 다음에 무엇이 쓰였는지만 반영한다. 모순되거나 편향된 기록도 데이터에 있으면 함께 학습될 수 있다. 다음 토큰 목표가 폭넓은 능력을 유도한다는 경험적 사실과, 그 능력이 언제 신뢰 가능한지에 대한 평가는 구분해야 한다.
한 번의 예측이 반복되면 긴 출력이 된다
추론에서는 현재 문맥을 바탕으로 어휘의 각 토큰에 점수를 계산하고 이를 확률 분포로 바꾼다. 하나를 선택해 문맥 끝에 붙인 뒤 다시 전체 다음 토큰 분포를 구한다. 이 자기회귀 반복으로 단어, 문장, 여러 단락이 차례로 만들어진다. 각 단계는 앞서 모델이 생성한 토큰에도 조건을 두므로 초반의 잘못된 가정이나 이름이 뒤 문장에 이어질 수 있다. 반대로 계획 구조나 형식을 초기에 잘 잡으면 이후 출력도 그 패턴을 따를 가능성이 커진다. 생성 속도와 메모리에는 이미 계산한 키와 값의 캐시, 입력 길이와 출력 길이가 영향을 준다. 사용자가 결과를 한 번에 받아도 내부적으로는 대체로 토큰 순서에 따라 반복 계산이 진행된다.
확률 분포는 가능성을 표현하지만 진실 판정기는 아니다
다음 토큰 확률은 학습 데이터와 현재 문맥 아래에서 어떤 이어짐이 모델에 더 그럴듯한지를 나타낸다. 외부 사건의 현재 상태, 출처의 신뢰도, 문장의 논리적 타당성을 직접 조회한 점수가 아니다. 자주 반복된 잘못된 주장이나 문체상 자연스러운 추측이 높은 확률을 받을 수 있다. 질문에 답을 모른다는 문장보다 익숙한 설명을 이어 쓰는 것이 학습 목표상 유리했을 수도 있다. 따라서 생성 결과의 유창함과 사실성을 별도 축으로 평가해야 한다. 검색이나 도구 사용으로 근거를 제공하더라도 모델이 해당 근거를 정확히 인용했는지 다시 확인해야 한다. 확률 분포는 모델의 계산 결과이지 현실의 확률표가 아니다.
학습 목표와 사용 목적 사이에 평가층이 필요하다
다음 토큰 손실이 낮아지면 텍스트 예측 능력은 개선될 수 있지만 요약의 충실성, 지시 준수, 유해 출력 억제와 같은 사용 목적을 모두 직접 최적화하지는 않는다. 후속 지도 미세조정이나 선호 학습은 원하는 응답 형식을 강화할 수 있지만 기본 생성 원리는 여전히 토큰 분포 계산에 연결된다. 운영에서는 과업별 정답, 출처 충실성, 거부해야 할 조건, 일관성과 오류 비용을 따로 시험해야 한다. 디코딩 설정을 바꾸면 같은 파라미터에서도 답이 달라지므로 평가 시 설정을 고정한다. 모델이 왜 특정 문장을 냈는지 토큰 확률만으로 인간 수준의 의도나 이해를 확정하지 않는다. 학습 목표가 제공하는 능력과 제품에서 요구하는 책임 사이를 평가와 검증 절차가 이어야 한다.
판단 체크리스트
- 토큰화와 최대 문맥, 학습 목표가 무엇인지 원문에서 확인한다.
- 생성 평가에서는 디코딩 규칙과 난수 조건을 고정한다.
- 유창성·사실성·지시 준수·안전성을 서로 다른 지표로 본다.
- 초기 오류가 뒤 문장에 퍼지는 사례를 긴 출력에서 검사한다.
- 근거가 필요한 주장은 외부 원문과 문장 단위로 대조한다.
자주 생기는 오해
- 다음 토큰 예측은 바로 앞 단어만 보는 단순 통계다 — 현대 자기회귀 모델은 허용된 문맥 전체의 표현을 이용해 조건부 분포를 계산할 수 있다.
- 가장 확률 높은 문장은 가장 사실적인 문장이다 — 모델 확률은 학습 텍스트의 이어짐을 반영하며 외부 세계의 참·거짓을 직접 판정하지 않는다.
다음 토큰 예측으로 보장할 수 없는 것
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 문장이 매우 자연스럽게 이어짐 | 언어 확률이 높다는 신호일 뿐 사실 보장은 아님 | 원문·계산·현재 상태를 외부에서 검증 |
| 같은 질문에 다른 답이 생성 | 디코딩과 문맥의 작은 차이가 경로를 바꿈 | 설정 고정과 반복 평가로 변동 측정 |
| 근거 문서를 입력했으나 잘못 인용 | 관련 문맥 사용과 정확한 충실성은 별도 능력 | 인용 구간과 주장 연결을 후검증 |
자주 묻는 질문
모델은 다음 토큰 하나만 기억하나?
아닙니다. 다음 토큰을 예측하지만 입력으로는 컨텍스트 범위 안의 여러 이전 토큰을 사용할 수 있습니다.
항상 확률이 가장 높은 토큰을 고르나?
그리디 선택을 할 수도 있고 온도·Top-p 같은 규칙으로 여러 후보에서 샘플링할 수도 있습니다. 설정에 따라 출력 다양성이 달라집니다.
다음 토큰 학습으로 추론도 배울 수 있나?
학습 텍스트의 문제 해결 패턴을 재현하는 능력이 나타날 수 있습니다. 다만 새로운 상황의 논리적 신뢰성은 별도 평가가 필요합니다.
생성 중 인터넷을 자동으로 확인하나?
기본 언어 모델 계산만으로는 그렇지 않습니다. 검색이나 도구가 연결된 시스템이라도 호출 여부와 결과 사용의 정확성을 확인해야 합니다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2027-01-27
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때
댓글
댓글 쓰기