Model Card는 모델이 어디에 적합하고 어디에서 실패하는지 기록하고 Datasheet는 그 모델이 배운 데이터의 출처·구성·제약을 기록하는 서로 보완적인 문서다.
정확도 표 하나로는 모델이 어떤 사람과 환경에서 평가되었는지, 데이터가 왜 수집되었는지, 금지된 사용이 무엇인지 알 수 없다. 설명서는 홍보 문구가 아니라 다음 사용자와 검토자가 같은 경계를 재현하도록 돕는 운영 기록이어야 한다.
AI 핵심 지식 52편 중 50편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
모델 카드와 데이터시트의 역할
| 문서 | 주요 대상 | 핵심 질문 |
|---|---|---|
| Model Card | 모델과 배포 담당자 | 의도한 용도·성능·제약·위험은 무엇인가 |
| Datasheet | 데이터 제작·사용 담당자 | 왜·어떻게 수집하고 누구를 포함·제외했나 |
| 연결 기록 | 운영·감사·사용자 | 어느 데이터·모델·평가 버전이 배포됐나 |
AI 설명서 작성 순서
- 의도한 사용자·과제·금지 용도와 책임자를 먼저 적는다.
- 데이터 출처·구성·수집·라벨·정제·접근 조건을 문서화한다.
- 전체와 하위 그룹 평가, 실패 사례, 한계를 모델 카드에 연결한다.
- 모델·데이터·평가·문서 버전과 변경 사유를 함께 갱신한다.
Model Card는 성능표보다 사용 경계를 설명한다
모델 카드에는 모델의 기본 정보, 의도한 사용과 사용하지 말아야 할 영역, 학습·평가 개요, 지표, 하위 집단 결과, 윤리적 고려, 알려진 한계를 담을 수 있다. 중요한 것은 높은 점수만 고르는 것이 아니라 어떤 데이터와 조건에서 얻은 결과인지 보여주는 일이다. 배포자가 모델을 다른 과제에 재사용할 때 카드의 범위를 넘는지 판단할 수 있어야 한다. 보안·개인정보 때문에 공개할 수 없는 세부는 내부 문서와 공개 요약을 나눠 관리한다.
모델 카드의 첫 화면에는 소유자, 버전, 승인된 과제, 금지된 과제, 평가 날짜, 다음 검토일을 둔다. 하위 지표는 표본 수와 불확실성, 알려진 실패 예시를 함께 표시한다. 이 내용을 적용할 때는 Model Card와 Datasheet: AI 모델과 데이터의 설명서를 쓰는 법이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
Datasheet는 데이터 생성의 사회적·기술적 맥락을 남긴다
데이터시트는 데이터셋을 만든 동기, 구성 요소, 수집 과정, 전처리와 라벨링, 권장 사용, 배포·유지보수를 질문 형식으로 문서화한다. 누가 빠졌고 어떤 환경에서 수집되었는지 알면 모델이 낯선 조건에서 왜 실패하는지 추적하기 쉽다. 데이터 출처 URL만 나열하는 것으로 충분하지 않다. 동의와 이용 조건, 대표성, 라벨러 지침, 제거된 표본, 알려진 오류와 갱신 책임을 기록해야 한다.
데이터 버전마다 새로 들어오고 빠진 원천, 집단 분포, 중복 제거와 필터, 라벨 규칙 변경을 차이표로 남긴다. 원본 접근이 제한되더라도 결정 과정과 통계는 검토 가능하게 한다. 이 내용을 적용할 때는 Model Card와 Datasheet: AI 모델과 데이터의 설명서를 쓰는 법이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
두 문서는 버전 연결이 끊기면 효력을 잃는다
모델 카드에 평가 결과가 있어도 어느 데이터 버전과 코드, 임계값으로 얻었는지 연결되지 않으면 재현하기 어렵다. 데이터가 갱신되거나 프롬프트·검색 인덱스가 바뀌면 같은 모델 가중치라도 시스템 행동이 달라질 수 있다. 모델 식별자, 데이터 버전, 평가 세트와 채점기, 배포 정책, 문서 개정판을 릴리스 단위로 묶는다. 변경이 사용 경계에 영향을 주면 카드의 한계와 승인 상태도 다시 검토한다.
릴리스 기록에는 구성 요소 해시 또는 버전, 변경 사유, 재실행한 평가, 새 실패, 승인자를 연결한다. 문서 날짜만 바꾸고 과거 평가를 그대로 옮기지 않는다. 이 내용을 적용할 때는 Model Card와 Datasheet: AI 모델과 데이터의 설명서를 쓰는 법이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
좋은 설명서는 검증 가능한 주장만 남긴다
‘안전하다’, ‘공정하다’, ‘편향이 없다’ 같은 넓은 표현은 평가 범위와 근거가 없으면 오해를 만든다. 대신 어떤 표본에서 어떤 지표를 측정했고 무엇을 시험하지 못했는지 쓴다. 문서 작성자는 불확실성과 제외 범위를 숨기지 않고 사용자가 발견한 새 실패를 보고할 경로를 제공한다. 카드와 데이터시트는 일회성 인증서가 아니라 운영 중 사건, 데이터 drift, 사용자 피드백을 반영해 갱신되는 기록이다.
각 성능·안전 주장에 평가 보고서나 원자료 식별자를 붙인다. 근거가 만료되거나 시스템 범위가 달라지면 주장을 보류하고 다음 검토 과제로 이동한다. 이 내용을 적용할 때는 Model Card와 Datasheet: AI 모델과 데이터의 설명서를 쓰는 법이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
판단 체크리스트
- 의도한 사용자·과제·금지 용도와 소유자를 적었는가
- 데이터의 동기·구성·수집·라벨·제외를 문서화했는가
- 평가 결과에 표본·조건·버전·한계를 연결했는가
- 새 릴리스와 실패가 문서 개정으로 이어지는가
자주 생기는 오해
- Model Card는 모델 소개 페이지다 — 마케팅 요약이 아니라 의도한 용도, 평가 근거, 하위 성능, 제약을 검토 가능하게 기록한다.
- 데이터 출처 링크만 있으면 Datasheet다 — 수집 동기·구성·라벨·제외·권장 사용·유지보수 맥락이 함께 필요하다.
AI 설명서의 경계
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 모델 용도·성능·제약 설명 | Model Card 중심 항목 | 평가 조건과 금지 용도를 함께 적는다 |
| 데이터 수집·라벨·대표성 설명 | Datasheet 중심 항목 | 원천과 변경 이력·책임자를 기록한다 |
| 배포 시스템 전체 보증 | 두 문서만으로 부족 | 도구·검색·권한·운영 평가를 별도 연결한다 |
자주 묻는 질문
모든 내용을 공개해야 하나?
보안·개인정보·계약 제약을 고려해 공개 요약과 내부 상세를 나눌 수 있지만 중요한 사용 경계를 숨기지 않는다.
RAG 시스템도 Model Card가 필요한가?
모델뿐 아니라 검색 데이터·인덱스·프롬프트·도구가 결과를 바꾸므로 시스템 카드 형태로 확장해 기록할 수 있다.
누가 작성해야 하나?
모델·데이터 제작자만이 아니라 제품, 위험, 운영, 영향받는 도메인 담당자가 함께 검토하는 편이 좋다.
언제 갱신하나?
모델·데이터·평가·용도·정책이 바뀌거나 새 실패가 발견될 때 영향 범위를 검토하고 개정한다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2026-10-31
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때